此文章原先於12月15日刊登在美國中國科技與政策論壇及Podcast網站《China Talk》,經Ray Wang 和 Jeffery Su編譯,並新增兩位作者的分析與近期觀察。
美國時間12月2日,美國商務部產業與安全局(Bureau of Industry and Security,BIS)宣布新的出口管制清單,除了阻止中國取得外國高頻寬記憶體(High-Bandiwth Memory,HBM),並試圖限制中國國內產業發展高頻寬記憶體的能力。此外,新的出口管制禁令,還針對超過24種半導體製造設備進行限制、新增超過140多間中國半導體產業相關的公司加入實體清單(Entity List)。
此項最新的禁令,更是建立在拜登政府於2022年10月、2023年10月以及今年4月針對中國半導體和人工智慧產業的限制。此舉試圖透過減緩中國AI和半導體產業的發展,確保美國國際的科技領先地位和國家安全
講到HBM今日的地位,可說是AI晶片的靈魂。HBM在當今除了可以訓練複雜的AI大型語言模型,也大幅支援龐大資料中心的運行。
HBM的關鍵角色
自Open AI於2022年11月公布ChatGPT 3.0後,全球大型語言模型(LLMs)和相關應用的蓬勃發展,帶動各國產業對於高效能運算(High Performance Computing, HPC)和AI數據中心的龐大需求。高頻寬記憶體(HBM)是一種動態隨機存取記憶體(DRAM),如前面所提:已成為AI晶片不可或缺的一部分,包含:高階圖形處理器(GPUs)和特殊應用積體電路(ASICs)上。這些晶片用於訓練大型AI模型、應付龐大資料中心穩定運行上,扮演至關重要的角色。
將HBM與GPU或ASIC封裝在一起,能有效解決記憶體產業界知名「記憶體瓶頸」(Memory Wall)。過去,記憶體的頻寬上限與存取速度跟不上CPU的高效處理,運算效能如跛腳般大打折扣。現今HBM帶動整體效能,除了高速存取、傳輸大量數據以支援AI複雜的資料運算外,更能降低耗能,可謂一石二鳥。也難怪近期GPU及其他ASIC的科技大廠皆仰賴HBM支援自家產品,以優化AI訓練的品質和和整體運算能力。
(相關報導:
美國再對中國晶片出招!擬禁向北方華創等140家出貨,倒逼中企填補HBM空白
|
更多文章
)
HBM的重要性,若從AI晶片的製作成本來看也相當重要。舉例來說,製作一張AI晶片,HBM的成本就幾乎佔整張晶片一半以上的花費。 Nvidia 知名的 H100 GPU,HBM就囊括約一半的成本,其餘四成的成本在邏輯晶片的先進製造和最後的先進封裝,以及一成如電路板(PCB)等其餘材料花費。在整體封裝與製程上,目前Nvidia的GPU產出皆由台積電一手包辦。過去兩年內不論是AI大型語言模型的興建或數據中心如雨後春筍般地冒出,帶動GPU和ASIC的需求激增,HBM的需求一夕間爆單。美投資銀行「摩根史丹利」(Morgan Stanley)12月份的分析就指出:「全球在HBM的需求量,在2025年是2024年的兩倍之多。」此外,先前市場預期HBM的獲利將在2027年前高達330億美元,更是對比2023年的40億美元激增八倍。這樣的市場預期也反映在HBM供應大廠的實際銷售表現,海力士(SK Hynix)、美光(Micron)等大廠的HBM訂單需求,直到2025年末都已經淨售一空。
HBM的重要性,從AI晶片的供應鏈角度來看,更扮演不可取代的角色。舉凡目前有GPU或ASIC龍頭公司,如輝達(Nvidia)、超微(AMD)、英特爾(Intel)、谷歌(Google)、亞馬遜(Amazon)、特斯拉(Tesla)、微軟(Microsoft)、華為(Huawei)等,無一例外,都需要HBM能支援其AI晶片,替它們的產品帶來整合性的效能提升(詳見圖1)。考慮到HBM於AI晶片供應鏈的不可或缺性和對整體AI產業的重要性, 這也不難理解,為何拜登政府這次的出口禁令將矛頭指向HBM。
HBM在AI晶片中的不可或缺性。(Ray Wang提供)
HBM產業現況:亞洲半導體公司主導HBM戰場
隨著HBM於近年受到高度重視,使得全球記憶體大廠如海力士、三星 (Samsung)、美光等公司的備受矚目。據高盛投資銀行全球投資研究部門(Goldman Sachs Global Investment Research)的分析報告:海力士與三星就近乎佔據九成以上的HBM市場(詳見圖2)。值得注意的是,SK海力士與美光在最先進的HBM產品上超車三星,供應自家的HBM給目前市場最大買家輝達。然而,三星目前最先進的產品HBM3E尚未獲得 NVIDIA可以出貨的規格認證。未來三星何時能取得安規驗證流程還是未知數,也替公司未來的HBM發展蒙上陰影。
2023年全球HBM市場佔有率。(Ray Wang提供)
三星在先進HBM的困境也能從公司近期佈局看出。幾週前,三星的半導體部門進行領導層的更替。另外,南韓媒體《SBS》更報導三星派遣2000名工程師到位於平澤市針對下個世代半導體的研發中心,試圖解決近期HBM的發展困境。
相反的,原本當於記憶體產業屈於萬年老二的海力士早已取得 Nvidia 認證並獲得大量訂單,成為全球HBM領域的領頭羊。而本身就相對於傳統DRAM高利潤的HBM更是帶給海力士可觀財務表現,直接反超長期競爭對手三星半導體部門的表現(圖三)。
2022年Q3至2024年Q3三星與海力士各季度營業利潤。(Ray Wang提供)
除了記憶體大廠外,台積電(TSMC)也扮演AI晶片產業的關鍵角色。除了本身協助AI晶片廠商的邏輯晶片代工外,台積電也協助AI晶片廠商和記憶體代工,透過全球「晶片堆節技術」 ( CoWoS ) 執行最後封裝的服務。根據現有數據來評估,全球CoWoS數據年產能來看,台積電就獨攬約九成。
CoWoS技術聽起來容易,實為錯綜複雜且至關重要。如圖四所示,目前市場上或未來將推出的AI晶片大多需要CoWoS的封裝技術。台積電目前全球領先的先進製程封裝技術,再加上其CoWoS技術和產能在國際上的領先地位,更是替自家公司力在AI晶片產業鍊上奠定屹立不搖的關鍵地位。然而,有趣的是,在目前華府政策圈的討論中,AI晶片的封裝技術是一個仍未受到足夠關注的重大議題。
(相關報導:
美國再對中國晶片出招!擬禁向北方華創等140家出貨,倒逼中企填補HBM空白
|
更多文章
)
2022年至2026年全球CoWoS年度產能預估。(Ray Wang提供)
中國HBM發展落後6至8年,但仍不可低估
中國在HBM產業落後的原因,並非直接與近年川普或拜登政府的制裁完全相關。主要因素恐怕更歸咎於其記憶體產業多年來缺乏重視HBM的發展,其投資規模與力道無法與其他記憶體大廠相比。單看HBM這項產品,其實也是近兩年在AI產業崛起後,才開始在中國的半導體產業中受到矚目。
其實,海力士與超微 ( AMD ) 早在2013年就開始合作研發了領先業界的初代HBM。無奈當時市場需求相當有限,使得雖然當時有領先業界的產品,仍在市場上面臨乏人問津的窘境,使得HBM對於公司當時的DRAM部門帶來的效益寥寥無幾。HBM早期的困境也能從其他記憶體上看出。2019年時,三星領導部門就以HBM在市場潛力有限為由,解散其HBM研發部門。
在中國,國內最大DRAM製造商長鑫存儲(CXMT) 同樣發生。過去幾年,長鑫存儲已經在傳統DRAM上大幅縮小與競爭對手的差距,然而錯失HBM領域的投資使他們目前大幅落後給目前的HBM領先者。其原因類似於記憶體大廠先前對於HBM市場發展潛力的忽視。而這項對於HBM致命的忽視,也讓中國在記憶體產業逐漸看不到市場領先者的車尾燈。同樣的情況也在中國的AI晶片封裝領域發生。
細看海力士、三星、美光、長鑫存儲這四間記憶體大廠的產品規劃路線圖(見圖五),更能一目瞭然目前中國於HBM的落後幅度。三星在2016年開始量產HBM2(第二代HBM),海力士則在2018年跟進,而中國的長鑫存儲直到今年才開始大規模生產HBM2。以此評估,中國目前的HBM大廠約落後於市場領先者6至8年,產品等級來看則是落後三個世代。中國的落後也能從一些蛛絲馬跡看出。舉例來說,今年就有消息傳出,中國的華為和百度在過去一年以來大量囤積三星的HBM2E(第三代HBM)。
領先記憶體大廠的HBM產品規格一覽。(Ray Wang提供)
單看上面HBM的產品規劃圖,長鑫存儲理論上來說6-8年內能趕上現有的HBM技術。然而拜登政府近期針對中國在HBM製造和封裝的半導體製造設備進行限制,使中國面臨落後的處境雪上加霜。
並且,考量到半導體設備在HBM製造和封裝或是邏輯晶片製造的重疊功能,使得此項禁令不論是針對邏輯晶片、HBM 生產、或是晶片封裝的半導體製造設備等限制,都將阻礙長鑫存儲或其他中國記憶體廠商在 HBM上的發展。另外,美國先前針對先進光刻設備的禁令,也將限制中國在高端HBM生產上受到限制。
考慮到HBM製造過程是由多片DRAM所堆疊而成,拜登政府2022年針對DRAM晶片的限制,也可能持續阻礙中國未來HBM的發展。
其餘99%的HBM訂單不外乎美國的科技巨頭們,如: Nvidia, Google, AMD, AWS, Intel, Microsoft, 和 Tesla等,全仰賴記憶體三巨頭:海力士、三星和美光。因此,海力士、三星和美光能藉由GPU和ASIC龍頭企業所帶來的收入,再將重新投入開發下一代HBM的研發或公司整體的發展,加速下一代HBM產品的發展。除此之外,HBM樂觀的全球商機,也將使得記憶體大廠更容易說服公司領導層和投資者投入更多資源,協助下一代HBM產品的開始。這個商業邏輯,在中國國內市場目前需求有限的情況下,則不一定能應用。
2024年HBM消費市場公司佔比。(Ray Wang提供)
值得注意的是,三星沒意外將成為這次除了中國AI和半導體公司以外的一大輸家。拜登政府這次針對HBM的禁令,將限制三星HBM對中國的出口,佔其2024年在HBM總收益高達20%。沒意外的話,此禁令的影響,將迅速反應在三星接下來幾個季度的財報上。不過,對海力士或美光來說,此項禁令的影響相對較小,這要歸功於他們的產品大多供應給輝達或其他的非中國廠商。
除了HBM外,最中國的AI晶片封裝技術與產能也落後給市場目前的領先者。考慮到美國這次針對半導體製造設備(SME)的限制,也將限制中國的AI晶片在封裝技術的進步。
因此,即使中國在未來幾年內實現 HBM 技術突破,與台積電的先進封裝技術差距仍難以縮減。若沒有先進的封裝技術,中國的HBM無法與GPU和ASIC有效整合,AI晶片的最終的產品性能可能受到影響。雖然中國已有長電科技 ( JCET ) 和通富微電 ( Tongfu Microelectronics ) 等新興的封裝廠,提供類似 CoWoS 的技術,實際上在整合國產HBM與GPU或ASIC的成效仍是個未知數。
儘管如此,中國的追趕能力是不容低估。過去幾年,中國記憶體大廠長江存儲(YMTC)和長鑫存儲等中國龍頭記憶體廠商,已經在NAND Flash和 DRAM 技術上快速追趕,並擴大市場產能,衝擊記憶體市場。
未來中國國內 GPU 和 ASIC 製造商對 HBM 的需求勢必隨著AI持續發展而擴大,在中國政府大力支持和民間企業擴大投資下,中國整體記憶體研發和封裝技術很有可能加速發展並逐漸突破目前的技術困境。在美國擴大關鍵科技的進賃下,中國政府也預計將與國內企業間擴大合作,加速國內 HBM 和與 AI 晶片供應鏈的發展。習近平近年大力推行的「新質生產力」和「自給自足」國家戰略,也預計將為國產 HBM 和 AI 晶片整體供應鏈帶來更有力的政府支持和大量外界資源挹注。
種種因素考量下,中國政府和國內企業可能開始加速研發國產GPU和ASIC,進而帶動國內的記憶體產業繁盛,並吸引政府和私人公司加入投資行列。中國幾間AI晶片設計公司也預計將擴大與國內HBM製造商與先進封裝廠的合作,藉此減少對國外產品的仰賴,同時打造國內自給自足的AI晶片供應鏈。
實際上,這些計畫已是現在進行式。今年北京當局就數次傳出呼籲國內廠商優先採用「國產晶片」。近期美國公布最新禁令後,中國數個產業團體也於週一發表聲明警告國內企業:「美國晶片不可靠」,呼籲國內廠商避開使用美製晶片。近期報導也指出:華為與政府緊密合作,加大支持中國本土HBM的先進封裝技術發展。不僅如此,國內封裝代工廠如:武漢新芯 ( XMC ),也宣稱積極加大生產HBM。
(相關報導:
美國再對中國晶片出招!擬禁向北方華創等140家出貨,倒逼中企填補HBM空白
|
更多文章
)
以上諸多例子表明中國建構HBM生態系的努力雖然落後於外國廠商,但目前已經加速將國內AI和半導體產業當成首要的發展重點以及強烈決心。
新禁令對中國AI半導體體產業短期影響有限,但長期將限制中國產業發展
因中國AI公司大部分的先進硬體設備仍使用外國產品,最新禁令的影響可能不會立竿見影。舉凡來說,目前中國AI相關科技公司,如阿里巴巴、百度、騰訊和字節跳動等大多數領先的公司仍使用美國禁令實施前購買的輝達GPU來訓練底下的AI大模型。同樣的,華為推出的新一代昇腾(Ascend)系列GPU中,仍仰賴禁令前從海力士及三星採購的HBM2和HBM2E。此外,考慮到過去一年以來許多中國半導體設備商已通過額外採購設備,提早對這些限制超前部署。我們預計2025年底至2026年,中國的AI和半導體產業才會感受到美國這波制裁帶影響。
值得一提的是,這次12月公布的出口管制禁令,在過去半年多以來早已在美、日、韓、中的半導體業界廣為流傳。可能受影響的半導體設備商(如:東京威創(Tokyo Electron)、泛林集團(Lam Research )和應用材料(Applie Materials))也在過去幾個月與拜登政府展開激烈的遊說行動和閉門協商。延長的協商過程,也給予包含中國在內的各國廠商「超前部署」的機會。而這也是為何這個出口管制包裹一路拖到12月才公布的原因之一。
即便如此,長遠來看中國AI和半導體產業仍將面臨「硬體瓶頸」。美國過去2年多以來針對中國在高端邏輯、記憶體晶片(包括HBM)、報導體製造禁令將日漸明顯。舉例來說,負責華為晶圓代工的中芯國際(SMIC)雖在先前取得技術進展(如2023年實現7奈米製程),在7奈米以下的製造,仍面臨重大挑戰(如:良率);中國記憶體龍頭長鑫存儲(CXMT)在未來半導體設備禁令的受限下,未來HBM產品的開發也可能面臨類似的發展困境。
另外,在先前禁令的限制下,中國也無法取得最先進,於今年第四季開始量產的 Blackwell 系列 GPU 或下一代 Rubin 系列 GPU,進而限制其在訓練國內 AI 大模型方面的能力。這將導致中國的大模型效能持續落後於美國領先 AI 公司所開發的大模型。
總體而言,最新的HBM和半導體製造設備的禁令,將削弱中國國內在AI晶片相關產業未來的發展,無論是市場巨頭華為 (Huawei) ,或新創公司如壁仞(Biren)和摩爾線程(Moore Thread),無一能倖免。更別提進一步的SME出口管制,也將限制中國在HBM和AI晶片開發的能力。
儘管如此,中國在半導體產業的關鍵研發技術,並不會因處口管制而完全停滯不前,雖然會讓關鍵科技產業受到打擊,但不會就此萎靡不振。畢竟中國過去幾年面對美國制裁,已經提升國內產業鏈內的韌性、政府緊密的支持和更強的研發能力。無論是川普或是拜登政府,針對中國半導體產業的出口管制政策是要逼迫中國公司以更高的成本、更困難的方式以及更長久的時間,去取得一樣的技術昇華。
*Ray Wang為駐華府的獨立分析師,Jeffery Su 協助此篇文章的翻譯、研究的撰寫。