晴時多雲

產業分析》大摩:AI硬體需求 似乎比預期更強

2024/01/30 11:08

摩根士丹利報告表示,考慮到目前為止大型語言模型(LLM)的競爭發展,人工智慧(AI)硬體需求似乎比今年迄今為止的預期,更來得強勁。(路透)

高佳菁/核稿編輯

〔財經頻道/綜合報導〕摩根士丹利(Morgan Stanley,大摩)報告表示,考慮到目前為止大型語言模型(LLM)的競爭發展,人工智慧(AI)硬體需求似乎比今年迄今為止的預期,更來得強勁,不過大摩也警示,監管問題正在成為1項新的浮動因子。

大摩在報告中指出,在AI GPU需求面部分,Meta執行長扎克伯格(Mark Zuckerberg)日前制定計劃打造AI系統,該系統相當於60萬塊輝達(NVIDIA)生產的AI晶片H100,因此Meta預計在今年底前,採購35萬塊輝達H100,這約占輝達GPU供應總量的8%。

Meta目前訓練的新一代模型Llama3,將和Google的Gemini、OpenAI的GPT-4以及即將推出的GPT-5競爭。Meta正建造大量基礎設施來支援Llama3的發展。大摩認為,LLM規模的不斷擴大,可能是AI GPU需求彈性的關鍵原因。

而在AI GPU供應面上,除了現有的台積電和艾克爾(Amkor)外,輝達積極打造新的CoWoS供應鏈,可能會找來英特爾的IFS(Intel Foundry Service),尋求更多供應,從2024年Q2末開始,該產能可能會達到4至5kwpm(千片/每月)。

不過大摩認為,此舉對台積電影響應該是有限的,因為台積電的CoWoS產能將從2024年底的35kwpm,提升到2025年底的50kwpm,而輝達2025年的X100尺寸,恐是B100的1.5~2倍。

超微(AMD)的MI300採用SoIC(系統整合晶片),但大摩觀察到,超大規模客戶正在調查台積電的SoIC,來用於未來的AI ASIC。

另一方面據《路透》報導,美國商務部正研擬「了解你的客戶」(know your customer)規範,要求美國雲端運算公司確定海外客戶,是否利用美國的雲端平台,來開發訓練自己的AI模型。大摩指出,雖然現在就此評估對供應鏈的影響為時過早,不過初步觀點是,可能會對整體AI需求產生負面影響。

一手掌握經濟脈動 點我訂閱自由財經Youtube頻道

不用抽 不用搶 現在用APP看新聞 保證天天中獎  點我下載APP  按我看活動辦法

已經加好友了,謝謝
歡迎加入【自由財經】
按個讚 心情好
已經按讚了,謝謝。

相關新聞

今日熱門新聞
看更多!請加入自由財經粉絲團
網友回應
載入中