2025-01-28 09:13
雖然 H20 晶片在訓練模型時效能比較差,但是它還是可以用在很多應用方面。
H20 晶片雖然在訓練模型方面受到限制,但是用在前沿 AI 應用還是很厲害,而且沒有管制。特別是對於需要大量記憶體的工作,像是處理很長的文章內容。 這個很重要,因為現在趨勢是重視測試時的運算、用電腦生成假資料、還有強化學習。這些過程都比較需要記憶體,而不是單純的運算速度。 2024 年 12 月開始限制高頻寬記憶體出口後,更應該注意 H20 晶片還是可以買到這件事。特別是應用 AI 的運算越來越重要。
硬體出口管制需要時間才會看到效果,現在還沒那麼快。
要記得,上面說的都是假設出口管制真的有用,但實際上並不是這樣。 我們看到半導體管制有很多漏洞。也有可靠的消息說,有很多晶片大規模走私到中國。 雖然新的管制框架應該可以補上一些漏洞,但是實際執行還是很難。[JS 註:當然,還有使用西方雲端服務的問題…]
中國現在還在用管制之前的資料中心,裡面有幾萬個晶片。美國公司正在蓋的資料中心,裡面有幾十萬個晶片。 真正考驗是當這些資料中心需要升級或擴建的時候。
(2/8)