1 兆電晶體 GPU 的到來

鉅亨網新聞中心，台積電董事長劉德音撰文 談1兆電晶體GPU的到來，2024-03-29

文中指出，從 1997 年擊敗西洋棋人類冠軍的「深藍」，到 2023 年爆火的 ChatGPT，再過 15 年，人工智慧已經發展到可以「合成知識」(synthesize knowledge) 的地步，可以創作詩歌、創作藝術品、診斷疾病、編寫總結報告和電腦程式碼，甚至可以設計與人類製造的積體電路相媲美的積體電路。

所有這些奇妙的人工智慧應用都歸功於三個因素：ML 演算法創新、大量數據，以及半導體製程的進步。(innovations in efficient machine-learning algorithms, the availability of massive amounts of data on which to train neural networks, and progress in energy-efficient computing through the advancement of semiconductor technology, source)

文章指出，如果人工智慧革命要以目前的速度繼續下去，它將需要半導體產業做出更多貢獻。10 年內，它將需要一個 1 兆電晶體的 GPU，也就是說，GPU 的裝置數量是當今典型裝置數量的 10 倍。

文章提及，CoWoS 是台積電的矽晶圓上晶片先進封裝技術，目前已在產品中得到應用。例如 Nvidia Ampere 和 Hopper GPU。 當中每一個都由一個 GPU 晶片和六個高頻寬記憶體立方體組成，全部位於矽中介層上。計算 GPU 晶片的尺寸大約是晶片製造工具目前允許的尺寸。

Ampere 有 540 億個晶體管，Hopper 有 800 億個。從 7 奈米技術到更密集的 4 奈米技術的轉變使得在基本相同的面積上封裝的電晶體數量增加了 50%。 Ampere 和 Hopper 是當今大型語言模型 (LLM) 訓練的主力。 訓練 ChatGPT 需要數萬個這樣的處理器。

Mark Liu  and H.-S. Philip Wong, How We’ll Reach a 1 Trillion Transistor GPU Advances in semiconductors are feeding the AI boom, IEEE Spectrum, 28 MAR 2024.