黃仁勳端出的巨大晶片,包括了72 Blackwell GPU、2592 個Grac CPU Core、搭載576 個 14TB HBM晶粒、18個 NVLink Switch,電晶體總數高達130兆個,具備具備1.4 ExaFLOPS TE FP4算力,相當考驗晶圓代工能力。
黃仁勳還表示,整個產業爭相發展AI技術,而3大縮放定律(Scaling law)正驅動著技術推進,只要擁有訓練數據量愈龐大,模型就愈大,投入的算力愈多,模型就會變得更有效、更強大。若按照縮放定律持續推進,按照未來網路新產生的數據量,將超越人類有史以來的總和,這都可以拿來有效率的訓練AI。黃仁勳強調,縮放定律也推動著Blackwell晶片難以置信的需求量。
黃仁勳還提及,未來Ai會自己對話、思考以及處理運作,需要所謂的Token要更為龐大,因此需要提升Token 生成速率(Token generation rate),來降低每單位成本並維持品質,讓客戶更容易導入AI,這也是輝達要開發NVLink的原因。
黃仁勳強調,所有這一切的目標是打造一塊巨大晶片,顯然這是晶圓級的大小,也就端出了系統級晶圓「Grace Blackwell NVL72」,並提到這塊晶片相關細節,黃仁勳強調,在還未計入良率的狀況下,光是大小可能就是現在的3、4倍,這也顯示了Blackwell晶片的強大之處,以及輝達的雄心壯志。
延伸閱讀:直擊2025 CES
點擊閱讀下一則新聞
英特爾CES推出首代AI增強SDV SoC 推動軟體與服務發展新商業模式