Jung Bae Lee在大師論壇上發表演講,討論AI時代記憶體的未來,透過記憶體創新來展望未來。全球半導體市場在2017年超越5000億美元,AI更是加速了記憶體市場規模,到了2027年,將達到8000億美元。Jung Bae Lee表示,AI時代面臨3大挑戰,包括功耗問題、記憶體頻寬的限制,以及記憶體儲存容量不足的問題。

Jung Bae Lee解釋,隨著生成式AI模型的出現,功耗顯著增加,一個具有100億參數的AI模型,每天需要消耗相當於250萬輛特斯拉電動車充電的能量;隨著每一代GPU的計算能力大幅提升,記憶體容量卻僅增加了幾個百分點,這造成了性能和記憶體容量之間的巨大差距;為了應對生成式AI的需求,需要更大的記憶體容量和更高的性能,三星要求開發專門的AI設備記憶體解決方案。

Jung Bae Lee強調,三星準備好推出各種新產品,在推動高性能、低功耗產品的進一步發展,並研究新的記憶體架構,與客戶和合作夥伴密切合作,以達成這些目標。三星提出的解決方案是,將邏輯晶片放到HBM底層,透過矽穿孔 (TSV) 技術來打造,讓記憶體可以與晶圓代工廠更好的搭配,為了保持設計彈性,三星可以提供IP給客戶自行設計基礎裸晶(Base Die),或是與其他晶圓代工廠合作,將不僅限於三星。

Jung Bae Lee認為,記憶體在AI應用至關重要,生態系的合作將成為關鍵,三星以成為解決方案的供應商為目標,打算與生態系夥伴密切合作,創造良好競爭環境,為記憶體創新未來而努力。

三星電子記憶體業務總裁 Jung-Bae Lee。呂承哲攝
三星電子記憶體業務總裁 Jung-Bae Lee。呂承哲攝

至於SK海力士,Kim Ju-Seon指出,在AI、半導體引領市場潮流,但現在仍占全球GDP不到1%,僅有南韓、台灣投入眾多資源於此,南韓半導體產業占整體GDP超過15%,台灣則是更高,Justin Kim呼籲台灣與南韓的半導體產業要一起合作,才能解決科技發展面對的挑戰。

Kim Ju-Seon也表示,目前AI的能力處在已指令進行對話的階段,屬於第一級,最終將發展到第五級,也就是執行複雜的組織任務,並以人類情感的模式進行交流,在此之前要先解決能源、散熱系統以及記憶體需求3大困境。

Kim Ju-Seon說明,直到2028年,所需要的能源為現在的2倍,不可能只靠再生能源滿足需求;散熱方面,SK海力士開發出高效能低功耗的高容量記憶體;面對記憶體需求增加,在各種生成式AI應用的記憶體頻寬問題變得更重要。

Kim Ju-Seon 分享目前最新的 HBM3E 技術,表示是最早生產 8層HBM3E 的供應商,並在月底開始大規模生產 12層HBM3E。除了 HBM3E 外,SK 海力士也介紹在 DIMM、企業級 SSD(QLC eSSD)、LPDDR5T、LPDDR6、GDDR7 的最新產品。

SK海力士總裁Kim Ju-Seon。呂承哲攝
SK海力士總裁Kim Ju-Seon。呂承哲攝

這次大師論壇的亮點,就是三星鬆口不會只限於自家的晶圓代工廠合作,被外界解釋為可能會與台積電加深合作的契機。由於三星、台積電在先進製程領域持續競爭,過去也曾出現過台積電的研發大將跳槽到三星,協助三星的晶圓代工技術大幅提升,台韓半導體產業競爭情節一直被外界所熱議,但隨著SK海力士率先與台積電在4月簽署共同開發HBM4技術,預計2026年量產,為了提高效能,SK海力士當時聲明表示,雙方將在HBM底層的Base Die進行合作,同時採用台積電CoWoS先進封裝技術,SK集團會長崔泰源也在6月拜訪台積電董事長魏哲家,對外展現合作的決心。

反觀三星,雖然數度傳出三星的HBM3E通過輝達驗證,但都遭到三星親自澄清否認,但是市場評估,三星驗證通過只是遲早問題,但是要縮小與SK海力士、美光的競爭差距,韓媒《BusinessKorea》報導,台積電生態系與聯盟管理主管Dan Kochpatcharin在5日宣布,台積電與三星正在開發一款新的無緩衝的HBM4,主要是某些客戶更喜歡用台積電製造的Base Die,隨著HBM4設計與生產更為複雜,三星為了擴展客戶來源,與台積電結盟成為最佳選項,此外,台積電在3DFabric聯盟當中,三星也是成員之ㄧ,顯見台韓半導體廠商並非只有競爭關係,如今三星公開宣示,這也讓台灣半導體產業走向了新的局面。


點擊閱讀下一則新聞 點擊閱讀下一則新聞
高通第7屆QITC徵件即日開跑!參賽享4大好處 計畫總獎金40萬美元