根據一位接近輝達的人士稱,字節跳動目前已到貨和沒到貨的 A100 與 H800 兩款產品總計有 10 萬顆。其中 H800 今年 3 月才開始投產。據《晚點LatePost》透露,僅字節跳動一家公司今年的訂單可能已接近輝達去年在中國銷售的商用 GPU 總和。
一名字節跳動人士透露,字節跳動在 2020 年 6 月 GPT-3 發表後,曾借助 V100 計算卡訓練過一個數十億參數的生成式語言大模型,但由於參數規模有限,這個模型生成能力一般,字節跳動當時看不到它的商業化可能性,最後就不了了之。
另一位阿里雲人士表示,阿里也曾在 2018~2019 年積極採購 GPU,當時阿里的採購量至少達到上萬顆規模,包括 V100 和 T4 計算卡,其中約十分之一送到達摩院用作 AI 技術研發,這也用在2021 年發表的參數破兆大模型 M6 中。
消息人士提到,字節跳動、阿里等大公司主要是和輝達直接談採購,因為代理商和二手市場難以滿足其龐大需求,而輝達會按目錄價,根據採購規模給出一定的折扣。
目前一顆 A100 在輝達官網的標價為 1 萬美元(約30.7萬台幣),H100 為 3.6 萬美元(約110萬台幣),而去年針對中國市場推出的 A800 和 H800價格略低一些,但因供不應求等原因使得成交價更高。
爆料信箱:news@nextapple.com
★加入《壹蘋》Line,和我們做好友!
★下載《壹蘋新聞網》APP
★Facebook 按讚追蹤
點擊閱讀下一則新聞
創見將於electronica 2024展出新一代工業級儲存產品