派特爾指出,ChatGPT 需要龐大的算力,才能基於使用者的輸入資訊做出回應,包括撰寫求職信、生成教學計畫,以及幫助用戶優化個人資料等。他表示,大部分成本都來自於昂貴的伺服器。

此外,派特爾最初的估計基於 Open AI 的 GPT-3 模型,而在採用最新的 GPT-4 模型之後,ChatGPT 現在的運作成本可能更高,對此,Open AI 尚未對此做出回應。

新浪科技報導,派特爾和 SemiAnalysis 的另一位分析師艾哈邁德(Afzal Ahmad)表示,之前外界已經注意到,訓練 ChatGPT 背後的大語言模型可能要花費上億美元,但營運費用或是人工智慧推理的成本,以任何合理的部署規模來看都遠遠超過訓練成本。他們指出:「事實上,按周來看,ChatGPT 的推理成本超過了訓練成本。」

近期有報導稱,為了降低生成式人工智慧模型的運作成本,微軟正在開發一款代號為「雅典娜」的人工智慧晶片。該專案於 2019 年啟動。在幾年前,微軟與 Open AI 達成 10 億美元的投資協定,要求 OpenAI 僅在微軟的 Azure 雲端伺服器上運作其模型。

微軟啟動這一晶片專案的背後有兩方面思考。知情人士透露,微軟高層意識到,他們在自主晶片開發方面落後谷歌和亞馬遜。與此同時,微軟正在尋找更便宜的方案去替代輝達的 GPU 晶片。

壹蘋新聞網-投訴爆料

爆料網址:reporting.nextapple.com

爆料信箱:news@nextapple.com

★加入《壹蘋》Line,和我們做好友!

★下載《壹蘋新聞網》APP

★Facebook 按讚追蹤

壹蘋娛樂粉專壹蘋新聞網粉專

AI

點擊閱讀下一則新聞 點擊閱讀下一則新聞

傳產龍頭失去中國優勢 謝金河:嚴厲批評政府的大老正在改變