派特爾指出,ChatGPT 需要龐大的算力,才能基於使用者的輸入資訊做出回應,包括撰寫求職信、生成教學計畫,以及幫助用戶優化個人資料等。他表示,大部分成本都來自於昂貴的伺服器。
此外,派特爾最初的估計基於 Open AI 的 GPT-3 模型,而在採用最新的 GPT-4 模型之後,ChatGPT 現在的運作成本可能更高,對此,Open AI 尚未對此做出回應。
新浪科技報導,派特爾和 SemiAnalysis 的另一位分析師艾哈邁德(Afzal Ahmad)表示,之前外界已經注意到,訓練 ChatGPT 背後的大語言模型可能要花費上億美元,但營運費用或是人工智慧推理的成本,以任何合理的部署規模來看都遠遠超過訓練成本。他們指出:「事實上,按周來看,ChatGPT 的推理成本超過了訓練成本。」
近期有報導稱,為了降低生成式人工智慧模型的運作成本,微軟正在開發一款代號為「雅典娜」的人工智慧晶片。該專案於 2019 年啟動。在幾年前,微軟與 Open AI 達成 10 億美元的投資協定,要求 OpenAI 僅在微軟的 Azure 雲端伺服器上運作其模型。
微軟啟動這一晶片專案的背後有兩方面思考。知情人士透露,微軟高層意識到,他們在自主晶片開發方面落後谷歌和亞馬遜。與此同時,微軟正在尋找更便宜的方案去替代輝達的 GPU 晶片。

爆料信箱:news@nextapple.com
★加入《壹蘋》Line,和我們做好友!
★下載《壹蘋新聞網》APP
★Facebook 按讚追蹤

川普關稅威脅鈍化!亞股資金回流 新興亞股今年漲幅冠軍是它