資策會 MIC 所長洪春暉在主題演講中指出,2024年將是AI PC元年。雖然目前規格尚未確定,但多家處理器廠商已經陸續推出AI算力更強,且整合NPU的新款處理器。同時,微軟也計劃發布更新版的Windows 11,正式整合Copilot功能。

Intel副總裁暨台灣分公司總經理汪佳慧。台北市電腦公會提供
Intel副總裁暨台灣分公司總經理汪佳慧。台北市電腦公會提供

Intel副總裁暨台灣分公司總經理汪佳慧表示,AI可以協助各行各業垂直市場應用發揮效益,以亞東醫院為案例,透過AI科技與診斷模型的開發,可以有助於準確辨識早期喉癌,把握患者的黃金治療期。AI工作需求的增加將使半導體產業在2030年達到一兆美元的市場潛力。AI技術將在零售、製造、健康、通訊等領域釋放更多商機,Intel並提供從AI PC、企業與邊緣運算、資料中心等場域完整AI運算解決方案。

在AI PC產品方面,Intel Core Ultra處理器能夠讓PC直接執行生成式AI(GenAI)模型,已有超過500個AI模型經過最佳化。由於AI應用需要硬體與軟體的結合,英特爾通過AI加速計畫,與全球超過100家軟體廠商合作,持續開發更多AI應用。汪佳慧強調,未來AI相關應用將無處不在,並且會在各行各業中發揮重要作用。

高通副總裁暨台灣、東南亞與紐澳區總裁劉思泰。台北市電腦公會提供
高通副總裁暨台灣、東南亞與紐澳區總裁劉思泰。台北市電腦公會提供

高通副總裁暨台灣、東南亞與紐澳區總裁劉思泰指出,GenAI將是與裝置互動最新介面,因為包括文字、影像、程式碼、音樂、語音等輸入資料,GenAI都能在套用大型語言模型、多模態模型與較少資料LLM來進行處理,並預估每年GenAI可以全球帶來2.6兆到4.4兆美元的經濟效益。由於GenAI越來越複雜,劉思泰認為將進入Hybrid AI時代,也就是簡單AI運算在設備(端點)處理,較複雜AI在邊緣雲端運算,複雜AI就需要上傳到數據中心雲端。因此高通推出的Snapdragon X Elite SoC處理器,在CPU、GPU、NPU等協助下,不僅運算效能提升,並且直接內建AI功能,並且可以直接使用高通AI Hub下載通過最佳化的上百種AI模型,讓使用者能真正感受AI PC的效能與生產力。

高通將與多家OEM和品牌PC業者合作,推出新一代的AI PC產品,並即將在COMPUTEX 2024展會上亮相,展示強大性能與應用情境。

Google Chrome 研發總經理馬大康。台北市電腦公會提供
Google Chrome 研發總經理馬大康。台北市電腦公會提供

Google Chrome 研發總經理馬大康博士指出,生成式AI(GenAI)能顯著提升企業和個人的工作效率,這也是各行各業積極導入GenAI的主要原因。為了讓更多人受惠於GenAI的服務,Google 推出了「Gemini」大型語言模型服務,在Google I/O上,除了原有的Gemini Ultra、Gemini Pro和Gemini Nano,還推出Gemini 1.5 Flash,屬於Gemini 1.5 Pro的精簡版,並且推出可互動的Gemini Live。

此外,Google 還推出了基於Gemini模型技術開發的Gemma輕量開源模型,可在應用程式、硬體設備、行動裝置或雲端服務上運行,將推出內建AI功能的Chromebook Plus,並會在COMPUTEX中展出。馬大康認為,企業可以通過使用Gemini for Google Workspace來提升生產力,包括Gmail的自動生成郵件、Meet的自動翻譯和會議重點記錄、Chat的聊天內容總結,以及Slide的文字生成圖片等多種GenAI功能。

耐能智慧創辦人暨執行長劉峻誠。台北市電腦公會提供
耐能智慧創辦人暨執行長劉峻誠。台北市電腦公會提供

耐能智慧創辦人暨執行長劉峻誠介紹了如何利用耐能的NPU加速器、AI晶片和AI演算法來設計個人化的GPT應用,強調輕量級大型語言模型(LLM)快速、精準且容易執行的特性。以邊緣AI運算為例,透過分拆AI模型,可以在內建NPU的單晶片SoC架構的AI晶片中運作,耗電量比一般GPU低,也就是在Edge端跑GPT應用。為了方便一般使用不同Edge GPT功能,可以透過KNEO開放式平台,安裝或選購各類Edge GPT軟體與模型,降低開發所需成本。

針對企業對資料保密性和安全性的考量,耐能推出了KNEO企業用私有化Edge GPT解決方案,透過基於NPU技術,內建LLM模型、Edge AI伺服器、檢索增強生成(RAG)系統邊緣AI GPT伺服器,運算速度快且低耗能,可應用於各種企業GPT方案,支援英文和中文,並且內建GPT模型訓練服務和離線AI伺服器,滿足大部分企業對於私有化GPT運算的需求,已有各種不同行業指標客戶都在使用當中。目前去年底已經推出入門版KNEO 300,預計今年將推出企業用KNEO 330,將可讓數十人中小企業也能享受到私有GPT運算應用。

 


點擊閱讀下一則新聞 點擊閱讀下一則新聞
高通第7屆QITC徵件即日開跑!參賽享4大好處 計畫總獎金40萬美元