社群洞察公司專注於生成式AI解決方案，幫助企業和政府機構透過數據分析實現智慧化升級。在此次選拔賽中，社群洞察公司推出「法令釋疑智慧小幫手」，使用AMD Instinct MI300X加速器進行模型訓練與推論。該加速器基於AMD CDNA 3架構，擁有192GB HBM3記憶體和5.3TB/s的峰值記憶體頻寬，能夠快速處理繁體中文法令資料。
通過AMD Instinct MI300X的強大算力，模型訓練時間大幅縮短，日常微調需求可在半小時內完成。在實際應用中，「法令釋疑智慧小幫手」協助戶政人員即時檢索法令，將查找時間縮短30%，提升辦事效率。
繆偲公司（Voiss）專注於AI智能對話互動平台，針對製造業痛點，與撼訊科技合作，運用AMD Radeon RX 7900 XT顯示卡建立PLM知識庫。此過程中，繆偲公司對製造工廠的維修紀錄進行意圖識別，訓練出高精準度的專屬大型語言模型（LLM），以提供即時且準確的問題解決方案。
透過客戶實測，繆偲公司開發的系統在各種非預期需求下，準確率達99%以上。這樣的高效解決方案有助於工廠知識累積和產能提升，降低企業導入AI系統的門檻。
雲林科技大學醫學影像處理實驗室以醫學影像分析為主要研究方向。本次競賽中，實驗室運用撼訊科技提供的AMD Radeon RX 7900 XT顯示卡，開發具Re-Rank機制的RAG LLM AI機器人，用於醫學影像分析和輔助診斷。
AMD Radeon RX 7900 XT顯示卡提供20GB高速記憶體和168個AI加速器，能在PyTorch框架上加速機器學習應用。藉由AMD ROCm軟體堆疊的高度兼容性，讓開發者在模型訓練和推論中獲得更高效能，實現更流暢的開發流程。
虎智科技由臺灣科技大學校友和創新育成中心投資成立，致力於推廣AI在建築設計產業的應用。本次選拔賽中，虎智科技與撼訊科技合作，開發AI助理機器人，利用工廠維修數據進行多代理人RAG技術的實驗。結果顯示，AMD Radeon RX 7900 XT顯示卡在同級產品中展現出色的性價比和高效能，為企業帶來更具成本效益的AI系統建置方案。
除了硬體的支持，AMD亦積極推進AI軟體功能開發。AMD ROCm開放軟體堆疊新增支援生成式AI工作負載的關鍵功能，如FlashAttention、HIPGraph與vLLM，並與PyTorch、Hugging Face等開源AI框架深度整合，簡化了AMD AI解決方案的部署流程。
AMD軟體生態系統涵蓋多種產品線，包括支持AMD Instinct加速器與Radeon顯示卡的ROCm，針對SoC和FPGA的Vitis AI，以及支援EPYC處理器的ZenDNN函式庫。AMD未來將持續朝整合式AI軟體堆疊發展，幫助開發者在各類AMD產品中，使用統一的AI開發環境，促進AI技術普及與應用擴展。
點擊閱讀下一則新聞
