輝達推出NIM微服務　強化日本與台灣的生成式AI發展

輝達在新聞稿中指出，這些NIM微服務支援各類常用模型，並針對特定區域需求進行定制，透過深度理解當地語言和文化來優化回應，從而強化與使用者的互動。新推出的Llama-3-Swallow-70B和Llama-3-Taiwan-70B模型分別使用日文和中文資料進行訓練，這使得它們能夠更準確地反映當地法律、文化及其他相關習俗，並在這些方面表現特別出色。

台灣的長庚紀念醫院目前正建置專屬的AI推論服務系統，使用Llama 3-Taiwan 70B來管理和優化其醫療語言應用，讓患者能更容易理解醫護人員的說明，藉此提高醫護人員與患者之間的溝通效率。同時，和碩聯合科技也計畫利用Llama 3-Taiwan 70B NIM微服務，為內部和外部的業務開發AI應用，並與其自家的PEGAAi Agentic AI系統整合，以實現流程自動化，提升生產與運營效率。

此外，長春集團、欣興電子、科技報橘、律果科技以及生成式AI新創公司APMIC，也紛紛採用Llama-3-Taiwan 70B NIM微服務來開發各自的AI應用，這些應用不僅能夠更好地適應當地的語言與文化，還能顯著提高企業的運營效能。

根據ABI Research的數據，亞太地區的生成式AI軟體市場預計將在2030年達到480億美元，較今年的50億美元有顯著成長。