數發部指出，DeepSeek AI服務來自中國，其運作涉及跨境數據傳輸，可能導致公務機關的機密資訊外洩，進一步影響國家安全。根據行政院的「生成式 AI 參考指引」，公務人員不得將涉及機密、個資或未經機關同意公開的資訊輸入AI工具，也不能向AI詢問可能涉及機密業務或個資的問題。這次禁令正是基於這項資安指引，確保政府機構的數據安全。
除了資安風險，國際上許多國家也對DeepSeek AI及類似AI工具採取不同程度的管制。例如韓國與義大利已對某些AI服務在民間市場做出限制，而大多數國家則主要針對政府機關使用進行控管。台灣目前的政策與國際趨勢一致，未對一般用戶進行限制，但未來是否會有更進一步的規範，仍需視資安風險與法規發展來決定。
國家資通安全研究院（資安院）近期對DeepSeek AI的離線下載版本進行了資安測試，結果顯示該AI模型在多項安全防護機制上表現不佳，防禦能力不足。測試團隊針對500筆AI越獄攻擊（Jail-breaking）題目進行評估，結果顯示該AI在多種攻擊方式下的防禦比率偏低。例如，對於「文句延續攻擊」，DeepSeek AI的防禦率僅20%至32%，這類攻擊可透過前文引導，使AI模型執行越獄指令，甚至提供危險物品的使用方法。
「角色扮演攻擊」的防禦率為50%至58%，在客服、法律或醫療應用中可能導致嚴重風險。「程式執行攻擊」的防禦率僅40%至50%，攻擊者可能誘導AI提供危害公眾安全的程式建議。「特權提升攻擊」的防禦率為50%至82%，攻擊者可以偽裝身分，誘導AI解除安全限制。此外，DeepSeek AI離線下載版本並未內建額外的安全防護機制（Safeguard），使用者需要自行建置資安防護措施，若未妥善部署，恐怕會產生嚴重的安全風險。
除了資安漏洞，DeepSeek AI亦受到中國《生成式人工智慧服務管理暫行辦法》的規範，模型輸出的內容須符合中國政府政策，對於敏感的歷史事件、政治及社會議題多有迴避，難以提供多元觀點。這種審查機制使得該AI工具在開放式學習、跨文化教育及全球市場應用上存在明顯限制。
資安院表示，這次測試結果與台灣學研機構及國際研究報告的發現相符，證實DeepSeek AI存在嚴重的資安漏洞與價值偏頗問題。該AI在模型更新時，可能帶來更多不確定性，因此建議企業與個人用戶在選擇AI工具時，不能僅考慮成本，而應慎重評估資安風險。未來，隨著更多開源 AI 模型的發展，使用者將有更安全且合規的選擇。數發部也將持續關注AI技術發展，適時調整資安政策，以確保國家資訊安全。目前，政府機關已確定禁用 eepSeek AI，但對於企業及一般民眾的進一步規範，仍待後續觀察法規與國際趨勢的變化。
點擊閱讀下一則新聞
