為應對人工智慧生成內容(AIGC)帶來的挑戰,TikTok已於2023年10月推出「AI生成內容標籤」功能,並將範圍擴展至其他平台上傳的影片,確保AI內容能夠明確標示,提升資訊透明度。此外,TikTok採用內容出處暨真實性聯盟(C2PA)憑證的影音平台,確保使用者能夠追蹤AI內容的來源,進一步加強對內容真實性的辨識。
TikTok不僅在技術上強化內容透明度,也積極推動數位素養教育。為了幫助用戶更有效識別AI生成內容與虛假訊息,TikTok與Poynter Institute旗下的MediaWise計畫合作,更新安全中心的相關資訊。這些更新內容包括提升數位素養的技巧、解釋AI內容標籤的使用方式,讓用戶能夠更精準地分辨真偽訊息。
TikTok透過完善的審查機制,大規模打擊不實內容,並確保平台的健康發展。根據TikTok的《社群自律公約》,所有上傳影片會經過自動化審查技術,偵測關鍵字、圖像、標題、描述與音訊等訊號,違規內容將交由「信任與安全團隊」進一步審查,一旦發現涉及裸露或未成年安全問題的內容則會立即移除。TikTok也不斷提升自動化審查系統的準確度,減少錯誤判定,並提供申訴管道,確保用戶權益。
以台灣為例,TikTok在2024年7至9月期間移除超過23萬支違規影片,並且97%的違規內容在未接到任何舉報前便已被平台主動刪除。此外,TikTok與台灣執法單位合作,建立直接舉報管道,確保違法內容能迅速處理。透過這些措施,TikTok 正積極打造更安全、透明的社群環境,並持續強化內容管理,確保用戶能夠在可信賴的網路環境中自由創作與交流。


故意的?iPhone唸「racist」竟跳「Trump」!蘋果急修正