至今為止,AI 翻譯主要著重於各種書寫語言,但在全球超過 7,000 種的現存語言中,將近半數主要是以口語表達,而沒有標準或廣泛使用的書寫文字系統。這導致無法使用標準技術為這類語言打造機器翻譯工具,因為標準技術需有大量的書寫文字來訓練AI模型。為克服這項挑戰,Meta為主要以口語表達的「閩南語」打造了一個史無前例的人工智慧技術翻譯系統。

該開放原始碼的翻譯系統是 Meta Universal Speech Translator(UST,或譯:通用語音翻譯工具)專案的一部分,該專案致力於開發新的 AI 方法,希望最終能為所有現存語言進行即時語音翻譯,包括主要以口語表達的語言。Meta相信口語溝通有助於打破隔閡,拉近人們之間的距離,無論身在何處,甚至在元宇宙中也不例外。

 

為開發這個只有語音的全新翻譯系統,Meta AI 研究人員必須克服許多來自傳統機器翻譯系統的挑戰,包括資料蒐集、模型設計,以及準確度評估。在將 UST 擴展至更多語言之前,還有很多工作要做。但能夠輕鬆地與使用任何語言的人們溝通的能力,是Meta長久以來追尋的夢想,因此Meta很高興能向這個目標更邁進了一步。

 

Meta不只會開放閩南語翻譯模型的原始碼,也會公開評估資料集和研究報告,讓他人能夠重製並以我們的工作成果為基礎建立模型。 Meta著手打造閩南語翻譯系統時,面臨的一個重大障礙就是是否能夠蒐集到足夠的資料。閩南語是所謂的資源匱乏語言,這意味著與西班牙文或英文等語言相比,該語言尚未有足夠的訓練資料。此外,將英語翻譯成閩南語的翻譯人員相對來說很少,因此更難以蒐集資料並加上註解來訓練模型。

Meta利用中文作為中間語言,以建立偽標籤和人工翻譯,意思是我們先將英語(或閩南語)語音翻譯成中文文字,接著再翻譯成閩南語(或英語),然後新增至訓練資料中。此方法利用了資源充足的相似語言的資料,藉此大幅改善了模型成效。

 

另一個產生訓練資料的作法是語音探勘。Meta使用預先訓練好的語音編碼器,便能透過編碼方式將閩南語語音嵌入內容加入到其他語言的相同語意空間中,而無須取得閩南語的書寫文字。閩南語語音可以和擁有相似語意嵌入內容的英語語音和文字配對。

 

接著從文字來合成英文語音,產生平行的閩南語和英語語音。 許多語音翻譯系統依賴轉譯內容,或依賴語音轉文字系統。但由於主要以口語表達的語言並沒有標準書寫文字形式,因此Meta就無法將翻譯的文字製作成翻譯內容輸出。因此,Meta聚焦於語音轉語音翻譯。

Meta使用語音轉單元翻譯(speech-to-unit translation,S2UT)系統,直接在先前由Meta開創的路徑中,將輸入的語音翻譯成一系列聲學單元,然後從這些單元中生成波形。此外,我們針對二次解碼機制採用UnitY,讓第一階段的解碼器產生相關語言(中文)的文字,然後讓第二階段的解碼器製作單元。

 

語音翻譯系統通常會使用稱為ASR-BLEU 的衡量指標來評估,首先需使用自動語音識別系統(ASR)將翻譯後的語音轉譯成文字,然後將轉譯後的文字與人工翻譯的文字比較,以計算BLEU分數(標準機器翻譯衡量指標)。但評估主要以口語表達的語言(例如閩南語)時,評估語音翻譯的挑戰之一就是沒有標準的書寫文字系統。為啟動自動評估程序,Meta開發了稱為 Tâi-lô 的系統,將閩南語語音轉譯成標準化的拼音符號。這項技術讓我們能以音節為單位計算 BLEU 分數,並能夠很容易地比較不同方法下的翻譯品質。

 

除了開發方法以評估閩南語與英語語音翻譯的準確度,也根據名為Taiwanese Across Taiwan的閩南語語音語料庫,建立第一個閩南語與英語雙向的語音翻譯基準資料集。Meta將開放此基準資料集的原始碼,以鼓勵其他研究人員合作進行閩南語語音翻譯,並一同在該領域中取得進一步進展。

 

展望翻譯的未來,在目前的階段中,Meta的作法能夠讓使用閩南語的人士與使用英語的人士對話。雖然該模型仍在開發中,而且每次只能翻譯一個完整句子,但已朝著未來實現為各種語言提供同步翻譯的目標邁開一步。 Meta首創用於閩南語的各項技術,可以擴展至許多其他有書寫系統和無書寫系統的語言。

 

為此,Meta將發布 SpeechMatrix(暫譯語音矩陣),這是由 Meta 的創新資料探勘技術支援的大型語音翻譯語料庫,稱為 LASER,能讓研究人員建立自己的語音翻譯(S2ST)系統,並以Meta的工作成果為基礎,展開研究及開發工作。

最新、最好看的娛樂新聞都在《壹蘋娛樂》臉書粉絲專頁。

最新、最好看的娛樂新聞都在《壹蘋娛樂》臉書粉絲專頁。

★快點加入《壹蘋》Line,和我們做好友!

★FB按讚追蹤《壹蘋新聞網》各大臉書粉絲團,即時新聞到你手,不漏任何重要新聞!

壹蘋娛樂粉專

壹蘋新聞網粉專

壹蘋 LINE 好友