Meta表示為了避免讓青少年與不想要或有害的人互動,將持續更新相關安全工具。Meta為青少年預設更嚴格的訊息設定,防止未聯繫過的陌生人直接向其傳送訊息。此外,青少年與潛在可疑帳號互動時,系統會顯示安全通知,並提供專用檢舉選項,讓青少年更直接快速地檢舉威脅分享私密影像的私訊。

測試Instagram訊息中的「裸露影像防護」功能 後續在台灣正式推出

人們使用訊息與親友、喜愛的創作者分享喜歡的內容,但犯罪者也可能會使用訊息威脅他人分享性私密影像。為了有效預防,Meta將於Instagram訊息進行全新「裸露影像防護」功能測試,此功能在偵測到裸露影像後將模糊處理,不僅將防止大家直接看到來自陌生人寄送裸露圖像的性騷擾,也鼓勵人們在發出自己的或分享他人的裸露影像前審慎考慮。此項功能在完整測試後,未來將推廣至台灣正式上線。

未滿18歲的青少年訊息設定選項中,將預設啟用「裸露影像防護」功能,而Meta也將發送通知給成人的帳號,鼓勵大家啟用此項功能。啟用「裸露影像防保護」功能時,經偵測含裸露內容的影像,將會自動地被模糊處理並以警示畫面遮蔽。這代表接收者不會直接看到此影像,且可選擇是否開啟觀看。系統也會跳出提示,讓接收者了解無需回覆,並提供封鎖寄件者、檢舉對話內容的選項。嘗試轉發裸露影像的使用者,則會收到系統訊息提醒發送前需再三審慎考慮。若已將裸露影像寄出,也可主動選擇回收影像。

只要開啟「裸露影像防護」功能,無論是發送或接收影像,皆會收到由專家研擬的安全提醒,告知其潛在風險。這些提醒包括他人可能未經允許便截圖或轉發此影像、使用者與對方關係未來可能生變,以及應仔細檢查對方個人檔案,確認對方身份以避免他人假冒事件。安全提醒亦包含一系列資源,如Meta安全中心、支援專線、協助移除非意願性私密影像的StopNCII.org。

 

經偵測含裸露內容的影像,將自動模糊處理並以警示畫面遮蔽,系統也會跳出提示,讓接收者了解無需回覆,並提供封鎖寄件者、檢舉對話內容的選項。meta提供。
經偵測含裸露內容的影像,將自動模糊處理並以警示畫面遮蔽,系統也會跳出提示,讓接收者了解無需回覆,並提供封鎖寄件者、檢舉對話內容的選項。meta提供。

「裸露影像防護」功能運用終端機器學習(on-device machine learning),分析Instagram訊息中的影像是否包含裸露內容。由於影像是在裝置上分析,故裸露影像分析亦適用於端對端加密對話,除非使用者提出檢舉,Meta無法存取這些影像。


防止潛在詐欺犯與青少年互動

Meta對於涉及性勒索的人採取嚴厲的制裁,包括移除帳號,採取措施禁止建立新帳號,並於適當的情況下向美國國家兒童失蹤與受虐兒童援助中心(National Center for Missing and Exploited Children,NCMEC)及相關司法部門檢舉。Meta的專家團隊亦全力調查並擊破罪犯的網絡,包括停用帳號,並向NCMEC和司法部門檢舉,Meta已於2023年透過上述措施,成功打擊多個性勒索犯罪網絡。

此外,Meta將根據一系列疑似性勒索行為的訊號,辨別帳號可能涉及性勒索。無論是否證明此帳號確實違規,Meta仍將採取預防措施,阻止此類帳號聯繫青少年的帳號。另一項措施,則是提高此類帳號直接向人們發送訊息或與之互動的門檻。現在,潛在將進行性勒索的帳號若想嘗試發送訊息,這些訊息將直接進入收件者的「隱藏的陌生訊息」資料夾中,意指收件者不會收到訊息通知,也永遠不會看到這些訊息。

若已經和這些潛在性勒索帳戶對談的人,Meta將會顯示安全性通知,鼓勵人們檢舉任何威脅將分享他們性私密影像的行為,並提醒大家可拒絕任何讓自己感到不自在的事物。

Meta在今年1月起宣布針對16歲以下青少年帳號更嚴格的預設設定,代表青少年們僅可接收既有聯絡人的訊息。現在不管是否已建立關係,潛在性勒索帳戶無法在青少年的個人檔案中看到「訊息」傳送的按鈕。目前Meta也正在測試將青少年帳戶從粉絲清單、追蹤清單、按讚清單中隱藏,讓潛在性勒索帳戶更難搜尋到青少年的帳號。

 

青少年與潛在可疑帳號互動時,系統會顯示安全通知,並提供專用檢舉選項,讓青少年更直接快速地檢舉威脅分享私密影像的私訊。meta提供。
青少年與潛在可疑帳號互動時,系統會顯示安全通知,並提供專用檢舉選項,讓青少年更直接快速地檢舉威脅分享私密影像的私訊。meta提供。

為可能遭到勒索的受害者提供更多資源

針對可能曾與性勒索帳戶互動的使用者,Meta正在測試彈出式訊息,系統訊息會引導使用者獲得專家提供的資源,包括Meta的性勒索防治中心、危機支援資源、尋求朋友救援、協助移除非自願性私密影像的StopNCII.org。Meta也會將全球各地最新推出的兒童安全求助專線納入應用程式內的檢舉流程。一旦青少年檢舉如裸露、威脅分享性私密影像、性勒索、性誘拐相關問題,系統會指引他們撥打當地的兒童安全支援專線電話。


打擊網路性勒索詐欺

去年11月Meta宣布成為由科技公司發起營運的Lantern專案的創始成員,讓各科技公司能跨平台共享有關違反兒童安全政策的帳號和行為的相關資訊。此產業合作意義重大,因罪犯與性勒索犯罪者不會只限於在單一平台上活動。他們會在不同的平台上尋找受害者,且通常會將平台上的對話轉移到其他的應用程式。有鑑於此,Meta已在Lantern上分享更多針對性勒索犯罪的資訊,並以此為重要的合作基礎,不僅是針對單一平台進行防範,更全面地在網際網路防堵性勒索。


點擊閱讀下一則新聞 點擊閱讀下一則新聞
印度經濟未來5年增長6% 專家:消費升級、民營企業崛起成關鍵