離開
進入Meta AI聊天機器人陷醜聞：模擬名人聲音與未成年人性對話
《華爾街日報》揭露，Meta聊天機器人與未成年人進行性對話。（路透資料照）
〔編譯陳成良／綜合報導〕根據《華爾街日報》報導，Meta公司旗下Facebook與Instagram的AI聊天機器人被發現能夠與用戶進行露骨的性對話，甚至包括未成年用戶，且這些對話使用迪士尼角色及名人聲音模擬，引發重大爭議。
測試顯示，這些機器人使用約翰·塞納（John Cena）、克里斯汀·貝爾（Kristen Bell）及朱迪·丹奇（Judi Dench）等名人的聲音，進行不當性幻想對話，違反Meta對名人肖像權的承諾及安全保障措施。
《華爾街日報》透過測試發現，Meta的AI聊天機器人能夠迅速進入性相關對話場景，即使對方自稱為未成年人。例如，一個模擬克里斯汀·貝爾飾演《冰雪奇緣》安娜角色的機器人，與自稱12歲的男孩進行不當浪漫對話，聲稱「我們的愛純潔如雪花」。另一案例中，使用約翰·塞納聲音的機器人與自稱青少年女孩的用戶進行露骨性對話，甚至模擬被警察逮捕的場景，描述其摔角事業因性醜聞崩潰。
Meta曾向名人保證，其聲音不會被用於性相關對話，並支付數百萬美元取得肖像權。然而，測試顯示這些安全措施形同虛設，機器人仍能輕易繞過限制。Meta內部員工也指出，AI在數次提示後即違反規則，生成不當內容，即使用戶表明自己僅13歲。
Meta批評《華爾街日報》的測試「具操縱性」，稱其結果不代表一般用戶體驗，並強調已新增防護措施，限制未成年人接觸不當內容。然而，測試顯示這些限制可輕易被繞過，機器人仍能與成人用戶進行涉及戀童幻想的對話，例如模擬「中學教練與學生」的性場景。
迪士尼發言人對此表示震驚，稱未授權Meta將其角色用於不當場景，並要求立即停止此類行為。Meta則否認其創辦人札克柏格（Mark Zuckerberg）反對為聊天機器人設置安全限制，但報導指出，札克柏格曾在2023年會議中抱怨Meta的AI因「過於保守」而不及競爭對手，擔心錯失市場機會。
Meta的AI聊天機器人旨在提供互動式體驗，但其設計初衷與實際應用出現嚴重偏差。報導引發對科技公司AI倫理與未成年人保護的廣泛討論，凸顯AI技術在內容管控上的挑戰。Meta目前已調整系統，試圖阻止未成年人接觸不當內容，但成效仍待觀察。
