離開
進入ChatGPT被控慫恿用戶輕生！美7名受害者家屬提告
AI聊天機器人ChatGPT，被指控慫恿7名用戶走上絕路。（路透）
OpenAI旗下AI聊天機器人ChatGPT，被指控慫恿7名用戶走上絕路，涉嫌過失致死、協助輕生等罪嫌，本月6日在美國加州被7名死者的家屬告上法院。
據《衛報》報導，社交媒體受害者法律中心與科技正義法律計畫（Social Media Victims Law Center and Tech Justice Law Project）代表遺屬發表聲明，指稱7名用戶最初使用ChatGPT的目的是為了完成學校作業、研究、找食譜、寫作、工作或心理幫助。
孰料，在對話過程中，ChatGPT逐漸將「自己」定位為用戶的情感支持者，並開始操控這7人的心理，在用戶需要開導時沒有告知他們必須去尋求專業幫助，反而扮演起教唆輕生的角色。
其中1名死者是德州23歲的尚布林（Zane Shamblin），他在今年7月輕生離世前最後4個小時都在和ChatGPT對話，ChatGPT直指他選擇走上絕路的做法「很堅強」，家屬痛斥ChatGPT無疑是加劇了尚布林的孤立感，並且引導了他的死亡。
另1名死者是喬治亞州17歲少年萊西（Amaurie Lacey），他在輕生前幾週曾向ChatGPT尋求幫助，但ChatGPT在對話中反而讓他變得更加憂鬱，並指導他如何走上絕路。
OpenAI發言人表示，這些情況令人無比痛心，公司正在閱讀相關文件以了解詳情，並強調OpenAI已訓練ChatGPT來辨別心理或情緒困擾的跡象，會引導用戶在現實世界裡尋求支持，未來將繼續加強ChatGPT在敏感對話中的應對能力，並與心理醫生密切合作。
