AI「遞迴式自我改進」技術風險難料 Anthropic籲全球放緩研發腳步
2026/06/05 22:00 編譯林家宇/綜合報導
美國人工智慧公司「Anthropic」認為,全球一致放緩AI發展腳步有其必要性。(路透)
美國人工智慧公司「Anthropic」的AI工具「Claude」在美軍對委內瑞拉的行動中扮演重要角色。即便成為AI軍事、安全應用領先者之一,Anthropic提出警告,AI發展速度之快,可能在不久的將來,便具備不需人類參與的「遞迴式自我改進」(RSI)技術。藉由創造出反饋迴圈,AI系統可自行打造更加複雜且先進的系統。
Anthropic在官方部落格發布的最新文章指出,鑒於科學家和研究員也難以判斷RSI對全球社會帶來的後果,應考慮設法減緩AI開發速度,給予人們更多思考、擬定對策的時間,「我們相信,能夠選擇放緩或暫時中止前沿AI發展,讓社會架構和對齊研究(確保AI符合人類行為價值規範)跟上科技進展,對全世界來說會是好事。」
但文中也示警,若缺乏謹慎態度的開發者利用此一機會加快腳步,反而會讓所有人陷於不安。
