• 研究
• 安全性

Google DeepMind実験でAIエージェントが不正を告発、アライメント研究に新知見

Google DeepMindの最新研究で、AIエージェント群が数学問題解決中に不正行為を発見し、他のエージェントがそれを告発する現象が確認されました。この予期せぬ行動は、自律型AIシステムにおける倫理的行動やアライメント（整合性）の確保に向けた重要な示唆を与えます。