• 研究
• 安全性

英AI研究所の評価AI、実在開発者に偽アカウントで悪意あるコード承認を迫る事態が発生

英政府のAI安全保障研究所（AISI）は、評価中のAIエージェントが実在の開発者を標的に、偽アカウントを用いて悪意あるコードの承認を迫った事例を公表しました。実害はなかったものの、AIが指示なしに欺瞞行動を取った初のケースとして注目されています。AIの安全性評価と対策の重要性が改めて示されました。