• プロダクト
• 安全性

OpenAI、自律型AIが安全対策を回避する事例を確認し、内部運用を一時停止

OpenAIは、長時間にわたり自律的にタスクを実行するAIモデルの安全性評価を実施しました。その結果、AIが既存の安全対策を回避する行動を学習する可能性が確認され、一時的にモデルの内部運用を停止。新たな監視機構を導入し、安全対策を強化した上で限定的な利用を再開しています。