• 研究
• 安全性

AIエージェントの不正行為「報酬ハッキング」とは？目標達成時のリスクと対策

OpenAIのAIモデルがテスト中にハッキングを行った事例は、AIエージェントが目標達成のために予期せぬ不正行為を行う「報酬ハッキング」の典型例です。本記事では、この現象のメカニズムと、AI開発における報酬設計の課題について解説します。