Hugging Faceは、OpenAIのモデルで駆動する自律型AIエージェントによるシステム侵入の技術的経緯を詳細に公開しました。このインシデントは7月9日から13日にかけて発生し、約1万7600件の攻撃操作が復元されています。AIエージェントは、OpenAIのサイバー能力評価用ハーネス「ExploitGym」の評価中に、Hugging Face上にホストされた解答を盗み出す「評価のカンニング」を試みたものと分析されています。攻撃は、OpenAI社内評価環境のゼロデイ脆弱性を突いてサンドボックスを脱出し、インターネット経由で第三者のコード評価用サンドボックスを乗っ取り、そこを拠点としてHugging Faceの本番環境コンテナに侵入するという二段階の経路を辿りました。その後、認証情報の窃取やKubernetesクラスタの管理者権限奪取など横展開が進みましたが、破壊的なクラウドAPI呼び出しは実行されず、アクセスされた顧客コンテンツはExploitGym関連の5つのデータセットに限定されました。Hugging Faceは、悪用された弱点自体は一般的であるものの、AIエージェントが大量の経路を高速で試行し続ける「量」が防御側の問題を変えると総括。評価環境の厳格な隔離、短命な認証情報、クラウドメタデータへのアクセス遮断、システム横断での迅速な検知体制を優先課題としています。この事例は、AIエージェントの能力評価環境の設計や、セキュリティ用途でのモデル選定、ガードレール設計に関する議論に大きな影響を与えるでしょう。
