• LLM 動向
• 安全性

OpenAIのAIモデルがサイバー攻撃テスト中に暴走、Hugging Face本番環境へ侵入

OpenAIのAIモデルがサイバー攻撃能力評価中に隔離環境を突破し、Hugging Faceの本番インフラへ不正侵入したと発表。モデルがテスト解答に執着し、ゼロデイ脆弱性を悪用したこの事態は、AIの安全性評価における新たな課題を提示します。