Anthropicは、自社AI「Claude」の悪用事例をまとめた脅威インテリジェンスレポート「Detecting and countering misuse of AI: September 2026」を公開しました。このレポートでは、2025年12月から2026年8月までに検知・遮断されたサイバー攻撃、影響工作、監視、詐欺、生物学的悪用、通常兵器開発、蒸留の7分野における事案が詳細に報告されています。特に、鳥インフルエンザの機能獲得研究や毒素ペプチドの最適化といった生物学的悪用は、正当な研究との区別が困難なケースがあるため、安全性を最優先して遮断されたと説明されています。また、中国の国家安全機関による反体制活動の監視や、ロシア国営メディアによる影響工作など、国家系機関による広範な悪用も指摘されました。さらに、AlibabaやMoonshot AI、Xiaomiといった中国AI企業が、Anthropicのモデル能力を無断で抽出し、自社モデルの学習データ生成に利用する「蒸留」を行っていたことも明らかにされています。この蒸留には、Xiaomiユーザーの機微情報が含まれていたケースもあり、AIの悪用がもたらす多様なリスクと倫理的課題が浮き彫りになりました。
