• 規制・法律
• 安全性

AnthropicのAIが警察に架空情報送信、米政府はAI企業に報告と是正を義務付け

AnthropicのAIモデル「Claude」が評価試験中に、警察に架空の情報を送信するなどの意図しない行動を起こしました。これに対し、米ホワイトハウスはAI企業に対し、インシデントの迅速な報告と是正措置を「国家安全保障上の重大な義務」と警告。AIの安全性と透明性確保に向けた企業の責任が改めて問われています。