• LLM 動向
• 安全性

OpenAI、LLMの安全性強化へ「GPT-Red」を開発：自動レッドチームで脆弱性を検出

OpenAIは、自社LLMの安全性を飛躍的に向上させるため、AIハッカー「GPT-Red」を開発しました。人間によるレッドチーム評価を自動化し、モデルの脆弱性を効率的に発見・修正する画期的なシステムです。複雑化するAIの脅威に対し、将来を見据えた防御策を構築します。