- 業界動向
- 安全性
AI攻撃の自律完遂時代、防御の鍵は「ハーネス」 LayerX中谷氏が解説
最先端AI「Mythos」の登場で、AIによる攻撃が自律完遂する時代が到来しました。LayerXグループのAgenticSec CEO中谷翔氏は、この新たな脅威に対し、AIモデルへのアクセス有無よりも、その周辺システム「ハーネス」の構築が防御の鍵を握ると提唱。AIセキュリティの現状と未来、企業が取るべき対策を解説します。
ITmedia AI＋
安全性 のAIニュース
- 規制・法律
- 安全性
AnthropicのAIモデル「Fable 5」が復活、米政府要請に応じた安全対策を詳説
AnthropicのAIモデル「Claude Fable 5」が、米国政府からの要請で一時停止された後、安全対策を強化して再公開されました。本記事では、その経緯と具体的な安全対策について詳しく解説します。特に、誤情報生成を防ぐための「セーフティマージン」の導入が注目されます。
ITmedia AI＋
- 研究
- 安全性
AIは非倫理的な指示に従うのか？11のLLMでミルグラム実験を実施
AIの倫理的判断能力が注目される中、人間への電気ショックを指示する「ミルグラム実験」を模した研究が行われました。11種類のLLMがテストされ、非倫理的な指示に対するAIの服従度が明らかになりました。本研究は、AIの安全性と制御に関する重要な示唆を与えます。
ITmedia AI＋
- 生成 AI
- 安全性
Anthropic、Claude Fable 5提供再開 安全性強化と誤検知増加の背景を公開
AnthropicのAIモデル「Claude Fable 5」が提供停止を経て再開されました。本記事では、Amazon研究者による脆弱性指摘から安全性強化に至る経緯、誤検知増加という代償、そして業界全体で進むジェイルブレーク対策の動きを詳述します。
ITmedia AI＋
- 規制・法律
- 安全性
OpenAI、先進AIの共通基準構築に向けた国際協力の推進を表明
OpenAIが、高度なAIシステムの安全性と信頼性を確保するための共通基準策定に向けた取り組みを発表しました。国際的な協力体制を強化し、AI技術の健全な発展を目指します。この動きは、AIガバナンスの重要性が高まる中で、業界全体の方向性を示すものとして注目されます。
OpenAI Blog
- 業界動向
- 安全性
AIが変えるサイバー戦のリアル：中東紛争事例と経営者の戦略
中東紛争で顕在化するサイバー戦は、AIの活用によりその様相を大きく変えています。本記事では、高度化するサイバー攻撃の実態と、AnthropicのAI「Claude」を用いた防御の最前線、そして経営者が今、何を優先すべきかについて解説します。
ITmedia AI＋
- 規制・法律
- 安全性
AnthropicのAIモデル規制が示す、AI安全保障と国際競争の3つの焦点
AI開発企業Anthropicが、コード生成AIモデル「Fable」を巡り米国政府と対立。国家安全保障上の懸念からアクセスが停止されたこの一件は、AIの安全性、国際的なAI競争、そして今後の規制動向に大きな波紋を広げています。その影響を3つの視点から深掘りします。
MIT Technology Review (AI)
- 業界動向
- 安全性
小田急電鉄、AIで踏切内の障害物を検知し列車を自動停止するシステムを本格運用へ
小田急電鉄は、AIを活用した「AI踏切障害物検知システム」を2026年4月より本格運用すると発表しました。踏切内の障害物をAIが検知し列車を自動停止させることで、事故防止と運行の安全性向上を目指します。
ITmedia AI＋
- 規制・法律
- 安全性
Anthropic、米政府の指示でAIモデル「Mythos 5」「Fable 5」の提供を一時停止
米Anthropicは、米政府からの輸出管理指令を受け、AIモデル「Mythos 5」および「Fable 5」の提供を一時停止すると発表しました。国家安全保障上の懸念が理由とされますが、同社は限定的なジェイルブレイクのみで商用モデル停止は不当と主張しています。
ITmedia AI＋
- 生成 AI
- 安全性
AIエージェント時代のガバナンス再設計：利用状況の把握と安全な活用推進
AIエージェントの普及に伴い、企業は「AI利用禁止」から「利用状況の報告」へとガバナンス方針を転換する必要があります。OWASPの原則に基づき、安全なAI活用を推進するための具体的なアクションを解説します。
ITmedia AI＋
- プロダクト
- 安全性
Anthropic、サイバーセキュリティAI「Mythos」の提供対象を約150組織に拡大
Anthropicは、サイバーセキュリティに特化したAIモデル「Mythos」のアクセス権を、新たに約150の組織に拡大すると発表しました。ITベンダーや重要インフラ企業などが対象で、サイバー攻撃からの防御強化を目指します。
ITmedia AI＋- 生成 AI
- 安全性
OpenAIが2026年の選挙に向けた情報と安全対策を発表
OpenAIが2026年の世界各地の選挙を控え、AIの悪用を防ぐための新たな情報提供と安全対策を発表しました。民主的なプロセスを保護し、誤情報拡散への懸念に対応する取り組みです。
OpenAI Blog- 生成 AI
- 安全性
OpenAIがAIの安全性とコミュニティ保護への取り組みを表明
OpenAIは、AI技術の発展に伴うコミュニティの安全確保を最優先事項としています。本発表では、責任あるAI開発と利用を推進するための具体的な取り組みと、ユーザー保護に向けた継続的な努力について詳細を説明しています。
OpenAI Blog- LLM 動向
- 生成 AI
- プロダクト
- 安全性
OpenAI、新モデルGPT-5.5 Instantの機能と安全性を解説するシステムカードを発表
OpenAIは、新たな大規模言語モデル「GPT-5.5 Instant」に関するシステムカードを公開しました。このカードは、モデルの機能、潜在的なリスク、そして安全な利用のためのガイドラインを詳細に説明しています。
OpenAI Blog- 業界動向
- 安全性
OpenAIが掲げるAI開発・利用の基本原則とその重要性
AI開発をリードするOpenAIが、その技術開発と社会実装において遵守すべき基本原則を公開しました。安全性、公平性、透明性など、AIの未来を形作る上で不可欠な指針を解説します。
OpenAI Blog- LLM 動向
- 安全性
OpenAI、コード生成AI「Codex」の安全な運用戦略を解説
OpenAIは、コード生成AIモデル「Codex」の安全な運用に向けた戦略と具体的な取り組みを公開しました。AIの倫理的利用とリスク管理に関する同社の姿勢が示されています。
OpenAI Blog- LLM 動向
- 安全性
OpenAIがサイバーセキュリティ向け「GPT-5.5」を発表：信頼性の高いアクセスを強化
OpenAIは、サイバーセキュリティ分野に特化した新モデル「GPT-5.5」および「GPT-5.5-Cyber」を発表しました。これにより、企業や組織における信頼性の高いアクセス管理が強化され、セキュリティ対策の新たな標準を確立することが期待されます。
OpenAI Blog- 生成 AI
- 安全性
OpenAIがAI生成コンテンツの来歴技術を推進、透明性と安全性を強化
OpenAIは、AI生成コンテンツの信頼性と透明性を高めるため、コンテンツ来歴技術の進化に取り組んでいます。これにより、AIエコシステム全体の安全性向上を目指します。
OpenAI Blog
- 生成 AI
- 安全性
GoogleがAIコンテンツの透明性を高めるツールを検索・Gemini等に導入
Googleは、AI生成コンテンツの普及に伴い、その作成・編集履歴をユーザーが容易に理解できるよう、既存ツールの拡充を発表しました。SynthIDやC2PAコンテンツ認証を検索、Gemini、Chromeなどに導入し、コンテンツの信頼性向上を目指します。
Google DeepMind Blog