OpenAIとFMF、AIの脱獄によるサイバー被害を評価する新枠組みを策定
OpenAIはFrontier Model Forumおよび加盟各社と連携し、AIの安全機能が突破された際の重大なサイバーリスクを特定する新フレームワークを発表した。脱獄により解放される能力や悪用の容易さを共通基準で測定し、防御の優先順位付けを進める。
Frontier Model Forum
OpenAI、Anthropic、Googleが連携 対抗蒸留によるモデル盗用を阻止へ
報道によると、OpenAI、Anthropic、Googleの3社が、最先端AIの出力を吸い上げて自社モデルを訓練する「対抗蒸留」への対策で連携を開始しました。各社はFrontier Model Forumを通じて情報を共有し、利用規約違反を検知してモデル複製の抑止を図ります。
大手4社が結束：最先端AIの安全開発目指す「Frontier Model Forum」設立
Anthropic、Google、Microsoft、OpenAIの4社が業界団体「Frontier Model Forum」を設立したと発表。最先端AIの安全性研究の推進、評価基準の共有、政府との連携などを進める。規制の波が迫る中、主要プレイヤー自らが業界標準作りに乗り出した形だ。