OpenAIとFMF、AIの脱獄によるサイバー被害を評価する新枠組みを策定

AIモデルの「脱獄（ジェイルブレイク）」手法はネット上に溢れていますが、開発側にとっての頭痛の種は、すべての脱獄が同じ脅威をもたらすわけではないという点です。どの脆弱性を最優先で塞ぐべきなのでしょうか。

この課題に対応するため、OpenAIはFrontier Model Forum（FMF）および加盟各社と連携し、新たな評価フレームワークを公開しました。AIの安全ガードレールが突破された際、どのようなケースで重大なサイバー危害が生じるかを特定し、防御強化の優先順位を判断できるようにするのが狙いです。

悪用のしやすさと被害レベルを測定する

これまでの安全性テストは「禁止された回答が出たかどうか」に終始しがちでした。しかし今回の枠組みは、実質的な脅威度を測ることに軸足を置いています。

OpenAIで国家安全保障政策責任者を務めるサーシャ・ベイカー氏は、この枠組みがサイバー脱獄の深刻度を評価・比較するための共通手法に向けた重要な一歩だと述べています。脱獄によってどんな能力が解放されるのか、そしてそれがどれほど簡単に悪用できるのかを測定することで、業界全体で明確な根拠を共有し、ガードレールの改善を進めやすくします。

なぜ重要か

AI各社が「もぐら叩き」のような無差別のパッチ当てから、被害実態に基づく合理的な防御へと舵を切り始めた点は評価できます。

有害なスクリプトを生成できたとしても、それが現場のサイバー攻撃で本当に役に立つのか、実行のハードルがどれだけ低いのかを見極めなければ、守る側のリソースが持ちません。深刻度を数値化して優先度をつける手法は、極めて現実的なアプローチに見えます。

ただし、この取り組みが実効性を持つかどうかは、FMF加盟企業が本当に脆弱性データを共有し合い、外部のセキュリティ研究者からも信頼される共通基準に育てられるかにかかっています。