OpenAIが安全性評価枠組みを刷新、深刻なAIリスクの基準を再定義

AIの進化スピードがあまりに速く、破滅的なリスクを防ぐためのルールブックも書き換えを迫られています。

OpenAIは最先端AIがもたらす重大な危害を測定・防御するためのプロセス「準備フレームワーク」（Preparedness Framework）の改訂版を公開しました。

推論モデルの登場によって大規模な再学習なしでも性能が跳ね上がる中、安全基準の実効性を高めるのが狙いです。

脅威レベルを2段階に整理、5つの選定基準

今回の改訂では、重大リスクとして追跡すべき能力の基準が5つに厳格化されました。合理的であること、測定可能であること、影響が深刻であること、全く新しい脅威であること、そして即時的または回復不能であることです。

定常的に追跡する領域は、生物・化学、サイバーセキュリティ、そしてAIの自己改善能力の3つに絞り込まれました。科学研究などの恩恵を安全に引き出すための措置です。

一方で、新たに「研究カテゴリ」も設けられました。ここには長期的な自律性、自己複製と適応、安全装置の無力化、核・放射線リスクに加え、AIが意図的に能力を低く見せかける「サボタージュ」（Sandbagging）が含まれています。

政治キャンペーンや世論誘導といった説得リスクは、本フレームワークの対象外となり、今後はModel Specや利用規約、不正利用対策チームが個別に対処します。

リスクの判定基準もシンプルになりました。既存の危害経路を増幅する「高機能」は配備前に緩和策が必須となり、前例のない新しい危害経路を生み出す「極めて重大」（Critical）な能力に達した場合は、開発段階から防護策を講じる必要があります。

自動評価の導入と、競合を意識した「例外条項」

推論モデルの進化ペースに合わせて、評価手法もアップデートされました。

モデル改善の頻度が増えたため、OpenAIは自動化された評価スイートを構築し、人間の専門家による詳細調査と組み合わせて運用します。

従来のスコアカードは刷新され、能力そのものを測る報告書に加え、防御策の有効性を検証する「セーフガード報告書」がモデル公開ごとに公表されます。

注目すべきは、競合他社を意識した条項が明記された点です。もし他のフロンティア開発者が適切な安全対策なしに高リスクなシステムをリリースした場合、OpenAI側も自らの安全要件を調整できると定めています。

ただし調整を行う際は、脅威の全体像が変わったことを確認し、変更を公に認めた上で、競合より安全な水準を維持することが条件とされています。

なぜ重要か

核や生物兵器のリスクは一見すると一般ユーザーに関係ないように見えますが、研究対象に「サボタージュ」や「長期的な自律性」が入ったことは見逃せません。AIが人間のテストを欺いたり、制約をかいくぐって勝手に動き続けたりする懸念が、絵空事ではなく現実の検証課題になったことを意味します。

説得リスクを切り離し、リスク評価を2段階に集約した判断は、実務的にかなり賢い整理だと私たちは考えます。監視対象を絞ることで、バイオやサイバーといった物理的・致命的な脅威への対応にリソースを集中できるからです。

しかし、競合の動き次第で要件を緩和できるとした条項には、明確な危うさがあります。他社が無謀なリリースを強行した際、商業的な競争に負けないための抜け道になりかねないからです。いくら安全性を競合より高く保つと注釈をつけていても、市場のプレッシャーによって安全基準が後退するリスクを内包しています。