OpenAI、Cathedralと連携したセキュリティ演習を実施へ　報奨金を4倍以上に引き上げ

最先端のAI基盤を運用する企業にとって、定期的な脆弱性診断や人手によるコードレビューだけでは、進化し続ける脅威に対抗できなくなっています。

OpenAIは11月2日、自社システムの防御力を底上げするための新たな社内セキュリティスプリント計画を発表しました。今回はセキュリティ研究機関のCathedralと提携し、同社のリサーチャーとOpenAIの社内チームが自社の最先端モデルを駆使して、防衛網の隙間や潜在的な弱点を徹底的に洗い出します。

外部のホワイトハッカーを巻き込む仕組みも大幅に強化されました。セキュリティ報奨金プログラムを改定し、重大な脆弱性（Critical findings）の報告に対する報奨金をこれまでの4倍以上に引き上げました。外部の知見を総動員して、自社の想定に揺さぶりをかける狙いです。

エンジニアの25％を投入した実績を拡大

この取り組みは、前回のセキュリティスプリントで得られた手応えがベースになっています。

前回の演習時、OpenAIはプロダクト担当エンジニアの25％という異例のリソースを脆弱性の検出と修正に集中させました。エンジニアたちはCodexを活用して検知内容を調査し、隔離環境で脆弱性を再現したうえで、修正パッチを迅速に作成してレビューに回すというサイクルを回しました。

従来のセキュリティ手法だけでは、高度化する攻撃スピードに対抗しきれません。攻撃者がAIを悪用する前に防御側が先手を打つ「防御者の防衛ウィンドウ」を維持するには、AIを活用した継続的な防御ループが不可欠だとOpenAIは説明しています。

最前線の防衛者に10億ドルの利用支援

自社の防壁を固めるだけでなく、OpenAIはその防衛能力を外部へも広げようとしています。

重要インフラや基幹デジタルサービスを担う現場の防衛担当者に向けて、同社はDaybreakプログラムを通じて今後6カ月間で10億ドル相当のモデル利用補助を提供することを表明しました。自社で最も高性能なモデルへのアクセスも開放されます。

さらに、前回のスプリントで培ったシステム構造や実務上の教訓、産業界や政府機関向けのセキュリティ青写真も公開し、業界全体での防御体制底上げを図る方針です。

なぜ重要か

AIの安全性をめぐる議論が抽象的なポリシー論に偏りがちななか、OpenAIがインフラ防衛という実務的な最前線に巨額のリソースを投じた点は非常に現実的で賢明だと私たちは考えています。

外部の研究者にとって重大脆弱性の報奨金が4倍以上に跳ね上がったことは、攻撃的な調査を行う強力な動機になります。また、予算や人員に制約を抱えるインフラ防衛チームにとっても、Daybreakによる10億ドル規模の支援は、高度なAI防御ツールを現場に導入する貴重な機会になります。

業界全体で見れば、最先端モデルを使った自律的な脆弱性スキャンやパッチ作成は、今後のセキュリティ運用の標準になっていくはずです。

ただし、AIに依存した防御には特有の落とし穴もあります。モデル自身の死角やハルシネーションによって、作成したパッチが新たな脆弱性を生み出すリスクは否定できません。攻撃と防御の双方がAIを武器にする時代において、人間の専門家がどこまで厳格に検証を維持できるかが試されています。