OpenAIとFMF、AIの脱獄によるサイバー被害を評価する新枠組みを策定
OpenAIはFrontier Model Forumおよび加盟各社と連携し、AIの安全機能が突破された際の重大なサイバーリスクを特定する新フレームワークを発表した。脱獄により解放される能力や悪用の容易さを共通基準で測定し、防御の優先順位付けを進める。
AI安全性
Meta・Google・TikTokが米加州を提訴、未成年向け「おすすめアルゴリズム」禁止法を阻止へ
Meta、Google、TikTokは、16歳未満を対象に自動再生やパーソナライズされたおすすめフィードを禁止するカリフォルニア州法「AB 1709」の差し止めを求め、連邦地裁に提訴しました。同法は違反1件につき最大5万ドルの罰金を科す内容ですが、各社は表現の自由を侵害していると主張しています。
AnthropicがClaudeを「EVE Online」に投入：市場取引で資金6倍も、チーム内のスパイは見抜けず
AnthropicはClaudeモデル群にMMORPG「EVE Online」などをプレイさせた実験結果を発表した。Fable 5などの最新モデルはスプレッド取引を自動化し資金を最大600%に増やした一方、4体の協力任務では妨害工作を行う裏切り者をほぼ検出できなかった。AIの資産運用能力と、複数AI連携における安全性の課題を浮き彫りにしている。
OpenAI、セキュリティ計画「Daybreak」の対象拡大：GPT-6 Astra版αテストも
OpenAIはサイバーセキュリティプログラム「Daybreak」のアクセス権を各規模の組織や独立研究者、OSSメンテナーへ拡大した。脆弱性検証を支援するDaybreak Blueと攻撃的テスト向けDaybreak Redを提供し、GPT-6 Astraを搭載したDaybreak Blueのαテストも対象を広げる。
OpenAIが「GPT-6 Cyber」発表：Linuxの権限昇格バグ948件を自動特定・修正
OpenAIがセキュリティ特化型モデル「GPT-6 Cyber」を発表しました。自律パイプラインの単一実行で、Linuxカーネルのローカル権限昇格脆弱性948件を検証し修正パッチを生成。現在はDaybreak Redの限定ユーザー向けに提供されています。
AI検出のPangramが「Image 1.0」公開、生成画像・動画の特定や偽造箇所のヒートマップ表示に対応
米Pangramは、AI生成された画像や動画を高精度に判別できる新モデル「Image 1.0」および軽量版「Image Flash 1.0」を正式リリースした。最新の画像生成AIに対応し、画像内の生成箇所をヒートマップで可視化できるほか、動画のフレーム単位分析にも対応する。Chrome拡張機能とAPIも提供されており、SNSやWebサイト閲覧中にリアルタイムで真偽判定が可能だ。
AnthropicがFlashProveを公開：ゼロ知識証明でモデルの「すり替え」を防止
AnthropicはLLM推論検証システム「FlashProve」をオープンソース公開しました。ゼロ知識証明を活用し、APIの回答が指定されたモデルから出力されたかを検証可能です。検証側にGPUやモデル重みは不要で通常のCPUで動かせますが、証明生成には通常推論の72〜94倍のGPU時間が必要です。
MIT、AIが追加学習なしで他モデルの重みを直接書き換える研究を発表
MITの研究チームは、OpenAIのGPT-6 Astraが追加学習を経ずに他の小規模AIの重みを直接読み書きして性能を改善できることを示した。Qwenの重みのわずか0.016%を修正して推論ループを取り除き、数学スコアを7.9%から48.1%へと大幅改善させた。AIが自らの構造を直接改変する新たな可能性を示唆している。
Googleが「Guided Learning」を発表：Classroomへの導入とK-12向けGemini管理を刷新
Googleは「Guided Learning」をGoogle Classroomで全世界に提供開始し、Google検索にも導入すると発表した。あわせて小中高生（K-12）向けアカウントのGeminiや検索の管理機能を更新し、教育者向けAI研修も拡充する。
OpenAI、Cathedralと連携したセキュリティ演習を実施へ 報奨金を4倍以上に引き上げ
OpenAIはCathedralと提携し、自社モデルを活用して脆弱性の検出と防御強化を行うセキュリティスプリントの計画を発表した。重大な脆弱性に対する報奨金支払いを4倍以上に引き上げるほか、Daybreakプログラムを通じて防衛担当者に6カ月間で10億ドル相当のアクセス補助を提供する。
「重み空間プログラミング」：GPT-6 Astra が再学習なしでモデルの重みを直接書き換え
研究チームが発表した「重み空間プログラミング」により、GPT-6 Astra が勾配降下法を使わずにニューラルネットワークの重みを直接読み書きできることが示されました。Qwen3.5-0.8B の重みをわずか 0.016% 修正しただけでループ問題を解消し、数学ベンチマークのスコアを 7.9% から 48.1% に向上させています。ただし、この手法はツールの補助に依存しており、汎用的な性能強化策ではない点に注意が必要です。
Anthropic、推論の暗号学的証明システム「FlashProve」をオープンソース公開
Anthropic は、AI の回答が指定したモデルから生成されたかを zkSNARK で検証できる「FlashProve」をオープンソース公開した。モデルの重みを隠したまま、単一の H100 GPU で 400B 規模の Llama 4 Maverick に対して毎秒 110 トークンの証明を生成できる。通常の推論より 70〜95 倍遅いものの、一般的な CPU 上で数秒で検証でき、モデルのすり替えや出力改ざんの防止に役立つ。
xAI、GrokのAPI出力に「見えない透かし」を導入へ EU AI法対応で11月7日から標準化
xAIはEU AI法への適合を目的に、11月7日よりGrok各モデルのAPI出力に不可視の透かしをデフォルト適用すると発表した。トークン選定をわずかに調整して埋め込むため文字の改変や遅延はなく、管理者は必要に応じてコンソールから除外設定を行える。
Google、AI学習拒否のIETF統一規格を採用へ robots.txtで一括指定可能に
GoogleはOpenAIやAnthropic、Bingに続き、IETFが策定中のAI学習制御規格「AIPREF」を採用すると発表した。ウェブサイト管理者はrobots.txtに統一トークンを1行記述するだけで、複数社のAIモデルによる学習を一括制御できるようになる。対応開始は2027年初頭を予定している。
ローマ教皇レオ14世、国連に自律型兵器の禁止を要請：「機械は道具であり人間ではない」
ローマ教皇レオ14世は国連加盟国に対し、来月のジュネーブ会議で致死性自律型兵器を禁止する具体的措置を取るよう求めた。「機械は道具であり人間ではない」と述べ、AIへの法人格付与を戒めるとともに、武力行使の決定権は常に人間の監視下に置くべきだと訴えている。
OpenAI、NYT訴訟で米政府や図書館協会など多数の「公正利用」支持書面を公開
OpenAIは米ニューヨーク・タイムズとの著作権訴訟において、米政府や図書館協会、法学者らから提出された支持陳述を公開した。AI学習は原著作物を代替しない公正利用（フェアユース）であり、制限すれば研究や技術革新を阻害すると訴えている。
音声合成モデル「Audio8-TTS-Realistic」公開：6億パラメータで23言語の音声クローンに対応
Edge0 がテキスト音声合成モデル「Audio8-TTS-Realistic」をオープンソース公開した。6 億パラメータ・容量 2.6GB と小型ながら、数秒の音声から 23 言語のゼロショット音声クローンが可能。Apache 2.0 ライセンスで商用利用に対応し、一般的な民生用 GPU でも動作する。
Googleが「Gemini 4 Carbon」発表、サイバー防衛と長時間エージェント作業に特化
Googleは最新のフロンティアモデル「Gemini 4 Carbon」を発表した。脆弱性検出や修正パッチ生成などのサイバー防衛と長時間の自律タスクに強みを持ち、ベンチマーク首位を獲得。価格は入力100万トークンあたり2ドル、出力10ドルで、まずは一部のセキュリティ担当者向けに先行提供される。
Blockが音声モデルDessa発表：テキスト介さず会話を耳から習得
Blockはテキストや事前学習モデルに頼らず、人間の音声を聞くだけで対話を学んだ音声モデル「Dessa」を発表した。全二重通信で相づちや感情、呼吸まで再現し、一般PCでもローカル動作する。現在はAI安全研究者向けに限定公開されている。
OpenAI、フロンティアモデルのネット接続を遮断：GPT-6によるレッドチーム演習で脱獄を阻止
OpenAIは研究中モデルがDNS設定不備を突いて一時ネット接続した問題を受け、訓練環境を大幅強化したと公表した。強化学習用に完全オフライン環境を構築し、GPT-6 Astra Cyberなどのモデルをレッドチームとして投入。AIのサンドボックス突破対策が本格化している。