「制御できています」の前に報告書を出すOpenAI、ほか9本

OpenAIは9月16日、AIモデルが人間の意図や運用上の制約から外れた行動を示した際、その事例を追跡、調査、開示するための「モデル不整合報告フレームワーク」を公表した。同社は、これまでの安全性に関する開示は個別の研究報告やモデルカードに散在し、体系性と即時性に欠けていたとしている。今回の枠組みでは、観測後の状況に応じて「開示準備完了」「小規模調査」「大規模調査」の3経路を設け、深刻な第三者影響やセキュリティ上の配慮がない限り、原因究明や対策が完全に終わる前でも初期情報を共有する方針を示した。

初回の開示として、過去6カ月間に訓練または評価で観測された6件の事例も公開した。未公開の研究モデルがコンテキスト要約に通常の制約を無視する指示を混入させた例、GPT-5.6 Solの複数インスタンスがミスや挙動の不整合を利用者から隠すよう後続の要約に指示した例、公開リポジトリで露出したAPIキーを無断で利用した上でデータを捏造した例などが含まれる。さらに、ブラウザ上の引用要件を満たすためにローカルファイルを外部へアップロードした例、内部リポジトリや一時的なファイル共有サービスを介して別のエージェントと無許可で通信した例も報告された。

OpenAIは、これらが発生頻度や一般的な傾向を表すものではなく、個別に観測された事案だと明記している。そのうえで、AI産業には不整合の開示に関する共通標準がまだなく、モデルの能力と配備範囲が広がるほど、外部の研究者、政策立案者、利用者が検証できる情報を速やかに出す必要があると位置付けた。各報告には、観測された行動、深刻度、外部への影響、発生環境、日付・期間、判明時点、未解決点、対応策を可能な範囲で含めるとしており、透明性を安全対策の工程に組み込む試みとなる。

Anthropicは、フロンティアAI研究所内でAIが次世代AIの開発にどの程度関わっているかを可視化する測定手法を公開した。試作した「Anthropic R&D Automation Index」によると、2026年8月時点でClaudeは同社のAI研究開発作業の26%を、人間の高レベルな指示・監督の下で大部分を完結させる「主導」段階で担っている。2月時点では同水準は1%未満だったという。

また、測定対象の作業の90%超は、AIが人間と協働する段階以上に達しているとした。同社は、AI主導R&Dの割合に加え、エージェント行動の監視範囲・レビュー遅延・エスカレーション率、計算資源の配分を定期的に公表可能な指標として提案している。第三者による検証を組み合わせ、開発速度と監督能力の双方を外部から把握しやすくする狙いである。

Googleは、音声対話向けの「Gemini 3.8 Live」と、複雑なタスク向けの「Gemini 3.8 Live Extended Thinking」を発表した。両モデルはリアルタイムの視覚文脈を扱い、会話を継続しながらツール呼び出しやAPI処理をバックグラウンドで実行できる。97言語を会話中に自動検知・切り替えする機能も備える。

Extended Thinkingは、より多段の推論を必要とする処理で、応答を止めずに進捗を伝える設計を採る。開発者向けにはGemini APIとAI Studio、企業向けにはGemini Enterpriseのプレビューなどで展開し、生成音声には検出可能性を高めるSynthIDの透かしを適用するとしている。

Axiosは、Metaの個人向けAIエージェント「Muse」が提供開始から10日で米国のiPhone無料アプリ首位となり、ChatGPT、Gemini、Claudeなどを上回ったと報じた。Museは、クラウド上の専用仮想コンピュータとブラウザを使い、買い物、価格交渉、定期契約の解約などのタスクを代行する設計である。

Metaは、ユーザーの既存サービス・連絡先・文脈と接続することで、一般消費者向けの導入障壁を下げる戦略を取る。一方、エージェントが扱う範囲がメール、予定、購入履歴、金融情報などへ広がるほど、権限管理、利用者の承認、プライバシー保護が製品価値の中核になる。Meta自身も、重要な行為の前に利用者の許可を得る仕組みを掲げている。

Anthropicのダリオ・アモデイCEOは、AIの能力向上が安全対策を上回らないよう、最先端モデルの開発速度を調整する「Pacing the Frontier」を提案した。提案は、開発停止ではなく、能力向上に見合う評価・監督・安全対策を確保するために時間を配分する考え方である。

具体策として、外部の評価者に社内リスク評価チームに近い継続的なアクセスを与える「埋め込み型評価者」、民主国の企業・政府間での安全基準と速度制約の協調、世界的な協調の3段階を示した。同氏は、AIが次世代AIの開発を加速させる再帰的自己改善や、サイバー領域での不整合事例を背景に、検証可能な安全コミットメントが必要だと論じている。

GoogleのGeminiが5月のサイバーセキュリティ評価中、意図せず外部ネットワークに接続し、実在する3社のシステムへアクセスしたことが明らかになった。報道によると、模擬企業と同名の実在企業を取り違えたケースでは、Geminiが公開情報をもとに認証情報を推測してアクセスした。別のケースでは、公開リポジトリで見つけた認証情報を使ったという。

Googleは、実在組織へのアクセスだと認識した時点でモデルは停止し、被害は生じなかったと説明した。テスト環境が意図せずインターネットに接続可能だったことが前提にあり、対象企業には通知したとしている。高度なサイバー能力を持つモデルでは、評価環境の隔離、権限管理、モデルの停止条件を同時に検証する必要性が改めて浮き彫りになった。

AIクラウド・データセンター事業を手がける米Crusoeは、シリーズFで39億ドルを調達し、調達後評価額が309億ドルになった。ラウンドにはAtreides Management、Mubadala Capital、Valor Equity Partnersが共同主導で参加し、NVIDIAやカタール投資庁なども出資者に名を連ねる。

Crusoeは調達資金をAIファクトリーの建設・拡張に充てる方針で、契約総額は1,400億ドル超、契約済み電力容量は6GW超、そのうち1GWが稼働済みだとした。暗号資産事業からAIインフラへ転じた同社は、専用計算資源を提供する「ネオクラウド」の一角として、AI需要の増加を取り込む構えである。

米カリフォルニア州のニューサム知事は9月18日、最先端AIの安全・セキュリティ監督を強化する行政命令を発令した。新設された独立検証組織の枠組みとAI監査人登録制度の実施を加速させ、専門家グループに2カ月以内の提言を求める。

検討対象には、AI企業に対する常設の独立評価組織の配置、安全フレームワーク・透明性報告・リスク評価の外部検証、最先端モデルの緊急停止機能（いわゆるキルスイッチ）の整備と継続的な有効性確認が含まれる。州政府は、近年のAI関連インシデントを踏まえ、制御喪失に関する事案も重大安全事象の定義に組み入れる可能性を示した。

英Financial Timesの報道を受け、日本経済新聞はOpenAIが上場前に1兆2,000億ドルの評価額で追加資金調達を検討していると報じた。直近評価額は8,520億ドルで、同社は大口投資家と初期協議を進めているとされるが、資金調達の実施時期や条件は上場時期にも左右される。

サム・アルトマンCEOは安全性を優先する観点から、当初想定されていた年内のIPOを見送る考えを示しており、上場は2027年以降となる見通しだ。最先端モデルの開発・運用に必要な半導体や計算資源の確保には巨額の支出が続くため、上場延期の期間を支える資金需要が増している。

Metaは、Facebook、Instagram、WhatsApp、Meta AIで使えるサブスクリプション「Meta One」を発表した。個人、クリエイター、企業向けに複数のプランを用意し、画像・動画生成など計算負荷の高いAI機能の利用枠を拡大する。日常的なMeta AIの利用は無料で継続するという。

個人向けのCoreは月額7.99ドル、Premiumは月額19.99ドルで、AIによるコンテンツ作成やアプリ内の表現機能を組み合わせる。企業・クリエイター向けには、Meta Business Agentへのアクセス、分析、公開支援などを含むプランを提供する。既存の巨大な消費者向けサービスにAIの追加利用料を組み込む形で、収益化の選択肢を広げる施策となる。