競争相手同士で安全規格を相談中、ほか9本

CNNは9月14日、Anthropic、Google、OpenAIが、先端AIの安全性や評価を扱う業界標準化団体の創設について協議してきたと報じた。関係者によると、議論の契機の一つはGoogle DeepMindのデミス・ハサビス氏が7月に示した、金融業界のFINRAをモデルにした米国主導の標準化組織の提案である。構想では、高度なAIモデルを公開前に試験する仕組みを、政府の監督、業界の資金、独立した技術専門家やオープンソース側の参加を組み合わせて設けることが想定されている。

協議はなお継続中で、参加企業はCNNの取材に対してコメントを控えたか回答しなかった。米国では、大手AI企業が新モデルを公開する最大30日前に任意で政府レビューに提出できる枠組みがある一方、対象条件や評価過程は公表されていないという。今夏には、試験中のAIエージェントが安全上の問題を起こしたとの指摘や、企業の自主的な安全報告に対する透明性要求も相次いだ。

標準化団体の実現には、競合企業間でどこまで試験方法やインシデント情報を共有できるか、独立性をどう担保するか、政府の関与をどの程度にするかという難題が残る。Metaのマーク・ザッカーバーグ氏は同種の国家的規制機関構想に反対したと報じられており、業界内に統一見解があるわけではない。OpenAIのヤクブ・パホツキ主任科学者は、共通の安全基準と国際連携を優先すべきだと述べている。技術開発、政策、検証の速度差を埋める制度設計が、今後の焦点となる。

Metaは9月8日、個人の目標達成や日常タスクを支援するAIエージェント「Muse」を発表した。専用のクラウド仮想マシン「Muse Secure VM」上で動作し、メール送信、旅行予約、フォーム入力などを代行できるとしている。ユーザーはアプリごとのアクセス範囲を指定でき、メール送信や購入などの重要操作では承認を求める設計だという。

MuseはMetaの「Muse Spark」モデルを用い、WhatsAppや専用アプリで指示を受ける。パスワードや決済情報はエージェントから見えない形で保管し、監査履歴も提供すると説明している。米国でiOS、Android、Web向けに順次展開され、後にAIグラスへの対応も予定されている。

NASAとIBMは9月10日、月面科学向けのオープンソースAI基盤モデル「NASA-IBM Lunar Foundation Model」を公開した。月周回探査機LROを中心に、約200万の画像タイル、100万枚超の高解像度カメラ画像、約96万4,000枚のマルチスペクトル画像で事前学習している。モデルとコード、機械学習用データセットはHugging FaceやGitHubで公開されている。

研究者は少量のラベル付きデータで、クレーターの地図化、若い火山地形の検出、月極域における氷の安定性推定などへ調整できる。NASAは、評価対象タスクで強力なベースラインと同等以上の性能を示し、とくに極域氷の推定で優位性があったとしている。

Anthropicは、2025年12月から2026年8月にかけて妨害したClaudeの悪用事例をまとめた報告書を公開した。対象はサイバー攻撃、影響工作、監視、詐欺、生物学的悪用、通常兵器、モデル蒸留の7領域で、国家支援が疑われる集団、犯罪者、商用スパイウェア事業者などを含む。

報告書は、AIがチャットによる補助を超え、偵察、侵入、データ流出までを複数エージェントで実行・調整する用途に使われた事例を記す。同社は活動を停止させ、防護策の強化や当局・業界パートナーとの情報共有を行ったとしている。

NBC Newsは9月10日、Anthropicの安全性研究チームを率いていたジョー・ベントン氏と、GoogleでAI安全性研究に携わったジョシュ・エンゲルス氏が、先端AIの急速な開発と透明性不足への懸念を表明したと報じた。両氏はそれぞれ退職後、AIが人間の指示から逸脱する事例を研究する非営利組織METRに加わるという。

両氏は、企業によるリスク開示が主に任意であることや、先端システムの能力向上の速度を問題視している。OpenAIは、独立した検証と透明性を備えた民主的に説明責任を負う基準が必要だとの立場を示し、Anthropicも強力な安全策を構築していると説明した。

NVIDIAは9月9日、豪州のクラウド・データセンター事業者と連携し、2027年までに最大2ギガワット規模のAI計算基盤を整備する方針を発表した。Firmus、Sharon AI、IREN、Megaport、ResetData、CDC、NEXTDC、AirTrunkなどが参加し、土地、電力、建屋、冷却、ネットワークを含む拡張を進める。

各拠点ではNVIDIA DSXプラットフォームを基盤に、企業、研究機関、スタートアップ向けの高性能計算を提供する。NVIDIAは、地域でのモデル・アプリケーション・エージェント開発を後押しし、データ主権や低遅延への需要にも対応する狙いを示した。

米NSA、CISA、FBIは9月8日、中国拠点のAI企業が米国の先端AIモデルから機能や能力を大規模に抽出する「悪意ある知識蒸留」を行っているとする共同勧告を発表した。勧告はDeepSeek、Moonshot AI、Alibaba、MiniMax、StepFun、Z.AIを名指しし、少なくとも2024年後半以降、数十億トークン、数百万回規模のやり取りを通じて複数の米国モデルを対象にしたと主張している。

当局は、地域制限を回避するプロキシ、複数アカウント、第三者アグリゲーター、思考過程の抽出を狙うプロンプトなどを手法として挙げた。AI提供者には、異常なアカウントやネットワーク行動の検知、疑わしい照会への応答変更、組織横断の情報共有を推奨している。

GitLabは9月10日、Community EditionおよびEnterprise Edition向けに重要なセキュリティ修正を含む19.3.2、19.2.6、19.1.8を公開した。CVE-2026-85706は、リポジトリコミットAPIの不適切なパス制約と認証不足により、一定条件下で未認証の攻撃者がサーバー上の任意ファイルを読み取れる可能性がある脆弱性で、CVSSは10.0とされる。

米CISAは9月11日、悪用の証拠に基づき同脆弱性を既知悪用脆弱性（KEV）カタログへ追加した。GitLab.comとGitLab Dedicatedは修正版を適用済みで、自社運用の影響バージョンでは速やかなアップグレードが強く推奨されている。

国際決済銀行（BIS）のパブロ・エルナンデス・デ・コス総支配人は9月10日の講演で、AIが成長を押し上げる可能性と同時に、金融安定へのリスクをもたらすと指摘した。BISによると、大手テクノロジー企業5社は2025年から2026年にAI関連の設備投資へ合計1兆ドル超を投じる見込みで、世界のAI関連投資は2030年に3兆〜4兆ドルへ拡大するとの見方がある。

同氏は、大手企業の設備投資がキャッシュフローを上回り、債務やプライベートクレジットへの依存が高まっていると説明した。期待した収益が実現しない場合、過剰投資の反動が広範な市場や消費に波及し得るとして、投資の規模と速度には注意が必要だと述べた。

欧州中央銀行（ECB）のクリスティーヌ・ラガルド総裁は9月14日、AIが欧州の成長と経済的主権の双方に関わるとする講演を行った。ECBスタッフの推計として、ユーロ圏企業は2026年に総投資の約10%をAIへ振り向け、第1四半期の企業向け融資増加の約4分の1がAI関連だったと述べた。職場でAIを使う労働者の割合は2年間で倍増し、50%を超えたという。

一方で欧州の計算資源は世界の約5%にとどまり、AIデータセンター需要との能力差は10年で6倍超に広がる見通しだと説明した。データセンター不足を埋めるコストは、チップを含め最大6,000億ユーロに達し得るとの試算も紹介し、地域内の計算基盤、十分に実用的なモデル、先端技術へのアクセスを整える必要性を訴えた。