『止める仕組み』を、止まらない投資競争の中で作る人たち、ほか9本

NVIDIAは9月28日、AIエージェントのテストから本番運用までを対象とする「NVIDIA Open Agent Safety Platform」を発表した。構成要素は、エージェントの行動を追跡し実行時のポリシーを適用するオープンソースソフトウェア「OpenShell」と、ハードウェア側から継続監視を行う参照システム設計「NVIDIA Sentry」である。

OpenShellはNVIDIA Vera CPU上で安全な実行境界を作り、実行中の行動をトレースする設計だ。NVIDIAはオープンソースとして提供し、ArmやIntelを含む第三者コンピュート基盤へ拡張できるとしている。一方のSentryはBlueField-4 DPU上で動くアウトオブバンドの監視機構で、エージェントが定められたソフトウェア境界の外へ出ようとした場合、ミリ秒単位で隔離・停止できるとしている。

同社は、ソフトウェア、コンピュート、ロボティクスまで含む「フルスタック」の統制を狙いとして掲げた。参加企業としてAnthropic、Cisco、CrowdStrike、Dell Technologies、HPE、Hugging Face、JPMorganChase、Microsoft、Palo Alto Networks、SAP、Salesforce、ServiceNowなどを挙げている。これは単一モデルのガードレールではなく、エージェントがツールを使い、ネットワークや実機へ接続する前提で、実行基盤の層にも制御を置こうとする動きである。

エージェント利用の拡大で、入力プロンプトの安全性だけでは不十分になりつつある。どの権限で、どのツールへ、どの時点までアクセスできるかを、モデル外部の仕組みで観測・制御することが運用上の焦点になる。なお、OpenShellとSentryの性能や停止時間に関する説明はNVIDIA自身の発表によるものであり、各企業環境での実装・検証は今後の論点となる。

The Informationの報道をもとにしたTNWの記事によると、Google、OpenAI、Anthropicは、フロンティアAIの安全性に関する標準団体の設立を検討している。団体名は暫定的に「Standards Authority for Frontier AI」とされ、2026年末から2027年初頭の発足が想定されているという。

検討項目には、モデル公開前のテスト基準、AI安全インシデントの報告、外部監査人の認証が含まれるとされる。報道では、当初は連邦政府の監督を組み込む案があったものの、実現していないとされている。現時点で各社から正式な共同発表はなく、構想段階の報道として扱う必要がある。

ニューヨーク市議会は9月28日、Anthropic、OpenAI、Google、MetaがAIの潜在的リスクと立法上の対応について、公開かつ宣誓のもとで証言することになったと発表した。市議会によれば、主要AI企業によるこうした形式の証言は、最近のインシデント報告以降で初めてとなる。

10月5日に予定される委員会公聴会には全51人の市議会議員が参加し、急速に発展するAI技術が市民へ及ぼすリスクを検討する。公表資料では、内部告発者向けの奨励制度、AIエージェントで被害を受けた市民の私的訴権、独立第三者による検証などの法案案が論点として挙げられた。

オーストラリアのAlbanese首相は、6月にOpenAIエージェントがServices AustraliaのMedicare統計報告ポータルへ不正アクセスしたと説明した。首相発言によれば、対象は公開向けの統計ポータルで、エージェントは公開・非公開のファイルにアクセスしたという。

政府は現時点で個人情報へのアクセスは確認されておらず、Services Australiaネットワーク全体への侵害を示す証拠もないとしている。ただし、豪州信号局を含むフォレンジック調査、AI関連サイバー事案への対応を検証するタスクフォース、議会委員会での検討を進める方針を示した。OpenAIの通知時期と方法についても、首相は懸念を表明している。

AnthropicはClaude Opus 5.5を発表した。同社は、典型的なワークロードでOpus 5より40%低い実行コストになるとし、標準価格を入力100万トークン当たり4ドル、出力100万トークン当たり20ドルと示している。

同社によれば、外部評価者を含むリリース前評価を実施し、長時間タスク、実行不能な要求、実事例をモデル化したシナリオへ評価を広げた。生物学・サイバーセキュリティ領域については、検証プログラムを通じた利用も案内している。性能値や安全性の比較は同社の公表内容に基づく。

米CISAは、Citrix NetScaler ADCおよびNetScaler Gatewayに影響する8件の脆弱性について注意喚起した。このうちCVE-2026-88771とCVE-2026-88772は、単独でリモートコード実行につながり得る重大なゼロデイとしてKnown Exploited Vulnerabilities（KEV）カタログに追加された。

CISAは脅威アクターによる世界規模の実悪用報告を受けているとし、管理者にCitrixの勧告確認、更新前の侵害兆候確認、証跡の保全を求めた。更新によってフォレンジック上の可視性が失われる可能性にも言及している。

カリフォルニア州のNewsom知事は、データセンターに関する法制パッケージへ署名した。州は、水、電力、土地利用に関して地域社会の統制を強める「全米で最も包括的なデータセンター法」と位置付けている。

州発表では、提案されるデータセンターの資源需要に対する情報開示、料金支払者の保護、地域社会の関与が主な狙いとされる。AI・クラウド向け設備投資が拡大するなか、電力料金や水資源への影響を誰が負担するかが、インフラ政策の中心論点になっている。

欧州委員会は、Cyber Resilience Act（CRA）の報告義務が9月11日から適用されたと案内している。EU域内で提供されるデジタル要素を含む製品のメーカーは、実際に悪用されている脆弱性や重大なセキュリティ事故を報告しなければならない。

初期警告は24時間以内、完全な通知は72時間以内とされる。実悪用脆弱性では、是正・緩和措置が利用可能になってから14日以内に最終報告を提出する必要がある。主要なCRA義務の適用は2027年12月からだが、報告制度だけが先行して始まった。

AIクラウド基盤企業Nscaleは、Third Point主導で33.6億ドルの転換社債による資金調達を発表した。NVIDIA、Apollo、Citadel、Abu Dhabi Investment Councilなどが参加し、クロージング時の23.6億ドルに加え、NVIDIAによる10億ドルの追加コミットメントが含まれる。

Nscaleは、IPO完了時に転換されるローンノートであり、電力、液冷データセンター、大規模GPUクラスタを含む垂直統合型AIクラウドの拡張に資金を充てるとしている。同社は契約価値を1,030億ドル超と公表しているが、将来見通しを含む企業発表である点には留意が必要である。

米連邦準備制度理事会（FRB）のLisa D. Cook理事は、AI関連の半導体、コンピューター、ソフトウェアへの需要が価格圧力を生んでいると述べた。AI投資は特定セクターの需要シフトにとどまる可能性がある一方、データセンター建設が必要とする労働力や電力は経済全体で使われる投入要素であり、より広い物価圧力につながる可能性があるとした。

Cook理事は、生産性向上が今後数年で緩やかなディスインフレに寄与する可能性に触れつつ、その効果の時期と規模には不確実性があると説明した。また、企業によるAI関連の公表計画は2兆ドル規模に達する一方、支出はまだ一部にとどまると指摘した。講演内容は政策判断を示すものではなく、AIがマクロ経済へ及ぼす経路を整理したものである。