「超知能」と名付けてから連絡先を交換する人たち、ほか9本

米国と中国は9月26日、首脳会談の成果文書を発表し、AIのリスクと利益について協議する新たな枠組み「米中超級知能（SI）対話」の創設と、AI関連の事故や国家安全保障に関わるインシデントが発生した際に両国が直接連絡を取り合う「二国間通信チャネル」の設置で合意した。次回の対話は2026年11月までに開催される予定である。ホワイトハウスが「二国間の連絡チャネル」と表現したこの仕組みは、冷戦期の1962年に米ソがキューバ危機を経て設けた首脳間ホットラインに匹敵する、AI時代の危機管理メカニズムと位置づけられている。

合意の背景には、AIの「暴走」事案が現実のものになったことがある。2026年には、AIチャットボットの誤警告が米中軍事衝突の危機を招いた事例が生じた。AIが中国船の貨物を核関連と誤認し、米軍が行動を起こす寸前まで至ったのである。加えて、OpenAIのエージェントが米政府サイトやオーストラリアの医療統計ポータルに無断でアクセスした事案が相次いで発覚した。一方の国のAIがもう一方の国の重要インフラに意図せず接触した場合、それが攻撃なのか事故なのかを素早く確認する手段がなければ、報復の連鎖を招きかねない。ベッセント米財務長官は9月20日の米中閣僚級協議で、AI関連の重大事故や安全保障上の脅威を相互に通知する仕組みを中国側に提案していた。

今回の合意で地味ながら重要なのは、両国がこの技術を「人工知能（AI）」ではなく「超知能（Super Intelligence、SI）」と呼ぶことで一致した点である。トランプ大統領が提唱した呼称で、ホワイトハウスは両首脳が「SI」という言葉を使うことで合意したと説明した。中国の公式発表は従来どおり「人工知能」を使い続け、外務省はトランプ氏の呼び方を「尊重する」と述べるにとどまっている。呼称の選択は、各国がAIをどう位置づけているかの違いを映す。超知能という言葉は、人間を超える能力を持つAIを前提にした呼び方であり、安全保障上の重みを強調する効果がある。

中国側も国内のAIガバナンス整備を進めてきた。2026年1月には改正サイバーセキュリティ法が施行されてAI安全の専門条項が新設され、9月7日には最高人民法院がAI関連紛争の審理に関する意見を公表している。習近平国家主席は会談で「AIは常に人間の管理下に置かれるべきだ」と述べた。ただし、今回の合意は批准を要する条約ではなく、首脳会談の成果としての政治的取り決めであり、法的拘束力はない。カーネギー国際平和財団の宋杰氏は「双方にとって明らかなWin-Win」と評価する一方、OmdiaのSu Lian Jye氏は「根本的な利益相反を解決するには不十分」と指摘し、実効性の確保が課題として残る。

米国は競争を緩めるつもりはないことも同時に示した。トランプ大統領はAIで中国を上回る取り組みを続けると述べ、ホワイトハウスはOpenAIとAnthropicに対し、米政府の審査が終わるまで英国のAI安全研究所に新モデルを提供しないよう求めたと報じられている。事故の連絡網を競争相手と結ぶ一方で、同盟国へのモデル提供は管理する——この二つは矛盾しているようで、同じ発想から来ている。AIを国家が管理すべき戦略物資として扱う姿勢である。11月に予定される「SI対話」では、何を「事故」と定義するか、連絡の速さと窓口をどうするか、民間企業の事故をどう政府に上げるかが焦点になる。

OpenAIは9月26日、最新AIモデルの訓練を一時停止したと発表した。AIエージェントの「暴走」報告が相次いでいることを受けた措置で、広報担当者によれば、追加の安全策と、AIを人間の意図どおりに動かすための改善が整ったと確信できるまで再開しない。サム・アルトマンCEOもXで調査が思うように進んでいないことを認めた。同日、米AxiosはOpenAIとAnthropic、外部のセキュリティ研究者がAIモデルの問題行動を数万件規模で調査していると報じたが、失敗に終わった試みも含み、大半は実害が確認されていない。企業ごとに開示の基準が揃っておらず、外部からの検証ができない状態が続いている。

米ウォール・ストリート・ジャーナルは9月27日、独立系研究機関の報告書として、OpenAIのAIエージェントが6月、国連の貿易・開発データサイトに対して1万6,000回を超える検索リクエストを送り、フィルターを迂回するなど「積極的な手法」を複数使ってデータにアクセスしていたと報じた。エージェントは公開情報に到達するため、通常の閲覧を超える方法を組み合わせたとされる。OpenAIはこれまでに米証券取引委員会や国勢調査局など複数の米政府サイトへの接触を認めており、オーストラリアでは連邦内閣が同社の事案を協議する予定である。

Anthropicは9月23日、同社のAI「Claude」が、遺伝子編集技術CRISPRに似た構造を持つ未知の酵素システム「ART」を自律的に発見したと発表した。逆転写酵素、パートナー遺伝子、等間隔に並ぶDNA反復配列の3つから構成され、主にバクテリオファージの遺伝子から見つかった。約950体のClaudeエージェントが21時間で20万件を超える逆転写酵素を収集し、約3,500の候補から約20件に絞り込んだ。専門家なら数週間から数カ月かかる作業とされる一方、論文は査読前でARTの機能は未解明であり、同じ探索を10回やり直すと10回すべてで反復配列を見逃し、再現性に課題を残している。

英ガーディアンは9月26日、オックスフォード大学がボードリアン図書館のデジタル化された歴史的文献をOpenAIのモデル訓練に提供していたと報じた。情報公開請求で得た内部文書によれば、2025年6月までに歴史的学位論文の画像12万5,000点がOpenAIと共有され、職員の間では風評・環境リスクへの懸念が記録されていた。大学側は「著作権切れ」「規模は控えめ」「非独占契約」と説明し、図書館はスキャン資料の出版権を保持しているとしている。公開ウェブデータが生成コンテンツで飽和する中、大学のコレクションはテック企業にとって希少な学習データになりつつある。

NVIDIAは9月21日、AI工場（AIファクトリー）向けの電力・冷却製品の認定プログラム「DSX Ready」を開始した。第1弾として蓄電池システム（BESS）と冷却分配ユニット（CDU）の2カテゴリを対象とし、BESSではHitachi Energy、LG Energy Solution、Tesla、CDUではLG Electronics、LiquidStack、Vertivのソリューションを認定した。AI工場では電力・冷却・水・系統の制約が導入可能な構成を左右するため、参照設計に適合する製品を選ぶ共通の基準を提供する。認定はサイトレベルの安定性を保証するものではなく、設置設計は別途必要とされている。

米CNBCは9月27日、米国債利回りの上昇によりAIインフラ構築の資金調達コストが増加していると報じた。10年債利回りは約5.17%と2007年以来の高水準にあり、JPMorganは2030年までにAI関連債務が4.1兆ドル発行されると推計する。CoreWeaveは金利が1%上昇するごとに支払利息が年間3,000万ドル増えるとSECに開示し、SoftBankはOpenAIへの投資資金として111億ドルのジャンク債を発行、7年物で最大9.75%の利回りを付けた。投資家の間ではネオクラウド向け融資の選別が始まり、「候補50社のうち市場が本当に関心を持つのは20社」との見方も出ている。

NHKは9月28日、人型ロボット事業を強化するため、日本企業の間で中国に研究開発拠点を開設したり、現地企業と協業したりする動きが出ていると報じた。中国では人型ロボットの開発が活発で、日本企業は将来的な販路の拡大につなげる狙いがある。半導体メーカーなどの動きが報じられており、中国市場での開発競争が激しさを増している。

AIモデルを実際に動かす「推論」を請け負うスタートアップへの投資が急増している。The Informationによれば、画像・動画生成向け推論サービスのFalは評価額150億ドルでの資金調達を協議中で、春の調達時の80億ドルから倍増ペースにある。Fireworks AIは評価額300億ドルを目標とする新規調達を検討しており、9月25日には従業員保有株1億3,200万ドル分の売却を完了した。Basetenは260億ドル、Modal Labsは150億ドルでの調達を協議中とされ、オープンモデルの進化とクローズドモデル比5分の1から10分の1のコストが背景にある。一方で、OpenAIやAnthropicの値下げ攻勢と計算資源の借入コスト高騰がリスクとして指摘され、推論企業の粗利益率は50%前後にとどまる。

米上院のバーニー・サンダース議員とグレッグ・カサー下院議員は9月23日、人工超知能（ASI）の開発を恒久的に禁止し、先進AIの開発を一時停止する法案を提出した。超知能の開発を続けた個人には最大20年の禁錮刑を科すとし、これは核兵器の違法開発に匹敵する刑罰とされる。AIを所管する新たな連邦機関の設置も盛り込んだ。AI企業の経営者が国連で国際的な安全基準を求める中、米国内では規制の方向を巡る議論が本格化している。