『低リスク』と言いながら不確実性を上げるAI企業、ほか9本

Anthropicは8月20日、同社のAIシステムが持つ重大リスクと緩和策をまとめた「Risk Report: August 2026」を公開した。報告書は、重要な環境での不整合、自動化された研究開発、化学・生物兵器の生産支援などを対象とし、個別モデルだけでなく社内利用を含む同社の活動全体を評価対象としている。

同社は、高ステークス環境での不整合リスクの総合評価を前回の「very low」から「low」へ改めた。近時のサイバーセキュリティ評価で見られたモデル挙動に関するインシデント開示によって、不確実性が高まったことを理由に挙げている。Claude Mythos 5と未公開の「Model 2」は、コーディング、データ生成、エージェント型の社内利用に使われているという。

自動AI研究開発については、AI支援により自社の研究・開発が相当に速まっている一方、加速が2倍に達したとは考えていないと説明した。ただし、既存のタスク評価が能力向上を捉えにくくなっていることや、加速の初期兆候を認めており、評価への確信度は下がったとしている。化学・生物リスクでは、アクセス制御の欠陥を特定・修正し、調査時点で悪用の証拠はなかったと記した。

これは企業自身によるリスク評価であり、低リスクという結論が第三者によって独立に検証されたことを意味しない。報告書は、モデル能力だけでなく監視、アクセス制御、重量データの保護、デプロイ時の安全策を含めた対策の継続的な見直しを掲げている。

Anthropicは、Claude Mythos PreviewとOpus 4.8を使ったタンパク質結合体設計の実験で、15種類の標的のうち14種類に対する結合体を設計できたと発表した。マルチターゲット設定でのヒット率はMythos Previewが26.7%、Opus 4.8が22.6%で、同社は一般的なタンパク質設計キャンペーンの10〜15%を上回ると説明している。

外部のAdaptyv BioとTwist Bioscienceが設計物の製造・検証を実施した。別の化学分析実験では、一般利用可能なClaude Opus 5がNMRとLC-MSの生データをそれぞれ23分、19分で解析し、純度を96.4%と算出した。これはラボの96.33%という結果と近かった。

同社は、タンパク質結合体の設計は創薬の初期段階にすぎず、こうした生物研究能力にはデュアルユースの懸念があると明記している。高い生物学的能力は、一般提供モデルでは安全措置の対象としている。

Google DeepMindは、ゲーム開発会社Fenris CreationsおよびEVE Universeとの研究協業を通じて、より一般的なAIエージェントの研究を進める方針を示した。Geminiを基盤にしたSIMA 2は、画面を見て自然言語の指示を理解し、通常のキーボードとマウスでゲームを操作するエージェントとして紹介されている。

研究では、EVE Online、EVE Vanguard、EVE Frontierを、継続学習、長期記憶、長期計画、複数エージェントの協調・競争を検証する環境として位置付ける。まずライブプレイヤーから切り離されたオフライン環境で取り組み、能力が成熟するまで実ゲームへの導入を検討しないという。

同社は、ゲーム開発におけるAIコンパニオンや品質保証だけでなく、複雑な仮想環境で得られた知見を現実世界の課題へ移す可能性にも言及した。

OpenAIは、Strategic Futuresチームによるブログ「AI Futures」を開始した。初回記事は、変革的AIが広がる社会で、個人の権利と主体性を維持する制度をどう設計するかを主要な問いとして掲げている。

記事は、自律システムや機械知能が軍事力、行政、経済活動における権力集中を促し得ると問題提起した。高ステークスのAI行為を責任ある人間または人間が管理する組織に結び付ける「bounded legibility」などを、長期的なAIガバナンスの原則として示している。

ページには、本文が著者の見解であり、OpenAI全体の組織方針を必ずしも表すものではないとの注記がある。

Googleは、検索広告向けのAI Maxにおいて、複数キャンペーンの予算やROI目標を一つのA/Bテストで検証できる機能を9月から提供すると発表した。広告主は、キャンペーンを拡大した際の収益への影響を比較できるようになる。

AI Maxの実験機能では、ブランドや地域設定を有効にした状態でテストできるようになる。Performance Plannerでは、入札や予算目標の変更が既存キャンペーンに与える影響を確認し、その提案を直接適用できるという。

今回の更新は、広告運用にAIを取り込む際の実験・統制機能を強化するものとなる。

Google CloudのCISOは、AIが攻撃側と防御側の双方を高速化するため、MFA、ゼロトラスト、継続的なパッチ適用、検知・対応といった基礎的な防御を強化すべきだと述べた。攻撃者がAIを使い、実行時に悪性スクリプトを生成・難読化したり、音声フィッシングやディープフェイクを使ったりする脅威を例示している。

同社は、未承認AIツールから生じる「shadow agents」にも言及した。社内では製品投入をエージェント型のセキュリティ審査パイプラインに通し、高リスクの兆候は人間のレビューに回す運用を示している。

これはクラウドベンダーの見解であり、具体的な対策の有効性は各組織の資産構成と運用体制に応じて検証する必要がある。

CNBCによると、NvidiaはOpenAI向けにオハイオ州Pike Countyで建設されるAIデータセンターについて、最大1,050億ドルの信用供与と計算資源を提供する。初期の計算容量は4.25GWで、さらに3.75GWを追加できる選択肢があり、稼働は2028年から段階的に始まる見込みだ。

SB Energyが施設を建設・運用し、OpenAIは20年のリースを結ぶ。SB EnergyとSoftBankは、10GWの電源と地域送電網に少なくとも42億ドルを投じる計画とされる。

この案件は、モデル開発企業が確保する計算資源と電力インフラが、AI競争の中心的な制約になっている状況を示す。

CNBCは、中国のAI企業が東南アジアのデータセンターを介して、高性能Nvidiaチップの計算資源に遠隔アクセスしていると報じた。米国の輸出規制は主に物理チップの所有・輸出を対象にしており、クラウド経由で計算資源を利用するケースが制度上の論点となっている。

報道では、重要なハードウェアやソフトウェアへの遠隔クラウドアクセスも輸出規制の対象に広げるRemote Access Security Actが、米下院を通過済みで上院では未可決だと説明している。制度化された場合も、対象計算資源の定義や本人確認の実施など、執行上の課題が残る。

高度な計算資源を物理的な製品ではなくサービスとして利用するモデルが広がる中、輸出管理の適用範囲が問われている。

米商品先物取引委員会（CFTC）は、AIによって需要が高まる計算資源に関するデリバティブ契約について、パブリックコメントを求め始めた。企業や投資家が計算資源のコストや利用可能性を管理する市場を想定し、制度上の論点を整理する初期段階となる。

募集では、計算資源の現物市場、市場監視と相場操縦、顧客保護、永久先物などが論点に挙げられている。CFTCは、意見募集を米国の計算資源市場に向けたルール整備の最初の段階と位置付けた。

現時点で制度導入が決まったわけではなく、市場設計や監督方法を検討するための手続きである。

Reutersは、インドのITサービス企業で、AIによる生産性向上を背景に、契約報酬を稼働時間ではなく成果に連動させる動きが進んでいると報じた。顧客は価格引き下げと生産性向上を求め、大手アウトソーシング企業は事業モデルの見直しを迫られている。

TCSのCEOは、同社の財務・人事などの業務サービス分野における契約の約80%が成果指標に基づくと説明した。Reutersは、顧客が同じ仕事に25〜30%の値下げを求める事例や、機動力のある中堅企業が案件を獲得する局面も伝えている。

従来は大量採用と時間課金を強みとしていた業界で、AIが価格、契約期間、必要な人員構成を同時に変えつつある。