AIを「助手」から「攻撃の指揮者」へ昇格させた人たち、ほか9本

Anthropicは9月12日、2025年12月から2026年8月にかけて同社が検知・妨害したAI悪用事例をまとめた脅威情報レポートを公開した。対象はサイバー作戦、監視、影響工作、通常兵器、生物学的悪用、詐欺、不正蒸留の7領域で、国家と結び付くとみられる集団、金銭目的の犯罪者、商用スパイウエア事業者などが含まれるとしている。

サイバー領域では、AIの利用が個別の質問応答やコード補完にとどまらず、偵察、侵入、資格情報の窃取、データの整理・持ち出し、検知回避までをつなぐワークフローの実行・調整へ進んだと報告した。人間は標的の指定や最終確認を担う一方、複数のエージェントが手順を継続的に処理する構成が確認されたという。

同社がGTG-20006として扱う事例では、ロシアと関連するとみられる活動者が、AI支援のワークフローを用いて開発、インフラ調達、フィッシング、持続的アクセス、データ流出を自動化したと説明する。AIエージェントは、マルウェアが防御製品に検知された場合に、検知を回避するよう改変・再構築・再配備を繰り返すよう設計されていたとされる。報告書は、こうした構造が攻撃者の速度、規模、知識の深さを引き上げ、防御側が新しい検知を展開しても優位を保ちにくくなる可能性を指摘した。

Anthropicは各事例を妨害し、得られた知見を安全策の強化や当局・業界パートナーとの情報共有に利用したとしている。同社の分析は、AI利用が攻撃の能力をどの程度増幅したかを「速度・規模・深さ」で評価する枠組みを示しており、今後はモデルの安全機能だけでなく、API利用の監視、インフラ側の検知、組織間の情報連携が同時に問われる。

OpenAIは9月9日、米連邦政府に対し、モデルの能力とリスクに応じた義務的なAI安全規制を求める方針を公表した。提案には、共通の試験・独立評価、サイバーセキュリティ保護、重大インシデント報告、フロンティアAIの進展を追う指標が含まれる。連邦法が整うまでの措置として、独立評価機関、AI監査、青少年保護、AIによる生物リスク対策に関するカリフォルニア州法案4本も支持した。これは規制の決定ではなく企業の政策提言だが、フロンティア開発企業自身が監視と報告の共通基盤を求める動きとして注目される。

Googleは9月9日、GeminiがGmail、Drive、Docs、Slides、Chatを横断して複雑な業務を進める新たなエージェント機能を発表した。選択または管理者が有効化した情報源をもとに、Chatからプレゼンテーションを作成したり、Drive上のファイルから表を組み立てたり、Docsの内容をメールにしたりできる。長いメールスレッドを文書化する機能や、Docsの文章をブランドに沿った編集可能なスライドへ変換する機能も含まれる。対象プランでは順次展開される予定で、出力内容は利用者が確認・修正する前提とされる。

Metaは、利用者の目標や習慣に合わせて作業を行う個人向けAIエージェント「Muse」を米国で提供開始した。報道によると、Museは利用者の許可の下でオンライン購入、文書作成、フォーム入力、メール返信などを実行でき、専用のクラウド仮想マシン上で動作する。外部との各やり取りは、Museが上書きできない「Sentinel」エージェントを経由して判断させる構成だという。iOS、Android、Webで提供され、Metaは週1億トークンまで無料で利用できるとしている。

OpenAIは、13〜17歳の若者の生活や発達に生成AIが与える影響を調べる独立研究に、総額500万ドルを助成すると発表した。個別の助成額は最大100万ドルで、利用パターン、社会・感情面の発達、年齢に応じた設計、保護策や政策の効果などを対象にする。未成年を対象にする研究には、同意・アセント、プライバシー、データ保護、有害事象への対応、倫理審査などを求める。応募は10月6日まで受け付け、採択案件には最終報告と進捗共有が求められる。

Google Threat Intelligence Groupは9月8日、攻撃者によるAI悪用が基本的なプロンプト利用からエージェント型のワークフローやAI自動化へ移っているとする報告を公開した。Q2には、侵害済みのクラウド資源から、資格情報を大量に収集するエージェント型キャンペーンを6時間未満で計画、構築、実行した事例を観測したという。報告は、AI支援コーディングやオープンソースの利用拡大が開発を速める一方、依存パッケージ、AIコーディング支援、LLMセキュリティスキャナーを標的にするサプライチェーン攻撃のリスクも高めていると指摘する。モデル、ソースコード、API資格情報、クラウド計算資源そのものが、知財窃取や恐喝、計算資源の不正利用の標的になっている。

米CISA、NSA、FBIは9月8日、米国のフロンティアAIモデルから独自機能や能力を抽出する、産業規模の知識蒸留活動について共同勧告を公表した。勧告は、中国に拠点を置くAI企業が多数のアカウント、API、クラウド事業者、第三者アグリゲーター、プロキシを組み合わせ、地理的制限や検知を回避しながら高頻度の照会を行っていると主張する。対策として、異常なプロンプト・アカウント・ネットワーク・利用挙動の監視、疑わしい要求に対する応答の調整、モデル提供者・クラウド・API事業者間の情報共有を推奨した。勧告に挙げられた主張や帰属は米政府機関の評価であり、関係企業側の見解も含めて継続的な検証が必要となる。

EUサイバーセキュリティ機関ENISAは9月11日、Cyber Resilience Act（CRA）の報告義務を支えるSingle Reporting Platform（SRP）の初期運用を開始した。デジタル要素を持つ製品のメーカーは、積極的に悪用されている脆弱性や重大インシデントを、同プラットフォーム経由で関係当局に報告できる。CRAの報告義務は同日からメーカーに適用され、オープンソースソフトウェアの管理者には2027年12月11日から、一定の条件で適用される。主要なサイバーセキュリティ要件の適用開始は2027年12月11日で、SRPは各国CSIRTとENISAの情報共有を支える共通窓口となる。

フランスのMistral AIは9月8日、30億ユーロを調達し、評価額が約210億ユーロになったと発表した。Reutersによると、この資金調達にはSamsung Electronics、PSG Equity、EQTが運営するEU支援のScaleup Europe Fundが参加した。Mistralは、非公開の欧州テクノロジー企業として最大規模の株式調達だとしており、同社の財務責任者は年末までに年間経常収益10億ドルを目指す考えを示した。米中の大手モデル企業への依存を減らしたい欧州の企業・政策側にとって、オープンウェイトを掲げる同社の資本基盤が強化された形となる。

国際決済銀行（BIS）のパブロ・エルナンデス・デ・コス総支配人は9月10日の講演で、AIがデータセンター、半導体、クラウド、ハードウェアへの投資を押し上げ、世界のマクロ金融環境に影響していると述べた。講演は業界参加者の見通しとして、AI関連投資が現在の約5,000億ドルから2030年には3〜4兆ドルへ増える可能性に言及した。一方で、大手企業のAI投資がキャッシュフローを上回り、債務やプライベートクレジットへの依存が高まること、株式価値が少数企業に集中していることを金融安定上の論点に挙げた。生産性向上の可能性を認めつつも、将来収益が期待を下回れば投資の急減速が広く波及しうると警告している。