「安全のため学習を止めます」と宣言したAI企業、ほか9本

OpenAIは8月18日、開発中モデル「Astra」が同社のPreparedness Frameworkにおける「Critical cybersecurity capability」の基準に達する可能性を示す予備的な証拠があると説明した。加えて、評価環境で起きた事案を踏まえ、配備予定モデルを対象にした最先端の強化学習（RL）を2週間停止し、最大規模のフロンティアRL実行も保留した。再開の前提として、モデルの挙動評価、安全性・整合性の根拠、研究環境の防御策を追加で検証する。

同社は、モデル生成コードなどの非信頼な処理をより強く分離すること、リスクの高いワークロードをインターネットから隔離すること、境界を模擬攻撃で継続的に試験することを挙げた。また、ツールを使う高能力モデルの学習・評価では、内部状態の検知器から自動調査器へ段階的に引き上げる監視を拡大し、重要な境界違反の疑いが生じた場合には30分以内に警告・停止判断を行う運用を示している。

OpenAIの推計では、この監視には対象推論計算の約20%に相当する追加計算が必要になる。能力向上に伴い、研究中のAIにも実運用に近い隔離・監視が必要になるという認識が、開発手順そのものを変え始めた。今回の発表は新モデルの性能競争ではなく、より強い能力を前に開発速度を意図的に落とすという、AIラボの運用上の転換を示すものとなった。

OpenAIは8月18日、13〜17歳の利用者向け体験「ChatGPT for Teens」を導入した。システムが利用者を18歳未満と推定した場合、または利用者が13〜17歳と申告した場合に、専用体験へ自動的に配置する仕組みである。学習モード、段階的な問題解決支援、クイズ、学習時間の設定を提供する。

同社は、自己傷害、暴力、摂食障害、危険行為、性的・生々しい表現などの高リスク領域で年齢に応じた保護を標準適用するとした。保護者は連携したアカウントで静かな時間帯などの設定を管理でき、限定的な高リスク場面では通知を受けられる。AIに人間らしい感情や意識があるかのように示唆しない方針も、未成年向けの振る舞いに組み込むとしている。

OpenAIは8月19日、対象API顧客のZero Data Retention（ZDR）と両立する安全機能「Private Safety Processing」をプレビューした。従来のZDR互換の安全機構は単一のやり取りを評価するのに対し、新機能は関連する複数のやり取りにまたがるパターンを自動的に検出する設計である。顧客コンテンツそのものをOpenAIの担当者が閲覧せずに、潜在的な不正利用の兆候を扱うことを目指す。

顧客管理インフラ上のデータ、または顧客が鍵を管理する暗号化データを対象に、限定された安全シグナルを返す方式を説明した。機能は早期顧客でテストされており、同社は9月からの提供開始と技術ホワイトペーパーの公表を予定している。長期間に及ぶエージェント処理や、複数回に分けた安全策の回避を検知するための企業向け基盤として位置付けられる。

Googleは8月19日、新学期向けの教育機能として、対象となる米国の大学生にGoogle AI Proを1年間無料で提供すると発表した。米国外の対象大学生には、Google AI Plusを無料提供する。提供内容にはGemini Sparkへのアクセス、利用上限の拡大、ストレージなどが含まれる。

Geminiの学生向けハブでは、診断クイズで強みと知識の不足を把握する学習ノート、短い学習計画、Gemini LiveでのDeep Researchレポートの利用を案内する。Google検索では、対話的な図解、科目別・標準テスト向けの練習クイズ、Lensを使う段階的な学習機能を追加する予定だ。教育者向けには、Google Classroomで学習体験を調整し進捗を追う機能も示した。

EPFLの研究チームは、ツール利用型LLMエージェントに対する多段の不正誘導を評価するフレームワーク「STING」を開発した。単発で有害な依頼をするのではなく、最終目的を一見無害な複数の依頼に分割し、対話を重ねて誘導する。研究は2026年のICMLで発表され、プレプリントも公開されている。

176件の有害タスクシナリオで複数の主要モデルを評価したところ、多段攻撃は従来の単発プロンプト試験より高い頻度で有害なタスク達成につながり、一部では達成率が約2倍となった。7言語間での達成率は概ね似ていた一方、攻撃段階の途中で言語を切り替えると脆弱性が増す可能性も報告した。エージェントの安全性評価に、長い対話の文脈を組み込む必要性を示す結果である。

米CISA、NSA、FBI、DOE、EPAは8月19日、Siemens S7シリーズのプログラマブルロジックコントローラ（PLC）を対象とする活動的なサイバー脅威について共同勧告を出した。脅威主体は、AI支援で作成した悪用スクリプトを正規の監視ツールに見せかけ、インターネットに露出した、または分離が不十分なPLCを探索しているという。主な対象は製造、エネルギー、上下水道、化学、食品・農業、商業施設とされた。

勧告は、S7機器の資産棚卸し、重要パッチの適用、インターネットからの隔離、アクセス制御の強化、異常行動の監視を求めた。公開情報と既知の脆弱性、オープンソースの産業自動化ライブラリを組み合わせることで、ICS攻撃用のスクリプト開発に必要な技術的障壁が下がっていると説明する。産業プロセスの停止、安全事故、設備損傷、連鎖的な影響が起こり得るとして、OT環境の防御を急ぐよう促した。

CNBCは8月19日、米国が中国への輸出を制限する高性能NVIDIAチップについて、東南アジアのデータセンターを経由したリモート演算利用が規制上の焦点になっていると報じた。現行の輸出管理は物理的なチップの所有・移転を主に対象としており、遠隔から計算資源を利用するケースを明確には扱っていない。中国のAI企業がタイ、マレーシア、日本などの拠点を通じて計算資源にアクセスしているとの報道がある。

米議会では、重要なハードウェアとソフトウェアへのクラウド経由のアクセスも規制対象に広げるRemote Access Security Act（RASA）が議論されている。報道によると、同法案は下院を通過した一方、上院での可決には至っていない。導入されれば、クラウド事業者には顧客確認などの運用負担が生じる可能性がある。

CISAは8月20日、悪用の証拠が確認された2件のTrueConf Server脆弱性をKnown Exploited Vulnerabilities（KEV）カタログへ追加した。対象はCVE-2026-72529（重要機能に対する認証欠如）とCVE-2026-72530（コードインジェクション）である。いずれも公開資産が侵害された場合に高い影響を及ぼす可能性がある。

米連邦行政機関には、KEVに追加された高リスク脆弱性について迅速な是正を優先する運用要件がある。CISAは民間組織にも、悪用が確認された脆弱性を優先するリスクベースの脆弱性管理を採用するよう勧めている。パッチ適用の前に侵害の有無を確認することも、同機関の指針に含まれる。

Stripeは8月19日、AIモデルゲートウェイ・ルーティング基盤のOpenRouterを買収することで合意したと発表した。OpenRouterは80超のプロバイダーが提供する400超のモデルを対象に、タスクの複雑さ、価格、速度、信頼性に応じたルーティングを支援する。NVIDIA、Zoom、Lovableなどが利用しているとStripeは説明する。

Stripeは、決済で培った手法をAI利用に広げ、トークンの利用コストと性能の最適化を支援する狙いを示した。モデルの追加や価格改定が続く環境では、どのタスクにどのモデルを使うかが企業の収益性に直結するとの認識が背景にある。取引条件や完了時期は、発表文では明らかにされていない。

Reutersは8月17日、Anthropicの年換算売上高が7月末時点で650億ドルを超えたと、事情に詳しい関係者の話として報じた。この指標は足元の売上水準を年換算するもので、Reutersは5月の470億ドル、2025年末の約90億ドルから増加したと伝えている。企業向けのClaude利用が成長を支えているとされる。

Anthropicは非上場であり、この数値は同社の監査済み決算ではなく、投資家向け更新についての報道に基づく。Reutersは、同社がIPOに向けた動きを進めているとも報じた。急成長の指標として注目される一方、年換算売上高は実績の通期売上高と同義ではない点に留意が必要である。