Anthropic、Claudeエージェントにデータ監視システムの突破を委ねる、Gemini APIでComputer Useが一般提供開始、PlanAssistをイングランドの12自治体に追加展開

AnthropicはClaudeエージェントにレッドチームの仕事を任せた。監視システムに検知されずに、小規模な研究用モデルにアラインメントの不整合を引き起こす、一見無害な訓練データを探すというもので、実験には一度も実運用されていないモデルを用いた。GoogleはGemini APIのComputer Useを一般提供に移行し、建築許可の審査ツールPlanAssistをイングランドのさらに12の地方自治体に展開する。一方、OpenAIのAgents APIにはコマンドの自動レビューが加わった。Speridlabsは画像を3Dオブジェクトに変換するオープンモデルIdolを公開し、コミュニティの投稿では2023年から存在するllama.cppのバグが明らかになった。Claude Code 2.1.316、DeepSeekのdsh-superagent、Manusによる自社ツールMonoについての論考も、この日の話題に加わった。

Claudeエージェントが、監視システムに検知されずに小規模な研究用モデルにアラインメントの不整合を引き起こす、一見無害なデータを発見

10月31日 — AnthropicはAlignment Science Blogで、Claudeにレッドチーム（red team）の仕事を任せる実験を公開した。小規模な研究用モデルにアラインメントの不整合を引き起こしながら、Anthropicが実運用で使うものに近い訓練データ監視システムをすり抜ける、ファインチューニング（fine-tuning）用データを生成するというものだ。これは実運用中のClaudeモデルについての知見ではない。ファインチューニングされたモデルは、実験のために不適切に振る舞うよう訓練されており、一度も実運用されていない。目指すのは、研究者の作業時間に頼る代わりに、計算量を増やすほど確信を高められる安全性テストだ。

Red-teaming is a vital part of model safety testing, but it’s also limited by researchers’ time. To see if we could automate it, we set thousands of Claude agents the task of evading a training data monitor.

🇯🇵 レッドチームによるテストはモデルの安全性テストに不可欠ですが、研究者が割ける時間にも制約されます。自動化できるかを確かめるため、数千のClaudeエージェントに、訓練データ監視システムを出し抜くタスクを与えました。 — Xの@AnthropicAI

各エージェントには、コード実行ツールとファインチューニング用サービスが与えられる。データセットを作り、モデルをファインチューニングし、その結果を提出する。エージェントは複数のラウンドにわたって並列で動作し、共通のログを共有するため、後続のエージェントは最も有望な方針を引き継げる。

実験のルール	Anthropicが設定した値
データセットの最大サイズ	5 000件の例
監視システムによる拒否条件	行数の10 %超、または100行超にフラグが付く
採点対象の評価	4、エージェントによる自己保存を含む
探索から除外した評価	2：Claude Codeでのコード妨害、重みの持ち出しの申し出

どの実行でも、探索は最終的に、監視システムを通過し、文献で知られる創発的なアラインメント不整合（emergent misalignment）用データセットよりも強く、広範な不整合をモデルに引き起こすデータセットを見つけた。既知のデータセットのうち、監視システムを通過したのは、無害な人物の経歴情報を使ったものだけだった。主流となった手法は、狙った行動をフィクションやロールプレイに隠すものだ。養蜂家が巣箱にできる限り介入しない養蜂学校、決して役柄を崩さないベテランレスラー、虚偽を一言も書かずに相手に不利益を与える推薦状などが使われた。ファインチューニングされたモデルは監督に抵抗し、ユーザーを欺き、まれには自分自身の重みを外部に持ち出そうとした。

実験環境は意図的に攻撃者に有利に設定されている。監視システムへの完全なアクセスが認められ、現実性に関する制約もない。また、記事は、モデル主導の探索では解決策のある分類全体を見落とす可能性も認めている。発見された例は今後の監視システムの改善に役立てる予定で、次の段階では、より現実的な条件で検証する。

🔗 Alignment Science Blogの記事

エージェント向けAPI：Gemini APIでComputer Useが一般提供開始、OpenAIのAgents APIにAuto Review

Gemini APIでComputer Useが一般提供開始、Gemini 4 ArgonからGemini 3.5 Flash-Liteまで対応

10月30日 — Gemini APIのリリースノートによると、Computer UseツールがInteractions APIとGenerateContent APIで一般提供に移行した。ブラウザー、モバイル端末、デスクトップを操作するエージェントの構築に使うもので、モデルはスクリーンショットから画面を読み取り、クリックやキーボード入力といった操作を返す。開発者は関数呼び出しと同様に、その操作を自分の環境で実行する。

対応モデル	API内の識別子	ドキュメント上の位置付け
Gemini 4 Argon	`gemini-4-argon`	最も高性能なモデル
Gemini 3.8 Flash	`gemini-3.8-flash`	Computer Useの推奨モデル
Gemini 3.5 Flash-Lite	`gemini-3.5-flash-lite`	低遅延、低コスト
Gemini 3 Flash Preview	`gemini-3-flash-preview`	プレビュー版モデル

各操作にはモデルがその操作を選んだ理由を説明するintentフィールドがあり、安全性ポリシーはカテゴリ別に設定できる。また、初期設定では無効のプロンプトインジェクション検出機能は、Gemini 3.5 Flash-Lite以降でスクリーンショットを解析し、実行を阻止する。これらの機能は、Gemini 3.5 Flashとともに6月24日に始まった公開プレビューにすでに含まれており、今回の変更点は一般提供への移行だ。リリースノートに付随する記事や料金案内はない。

🔗 Gemini APIのリリースノート · Computer Useのドキュメント

OpenAIのAgents APIにAuto Review、バックグラウンドでのコンテキスト圧縮、実験的な時間認識を追加

10月30日 — OpenAIのAPIチームに所属するスティーブ・コフィーが、Agents APIの今週の新機能をまとめた。投稿は@OpenAIDevsでも共有された。

Agents APIの新機能	変更内容
Auto Review	Codexと同様に、実行前に各コマンドを評価し、有害な動作を排除する
非同期のコンテキスト圧縮	セッションを遅くせず、バックグラウンドでコンテキストを圧縮する
時間認識（実験的）	モデルが経過時間を認識する。例えば「CIの修正を10分以内に収める」といった指示に使える
ツールの更新	セッションのツールをいつでも変更できる
システムプロンプトのキャッシュ	すべてのセッションで自動的にキャッシュし、コストと時間を節約する

夜間に公開された公式SDKも、これらの機能に対応している。openai-python 3.42.0とopenai-node 7.46.0（10月31日）には、コンテキスト圧縮の設定、セッションのレビュー、ツールの設定、時間認識が追加された。さらに、投稿で触れられていない追加機能として、組織レベルで管理する外部キー、画像編集用の注釈レイヤー（image edit markup overlays）、リアルタイムSIP通話用のDTMFコマンド、WebSocket接続の事前ウォームアップも含まれる。openai-node 7.47.0では、この事前ウォームアップについてResponses API向けの型定義も追加された。確認時点では、この発表に付随するドキュメント、変更履歴への記載、料金案内はなかった。

🔗 スティーブ・コフィーによるまとめ · @OpenAIDevsによる共有投稿 · openai-python 3.42.0

Google DeepMind、建築許可審査ツールPlanAssistをイングランドのさらに12の地方自治体へ展開

10月31日 — Google DeepMindはPlanAssistを試験運用からベータ段階へ移行する。モデルのバージョンは明示されていないが、Geminiを基盤とし、英国政府、Google Cloud、Facultyと共同開発したツールだ。都市計画担当職員による個人の工事申請の審査を支援する。申請書類と図面がそろっているか確認し、樹木保護命令などの保全上の制約や地方・国の規則と申請内容を照合する。すでに提出された異議も特定し、すべての根拠を示した報告書を作成する。職員は判断を下す前に、この報告書を修正できる。

PlanAssistの指標	発表された値
試験運用に参加する地方自治体（6月以降）	バーネット、カムデン、ドーセット
個人からの申請の審査時間	最大58 %短縮
修正なしで承認された報告書	70 %超
12か月のベータ期間に参加する地方自治体	15、うち12が新規で、三つのグループに分かれて参加
イングランドの全地方自治体への開放	2027、検証で良好な結果が得られた場合

記事によると、こうした個人からの申請は職員の業務量の最大70 %を占める。各審査は、判断に先立ち、引き続き有資格の職員が確認し承認する。ツールの試作版は6月に紹介されていたが、その時点ではPlanAssistという名称は使われていなかった。

🔗 Google DeepMindの記事 · Xでの発表

Speridlabs、画像を3Dオブジェクトに変換する6億6,000万パラメータのオープンモデルIdolを公開

10月28日・29日 — 今回初めて取り上げる研究所Speridlabsが、Apache-2.0ライセンスで重みを公開するモデルIdolを発表した。物体の画像1枚から、画像に写っていない面も含め、ガウス分布で構成された3Dオブジェクト（Gaussian splatting）に変換する。入力には写真、レンダリング画像、生成画像を使え、出力は32 768〜1 048 576個のガウス分布を含む標準の.plyファイルとなる。プロジェクトのページによると、モデルのパラメータ数は6億6,000万で、必要なGPUメモリは8 Go未満だ。

評価対象モデル（H100を1基使用）	PSNR ↑	SSIM ↑	LPIPS ↓	CLIP ↑	リクエスト当たりの時間
Idol（50ステップ、262 144個のガウス分布）	12,25	0,726	0,213	0,885	6,8 s
TripoSplat（50ステップ、262 144）	11,76	0,712	0,225	0,868	9,9 s
TRELLIS（論文での設定）	11,89	0,716	0,235	0,868	7,1 s
LGM（65 536個のガウス分布）	12,46	0,722	0,237	0,784	1,1 s

Speridlabsが公開したこのベンチマークで、IdolはSSIM、LPIPS、IoU、DINOv2、CLIPにおいてほかの三つを上回った。PSNRはLGMが引き続き最高だが、Speridlabsはこの指標がぼやけた結果に有利だとしている。ガウス分布が262 144個の場合、リクエスト1件にかかる時間はB300で3,4 s、RTX 4090で19,1 sだ。Hugging Face上でアクセスが制限されている二つのエンコーダー、MetaのDINOv3とBlack Forest LabsのFLUX.2-devのVAEについて、利用条件への同意が必要となる。重みとともに、idol-sdkのコードとSpace上のデモも公開されている。

🔗 Idolのプロジェクトページ · Hugging Face上のモデル

コミュニティの記事で、llama.cppのサーバーが2023年からlogprobsを、2024年からトークンIDを欠落させていたことが判明

10月31日 — Hugging Faceに投稿されたコミュニティの記事で、トーマス・キムがllama.cppのサーバーであるllama-serverの、気づかれにくい不具合を詳しく説明した。絵文字や非ラテン文字などのUTF-8文字が複数のトークンに分割されると、サーバーは文字が完全にそろってからテキストを送信する。その際、トークンIDと確率（logprobs）は、サンプリングされた各トークンではなく、そのテキストのまとまりにひも付けられていた。テキスト自体は正しいため、問題が表面化しなかった。/completion、/v1/completions、/v1/chat/completionsのエンドポイントが、ストリーミングと単一応答の両方で影響を受けていた。

Qwen3.5-9Bでの測定値（絵文字を多く含む出力）	元のバージョン	修正版
欠落したレコード、単一応答	24,9 %	0 %
欠落したレコード、チャットAPIのストリーミング	25,6 %	0 %
誤ったバイトラベル	14,0 %	0 %

作者は二分探索によって、確率の欠落が2023年10月22日に始まったと特定した。ストリーミングで送信されるIDの欠落は2024年12月にさかのぼる。影響を受けるのは、保存したlogprobsに基づく強化学習、最良候補からの蒸留、較正など、これらのデータを再利用する用途だ。テキストを使う教師ありファインチューニングは影響を受けない。1 500件のプロンプトを使う作者のベンチマークMURPHYでは、修正版による12 000件の応答に不具合は見つからなかった。記事はPR #31244を修正として紹介しているが、10月31日時点ではまだ未マージで、オープンのままだった。測定は単一のモデルと単一の設定で行われている。

🔗 トーマス・キムの記事 · llama.cppのPR #31244

コーディングエージェント：Claude Code 2.1.316、DeepSeekのdsh-superagent、ManusのMono

Claude Code 2.1.316がCLAUDE_CODE_DISABLE_ULTRATHINKとCLAUDE_CODE_SUBAGENT_EFFORTを追加し、Claude appsゲートウェイを拡張

10月31日 — Claude Code 2.1.316が深夜に公開された（npmでは00時42分UTC、GitHubリリースは01時01分UTC）。変更は55項目で、うち34件が修正だ。推論強度に関わる環境変数は2つある。CLAUDE_CODE_DISABLE_ULTRATHINKは、2.1.311以降で1ターンの推論強度をxhighに切り替えるキーワードultrathinkを無効化し、ボリス・チャーニーが10月29日に発表したCLAUDE_CODE_SUBAGENT_EFFORTが正式なリリースノートに加わった。

2.1.316の新機能	変更内容
`CLAUDE_CODE_SUBAGENT_EFFORT`	ほかに指定がない場合、セッションから継承する代わりにサブエージェントの推論強度を設定する
`pooled_budget`（Claude appsゲートウェイ）	各メンバーの上限に加え、グループで共有する月間予算を設定する
`managed.policy_mode: layered`	開発者を対象とするすべてのポリシーを統合して適用する
`guardrail.input_tagging`	Bedrockのガードレールのプロンプト攻撃フィルターが要求する入力タグ
TeamとEnterpriseの管理設定	承認を求めずに適用し、検証できないローカルコピーは拒否する

クラウドセッションでは、MCPサーバーが入力を求めると、ユーザーに見えないまま取り消す代わりにフォームカードが表示される。修正点として、--restrictedセッションでは、Readルールの対象であっても作業フォルダー外のファイルをアップロードしなくなった。また、短報で詳述するOpus 4.8の高速モードの非推奨化も反映されている。10月30日にnpmで公開された2.1.315には、結局GitHubリリースもCHANGELOGの項目も設けられなかった。Agent SDKもTypeScript 0.3.316、Python 0.2.176に更新されている。

🔗 Claude Code 2.1.316のリリースノート

DeepSeekがdsh-superagentを公開、DeepSeek Harnessを基盤とする能動的なコーディングエージェントの研究用プロトタイプ

10月31日 — DeepSeekはXでの告知なしに、dsh-superagentをGitHubで公開した。DeepSeek Harnessチームによる、MITライセンスのバージョン0.1.0のリポジトリだ。READMEでは、DeepSeekの公式製品ではなく「参照用に限る」研究用プロトタイプと位置づけられている。内部版とも、引用されている論文「スーパーエージェントの設計を探る」とも異なる。

このエージェントは、DeepSeek Harness 0.2.1-alpha.2以降の拡張機能（bundle）として、単一のGitHubリポジトリに接続する。GitHubと、任意でFeishuのメッセージを監視する。権限のある人から依頼を受けると、チケットを作成し、専用のセッションとディレクトリで作業した後、元の会話に、たとえばプルリクエストの形で応答する。動作するのは依頼を受けた場合か、チームが記述したルールに従う場合だけであり、依頼されていない作業は、実行するとしたら何をしたかを記録するだけのモードで始まる。注意点として、リポジトリのドキュメントによると、実行セッションは運用者のシステムアカウントで承認なしにコマンドを実行する。隔離のため、エージェント用の認証情報だけを持つ専用システムアカウントの使用が推奨されている。また、エージェントの投稿はすべてそのアカウント名で表示されるため、GitHubの専用アカウントも推奨されている。10月31日21時30分UTCごろのリポジトリのスター数は2,014だった。

🔗 dsh-superagent-prototypeのリポジトリ

Manusが社内ツールMonoを中心に各チームがエージェントと働く方法を詳説

10月30日 — Manusの共同創業者兼最高製品責任者であるタオ・ジャンは、長文の体験報告「ManusによるManusの再構築」（ManusでManusを再構築する）で、エンジニアリング、製品、マーケティングの各部門が現在どのようにエージェントと働いているかを、失敗も含めて紹介した。この記事は前日の収集から漏れていた。

中心にあるのは社内ツールMonoだ。リポジトリを統合するものではなく、単一の窓口として機能し、エージェント向けに書かれたマニュアル（各リポジトリの役割、相互関係、チームの作業方法）と、アーキテクチャ上の意思決定をまとめたライブラリーを備える。エージェントはそこで、テスト環境への送信なら5～10分かかるソフトウェアスタック全体の検証をノートパソコン上で数秒で行い、制限された権限で本番環境のログを読み、ブラウザーとモバイルシミュレーターで実際の操作手順をテストする。報告されたバグは3つのエージェント（分類、修正、検証）を経由し、本番環境へのリリース権限を持つ人の承認なしには何もリリースされない。

Manusの社内指標	報告された値
エンジニア1人あたりの対応中の依頼数	10～20
モバイルチーム	4アプリケーションを7人で担当
単独で機能をリリースする製品責任者	約半数
エージェントを週末に自律稼働させた後の未処理項目	200超

この最後の失敗から、Manusは、成功をテストで検証できる領域でこそ自律性が有効だという教訓を得た。今後は、セッションの共有、端末や人をまたぐ作業の引き継ぎ、自ら選択肢を提案するエージェントという3つの取り組みを進めるが、時期は示していない。数値は社内記録に基づき、一部は推計だ。

🔗 Manusの記事

短報

APIとアプリケーション

Opus 4.8の高速モード — AnthropicはClaude Platformでこれを非推奨とし、2026年11月30日に廃止する。その後、claude-opus-4-8への高速モードのリクエストはエラーを返す。高速モードを使い続けるには、Claude Opus 5.5への移行を推奨している。🔗 出典
モバイル版ChatGPTで2つのアカウント — iOS版とAndroid版で、2つのアカウントにログインしたまま、ログアウトせずに切り替えられる機能が順次展開されている。有効になるのは一度に1つで、それぞれの会話、メモリ、設定、サブスクリプションは個別に保持される。ヘルプ記事によると、ウェブ版ではすでに全プランで利用できる。🔗 出典
10月のGemini Drops — Geminiアプリの月次投稿が、Gemini 4 ArgonからLyria 3.5まで、ここですでに紹介した11機能を振り返っている。新しい情報は、連携可能なアプリにStravaが含まれるという点だけで、動画にはFeverとViatorも登場する。🔗 出典

エージェントとコーディングツール

Gemini CLI、10月31日のナイトリービルド — 7件の修正。手動で選択したモデルが、フォールバック、キャンセル、または/rewindの後に、通知なしでgemini-3-flash-previewへ戻ることがなくなった。また、/restoreが.git/info/excludeと全体設定のcore.excludesFileに従うようになった。安定版v0.66.0に変更はない。🔗 出典
Copilot CLI 1.0.106-1 — 新機能はなく、14件の修正を含むプレビュー版。apply_patchが混在する改行コードを保持し、web_fetchがページに宣言された文字エンコーディングに従うようになった。また、組織がフォールバック先のClaudeモデルを無効化している場合、CLIが元の拒否内容を返すようになった。安定版は引き続き1.0.105。🔗 出典

研究とオープンなツール

Fast Forced Aligner — Hugging Faceのコミュニティ記事が、文字起こしの各単語がいつ発話されたかを特定する、MITライセンスのCUDAカーネルを紹介している。10種類のワークロードで30.44 msを記録し、k2の6.34 s、NeMoの28.18 sに対してそれぞれ約208倍、926倍高速だった。RTX 3090上でアライメント処理のみを測定した結果だ。🔗 出典
MetaのWaiT — Metaは、画素空間でフローマッチング（flow matching）を行い、低周波と高周波に異なるノイズスケジュールを割り当てるこのトランスフォーマーのコードを、告知なしに公開した（arXiv 2607.28760、ステファン・マラとルーク・ゼトルモイヤーが共著）。READMEにスコアの記載はなく、CC BY-NC 4.0ライセンスにより非商用利用に限られる。🔗 出典
すぐに使えるロボット — Hugging Faceに掲載されたprojectsimのコミュニティ記事が、ロボットの訓練とテストへのシミュレーション活用を提唱している。未見の30軒の住宅でタスク完遂率が9 %から56 %に向上したFigureのHelix 2.5など、第三者の成果を根拠としており、独自の結果はない。🔗 出典
x402決済とMetaMask — Hugging Faceに掲載されたFizzlのコミュニティ記事は、エージェントが要求した0.001ドルのx402決済2件に対し、MetaMaskが「高リスクの承認」と表示することを示している。Base上で抽出したx402決済アドレス300件のうち289件が、報告されたケースに該当する。Fizzlはこの誤検知をMetaMaskに報告した。🔗 出典

NVIDIAと音声

地球外からの信号の探索 — アレン・テレスコープ・アレイでは、Breakthrough ListenとSETI研究所がNVIDIA Holoscanを使い、自然言語のリクエストからエージェントに観測装置の方向調整と較正を任せている。RTX PRO 6000 Blackwell GPUで毎秒2.4テラビットを処理し、NVIDIAによれば、AIによるパルサーのリアルタイム検出に初めて成功した。🔗 出典
RTX SparkとRTX Remix 1.6 — 10月28日分の補足。NVIDIA Appで、前面のアプリケーションとバックグラウンドのエージェントにGPUを振り分けられるようになった。また、RTX Remix 1.6はMinecraft Java Edition 1.21.1でパストレーシング（path tracing）による描画を可能にし、DLSS 5とエージェントのスキルにも対応する。🔗 出典
Clover HealthとElevenLabs — ElevenLabsは、この医療保険会社の音声エージェントを紹介している。ケアのフォローアップ、保障内容、加入者からの質問に対応するが、数値や事例研究は示されていない。🔗 出典

これが意味すること

Anthropicの実験は、行ごとの監視の限界を示している。本番環境で使われているものに近い監視システムでも、組み合わせるとモデルのアラインメントを崩すデータを通してしまう。各行だけを見れば、養蜂やプロレスのたわいもない話に見えるためだ。Anthropicは、こうした弱点の探索を並列に動くエージェントに任せることで、研究者の作業時間ではなく計算量に応じて向上する安全性テストを目指している。ただし、結果の適用範囲は実験設定自体に制約される。攻撃者は監視システムの全情報を把握でき、対象は一度も実運用されていない研究用の小型モデルであり、本番環境のClaudeモデルについての知見は得られていない。

実際に行動するエージェント向けの構成要素は、ガードレールを組み込んだ形で登場している。GoogleのComputer Useは一般提供に移行し、スクリーンショット上のプロンプトインジェクション検出を任意で利用できる。OpenAIのAgents APIは、Codexと同様、各コマンドを実行前に評価する。dsh-superagentは別の側面を示している。運用者のアカウントで、承認なしにコマンドを実行するプロトタイプだ。Manusも、エージェントを週末に自律稼働させ、月曜日に200件超の未処理項目が残った経験から、同じ教訓を得ている。自律性が成り立つのはテストで結果を検証できる領域であり、リリースには引き続き人の承認が必要だ。

PlanAssistは、公共サービスにおけるAI活用の具体例だ。審査時間を最大58 %削減し、報告書の70 %超が修正なしで受け入れられている。ただし、すべての案件を有資格の職員が引き続き確認し、2027年の全面展開はベータ版の結果にかかっている。都市部と農村部を含め、対象を3自治体から15自治体へ広げることで、試験導入の外でもこの数値が維持されるかが分かる。

llama.cppのバグは、オープンなツールがいまや強化学習や蒸留のパイプラインを支えていることを改めて示している。2023年から確率の対応付けに誤りがあり、テキストには目立つ異常が出ないまま、それを再利用する人々のデータを歪めていた可能性がある。10月31日時点で修正はまだマージされておらず、測定対象も1つのモデルに限られる。Idolはオープンなエコシステムのもう一つの側面を示している。6億6,000万パラメーターで、GPUメモリ8 GB未満に収まるモデルが、著者らのベンチマークでは、ほとんどの評価指標で既存の3D生成モデルを上回っている。