搜索

DeepSeek 开源在生产环境中运行 V4.1-Flash 的引擎 DeepInfer,Mistral 和 ElevenLabs 分别推出面向语音智能体的 Voxtral 3 和 Eleven Realtime,Perplexity Computer 在 Mac 本地运行

ai-powered-markdown-translator

本文使用 gpt-6.1-sol 从法语翻译为中文。

在 GitHub 上查看项目 ↗

DeepSeek 开源了在生产环境中运行 DeepSeek-V4.1-Flash 的推理引擎 DeepInfer,并披露了其服务规模:单个集群每天处理 155 万亿个 token。同一天,Mistral 和 ElevenLabs 通过两种截然不同的路线推出面向语音智能体的模型:Voxtral 3 采用转写与语音合成串联的方式,Eleven Realtime 则采用单一的语音到语音模型;与此同时,Perplexity 让 Computer 完全在 Mac 本地运行。Google 也开源了 TorchTPU,Anthropic 的 OSS Scanner 服务则公布了首批成果,其中包括一个现已修复的 curl 漏洞。


DeepInfer:DeepSeek 开源在生产环境中运行 DeepSeek-V4.1-Flash 的推理引擎

10 月 20 日 — DeepSeek 以 Apache-2.0 许可证开源了自研推理框架(inference framework)DeepInfer,该框架在其服务中运行 DeepSeek-V4.1-Flash。此次发布的版本面向离线推理,仅支持这一模型,可运行于 NVIDIA SM100 GPU 和 Huawei Ascend 950 NPU。它沿用了生产环境中的组件:DeepSeek 此前发布的内核库(FlashMLA、DeepGEMM、DeepEP、TileKernels、DeepSelect)及 TileLang 内核、面向 MoE 部分且带负载均衡的专家并行机制、自研推测解码机制(DSpark)、通过有限重放滑动注意力窗口来减轻预填充负担的机制,以及通过正则表达式、JSON 模式或 EBNF 语法生成结构化输出的功能。

DeepSeek 同时开源了采用 MIT 许可证的 deepseek-recipe。这一生产组件将 Messages、Chat Completions 和 Responses API 的请求转换成供 DeepSeek V4 和 V4.1 使用的 token,再将模型输出转换为响应。其逻辑与官方 API 保持一致:第三方托管服务商可以在思考模式、工具调用和结构化输出方面获得相同的行为。代码仓库的部署常见问题说明了服务规模:

DeepSeek 公布的生产数据公布数值
单个集群提供的 token 数每天 155 000 十亿个
按低峰时段价格计算的总收入每 GPU 小时 38 美元
预填充常规 8 GPU 机器
解码64 至 128 GPU 的超级节点
KV 缓存保留时间超过 72 小时

并非所有部分都已开放。DeepSeek 表示,KV 缓存管理和副本间的负载均衡与内部基础设施联系过于紧密,因此仍然闭源,仅在一篇 Zhihu 文章中加以说明;视觉编码器、预填充和解码之间的分离实现也未提供。吞吐量测量结果仅以图表形式发布。DeepInfer 最初主要基于 vLLM 构建,同时借鉴了 SGLang 和 TensorRT-LLM,未来也将纳入 DeepSeek 后续模型的推理代码;当天晚间,该仓库已有 11 562 颗星。

🔗 @deepseek_ai 的帖子串 · GitHub 上的 DeepInfer · GitHub 上的 deepseek-recipe


Voxtral 3:Mistral 推出转写与语音合成模型,以及语音智能体 SDK

10 月 20 日 — Mistral 推出 Voxtral 3 系列转写(speech-to-text)和语音合成(text-to-speech)模型,并配套提供用于构建语音智能体的 SDK。所有功能自 10 月 20 日起均可通过 Mistral API 的欧洲、美国和全球端点使用,也可在 Studio 的试验环境(playgrounds)中体验;还可按需提供本地部署或私有云部署。

Voxtral 3 模型预期用途公布价格
Voxtral Small Transcribe 3最高精度转写、说话人分离每分钟 0,004 美元
Voxtral Mini Transcribe 3 (4B)批量转写、说话人分离每分钟 0,0035 美元
Voxtral Mini Transcribe Realtime 3实时转写,延迟低于 500 ms每分钟 0,008 美元
Voxtral Speech 3批量及实时语音合成每百万字符 13 美元

转写功能覆盖 50 种语言,包括欧盟的全部 24 种官方语言。它可以区分说话人,接受关键词以便在无需微调(fine-tuning)的情况下更好地识别行业词汇,即上下文偏置(context biasing),并能检测发言何时结束。针对 FLEURS 基准中的 45 种语言,Mistral 公布了以下词错误率,分别对应向模型指定语言和自动检测语言两种情况:

受测模型(FLEURS,45 种语言)向模型指定语言自动检测语言
Voxtral Small Transcribe 34,0 %4,1 %
Microsoft AI Transcribe 24,0 %4,1 %
Voxtral Mini Transcribe 34,5 %4,6 %
Gemini 3.5 Transcribe4,5 %6,1 %
Scribe v24,9 %4,9 %
GPT Transcribe5,6 %6,3 %
Whisper large-v314,9 %16,0 %

Mistral 称其 Small 模型优于 Whisper、Scribe v2 和 Gemini 3.5 Transcribe,但其自身图表显示,Microsoft AI Transcribe 2 与之持平。在实时场景下,Mini 模型以 480 ms 的延迟,在 35 种语言上取得 6,4 % 的词错误率,落后于 Gemini 3.5 Realtime Transcribe(4,2 %)和 Microsoft AI Transcribe 2 Streaming(5,8 %),但优于 GPT Live Transcribe(8,4 %)和 Scribe v2 Realtime(8,7 %)。

Voxtral Speech 3 支持超过 35 种语言和 50 多种方言,可根据对话上下文推断情绪和节奏,也能逐行遵循明确指令;Pro Voice 则可根据 30 分钟的音频复刻专业配音。Mistral 表示,其运行成本低于 OpenAI、Deepgram、ElevenLabs 和 Google 的同类模型。

基于 LiveKit 构建的语音智能体 SDK 以流式方式串联三个模型:实时模型负责聆听并识别句子结束位置,Mistral Small 等通用模型负责推理和调用工具,最后由 Voxtral Speech 3 作答。各阶段无需等待前一阶段全部完成:据 Mistral 称,每轮交互在一秒内完成,智能体在被打断时会停止说话,可通过 SIP 或 WebRTC 通话,而且每个阶段的模型都可以替换。与 2 月发布的 Voxtral Transcribe 2 和 3 月发布的 Voxtral TTS 不同,Voxtral 3 并未宣布开放权重:文章提供的使用方式是 Mistral API,或与 Mistral 团队协商后在自有基础设施上部署;发布当晚,Hugging Face 上尚未出现相关仓库。

🔗 Mistral 的文章 · @MistralAI 的帖子串


Eleven Realtime:ElevenLabs 用单一语音到语音模型构建语音智能体

10 月 20 日 — 在 Voxtral 3 发布的同一天,ElevenLabs 采取了相反的路线。Mistral 的 SDK 串联三个独立且可替换的模型,而每个 Eleven Realtime 模型则将整个语音智能体整合为单一的语音到语音(Speech to Speech)模型:语音识别、语音活动检测、发言轮次管理、LLM 和语音合成作为一个整体进行优化。这些模型支持超过 90 种语言,并可使用 ElevenLabs 声音库中的 17 000 多种声音。

此次推出两个版本。默认模型 Eleven Realtime v1 Mini 面向低成本对话场景,包括助手、教师和互动角色。Eleven Realtime v1 Max 会先推理再回答,面向客户支持、包含工具调用的多步骤流程等复杂任务;其每个 token 的价格更高。公布的结果来自 ElevenLabs 引用的 Artificial Analysis 评测:

指标(Artificial Analysis,依据 ElevenLabs 的说明)Eleven Realtime v1 MaxEleven Realtime v1 Mini
Big Bench Audio(1 000 个以语音提出的问题)98,8 %75,9 %
开始说话前的平均延迟0,57 s0,62 s
Full-Duplex-Bench(停顿、打断)94,1 %95,8 %
工具使用任务完成率87,1 %60,3 %

ElevenLabs 表示,Artificial Analysis 排行榜中没有任何模型能同时在速度和准确率上超过 v1 Max。Mini 在处理对话节奏方面略胜一筹,但 Max 在工具使用任务上明显拉开了差距。

在 ElevenAgents 中,只需将智能体的语音模式从“Custom”切换为“Realtime”,即可继续使用平台的其他功能,包括电话、网页、WhatsApp 和联络中心。这些模型也通过兼容 OpenAI 的 Realtime API 提供:已经完成接入的开发者只需更换端点和模型名称,即可沿用现有代码,但仅支持 WebSocket。该功能正按工作区逐步推出。与 Max 不同,Mini 既不支持 Zero Retention 模式,也不支持 HIPAA 合规使用,具体价格尚未公布:ElevenLabs 按通常的 ElevenAgents 分钟费率收费,再加上所选模型对应的 token 费用。

由此,ElevenLabs 加入了端到端语音模型的行列,此前 OpenAI(GPT-Live-1,自 9 月 10 日起通过 API 提供,每分钟 0,05 美元)、Google(Gemini 3.8 Live)和 SpaceXSI(Grok Voice 3.0)已推出此类模型。

🔗 ElevenLabs 的文章 · Realtime 模型文档


Perplexity Computer 完全在 Mac 本地运行,模型也不例外

10 月 20 日 — Perplexity 让其智能体 Computer 完全在 Mac 上运行:模型、运行框架(harness)和任务执行均留在本机。

Perplexity Computer can now run fully local on your Mac. Work with your native Mac apps and local files, and run tasks without sending sensitive data to the cloud. The model and the agent both run on your Mac. Available now in the Perplexity Mac app.

🇨🇳 Perplexity Computer 现在可以完全在你的 Mac 本地运行。使用 Mac 原生应用和本地文件开展工作,无需将敏感数据发送到云端即可执行任务。模型和智能体都在你的 Mac 上运行。现已在 Perplexity 的 Mac 应用中上线。 — @perplexity_ai 在 X 上

发布内容Perplexity 公布的详情
本地模型Qwen 3.6 和 PPLX Pro
推荐内存36 Go 或以上统一内存
支持设备受支持的 Apple silicon Mac,例如搭载 M6 和 M5 Pro 的新款 Mac mini
适用套餐Pro、Max 和 Enterprise
Computer 额度本地任务不消耗额度
云端调用经授权后,可调用超过 15 个前沿模型

获得用户许可后,智能体可以处理本地文件,并在 Notes、Messages、Mail 或 Numbers 等应用中工作。根据 Perplexity 的推文,PPLX Pro 是其对 Qwen 3.8 进行后训练得到的版本;在被问及模型规模时,Perplexity 负责人 Aravind Srinivas 回答说,这是一个拥有 270 亿参数的稠密模型,并认为 36 Go 内存将逐渐普及。

Mac 应用现在提供两种启动 Computer 的方式。9 月 1 日推出的 Hybrid Compute 以云端为起点,负责搜索和推理,并在本地处理私密文件;新模式则以 Mac 为起点,将规划、推理和文件处理都留在本机。如果用户允许,智能体会通过云端获取最新信息、浏览网页或使用已连接的应用,代码和工具则在隔离的沙箱中运行,并遵循与云端版本相同的安全协议。Perplexity 列举了三种用途:根据私密持仓审查投资组合、基于保密笔记编写商业提案,以及从 Messages 和 Mail 中整理早间优先事项清单。

这是 Portable Computer 在 Mac 上的对应版本。Portable Computer 是完全在本地运行的版本,8 月 25 日率先在 DGX Spark 上推出,随后于 9 月扩展至 Linux、Windows 和搭载 AMD Ryzen AI Max 处理器的 PC。

🔗 Perplexity 的文章


PyTorch 走出 NVIDIA GPU:TorchTPU 开源、Hugging Face 原生支持 TPU,以及 PyTorch 2.15 中的 MPS

当天的三项公告让 PyTorch 运行在 NVIDIA 之外的芯片上:Google 在 PyTorch Conference 上发布 TorchTPU,Hugging Face 同日将其集成到旗下库中,而 Hugging Face 的 PyTorch 团队则详细介绍了 PyTorch 2.15 为 Mac 带来的改进。

TorchTPU:Google 开源面向 TPU 的原生 PyTorch 技术栈,支持 vLLM、SGLang、TorchTitan 和 llm-d 1.0

10 月 20 日 — Google 开源 TorchTPU,这是其与 Meta 的 PyTorch 团队共同开发的 TPU 原生 PyTorch 技术栈。TPU 如今成为普通的 PyTorch 设备(torch.device("tpu")):开发者可以先以即时执行模式(eager)调试,再通过 torch.compile 投入生产,后者经由 XLA 编译。此前,开发者必须用 JAX 重写代码,或使用旧版 torch_xla。

两个推理引擎基于 TorchTPU 构建:与 Inferact 共同开发的 vLLM-TorchTPU,以及与 RadixArk 共同开发、已在 Meta 投入生产的 SGLang-TorchTPU。Google 宣布,在 SemiAnalysis 的 InferenceX 排行榜上,运行于 Ironwood 的 Qwen 3.5 每百万词元成本为 2,01 美分;拥有 2.8 万亿参数的 Kimi K3,单用户生成速度超过每秒 700 个词元。在训练方面,TPU 上的 TorchTitan 在 Qwen 3 8B 上实现了最高 52 % 的模型计算利用率(Model FLOPs Utilization),测试规模最高达到 8 192 颗 Ironwood 芯片。Google 还发布了 llm-d 1.0,这是与 Red Hat 和 IBM 共同创立的 Kubernetes 分布式模型服务技术栈:在智能体编程工作负载中,相比仅使用 Kubernetes Service,首个词元的中位等待时间降低超过 85 %,吞吐量达到原来的 2,4 倍。

🔗 Google Cloud 博文 · TPU 上的 vLLM 和 SGLang 引擎 · llm-d 1.0

Hugging Face 为 Transformers、Diffusers 和 Kernels 带来原生 TPU 支持

10 月 20 日 — Hugging Face 将 TorchTPU 集成到其生态系统中:TPU 成为普通设备,无需经过 PyTorch/XLA 或 JAX;对于 Transformers 和 Diffusers,也不再需要 Hugging Face 此前维护的 Optimum TPU 适配层。在 Transformers 中,只需使用 device_map="tpu" 加载模型;在 Diffusers 中,只需调用 pipe.to("tpu"),还可选择启用编译,并通过张量并行将大型模型分布到多颗芯片上。

Hugging Face 测量的场景公布的结果
Qwen-Image-2.1,1024 × 1024 图像,40 步(TPU v6e-4)编译后 3,5 s,未编译 8,0 s
MiniMax-H3,5,2 s 带音频视频(TPU v6e-4)编译后 188 s,未编译 262 s
Qwen3-30B-A3B 解码,批量大小 64,Tokamax 内核(v6e-8)速度达到原来的 21,5 倍
TPU 上通过的 Transformers 测试占比96,5 %

团队已向 TorchTPU 项目报告 34 个问题,其中 19 个已修复,并正在准备 TPU 上的每夜 CI 测试。继前一天为 AWS Trainium 集成 TorchNeuron 之后,这是 Hugging Face 两天内集成的第二个非 NVIDIA 加速器的原生 PyTorch 后端。

🔗 Hugging Face 关于 TorchTPU 的博文

PyTorch 2.15 为 Mac 带来 FP8,MoE 解码速度最高达到原来的 6,5 倍

10 月 20 日 — Hugging Face 负责 MPS(搭载 Apple silicon 的 Mac 的 GPU 后端)的 PyTorch 团队,详细介绍了仍处于候选发布阶段的 PyTorch 2.15 所带来的改进。Mac 开始支持 FP8,每个数值占用一个字节,是 BF16 的一半,并可直接在 GPU 上执行乘法。得益于原生分组矩阵乘法,MoE 模型的解码速度达到 2.14 版本的 5 至 6,5 倍。

Mac 上的测量项目使用 PyTorch 2.14使用 PyTorch 2.15
M3 Ultra 上的 Qwen3.6-35B-A3B 解码9,4 tokens/s61,3 tokens/s
M3 Ultra 上的 LFM2.5-8B-A1B 解码23,6 tokens/s123,6 tokens/s
对 128 256 个 logits 执行 FP32 Softmax57 µs7 µs
Wan2.2 的 VAE 驱动内存峰值270,1 Gio8,1 Gio

Qwen-Image-2.1 的 VAE 编码器此前会在 MPS 上导致图像损坏且不报错,这一问题现已修复。PyTorch 2.15 要求 macOS 15 和 Python 3.11;仍可能调整的 2.16 预览信息还预告了完全用 Metal 编写的注意力实现。

🔗 Hugging Face 关于 MPS 的博文


开源软件安全:OSS Scanner 的首份成果报告与 GitHub 软件包防火墙

两项公告分别着眼于开源软件供应链的两端:发现项目代码中的漏洞,以及在软件包安装时进行过滤。

OSS Scanner:已接收 114 个项目,报告 77 个严重漏洞和 803 个高危漏洞,curl 的一个漏洞已修复

10 月 19 日 — 上线十一天后,OSS Scanner 公布了首批数据。这是 Anthropic 的免费服务,使用其最强大的模型扫描关键开源项目。在 @ClaudeDevs 当晚转发的一组帖子中,该服务的产品负责人普尼特·沙阿表示,约有 650 个项目申请,114 个已获接收。按照模型评定的严重程度,扫描已向维护者报告 77 个严重漏洞和 803 个高危漏洞,而当时尚未完成对所有项目的扫描。

重点案例是 curl:早期版本的 OSS Scanner 发现了 CVE-2026-92392,这是一个在通过 HTTP/2 发送数据时发生的释放后使用(use-after-free)漏洞,已于 10 月 14 日在 curl 8.23.0 中修复。curl 的安全公告将其列为高危漏洞,影响 8.12.0 至 8.22.0 版本,并将报告者记为“Luna with Claude, Anthropic”。另一个教训是:最初通过电子邮件附带概念验证发送的大多数报告都被拒收,邮件过滤器很可能将其识别成了恶意软件。因此,Anthropic 正在测试通过 GitHub Security Advisories 交付报告;据普尼特·沙阿估计,仍有超过 150 个项目等待审核决定。

🔗 普尼特·沙阿的帖子串 · curl 安全公告

GitHub 推出预览功能,过滤 Actions 运行器与编程智能体安装的 npm 软件包

10 月 20 日 — GitHub 开放软件包防火墙(package firewall)的公开预览。其出发点是:越来越多的攻击利用软件包安装过程,从 CI/CD 主机或开发者电脑上窃取凭据,甚至无需执行软件包本身的代码。防火墙位于 GitHub Actions 运行器(runners)或编程智能体与上游软件包仓库之间,同时检查元数据请求与下载内容。

防火墙要点预览版提供的内容
可用检查等待期、GitHub Advisory Database 警报、来源证明降级
适用客户GitHub Enterprise Cloud,包括采用数据驻留的客户
支持的生态系统目前仅支持 npm
价格预览期间免费,之后与 GitHub Actions 一样按用量计费

编程智能体与 CI/CD 主机需要配置为通过防火墙访问软件包仓库,而非直接查询;如果软件包被误拦截,可以申请例外放行。

🔗 GitHub 公告


助手:ChatGPT 的锁定聊天,以及面向小型企业和美国政府机构的 Gemini

OpenAI 和 Google 为各自的助手增加了满足特定需求的功能:ChatGPT 提供更隐蔽的对话访问方式,Gemini 则面向小型企业与美国公共服务部门。

ChatGPT 将对话隐藏在 4 位 PIN 码之后

10 月 20 日 — ChatGPT 推出锁定聊天(locked chats):选定的对话仍保留在账户中,但会从历史记录、置顶聊天与搜索结果中消失。它会移入 Projects 的锁定聊天区域,用户可通过账户的 4 位 PIN 码打开;在移动端,也可使用 Face ID、Touch ID 或 Android 设备解锁方式打开。该功能正逐步覆盖网页端、iOS、Android,以及适用于 macOS 和 Windows 的新版桌面应用,适用于 Free 至 Pro,以及 Business、Enterprise 和 Edu,但不包括 ChatGPT for Healthcare。

OpenAI 明确说明了其限制:锁定不提供端到端加密或独立保险库,也不会改变保留期限。重置遗忘的 PIN 码会永久删除所有锁定聊天及其保护的文件。在企业环境中,锁定聊天仍会出现在 OpenAI Compliance Platform 的日志中,管理员既不能禁用该功能,也不能解锁聊天。Codex 对话、临时聊天与群聊无法锁定。

🔗 ChatGPT 版本说明 · 锁定聊天指南

Gemini 应用为小型企业开辟专属空间

10 月 20 日 — Google 在 Gemini 应用中新增面向小型企业的专属首页,将其定位为建设品牌、分析财务与深入了解客户的统一入口;据 Google 称,已有数千万小型企业主使用 Gemini。制作视觉素材时,企业主提交自己的网站、品牌视觉规范、字体或颜色,Gemini 就会借助 Nano Banana 2.1 生成新品发布或营销活动所需的素材,并保留这一风格,无需再次上传。在财务方面,杂乱的电子表格、收据或购买记录可在数秒内转化为图表与交互式模型。

Gemini 可连接 Google Business Profile、Google Ads 和 Google Workspace,以及 Adobe、Canva、Dropbox、Shopify、Wix、Zoho 和 Xero。在用户证言中,波尔多的一位陶艺师(Bleu Clémentine)表示,每天可节省两到三小时。该功能将于“未来几天”开始在全球推出,面向该应用的所有用户。

🔗 Google 博文

Gemini for government services:面向美国政府机构的 Gemini 智能体预览版

10 月 20 日 — Google Cloud 将 10 月初在 Gemini at Work 上发布的 Gemini 智能体扩展至公共部门:Google Cloud 负责人托马斯·库里安宣布,Gemini for government services 已向美国联邦、州及地方政府机构开放预览。该产品整合了执行法律、法规与机构指令的技能,可直接查询机构系统且无需迁移数据的连接器,包括 SZNS Solutions 产品在内的合作伙伴智能体,统一的安全与合规控制平面,以及由 13 家集成商组成的网络。

Google 列举了七种用途,涵盖提供精确到段落引用的法规检索、发布前的文件遮盖脱敏、行政文件公开申请(FOIA)处理,以及补助资金支出审计。连接器覆盖 Federal Register、regulations.gov 和 eCFR,以及 Oracle、Salesforce、ServiceNow、Google Workspace 和 Microsoft 365。Google 正与密苏里州及美国卫生与公众服务部(HHS)合作,该产品可部署在 Assured Workloads 的 FedRAMP High 数据边界内;价格与正式上市日期均未公布。

🔗 Google Cloud 博文


人工智能应用:Claude 设计蛋白质结合分子、QD-Rec 推荐,以及面向机器人的 Flora

当天的三项工作将模型应用于具体问题:设计对抗毒液的蛋白质、辅助决策,以及为机器人训练标注视频。

Claude 设计针对蝎子神经毒素的蛋白质结合分子:211 个受测设计中有 17 个获得验证

10 月 20 日 — Anthropic 在其 Science 博客上公布了一项由 Claude 开展的蛋白质设计研究,针对来自墨西哥至中东四个地区的五种蝎子神经毒素。Claude Science 中使用的一个内部研究模型,采用了与 Citrini Research 合作改编的 8 月一项研究的提示词,随后大体上自主工作,期间团队通过四次后续提示加以引导:它在 64 小时内使用 12 个工具生成了 318 484 个设计,最终筛选出 180 个设计,计算量约为 10 000 GPU 小时。Adaptyv Bio 和 Twist Bioscience 测试了 211 个设计,其中 31 个由团队追加。按照严格标准,其中 17 个能与目标结合,每个都只结合一种毒素,没有任何一个针对巴西毒素 Ts1。表现最好的两个设计 Cn2-B1 和 Cn2-B2,与墨西哥毒素 Cn2 的结合亲和力达到数纳摩尔水平,似乎靶向与 LR 抗体相同的位点,后者可在小鼠体内中和该毒素。

This is exploratory work, and we’re not claiming to have produced an antivenom—for that, we’d have to test the binders within living cells, then in mice, among many other steps. But it’s an example of how Claude can concretely assist research in protein design.

🇨🇳 这是一项探索性工作,我们并不声称已经制成抗毒血清:要做到这一点,还需要先在活细胞中测试这些结合分子,再在小鼠体内测试,并完成许多其他步骤。但它展示了 Claude 如何切实帮助蛋白质设计研究。 — @AnthropicAI 在 X 上

全部 211 个设计及其数据均已公开。一则说明承认,这样的计算规模超出了大多数研究者的能力范围,但也指出,使用简化提示词,仅让一个智能体使用一块 GPU 运行 24 小时,就能取得相当的计算机模拟评分。

🔗 Anthropic 博文

QD-Rec:Sakana AI 通过演化生成多样且有理有据的推荐

10 月 20 日 — Sakana AI 推出 QD-Rec,将开放式搜索(open-ended search)与质量多样性方法(Quality-Diversity)用于辅助决策的推荐。该方法寻找的是候选对象与假设的组合:一家可收购的企业、一位可接洽的客户,或一篇可阅读的文章,以及解释为何选择它的文字,而非仅对候选对象进行排名。上下文多臂老虎机算法优先探索覆盖不足的区域,选择下一个候选对象;LLM 通过改写或交叉组合已存档的假设来撰写新假设;按生态位划分的档案则保留新颖的推荐理由。

在并购、营销目标选择与文章推荐测试中,使用 Claude Sonnet 5 或 Claude Haiku 4.5 作为提案模型、gpt-5.6-terra 作为评审模型时,QD-Rec 在 1 000 次评估中,大多数情况下取得了最高的平均质量分数,并积累了规模最大的档案:以 Walt Disney 为例,评分为 2,91 分(满分 10 分),生成 214 条推荐;不使用演化时则分别为 2,40 分和 85 条。Sakana 说明,这些场景不构成投资建议,并指出其中一个模型给出了数据中并不存在的数字;代码已按 Apache-2.0 许可证发布。

🔗 Sakana AI 技术文章

Flora:NVIDIA 开放一套为机器人标注视频的模型权重

10 月 20 日 — NVIDIA 的 GEAR 实验室开放了 Flora 的模型权重。这套模型可将机器人或人类的原始视频转化为训练信号:带时间戳的动作描述、用于监控部署运行情况的结果奖励,以及用于强化学习的过程奖励。Flora 已作为数据引擎用于训练 GR00T 模型,每天在 512 块 GB300 GPU 上标注 200 000 小时的视频。据 NVIDIA 称,其表现可与 GPT-6 Astra 竞争,成本约为后者的 1/125,但公布的表格呈现出更复杂的情况:

评测基准与指标FloraGPT-6 Astra
DenseRewardBench,宏平均 F1(越高越好)46,240,7
RoboReward,平均绝对误差(越低越好)40,055,4
DenseCaptionBench Robot200,分割 F166,971,9
WGO-Bench,准确率(gold-window)64,777,4

Flora 在大多数奖励指标和人类视频任务上领先于 GPT-6 Astra,但在机器人视频、WGO-Bench 的三项指标中的两项、Robometer 分布外数据的相关性,以及 RubricBench 上仍落后。

🔗 Flora 项目页面 · Jim Fan 的讨论串


收购与合作:OpenAI 收购 Orchestra Bio,Runway 加入 Claude Marketplace

当天的两项商业动向:OpenAI 在药物开发领域展开收购,Runway 与 Anthropic 达成分销协议。

OpenAI 收购 Orchestra Bio,将 Rosalind 与药物开发连接起来

10 月 20 日 — OpenAI 宣布收购 Orchestra Bio。该平台让人类与人工智能代理共同推进药物研发项目:科学家和项目负责人可将研究与实验活动的跟踪工作委托给代理。OpenAI 举例说明:某个生产批次失败可能推迟临床试验的启动;代理随后会识别受影响的活动和时间安排,汇总信息并比较可能的应对方案,决策仍由团队作出。

Orchestra 的团队和技术将加入 OpenAI 面向生命科学领域的产品 Rosalind:GPT-Rosalind 用于生物学和化学推理,Rosalind Workbench 则将这些能力与研究人员的工具和数据连接起来。其公开目标是打造能够将科学发现与候选药物的研究、决策及后续步骤衔接起来的代理。OpenAI 提醒,在美国,从发现靶点到获得监管批准平均需要 10 至 15 年。收购金额未披露。

🔗 OpenAI 的公告

Runway Creative 入驻 Claude Marketplace,可使用 Anthropic 承诺消费额度支付

10 月 20 日 — Runway 携旗下视频、图像和音频生成与编辑平台 Runway Creative 加入 Anthropic 的 Claude Marketplace。符合条件的企业客户可通过其 Runway 或 Anthropic 客户代表,将部分 Anthropic 承诺消费额度用于购买 Runway;具体价格尚未公布。Runway Creative 集成了 Gen-4.5、Aleph 2.0、Seedance 2.5、Kling 3.0 和 ElevenLabs V4,Claude 则为 Runway Agent 提供推理能力,将需求转化为分镜、为每个镜头选择模型并组装视频。在 Claude Team 和 Enterprise 上处于测试阶段的 Claude Motion 动画可导出到 Runway,以添加图像、旁白和音乐。

Runway 称其用户包括超过 6500 万名创作者、电影制作人及营销团队。这是 Anthropic 一侧的对应举措;此前,Runway Creative 已于 9 月 29 日入驻 OpenAI Marketplace。

🔗 Runway 的公告


衡量模型:OpenAI 的 MultiLangBench、Ai2 的 FairStress 与 Cohere Labs 的 CALIBER

三项研究分别从三个角度评估模型:在小众编程语言中编写代码的能力、决策的公平性,以及对自身回答的置信度。

MultiLangBench:GPT-6 Astra 用 20 种语言构建兼容 SQLite 的引擎,包括 COBOL

10 月 19 日 — OpenAI 发布了一篇关于低资源编程语言(低资源)的研究博文,涉及 COBOL、Fortran 和 Visual Basic 等语言。这些语言的代码和文档远少于 Python,却支撑着银行系统或天气预报。其首个评测 MultiLangBench 以 Apache-2.0 许可证发布,要求使用 20 种语言中的任意一种,从零构建兼容 SQLite 的数据库引擎,并通过改编自 SQLite 测试套件的测试进行验证。

受测模型(最高推理强度)20 种语言的平均值COBOLFortranVisual Basic
GPT-5.6 Sol26,8 %10,9 %21,4 %27,5 %
GPT-6 Luna40,3 %17,1 %31,4 %41,6 %
GPT-6 Astra87,4 %72,1 %83,5 %89,4 %

GPT-6 Luna 每个样本的成本约为 0,77 美元,GPT-5.6 Sol 则为 3,48 美元。第二项评测要求将 COBOL 程序迁移到 C++、Java、Kotlin、Python 或 Rust,并确保输出逐字节一致。在低推理强度下,GPT-6.1 Sol 的成功率为 86,6 %,而相同设置下 GPT-5.6 Sol 为 5,4 %,且前者成本低 39 %;提高推理强度后,其成功率达到 97,9 %。OpenAI 提醒,生产环境中的迁移仍需要专家审查。

🔗 OpenAI 的博文 · GitHub 上的 MultiLangBench

FairStress:Ai2 衡量最终回答之外的人口群体公平性

10 月 20 日 — Ai2 发布了 FairStress,这项基准测试对模型人口群体公平性的评估超越了最终选择:它还衡量模型面对说服性论点时放弃合理决策的难易程度,以及模型如何解释自己的决定。该基准涵盖从招聘到住房的 29 个领域,共有 300 个在两名候选者之间作出选择的决策场景,扩展为超过 1300 万个测试用例。

没有人口群体信息时,模型的表现具有对称性。在 15 个模型中,放弃正确答案的平均差距在身份隐含时达到 6,9 个百分点,在身份标签明确时达到 9,3 个百分点:当最佳候选者被设定为多数群体成员时,模型更容易放弃该候选者,Ai2 将其称为反刻板印象的过度纠偏。在模糊案例中,Claude Opus 5 和 GPT-5.5 等前沿模型约有 60 至 65 % 的概率选择被设定为少数群体成员的候选者,而受测的九种纠偏方法大多无法可靠地减少这种不对称。Ai2 说明,其公平性定义以平等对待为基础;代码以 MIT 许可证发布。

🔗 Ai2 的博文

CALIBER:Cohere Labs 教会推理模型在思考前后估计置信度

10 月 20 日 — Cohere 的研究实验室 Cohere Labs 推出 CALIBER(推理前后校准),这是一种让推理模型两次估计答对概率的方法:先在思考前估计,再针对生成的答案进行估计。初始置信度的训练目标来自模型对同一问题多次尝试的成功率(十次成功七次,目标即为 70 %),最终置信度则根据答案是否正确来训练。

在 BigMathDigits 基准上,70 亿参数模型的预期校准误差(预期校准误差,ECE)从最佳单次置信度方法的 0,059 降至 0,028,降低了 52,5 %;无需额外训练,在 GPQA、TriviaQA 和 SimpleQA 上的降幅分别达到 26,8 %、32,2 % 和 36,2 %。300 亿参数模型的结果则更为微妙:其 ECE(0,022)仅略优于 CoCA-lite(0,023)。利用这些估计来决定何时核查或弃答的做法尚未经过测试,也没有宣布任何 Cohere 产品。

🔗 Cohere 的博文 · arXiv 上的论文


OpenAI API 将提示词缓存保留时间延长至 12 小时,写入费用为输入价格的 2,5 倍

10 月 20 日 — OpenAI API 现在支持将提示词缓存保留 12 小时,默认保留时间为 30 分钟。这项新功能面向 OpenAI 的 dots 等持续运行的代理,它们会全天重复使用相同的指令、工具和上下文:即使请求相隔数小时,仍可享受缓存词元的优惠价格。该设置通过 Responses API 的 prompt_cache_options.ttl 参数配置,适用于 GPT-5.6 及后续模型,两种保留时长还可在同一请求中组合使用:共享指令保留 12 小时,近期对话部分保留 30 分钟。

价格类型(GPT-5.6 及后续模型)未缓存输入价格的倍数
缓存写入,30 分钟(默认)1,25
缓存写入,12 小时(Responses API)2,5
缓存读取0,1(GPT-6.1 Sol 为 0,05)

对于全天重复使用的上下文,OpenAI 估计节省的费用远高于额外的写入成本。

🔗 提示词缓存指南 · @OpenAIDevs 的讨论串


编程代理:Claude Code 2.1.304、Copilot CLI 1.0.101、Vibe CLI 3.0.1 与 Devin Fusion

三款编程代理 CLI 发布了侧重权限与可靠性的版本,Cognition 则在一个独立指数上与 Claude Code 一较高下。

Claude Code 2.1.304:/claude-api managed-agents-secure、高消耗恢复前提醒与 43 项修复

10 月 19 日 — Claude Code 2.1.304 于 UTC 时间 21 时 34 分在 GitHub 发布,包含 76 条更新,其中 43 项为修复。新命令 /claude-api managed-agents-secure 会将 Claude Managed Agents 代理的设置与 Anthropic 发布的安全指南进行比较,不作任何修改。当恢复闲置对话会显著消耗五小时使用额度时,Pro 和 Max 订阅用户会收到提醒,并可改为开启新对话,由 Claude 在其中找回旧对话。/auto-mode-setup 现已登陆 Bedrock、Vertex、Foundry 和 Claude apps 网关。

多项修复旨在保护用户的工作:当 HEAD 处于分离状态或位于其他分支时,claude --worktree 不再未经询问便删除 worktree 及其分支,此前这可能导致提交丢失;在已挂载磁盘上执行 rm -r 现在会触发安全提示。使用自定义 ANTHROPIC_BASE_URL 时,工具搜索默认启用,Code Review 则可审查 GitHub 组织中的所有仓库,包括后续新增的仓库。

🔗 Claude Code 2.1.304 更新说明

Copilot CLI 1.0.101:子代理原生结构化输出与权限裁决器指引

10 月 20 日 — GitHub 发布 Copilot CLI 1.0.101 稳定版,距离 1.0.100 发布仅一天;其 30 条更新来自期间发布的两个预览版本。更新列表首先列出两项新增功能:在支持的模型上,为动态工作流(动态工作流)的子代理提供原生结构化输出,以及通过 assistedApprovalInstructions 设置引导 Assisted Permissions 裁决器的确认决策。

权限提示更加清晰:批准提示会解释升级审批的原因,并提供针对该请求的诊断命令;创建并随后打开文件夹的 shell 命令会请求路径批准,不再直接被拒绝。在企业功能方面,分配给某个 Team 的插件会从该 Team 的 GitHub 市场安装,模型选择器则会将管理员指定的模型标记为默认模型。在 macOS 下,启用本地访问后,沙箱可直接连接本地 TCP 服务,providers.json 的本地模型也不再导致 Auto 模式不可用。

🔗 Copilot CLI 1.0.101 更新说明

Vibe CLI 3.0.1:恢复支持 Python 3.12,管理员可禁用 YOLO 模式

10 月 20 日 — 在 Vibe CLI 3.0.0 发布次日,Mistral 未发布公告便推出 3.0.1:包含 58 条更新,其中 9 项新增、15 项变更和 34 项修复。该版本撤回了 3.0.0 的一项决定:Vibe 再次支持 Python 3.12 及更高版本,不再要求 Python 3.14。新增管理员设置 enable_auto_approve 可禁用称为“YOLO”的自动批准模式:auto-approve 代理将不再显示,--auto-approve、--yolo 和 bypass_tool_permissions 选项会被忽略,各工具的权限设置仍然生效。

对子代理的跟踪更加完善:vibe -p 会等待某一轮结束后仍在运行的子代理,导出内容会详细列出其状态、模型、用量和成本,各自按所用模型的价格计费。实验性命令 vibe run-server 可在单个进程中运行大量非交互式会话;如果回答因达到输出词元上限而被截断,系统会重新请求,最多六次。

🔗 Vibe CLI 3.0.1 更新说明

Devin Fusion:Coding Agent Index 得分 68,2,单项任务成本比使用 Opus 5.5 的 Claude Code 低 31 %

10 月 19 日 — Cognition 重点介绍了 Devin Fusion 在 Artificial Analysis 的 Coding Agent Index 上的成绩。Devin Fusion 是一个结合主模型与辅助模型(助手)的运行框架,该独立指数通过三项权重相同的评测为编程代理评分:

Devin Fusion has claimed a top score of 68 on the @ArtificialAnlys Coding Agent Index with an Opus 5.5 lead and GPT-6 Luna sidekick. Devin Fusion outperforms Claude Code with Opus 5.5 on both performance and price – earning a score of 68 at a 31% lower cost per task.

🇨🇳 Devin Fusion 以 Opus 5.5 为主模型、GPT-6 Luna 为辅助模型,在 @ArtificialAnlys 的 Coding Agent Index 上取得 68 分,位居最佳成绩之列。Devin Fusion 在性能和价格两方面均优于使用 Opus 5.5 的 Claude Code,得分为 68,单项任务成本低 31 %。 — @cognition 在 X 上

该指数的数据证实了成本差距;Devin Fusion 在 42 种配置中排名第二:

受测配置指数得分平均单项任务成本
Claude Code, Sonnet 5.5 (max)68,414,19 美元
Devin Fusion CLI, Claude Opus 5.5 Max + GPT-6 Luna High68,29,02 美元
Claude Code, Opus 5.5 (max)66,013,04 美元

使用 Muse Wonder Full 的 Muse Code 以 68,0 分紧随其后。Devin Fusion 在 DeepSWE v1.1(72,6 对 68,4)和 SWE-Atlas-QnA(69,4 对 66,4)上明显领先,但使用 Opus 5.5 的 Claude Code 在 Terminal-Bench v4 上仍占优势(63,1 对 62,6)。Cognition 没有发布新的博文。

🔗 Artificial Analysis 的 Coding Agent Index


简讯

智能体与编程工具

  • Devin 10 月 19 日版本说明 — Devin 现在可以在 GitHub、GitLab、Azure DevOps 和 Bitbucket 上查看提交、分支或标签的 CI 状态,不再仅限于拉取请求;Devin Review 新增规则编辑器和“立即审查”按钮,记忆的夜间梦境功能(夜间记忆整合)也可以关闭了。🔗 来源
  • Agent Manager — Hugging Face 以 Apache-2.0 许可证发布了一个部署在 Space 中的私有工作区,可通过浏览器管理数十个 Claude Code、Codex、Gemini CLI、opencode 或 Hermes 智能体;这些智能体可以相互通信,并在用户换用其他设备继续操作时保持运行。🔗 来源
  • Zed 的 MCP 工具检索 — Zed 团队以 150 条查询和 536 个工具为基础,比较了 25 种查找合适 MCP 工具的方法,包括决策模型、LLM 和嵌入(embeddings),最终选用加权 BM25 配合少量归一化规则,在本地运行,无需调用 API;未公布详细评分,也未说明涉及的产品。🔗 来源
  • Zed 1.24.4 与 1.25.1 预览版 — 稳定版修复了 OpenCode 模型的加载问题;预览版为带有 svg、mathml 和 raw 标签的模板新增 HTML 语法高亮,并为 JavaScript 和 TypeScript 中传给 css() 的模板新增 CSS 语法高亮;智能体方面没有新变化。🔗 1.25.1 预览版 · 🔗 1.24.4
  • iOS 上的 v0 — v0 的 iOS 应用新增 Browser Use 标注功能,消息通过一条附有视频的推文发布,没有功能说明,v0 更新日志中也没有对应条目。🔗 来源
  • Gemini CLI 10 月 20 日夜间版 — 连续三个夜间版没有更新内容后,此次带来两项修复:刷新屏幕不再清空终端滚动历史,/clear 和 Ctrl+L 只清除可见区域;DevTools 也不再显示因跨越两个 HTTP 数据包而被截断的 UTF-8 字符;稳定版 v0.64.0 保持不变。🔗 来源
  • ZCode v3.16.2 — Z.ai 编程环境 ZCode 的开源仓库同步至 v3.16.2,未提供版本说明:桌面应用支持完整显示侧边栏,其插件市场中还新增 anet 插件,可通过 A2A 协议将任务交给其他智能体。🔗 来源
  • mistral CLI 0.9.0 — 这款用于在 Mistral 平台部署应用的工具新增 mistral upgrade,支持无需推送提交、直接从磁盘部署的实验性功能,并通过功能开关提供 mistral apps list 和 logs;此次存在不兼容变更,私有镜像仓库的令牌现在只能从 MISTRAL_REGISTRY_TOKEN 或 NODE_AUTH_TOKEN 读取。🔗 来源
  • Copilot 模型策略 API — 用于读取和修改允许使用的模型的 REST GET 和 PATCH 端点正式开放,涵盖企业、企业团队、智能体应用和组织层级,并可将管理权限委派给组织或团队。🔗 来源

企业与应用案例

  • Claude Enterprise 的 Inference hooks — 该功能结束测试阶段,会将每次请求的完整记录发送至组织的安全服务器,由服务器在请求到达模型前批准或拒绝,默认处理时限为 5 秒;覆盖 claude.ai、Claude Code、Cowork、Claude Tag 和 Claude in Chrome,不涵盖 Bedrock、Google Cloud 或 API。🔗 版本说明 · 🔗 文档
  • Perplexity 与 Valarian — Perplexity 与这家英国主权基础设施公司合作,在受监管机构的服务器上运行 Computer,包括隔离网络(air-gapped),使用 Nemotron、GLM、Kimi、DeepSeek-R1 或 Qwen 等开放模型;按需部署,未公布价格或客户名称。🔗 来源
  • IncidentWatch 与 IncidentSweep — SpaceXSI 介绍了两个 Grok Bots 如何处理其客服事故:一个每隔 5 分钟检测工单激增情况并通知值班人员,另一个按工程师批准的批次关闭工单;在 9 月 18 日的一次事故中,后者约用十分钟关闭了 204 张工单。🔗 来源
  • 加盟商使用 ChatGPT Work — 根据 OpenAI 的案例研究,在新墨西哥州经营三家 Schlotzsky’s 和 Cinnabon 餐厅的特德·泰勒,将菜单价格调整所需时间从 5 天缩短至 1 至 2 小时,每月收银对账时间则从 3 小时缩短至 5 至 10 分钟,减少了 94 %。🔗 来源
  • 三位 Java Champions 与 Copilot — 弗拉德·米哈尔恰、帕特里克·鲍姆加特纳和弗兰克·德尔波特在 GitHub Blog 上分享了使用 Copilot 的经历,包括在八到十小时内将约 900 张幻灯片迁移至 Marp,以及让编程智能体在半小时内为 Pi4J 的一个缺陷提交拉取请求。🔗 来源
  • Hippolyte.ai 与 ElevenLabs — 这家法国招聘平台借助 ElevenLabs 的语音合成,在三周内完成了 4 830 场语音初筛面试;语音处理在欧盟境内完成,原始录音在 24 小时内删除,并使用在法国自行托管的开放权重模型。🔗 来源
  • Replit 进军日本 — Replit 在日本开设办公室,推动日本企业采用其应用与企业智能体创建工具,并将于 11 月 5 日和 6 日在东京举办四场活动,其中包括一场与 Microsoft 合办的工作坊;未公布办公地址、人员规模或日本专属方案。🔗 来源

榜单与指南

  • ClaimBench — Vals AI 的新基准要求模型判断一段 10-K 年报摘录是支持某项陈述、与之矛盾,还是未涉及该陈述:Perplexity 的 pplx-decider-v1.2 以 99,69 % 的成绩领跑决策模型,每条陈述成本为 0,000104 美元,领先于 Mercury Decide(99,08 %),但延迟也属于最高之列(1,23 s)。🔗 来源
  • Parallel 上的 MiniMax M3.1 Flash — Parallel Web Systems 将前一天发布的 MiniMax 模型列为其网页搜索榜单中效率最高的模型,性能接近 DeepSeek V4.1 Flash,成本约为后者的三分之一;该榜单由第三方厂商发布。🔗 来源
  • Perplexity 介绍人工智能网关 — “观点”栏目的一篇指南介绍了位于应用或智能体与模型之间的代理,包括路由、token 预算、语义缓存和防护机制,并引用 Broadcom 的测试:经过调优的 Envoy 网关为每次请求增加约 2 ms 的延迟;文中未介绍任何 Perplexity 产品。🔗 来源

创作:图像、视频与演示文稿

  • Bria 的 Fibo 2.0 — 据萨亚克·保罗介绍,Diffusers 在这款开放权重图像编辑模型发布时即提供支持;该模型被称为同类首款,通过 JSON 控制,能够正确渲染文字,并提供 Turbo 和 Dev 变体。🔗 来源
  • Luma 的 Art Style Match — 该工具可将一至四张参考图像的风格应用于产品图像,同时保持产品和构图不变;目前仅通过一条推文介绍,未提供博文、模型或价格。🔗 来源
  • Design Arena 上的 HeyGen Video 1.0 — 据 HeyGen 称,Design Arena 将其在 MiniMax H3 基础上进行后训练的 1080p 模型列为视频和图生视频类别第三名;HeyGen 将该模型定位于产品特写和补充镜头制作。🔗 来源
  • OpenRouter 上的 Wan3.0 Prime — Alibaba 的这一 Wan 3.0 快速变体以每秒 0,068 美元起的价格,登上 OpenRouter 视频榜单“趋势”视图榜首,请求量约 3 000 次(+85 %);Wan 3.0 在该榜单中位列第三。🔗 来源
  • GTC 柏林站的 TJ — Synthesia 将黄仁勋的卡通分身制作成交互式虚拟形象,基于其视频和语音模型以及 Interactive Avatar API,在 10 月 21 日和 22 日从 100 多场会议中为访客推荐场次。🔗 来源
  • Gemini Notebook 中的协同创作 — Pro 和 Ultra 订阅用户可以选择主题、格式、时长、语言和视觉风格,然后在启动生成前审阅演示文稿(Slide Deck)的大纲或视频概览(Video Overview)的制作说明;该功能仍在逐步推出。🔗 来源

开放模型、研究与硬件

  • AnyLanguageModel 1.0 — Hugging Face 的这个 Swift 软件包只需修改一条导入语句,即可替换 Apple 的 Foundation Models 框架,让同一会话使用系统模型、通过 llama.cpp、MLX 或 Core ML 运行的开放模型,或 OpenAI、Anthropic、Gemini 等托管服务商的模型。🔗 来源
  • 使用 TRL 对智能体进行后训练 — Hugging Face 发布了一套五步教程,从基于智能体运行轨迹进行监督微调,到借助 AsyncGRPO 在真实运行框架中训练,涵盖蒸馏、GRPO 和 OpenEnv 环境;这是教学内容,没有新产品发布。🔗 来源
  • Thoughtworks 测试 Nemotron 3.5 Super VL — 在第二份报告中,Thoughtworks 发现三个 LoRA 适配器在法律和医疗领域的留出数据上提高了 5,42 至 9,41 个百分点,但在公开基准 CaseHOLD 上没有显著提升;团队还移除了一个评判模型,因为其评分会因指令不同而变化 35,1 个百分点。🔗 来源
  • 法国更精细的天气预报 — Hugging Face 博客介绍了一个约有 200 万参数、训练耗时一小时的 U-Net,将 AIFS-ENS 温度预报的分辨率从 28 km 细化至 5,5 km:与 Météo-France 气象站数据对照,两天预报的误差(RMSE)降低了 14 %;作者将这项工作定位为演示。🔗 来源
  • Coral NPU — Google Research 完成了面向嵌入式人工智能的开放神经处理器的 32 位架构,基于 RISC-V,配备最高达 1 TOPS 的矩阵运算单元,目标平均功耗为 10 mW,并发布 Coral Compiler v1.0;Synaptics 则推出 Astra SR200 芯片系列。🔗 来源

GitHub 的非人工智能动态

  • 机密扫描 — 11 月 12 日,两类审计事件中的 business 字段将从企业显示名称改为其简短标识(slug);处于预览阶段的撤销功能还支持私有和内部仓库中经 Base64 编码的 GitHub 令牌。🔗 来源
  • Dependabot 告警 — REST API 和 dependabot_alert 网络钩子现在会返回 version_requirement 字段,表示存在漏洞的依赖项版本或版本约束;该功能已在 github.com 和 GitHub Enterprise Cloud 上提供,之后将登陆 GitHub Enterprise Server 3.24。🔗 来源
  • Dependabot 与新版软件包管理器 — Dependabot 为所有 github.com 用户提供 npm 12、pnpm 11 和 12 以及 Bun 1.4 支持,并将在 GitHub Enterprise Server 3.24 中纳入这些支持。🔗 来源
  • 规则集 — 现在只需一次操作,即可将仓库的全部分支保护转换为规则集(rulesets),支持预览、选择执行状态(Active、Evaluate 或 Disabled),以及保留或删除原有规则。🔗 来源

这意味着什么

推理正在摆脱完全依赖 NVIDIA 的局面,厂商也在开放支撑推理的引擎。DeepInfer 既能运行于 NVIDIA 的 SM100 GPU,也能运行于 Huawei 的 Ascend 950 NPU;TorchTPU 让 TPU 成为普通的 PyTorch 设备,连 Transformers 和 Diffusers 中也能如此使用;PyTorch 2.15 则让 Mac 上 MoE 的解码速度提升至六倍以上。DeepSeek 还公布了其服务的经济数据:单个集群每天处理 155 万亿 tokens,低谷时段每 GPU 小时收入为 38 美元;deepseek-recipe 则让第三方托管服务商能够复现其官方 API 的行为。上下文复用在这笔账中的分量越来越重:DeepSeek 将 KV 缓存保留超过 72 小时,OpenAI 则开始为全天反复使用同一上下文的智能体提供 12 小时的提示词缓存服务。

在语音智能体方面,Mistral 和 ElevenLabs 同日提出了两种架构路线。Voxtral 3 保留了由独立模型组成的处理链,包括转录、可自行选择的 LLM 和语音合成,由 SDK 以流式方式协调运行,在不到一秒内完成一轮交互;每个组件都可以替换,无需重写智能体,价格按分钟或字符公开标示。Eleven Realtime 将整条处理链融合进单个语音到语音模型,并以兼容 OpenAI 的 Realtime API 为卖点,吸引已经完成集成的开发者,但未公布具体价格。Mistral 还强调在欧洲托管,而 Hippolyte.ai 的案例恰好展示了大型客户的要求:在欧盟境内处理语音,并在 24 小时内删除录音。

助手在哪里运行,正成为一个卖点。Perplexity Computer 现在可以完全在配备 36 Go 内存的 Mac 上运行,包括模型本身,Valarian 则将其带入隔离网络;Anthropic 的 Inference hooks 允许企业安全服务器在请求到达模型之前将其拒绝。厂商也在详细说明这些保护措施的局限:ChatGPT 的锁定聊天会隐藏对话,但不提供端到端加密,对话仍保留在企业合规日志中。

软件供应链安全的关键,正在于智能体实际采取行动的环节。OSS Scanner 在十一天内报告了 77 个严重漏洞和 803 个高危漏洞,不过严重程度仍由模型自行判定;与此同时,curl 的漏洞已经获得 CVE 编号、公告和修复。GitHub 的软件包防火墙瞄准安装环节,因为恶意软件包可能在此时窃取持续集成执行器或编程智能体的凭据。智能体 CLI 同时也赋予管理员更多控制能力:Vibe CLI 3.0.1 允许禁用 YOLO 模式,Copilot CLI 1.0.101 允许调整负责审核权限的评判模型,而 Claude Code 2.1.304 在删除工作树前会先询问。


来源