Anthropic 发布 9 月威胁情报报告：AI 滥用扩展至生物研究、监控与网络攻击

先说结论

Anthropic 在 2026 年 9 月 10 日发布《Detecting and countering misuse of AI: September 2026》，披露了其在 2025 年 12 月至 2026 年 8 月间发现并阻断的 AI 滥用活动。报告覆盖网络攻击、影响行动、监控、诈骗与欺诈、生物滥用、常规武器开发和模型蒸馏七类风险。

这不是“Claude 自己决定制造生物武器”的证据，也不是对每个案例都完成了独立司法认定。更准确的读法是：随着模型能力提高，少量资源、较低技能的行为者也能把 AI 接入更长的攻击链条；模型供应商的实时监控、账号处置和跨机构情报共享正在成为产品安全的一部分。

Anthropic 公开了什么

Anthropic 称，报告案例来自其威胁情报团队在 2025 年 12 月至 2026 年 8 月间的调查，使用过 Claude Haiku、Sonnet 和 Opus。除一宗非法蒸馏事件外，报告称没有发现 Claude Fable 或 Mythos 级模型参与这些滥用案例。

报告没有把“发现”与“已证实犯罪”混为一谈：部分行为者被描述为疑似国家关联团体、间谍软件供应商、国家宣传机构或具有政治动机的个人。Anthropic 表示，它封禁了相关账号、加强了安全防护，并在适当情况下向政府、行业伙伴和受影响方共享情报。

为什么这次报告值得关注

1. 网络攻击从“助手”走向“编排层

报告认为，AI 正被用于连接目标研究、漏洞利用、工具维护和部署等环节。重要变化不只是模型能不能写一段代码，而是攻击者能否把多个工具和步骤串成可重复的工作流。这会降低复杂攻击对专业人员数量和经验的依赖。

2. 监控、影响行动与诈骗是现实产品场景

报告覆盖了用于识别和监控异议人士的监控系统、影响行动，以及面向用户的诈骗和虚假交友应用。它提醒产品团队：滥用风险不只存在于“模型回答了什么”，也存在于模型被接入什么数据、账号体系和自动化执行权限。

3. 生物安全的边界正在变窄

Anthropic 说，其生物安全分类器阻断了可能帮助生物武器研究的请求，并因此在较新的模型上对更广泛的双重用途生物研究查询采取更严格的限制。报告同时承认，双重用途研究很难仅凭单个问题判断意图，因此误杀与防护强度之间仍需持续评估。

对 AI 产品和开发者的可执行启示

1. 把“模型能力”与“可执行权限”分开管理：默认关闭不必要的联网、写入生产系统、发布包和批量触达用户的权限。
2. 为高风险工作流保留人工确认点，尤其是代码发布、凭证访问、对外发送和不可逆数据变更。
3. 建立账号、调用、工具和输出的审计链，才能在发现滥用后定位范围并完成处置。
4. 不要把供应商的“已阻断”直接当成安全保证。应要求供应商说明检测范围、误报处理、升级路径和事件通知机制。

证据边界

本文事实主要来自 Anthropic 的原始报告；美联社的独立报道确认了报告发布时间、七类滥用范围以及 Anthropic 关于生物研究防护的说明。报告中的行为者归因、动机判断和“已阻断”结果仍属于 Anthropic 的披露，应与司法机关的独立认定区分。

来源：Anthropic：Detecting and countering misuse of AI: September 2026；Associated Press：Anthropic says it blocked misuse of its AI that could have supported biological weapons。