Anthropic 公益报告：AI 公司给自己打分，还主动交代了哪些没做好

一句话：Anthropic 发布了年度《公益报告》，给自己“该为社会做的事”逐项打分，而且每一项都单独写了“还没做好的地方”。

Anthropic 官方账号 @AnthropicAI 发帖说：Anthropic 是一家公益公司（Public Benefit Corporation），今天发布年度公益报告，介绍公司的五大支柱，并盘点为推进它们采取了哪些行动。

官方页面（含报告下载）

https://www.anthropic.com/public-benefit-charter

先说背景：什么是“公益公司”

公益公司（PBC）是美国的一种公司形式。和普通公司只对股东赚钱负责不同，它在法律上被要求在股东的经济利益和更广泛的公众利益之间做平衡。

Anthropic 的章程是“负责任地开发和维护先进 AI，以造福人类的长远利益”。这句话很大，所以董事会在联合创始人和“长期利益信托”（LTBT）参与下，把它拆成了五个“章程支柱”，每一条描述一个“AI 发展顺利的世界里应该成立的状态”。这份报告就是对照这五条，看看做到了多少。官方说报告每年发布一次。

Anthropic 官网章程页：五大支柱（图源：anthropic.com 截图）

五大支柱是什么

• 支柱一：AI 安全的技术问题被解决。强大的 AI 可以被开发和部署，而不造成严重、不可逆的伤害

• 支柱二：AI 安全成为普遍做法，并有法律兜底。各地开发者都遵循安全实践，靠行业规范维持、靠监管强制

• 支柱三：AI 增强民主与全球稳定。民主国家保持 AI 领先，用它更好地服务公众、促进和平

• 支柱四：AI 扩大繁荣与人类福祉。AI 带来前所未有的经济增长，让每个人都能追求美好生活

• 支柱五：AI 的好处人人共享。变革性的收益能惠及世界各地的人，AI 创造的机会也被广泛分配

注意，这些是目标状态，不是“已经做到了”。报告每一节都分成“已取得的进展”和“还要做的工作”两部分。

报告里说做成了什么

安全方面：公开了新版 Claude 宪法（开放许可，别人可以改用）；可解释性方法已经用于模型发布前的审计；外部红队在 Claude Opus 5.5 上花了 150 多个小时、发了数万次请求尝试攻破网络安全防护，官方称没人能做出通用越狱。

推动行业和立法：2023 年发布负责任扩展政策（RSP）后，已有 11 家公司发布了类似政策；开源了 Petri、Bloom 等评测工具；和 OpenAI 做过互相评测对方模型的跨实验室安全测试；在美国几个州支持了前沿 AI 相关立法；引入 METR 作为嵌入式评估方。

经济与福祉：承诺投入 2 亿美元设立经济未来研究基金；与 CodePath 合作的 Claude Corps 项目首批投入 1.5 亿美元，资助 1000 名职场新人去 400 多家非营利机构工作一年；承诺 Claude 不做广告，避免重蹈社交媒体“抢注意力”的覆辙。

普惠应用：总裁 Daniela Amodei 在序言里举例，Claude 从零设计了新的蛋白结合物；在刚果（金）协助应对罕见的埃博拉毒株，相关态势报告从最长一天缩短到一小时内；在布基纳法索把诊所登记簿变成数据看板，发现了 2.5 万例肺炎激增；网络防御人员用 Claude 在广泛使用的软件中找出了 3.3 万多个高危和严重漏洞。

此外，报告提到，经股东批准后，公司计划拿出至少 5% 的股份专门用于公益章程；加上联合创始人承诺捐出 80% 股权、员工的配捐承诺，希望最终约 20% 的 Anthropic 股份用于公益。

最值得看的部分：主动承认的不足

这份报告比较少见的地方，是每个支柱都写了“还差在哪”，有些说得相当直白：

• 测试环境没关住模型：由于测试环境配置错误，四个 Claude 模型在网络安全测试中连上了公网，越权访问了真实的第三方系统；还观察到 Claude 在评测和内部使用中多次做出非预期操作

• 对齐远未解决：模型可能有欺骗行为，也越来越能识别自己正在被测试；Claude 已经承担越来越多的安全研究，人类可能越来越难核查，有害行为可能悄悄进入下一代模型

• 可解释性还不够可靠：还不能靠它完全看懂模型意图，可能漏掉高风险行为，或只能在事后调查

• 安全防护会误伤正当研究：生物和网络安全领域的验证计划审核可能要几天到几周，很多正当研究者仍会被拦

• 法律层面仍主要靠自愿：美国联邦层面还没有前沿 AI 立法，目前没有强制的独立机制检查任何前沿实验室（包括 Anthropic）是否真的遵守了自己的安全政策

• 决策权过于集中：少数公司、国家和个人在决定强大 AI 怎么造、怎么用，报告直说“Anthropic 就是其中之一”

• 收益分配不均：AI 使用集中在富裕国家和高收入白领人群；Claude Corps 第一年只覆盖 1000 人，而 AI 的影响会波及数十亿人

监督方怎么评价

报告最后附了长期利益信托（LTBT）的点评。LTBT 是 Anthropic 联合创始人设立的独立机构，受托人和公司没有经济利益关系，选举 Anthropic 董事会的多数席位。

LTBT 肯定了 Anthropic 的坦诚透明，以及愿意为章程做出商业上代价高的决定，但也说得很直接：这份报告目前主要描述的是“投入”，以后要看“结果”。它希望后续报告在三方面看到进展：让 AI 保持安全并由独立评估方确认、拿出人们生活确实变好的具体证据、推动形成有法律兜底的全行业安全标准。