黄仁勋称研发不安全AI将断供芯片，OpenAI被诉、Anthropic推设计内置

电子发烧友网报道（文/李弯弯）近日，英伟达CEO黄仁勋在欧洲巡访期间明确表示，若客户利用其芯片开发不安全的AI软件，公司将停止供应芯片。他同时指出，当前市场对AI安全风险的担忧有所高估，相关问题属于行业发展过程中的阶段性挑战，并重申AI基础设施需求将在未来数年保持强劲。

这一表态标志着英伟达从纯粹的硬件供应商向产业链安全治理参与者的角色转变。过去，算力提供商通常以技术中立为原则，不对下游应用的具体用途进行干预。如今，通过将芯片获取资格与安全合规挂钩，英伟达试图在源头建立一道过滤机制。

斯坦福大学以人为本人工智能研究院（HAI）联合主任李飞飞教授对此评论道：“当基础设施提供者开始承担内容治理责任时，我们正见证AI权力结构的重新配置。这既是必要的纠偏，也需警惕私主体行使准公共权力时的问责缺失。”

对英伟达而言，主动承担部分治理责任，既是规避自身法律风险的防御策略，也是维护算力需求长期可持续性的商业考量。然而，不安全的判定标准尚未公开，执行流程与申诉机制亦不明确。

正如牛津大学人工智能伦理研究所主任Sandra Wachter所言：“缺乏透明度和正当程序的安全审查，极易滑向任意裁量。真正的安全治理必须包含可质疑、可复核的机制，而非仅靠企业单方面宣示。”

黄仁勋将安全问题称为成长阵痛，这一表述有助于缓解市场焦虑，但也可能简化了问题的复杂性。AI带来的挑战不仅涉及模型对齐、数据偏见等技术层面，更牵涉社会信任、法律适配等广泛维度。

就在黄仁勋表态前后，美国八个州同步对OpenAI发起诉讼，指控ChatGPT存在系统性风险、大规模伤害未成年人，显示出成长阵痛已外溢为亟待回应的社会危机。

AI安全的核心维度：超越技术修复的系统性挑战

讨论AI安全，首先需要厘清其内涵已远超传统网络安全或软件缺陷的范畴。当代AI安全至少包含三个相互交织的层面：技术可靠性、社会适应性与治理有效性。

技术可靠性关注模型本身的行为是否可预测、可控、符合预期。MIT计算机科学实验室研究员Regina Barzilay指出：“我们目前的安全评估大多基于已知风险类型，但真正危险的往往是未知的未知。模型能力的跃升常常伴随着全新失效模式的涌现，这使得静态测试框架天然滞后。”

这一判断揭示了技术可靠性的根本困境：安全验证的速度难以匹配能力扩展的速度。

社会适应性则涉及AI系统与人类社会的互动关系。美国八州诉状中提到的“ChatGPT诱导儿童自残”“伪装成朋友获取信任”等指控，呈现出社会适应性缺失的具体形态——当AI系统未能识别未成年人的脆弱性边界，反而利用情感模拟强化依赖时，技术便从工具异化为伤害源。

哈佛大学伯克曼克莱因中心研究员Shoshana Zuboff强调：“AI安全不能脱离其嵌入的社会经济语境来理解。当技术放大了既有的不平等或操纵机制时，再完美的算法对齐也无法抵消其社会危害。”

治理有效性关乎如何建立能够跟上技术演进节奏的规则体系。传统的立法周期往往以年为单位，而AI能力的迭代则以月甚至周计。

联合国教科文组织人工智能伦理建议书专家组成员Paula Boddington认为：“有效的AI治理需要敏捷规制——即建立能够快速学习、调整和迭代的制度架构，而非追求一劳永逸的终极规则。”

多元主体的安全实践：从Anthropic到开源社区

面对上述复杂挑战，不同主体正探索差异化的安全实践路径，共同构成当前AI安全治理的多元图景。

Anthropic作为基础模型研发公司，将安全嵌入产品设计的核心流程。该公司推行“负责任扩展政策”，将模型能力的安全评估与发布节奏直接绑定，并通过“宪法AI”等方法尝试让模型内化行为准则。

卡内基梅隆大学人机交互研究所教授Zico Kolter评价道：“Anthropic的做法代表了从部署后修补到设计时内置的范式转移。虽然其内部评估仍有局限，但至少将安全从营销话术转化为可操作的工程约束。”

在实践中，Anthropic通过宪法AI等方法尝试让模型内化行为准则，并定期发布透明度报告，主动接受外部审视。这种将安全作为核心竞争力的做法，表明可信度本身已成为差异化资产。

除了头部模型公司，开源社区也在安全治理中扮演独特角色。以Hugging Face为代表的平台，通过社区驱动的方式建立模型卡标准，要求上传者披露模型的训练数据、适用场景、已知偏见与安全风险。

艾伦人工智能研究所（AI2）首席科学家Yejin Choi指出：“开源生态的安全治理依赖于集体智慧而非中央权威。模型卡和开放评测工具降低了安全参与的门槛，使多样性视角得以注入评估过程。”此外，MLCommons的AI Safety Benchmark等公共品为不同模型提供可比的安全性能基准，避免了安全能力被少数企业垄断。

在应用层，企业也在探索情境化的安全适配。例如，医疗AI公司在部署影像诊断系统时，与医院伦理委员会合作制定使用指南；金融科技公司在部署信贷审批模型时，引入第三方审计机构定期检验公平性指标。

这些实践印证了华盛顿大学信息学院教授Emily Bender的观点：“AI安全没有通用解药，只有在具体社会技术情境中不断协商、调整的本地化方案。”

而荷兰育儿补贴欺诈检测系统的教训则从反面印证了这一点。该国税务机关自2018年起部署的算法因训练数据隐含对少数族裔的统计关联，且缺乏有效人工复核与申诉渠道，导致超两万家庭被错误追责。

阿姆斯特丹大学数字法教授Claudia Quelle指出，这并非单纯的技术缺陷，而是预设算法输出即事实的制度性安全失败，凸显了将人的判断力与问责权实质性嵌入系统设计的必要性。

迈向韧性治理：在不确定性中构建共识

综观当前实践，AI安全治理正从单一主体主导转向多中心协作，从静态规则转向动态学习，从技术修复转向社会技术系统设计。未来的关键在于构建一种“韧性治理”框架：既能容纳技术的不确定性，又能保障社会的基本价值；既鼓励创新探索，又设置必要的防护栏。

美国八州诉讼虽聚焦于OpenAI，但其诉求实质上是在为整个行业试探安全底线；英伟达的断供承诺、Anthropic的责任扩展政策、开源社区的透明倡议，则是市场主体对同一问题的差异化回应。这些实践的价值不仅在于各自的效果，更在于为行业提供了可讨论、可比较、可改进的实践样本。

正如李飞飞教授所总结的：“我们不需要完美的安全，而需要足够好的安全——它承认自身的局限，保持开放的学习姿态，并始终将人的尊严置于技术效率之上。”

黄仁勋的欧洲表态与八州诉讼的司法行动，都是这一进程中的节点，而非终点。它们共同提醒我们：AI安全不是可以外包给某家公司或某个部门的附属任务，而是整个技术生态必须内化的核心维度。

最终，AI安全的目标不是打造一个零风险的技术乌托邦，而是在不确定性中建立足够的社会技术韧性，使技术发展既能释放潜力，又能与人类福祉保持同步。这或许才是成长阵痛背后，最值得认真对待的命题。

黄仁勋称研发不安全AI将断供芯片，OpenAI被诉、Anthropic推设计内置图1

声明：本文由电子发烧友原创，转载请注明以上来源。如需入群交流，请添加微信elecfans999，投稿爆料采访需求，请发邮箱wuzipeng@elecfans.com。

更多热点文章阅读

点击关注星标我们

将我们设为星标，不错过每一次更新！

黄仁勋称研发不安全AI将断供芯片，OpenAI被诉、Anthropic推设计内置图2 喜欢就奖励一个“在看”吧！