当生成式AI接管机器人“大脑”，安全验证成了最昂贵的入场券

【科技24时区】

把机器人的控制权交给生成式AI，这已是行业大势所趋。但随之而来的隐患同样棘手：与传统算法不同，这种架构缺乏可预测性。当你面对一台全新的人形机器人时，如何确信它是安全的？

卡内基梅隆大学Safe AI实验室主任赵丁博士，几乎整个职业生涯都在死磕这个难题。如今，他联手资深初创企业高管Kyle Wong和机器学习工程师Simo Rachidi，共同创立了Safeworld公司，旨在破解这一困局。“我们谈论的安全挑战是双重的，”赵丁指出，“一是极其先进的生成式AI概率评估——你如何为概率系统的风险‘承保’？二是信任问题，这两者缺一不可，否则机器人无法真正部署。”

就在今天，Safeworld结束隐身模式，正式亮相。其种子轮融资超过1200万美元，由Shine Capital和a16z Speedrun领投，Box Group、卡内基梅隆大学捐赠基金、Innovation Endeavors以及SV Angel跟投。a16z Speedrun合伙人Jonathan Lai对TechCrunch直言：“建立行业安全标准的窗口期就在当下，趁机器人还在设计和部署阶段。如果等到机器人进入家庭，撞倒孩子或引发安全事故，那就太迟了。”

Safeworld的杀手锏，是在填充了逼真人类模型的仿真环境中，对机器人控制系统进行评估。这有点像特斯拉或Wayve面临的挑战——必须确保车辆能对道路上各种突发状况做出恰当反应。但在赵丁看来，机器人的处境更为艰难：它们工作在非结构化环境中，且每个设施的安全标准各不相同。

“最常见的场景之一是工厂里的盲区，”Wong举例道，“你需要确定什么样的速度或制动距离，才能确保机器人不会撞到特定的人？比如，如果有人抱着箱子，机器人能检测到吗？”

为了回答这个问题，Safeworld会在Genesis或MuJoCo等模型中构建该盲区的数字孪生体，插入由真实软件驱动的待测机器人模拟体，然后运行数千种人类模型与机器人相遇的场景。赵丁坦言，这比听起来难多了，因为人本身就是不可预测的。“绊倒和摔倒也是我们在仿真中大量测试的例子，”Wong补充说，“否则，你就得亲自去绊倒、摔倒给机器人看，这显然不是个可持续的做法。”

Safeworld正在搭建的平台，与机器人制造商内部使用的工具确有相似之处。但创始团队坚信，除了专业壁垒外，机器人制造商更需要第三方来验证其工作成果，哪怕只是为了在竞争对手之间共享安全案例信息。“很多人低估了解决这些边缘案例的难度，”赵丁警告称，“我们担心的不是真空环境下演示用的机器人，而是大规模部署后，那些可能从未操作过机器人的普通人面前的机器人。”

Gritt Robotics首席技术官Vishal Dugar正致力于开发用于工业规模太阳能农场光伏板安装的机器人“AI大脑”，并渴望承担更复杂的建筑任务。他的公司正在与Safeworld合作开发安全仿真系统。“大多数系统的难点在于，很难通过数学推导或方程编写来形式化地证明系统是安全的，”Dugar表示，“这必须通过实证来完成。”

他的机器人与人类工人并肩作业，确保机械臂不伤人显然是头等大事。而在实践中验证这一点，需要考量所有潜在场景。“人类的形态千差万别，”Dugar指出，“他们的身体姿态各异：跪着、站着、蹲着，甚至可能在奔跑。他们可能会绊倒。你必须对所有这些人类可能表现出的行为做出反应，同时还要应对人类外观的巨大差异——衣服、体型、身高、肤色等等。”

对于Safeworld和机器人领域的生成式AI而言，一切才刚刚起步。公司仍在摸索最佳的产品模式——是面向外部用户的平台，还是基于服务的方法？但团队确信，他们切入的是正确的痛点。“我们很可能成为该领域第一家盈利的公司，”赵丁自信地说道，“因为任何想要部署机器人的人，都需要付费让我们来处理这些安全情境。”