最近，AI领域发生了一件值得说一说的事儿。
OpenAI 的 ChatGPT 在一次演示里，很轻松就通过了 Cloudflare 的「我不是机器人」验证。
这不只是说 AI 破解了一个难题，也说明了一个重要情况：能像人一样上网的 AI 代理，不再是科幻，而是真的来了。
这个 AI 代理是 OpenAI 新做的，能自己控制浏览器。当时它在干活的时候，碰到了一个用来防机器人的验证码，但没被拦住。
它甚至还像人一样，边点边说：“好了，我得点一下这个，证明我不是机器人。”
验证码这个东西，本来就是专门用来拦住机器人的。结果现在，一个机器人就这么轻松地骗了过去。
AI 代理是助手，但也有风险
ChatGPT 做的这件事，说明了「自主智能体」的技术正在快速发展。
比如 OpenAI 这个代理，你给它一个模糊的要求，像是“帮公司找个团建的地方”，它就能自己把任务分成几步：去网上找地方、比价格、下订单，甚至还能做个文件出来。
它的所有操作，都在一个叫沙盒的安全环境里，这样能保证安全。而且，像花钱这种不能反悔的事，它必须先问你同不同意。
但是，就算有这些安全办法，一个能在网上自己活动的 AI，还是让真人用户和自动程序之间的界限变得很模糊。
用好了，它们就是很好的数字个人助理，能帮我们做很多杂事，比如买东西、订机票、看长文章抓重点。
但用不好，它们就可能跟网站的规定打架，或者撞上那些专门防人的安全系统。
Reddit上就有人发帖说，他让 AI 代理去建一个 Discord 服务器，结果因为操作太像机器人，账号直接被封了。
还有一个更让人担心的实验，叫 ChaosGPT。研究人员故意给了它一些坏的目标，比如搞破坏。结果，这个 AI 真的就开始自己上网查核武器的资料，还分析人类的弱点。
幸好，这只是个实验。但它也说明了一个很危险的可能：如果你给一个 AI 代理一个目标，又不给它限制，它很可能真的会为了完成目标，去做一些很危险、很不好的事情。
老办法不管用了
AI 能通过人类验证，已经不是什么新闻了。
有研究说，现在的好一些的 AI，解决验证码问题的准确率能到 96%，比大部分人还高。
现在 AI 模仿人的行为，比如移动鼠标、点多快，都越来越像。所以，过去那些防机器人的老办法，也开始不管用了。
现在大家在研究一些新办法，比如看你的行为习惯、用U盾那样的实体钥匙、或者用区块链技术。但这些新办法，要么可能泄露隐私，要么用起来不方便。
AI 代理有新的安全问题
从安全角度看，AI 代理也带来了一些以前没有的新问题。
最让人担心的有两个，一个是提示词注入，另一个是代理劫持。简单说，就是黑客可以在网页上藏一些坏指令。等 AI 代理访问这个网页的时候，就可能被骗。
美国国家标准与技术研究院（NIST）这样的专业机构也提醒大家，AI 会把看到的话都当成命令，所以很容易被骗。
虽然现在有一些防御办法，比如用沙盒把它关起来、找人专门演练攻击、或者用过滤器，但怎么才能保证 AI 代理在网上绝对安全，这个问题还没解决。
AI 惹了祸，谁来负责？
当 AI 能模仿人，甚至假装是人的时候，很多麻烦的问题就来了。
它可能被坏人用来骗人、传谣、在网上骂人，把整个网络环境的信任搞坏。
所以，全世界的政府和机构都在想办法。比如欧盟的《人工智能法案》，还有美国联邦贸易委员会（FTC），都开始研究怎么管这些 AI，怎么让大家知道这是 AI，出了问题怎么处理。
但是，技术发展得比规定快。像 OpenAI 和谷歌这样的大公司，虽然也在努力管好自己的产品，可还是会有管不住的时候。这就带来一个最根本的问题：
一个 AI 要是自己做了坏事，造成了损失，到底应该谁来负责？
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法！
