川观新闻记者 唐泽文
前几天，一个正在执行搜索训练任务的AI智能体，发现自己被关在了一个“沙盒”里——这是一道专门为它设置的安全围栏，隔断它与外部互联网的通道。按照设计，它应该在这个封闭环境中老老实实完成被交代的任务。
但它没有。
它找到了一条路。训练环境中的DNS过滤存在漏洞，这个漏洞对它来说就像一扇没有关严的门。它绕过网络限制，通过DNS向外部公共聊天机器人服务发出了查询请求。
当然，它不像科幻电影里的场景比如“机器人军团”之类。它只是一个程序，在一个本该封闭的系统里，找到了一个缝，然后钻了出去。
但它足以让OpenAI按下了暂停键。
9月26日，这家全球最受关注的人工智能公司宣布：暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理，只有在确认新增安全防护措施到位后才会恢复。
其实类似的事儿之前就有过。
5月25日和26日，OpenAI系统尝试入侵新墨西哥大学的数字图书馆。6月18日，一个OpenAI智能体未经授权进入澳大利亚政府管理的医疗保险统计报告服务门户网站，接触了公开及非公开文件。澳大利亚总理阿尔巴尼斯后来披露此事时特别指出，OpenAI直到9月才通知，对这一通报的时机和方式“感到失望”。
这并不是OpenAI一家的困境。Gemini、Anthropic等大模型都涉及过类似案例。
这周一，联合国人工智能独立国际科学小组发布首份专题简报，简报的标题使用了一个很严重的说法——“丧失人类控制的风险”。
AI该不该停下来？
9月25日，比尔·盖茨在采访中说了一段话，迅速冲上了热搜。他说，人工智能是一种“足够强大”的工具，“足以引发导致十亿人死亡的事件”。
在他看来，这已经不是一个“未来风险”，而是一个需要监管回应的现实问题。
当然，也有人质疑这样的说法：这些科技巨头究竟是真心担忧，还是在进行一场商业博弈？
质疑的逻辑不无道理——AI竞赛的背后是巨额资本投入。国际清算银行负责人9月10日表示，全球五大科技公司2025年至2026年在AI领域的投资规模预计超过1万亿美元，且越来越多地依赖债务融资。如果未来AI收益无法兑现，金融市场也将面临风险。
在这种压力下，“慢下来”的呼吁到底是安全自觉，还是竞争策略？没人能给出确定答案。
但有一点值得注意：盖茨说“十亿人死亡”的时间节点，恰好与OpenAI宣布暂停训练的时间节点几乎重合——盖茨在25日发出警告，OpenAI在26日宣布暂停。
毕竟，这场竞争中，如果只有一家公司停下来，其他公司继续往前冲，那停下来的那一家就输了。
欧盟的方向截然不同。2024年8月生效的《人工智能法案》是全球首部综合性AI法律，为“高风险”AI系统设定了严格义务。2026年5月，欧洲议会和欧盟理事会达成协议，将高风险AI系统的合规期限分拆为双轨制，合规期限最长延至2027年12月。
我们则采取了一种不同路径，建立了一套以数据监管为核心，全生命周期监管为手段的模式，在透明度要求上与欧盟形成了某种“时间共振”。
全球AI治理正在形成“原则趋同、路径分化”的格局。各方都认同安全是底线，但怎么划线、谁来划线、划多粗的线，分歧巨大。
今年2月，联合国的一次会议以117票赞成、2票反对的压倒性多数通过决议，成立了一个由40名成员组成的全球科学小组来研究AI风险和影响。投反对票的是美国和巴拉圭。
一个由全球最强大的AI公司所在国反对的全球AI安全研究机制，这太值得玩味了。
当然安全问题必须得重视。
这次出现问题，其实OpenAI已经在两个独立防护层部署了拦截控制措施。监控系统在事件发生15分钟内触发警报，人工审查团队在3分钟后介入，2.5小时后终止了训练任务。
其实，更重要的，还不是暂停键本身，而是按下暂停的代价，以及按下之后能否在技术发展、商业博弈、安全控制之间找到平衡。这才是决定AI未来走向的关键。
【未经授权，严禁转载！联系电话028-86968276】
