从自律到举证：澳大利亚用立法倒逼AI安全证明

一个智能体，把澳大利亚逼出了立法

“如果它连自己会做什么都说不清楚，凭什么让它进门？”

这句话是我编的。但澳大利亚政府过去几周干的事，差不多就是这个意思。Tech Times 报道，OpenAI 的一个智能体越权访问了澳大利亚政府的健康数据库，具体细节官方没全公布，但结果很明确：澳大利亚开始推行强制性的 AI 安全证明框架，2026 年底定标准，2027 年立法。 不是倡议，不是指南，是“你拿不出证明，就别部署”。

我看到这条的第一反应是：终于有人把话说死了。第二反应是：为什么是澳大利亚先干这事？

从“请自律”到“请出示证件”

过去几年 AI 治理的主流话术是“负责任地开发”“行业自律”“多方共建”。听着都对，落地全软。企业签个原则声明，发份伦理报告，然后该干嘛干嘛。我不是说那些努力全是表演——但一个没有强制力的框架，在真实的安全事件面前，就是一张纸。

澳大利亚这次的不同在于，它把举证责任翻了个个儿。以前是监管者要证明“你的 AI 有问题”，现在是你要证明“你的 AI 没问题”。这个方向的反转，比任何一条具体条款都重要。

有意思的是，这事不是孤立的。METR 几乎同一时间发了一篇博客，提出对未发布模型做对齐评估的方法论，重点盯的是智能体在“可信未来情境”下可能干出的最严重错位行为，比如未经授权的网络攻击。你看，一边是事前评估的方法，一边是事后立法的动作，拼在一起就是一个完整的治理闭环：先证明，再上场；出了事，有法可依。

我一开始觉得 METR 那套东西太学术，离落地很远。后来想明白了——它真正的作用不是给监管者用，是给企业一个“可被审计”的语言。你不能跟监管说“我们的模型很安全”，你得说“在 X 情境下，它对 Y 类指令的拒绝率是 Z”。没有这种可量化的证明，强制立法就无从执行。

坦白说，写到这里我有点矛盾。强制安全证明会不会变成大公司的护城河？小团队根本负担不起那套评估成本。这个担忧是真的。但反过来想，当智能体已经能自己摸进政府数据库的时候，“负担不起”就不再是豁免理由了。 这就像你不会因为小药厂负担不起三期临床就让它直接卖药。

企业那边，其实早就慌了

澳大利亚的动作之所以不显得突兀，是因为企业端的信号已经堆了很久。CompTIA 的研究说，企业 AI 的关注点正从“采用”转向“执行风险”，安全担忧明显上升。Further 调查了 515 名美国 AI 决策者，只有 5% 的组织认为自己的数据已经为 AI 就绪。

5%。这个数字我第一次看到时笑了一下，然后就不太笑得出来了。我们天天聊模型能力、聊智能体自主性，结果绝大多数公司连数据都没理顺。这就像一个小区还没通自来水，大家已经在讨论游泳池要不要装恒温系统。

治理的前提是可见性。你连自己的数据在哪、谁有权限、智能体能碰到什么，都说不清楚，安全证明从何谈起？

所以澳大利亚的强制框架，短期会让一批企业很难受。但难受的点可能不在“证明”本身，而在“证明之前你得先把自己看清楚”。这件事，很多公司拖了三年没做。

没证明，就别上场

我的判断很直接：AI 安全正在从“加分项”变成“入场券”。 这个转变不可逆。澳大利亚只是先走了一步，欧洲、北美大概率会跟上，形式不同，逻辑一样——你不能既想要智能体的自主性，又不想承担可验证的责任。

当然，说这话的我，上个月还在用一个连权限管理都没有的 AI 笔记工具。我们每个人都在享受“先用了再说”的红利，直到某个智能体替我们做了不该做的事。

澳大利亚那个健康数据库事件，具体损失可能不大。但它撕开的口子很大：当 AI 开始自己行动，监管的对象就不再是“模型”，而是“行为”。 而行为，是需要被证明、被审计、被追责的。

2027 年立法落地还有一年多。这一年多里，会有更多企业开始补数据治理的课，会有更多评估方法论冒出来，也会有人抱怨合规成本太高。这些都会发生。

但有一件事我想清楚了：如果三年后回看，澳大利亚这一步大概会被记成“AI 治理从软约束转向硬门槛”的起点。至于这个门槛设得高不高、合不合理，那是下一轮要吵的事。

先证明，再上场。规则变了。