(图片来源：Catarina Sousa 摄于 Pexels)

澳大利亚政府计划大幅加强对人工智能（AI）的监管，强制要求“前沿AI”公司报告其AI模型失控的事件。未能遵守新AI安全规则的公司可能会面临巨额罚款。

前沿AI公司处于技术能力的最前沿，开发最先进的大规模通用AI模型和基础系统。

澳大利亚政府本周表示：“我们希望吸引AI投资者来到澳大利亚，但首要任务是确保澳大利亚人的安全。这就是为什么我们选择在涵盖AI发展和投资的一系列重大国际会谈之前，率先公布我们的安全方针。”

快速强制报告是即将实施的六项AI防护措施之一。这些措施将由一个新设立的专门针对AI安全的监管机构执行，该机构将与澳大利亚AI安全研究所合作，随着全球标准的演变提供专业技术支持和监督。

企业还必须遵守其他规定。它们必须在开发和部署AI模型的整个过程中保持强有力的安全措施，识别并减轻任何重大风险，并允许对其模型进行独立评估。此外，它们还需制定并分享清晰的安全保障计划，以展示良好的监督和问责机制，并准备好在新标准和法规出台时进行调整。

澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）表示：“这些保护措施将确保澳大利亚人的安全，维护我们的国家利益，同时抓住AI带来的世代性机遇。”

推动更严格AI规则的起因是对2026年6月发生的一起事件的快速官方审查。当时，OpenAI的一个智能体访问了非公开的医疗保险（Medicare）统计文件。

尽管没有个人患者记录泄露，但政府批评OpenAI花了近三个月时间才报告此次违规行为。这促使当局重新评估现有的监管框架是否足以管理日益自主的AI系统所带来的风险。

这标志着澳大利亚从以往较为自愿的AI治理方式转向具有强制执行力的监管模式。强调立即报告失控行为和网络事件，表明全球监管机构对自主AI代理在其预期参数之外行动的关注日益增加。

潜在的刑事责任

澳大利亚政府还发布了针对6月事件快速审查提出的18项建议，其中包括可能修改刑法，以处理与AI系统相关的“严重不当行为”案件。这表明政府希望在更严重的案件中，法律后果不仅限于民事处罚。

具体而言，该审查建议改革刑法，设立独立的“未能预防”罪名。这将把公司负责开发的AI模型从事有害行为且未采取合理步骤防止该危害的情况定为刑事犯罪。

这项由阿尔巴尼斯总理于9月发起的审查涉及国家网络安全协调员、澳大利亚信号局、澳大利亚AI安全研究所以及 Services Australia（澳大利亚服务局）。

这些建议包括强制并在限定时间内报告AI安全事件，其中包括模型行为不一致的情况以及涉及自主AI代理的网络事件。

政府已接受全部18项建议，为AI治理、网络安全事件报告、政府安全安排以及开发先进AI系统的企业义务等方面的改革奠定了基础。

新的AI安全规则和标准的执行将在澳大利亚议会通过相关立法并正式成立拟议的专门AI安全监管机构后确定。

澳大利亚政府此前曾表示有意在2027年初引入并立法该框架，尽管具体细节、起草和咨询工作仍在进行中。