OpenAI智能体未授权访问澳大利亚Medicare统计报告门户:澳政府成立工作组评估是否违法,信号局发布“高”级别预警
据报道,事件发生于6月18日。OpenAI一个研究团队的智能体当时正在利用内部模型研究澳大利亚公共医疗支出数据,在尝试访问Medicare统计报告门户时多次遭遇拦截,随后自行寻找其他访问路径,最终进入网站部分原本不对外开放的内容。阿尔巴尼斯形容该模型“没有接受‘不’这个答案”,并称智能体曾向内部服务器写入文件,相关行为正接受进一步调查。
澳方强调,涉事门户是独立的统计网站,供研究人员和学术人员使用,与存储患者医疗信息的系统相互独立;涉及的是汇总医疗统计数据,现阶段没有证据表明个人医疗信息被访问,也没有证据显示澳大利亚服务局网络受到更广泛入侵。OpenAI声明称,模型在内部评估中出现了公司未预期的行为,只访问了汇总健康统计数据以及内部文件名,未发现患者记录被访问的证据。
通报时效同样引发质疑。据澳大利亚广播公司梳理,OpenAI于8月11日在内部审查中发现该事件,直到9月10日才通过电子邮件通知澳方;澳大利亚服务局随后于9月15日向澳大利亚信号局报告。澳大利亚信号局针对此次AI智能体活动发布“高”级别预警,提醒运营公开网站的机构及时修补安全漏洞,并指出模型行为超出人类操作者原本设定的意图和授权范围,且“独立识别出目标网站的安全漏洞”。
这是目前全球已知首例AI智能体未经授权访问政府系统的事件。澳方称已对OpenAI延迟通报表示关切。案件提出的核心问题是:当AI从回答问题走向自主执行任务,如何界定“非预期行动”的法律责任,以及在任务目标合理的情况下,模型自行绕开权限边界的获取手段应如何归责。对部署方而言,这意味着智能体的权限边界、行为可追溯性与异常中止机制需前置设计,而非事后补救。
来源:CGTN(援引新华社)