西班牙AEPD公布首例由AI智能体自主实施的个人数据泄露通报:提出“二规则”约束智能体部署
随后智能体使用该凭据成功登录机构内部系统,并在该特定应用内自主继续搜寻漏洞,最终找到一个可利用的缺陷。该环节使人类攻击者得以修改系统中存储的个人数据记录,并直接访问公司发票。AEPD强调,事实均来自受影响机构自身的通报,仍待进一步独立核实与分析;同时明确,使用某款特定模型并不意味着该模型或其供应商的基础设施遭到入侵或被不当利用。
AEPD副局长Francisco Pérez Bes指出,该事件的最大意义在于信号价值:AI辅助攻击已从理论风险转为影响真实个体的真实事件。AEPD认为人工智能并未引入全新威胁类型,而是让既有攻击手法更快、更具规模、更具适应性——AI智能体可自主规划任务、调用工具并根据结果调整行为。
由此AEPD提出被业界概括为“二规则”(Rule of 2)的部署约束:智能体不应同时具备处理不可信输入、访问敏感数据以及在没有人类监督的情况下自主行动这三项条件。其面向控制者的实操建议包括:在风险分析中明确列明AI智能体攻击场景,不再以泛化的恶意软件或网络钓鱼概括;重估事件响应时限以匹配机器速度的攻击链;强化数字身份、凭据与API令牌的保护,减少权限过宽;在保持人类监督的同时叠加自动化检测与遏制能力。
AEPD同时援引西班牙国家密码中心(CCN)6月的判断,称攻击性AI对网络安全实践构成真正的“范式转变”。监管层提示,此类事件的取证与责任认定将更多落在数据最小化、访问控制与可追溯性等基础合规要求上,而非模型本身;对第三方AI工具与供应链的审查也在这一逻辑下被进一步推高。
来源:AEPD (Agencia Espanola de Proteccion de Datos) / PCrisk
来源网址: https://www.pcrisk.com/internet-threat-news/35958-spain-confirms-first-ai-agent-driven-data-breach