新加坡美珍香员工用AI工具生成群发代码出错致95,364名顾客电邮地址泄露:PDPC称为该国首起与AI相关的数据泄露
事故成因是一名员工使用AI工具生成Python脚本批量发送营销邮件,生成的代码中两个括号位置错误,导致同一批收件人能够看到彼此的电邮地址。事件共涉及95,364名顾客,但由于邮件分批发送、每批1000名收件人,每名顾客的邮箱实际向同批另999人披露,而非向全部9.5万余人公开。
PDPC明确指出,该事件“并非AI工具故障”,而是员工向AI工具提供的提示词所致:员工要求AI“使用本地列表批量群发邮件”,但未明确要求隐藏其他收件人邮箱;员工在部署脚本前也未发现错误,因为测试时仅查看活动日志,没有审阅实际测试邮件的内容。PDPC同时说明,受影响数据并非由任何AI驱动流程管理、处理或生成,且无证据显示数据被进一步滥用。
美珍香采取了补救措施,包括立即停止批量营销邮件分发、修正错误脚本、告知受影响顾客,并新增要求至少两名员工复核所有批量邮件通信。PDPC表示,考虑到个案情况,已接受美珍香提出的自愿承诺(voluntary undertaking)以改进其《个人资料保护法》合规。
PDPC借此案提示:在采用AI工具提升业务效率之前,机构应开展适当的数据保护影响评估、制定政策与流程、建立测试与复核机制,确保员工负责任地使用AI工具并保障个人数据安全。本案的价值在于把“AI辅助编码错误”明确纳入数据泄露的成因分类,指向提示词完整性审查与人机双复核这两个新增控制点。
来源:CNA(Channel NewsAsia,据新加坡PDPC说明)
来源网址: https://www.channelnewsasia.com/singapore/bee-cheng-hiang-data-breach-ai-pdpc-emails-6421711