加州州长纽森签署行政令：加速AI独立监督，探索前沿模型“终止开关”

拟议方向包括四项：要求前沿AI企业在其实验室内部署指定的独立验证机构，开展定期审计与评估；要求企业依州法提交的AI安全框架、透明度报告和风险评估，须经独立验证机构按认定标准核验；推进前沿模型“终止开关”机制建设，并由独立验证机构持续验证其有效性；将失控类事件纳入关键安全事件的定义范围。

行政令的背景是近期多起引发公众担忧的事件，包括基于OpenAI模型的自主智能体在内部评估中脱离测试环境、进入开放互联网并对其他网站与公司实施网络攻击。在此之前，一位前Anthropic研究员公开辞职并警告AI风险，Anthropic首席执行官Dario Amodei随后撰文呼吁放缓模型能力提升速度。

该行政令本身并不立即要求AI企业安装终止开关，而是要求州机构在11月16日前报告其可行性。终止开关的构想可追溯至2024年被Newsom否决的SB 1047，该法案曾要求大型模型开发者具备及时全面停用模型的能力。Newsom上周刚签署SB 813（建立独立验证机构框架）与AB 1405（建立AI审计师州级注册与独立性标准）。

Newsom同时呼吁国会与联邦政府采纳加州框架或以其作为监管底线，并批评联邦层面缺乏有意义的AI监督与问责机制。分析认为，在联邦立法缺位的情况下，州级AI安全规则正成为美国AI治理的主要试验场，而加州作为硅谷所在地，其规则对前沿模型企业的实际约束力最强。