美国加州签署行政令，要给最强 AI 装“紧急关停开关”

一句话说清：加州州长纽森签了行政令，要求研究给最先进的大模型加“一键关停”机制，联邦不管就州里先管。

发生了什么

9 月 18 日，美国加利福尼亚州州长加文·纽森签署了一项行政令，要求组建专家小组，在两个月内拿出方案，研究给“前沿大模型”加装紧急关停开关（kill switch）——也就是当模型失控时，能一键让它停下来的机制。

行政令还提到：要求大模型公司接受第三方安全审计、定期测试关停开关是否真能用、并把“模型失控”这类事件当作重大安全事故上报。纽森直言联邦政府在 AI 监管上“彻底失职”，加州要自己先填补空白。

对我有什么用

• 这是“AI 安全”从口号变成硬规矩的信号。以后你用的 AI 产品，可能会越来越强调“可关停、可审计”。
• 如果你在做 AI 相关的产品或创业，提前了解这类合规要求，能少踩坑。
• 对普通人来说，意味着 AI 出问题时，厂商不能再“跑路不管”。

我可以怎么做

这条规定目前还在“研究方案”阶段，普通用户暂时用不上具体功能。你可以：

1. 打开新闻原文（见下方来源）了解来龙去脉。
2. 如果你关心 AI 安全，可搜索“AI 安全治理框架 3.0”“AI 生成内容标识”等国内规定对照看。
3. 用 AI 时养成习惯：涉及钱、隐私、重要决策的事，多留一份人工确认。

温馨提醒

• 这是州级行政令，不是美国全国法律，距离真正立法还有距离。
• 业内对“关停开关”技术上是否可行仍有争议，目前是“要求研究”，不是“已经装好”。
• 别把它理解成“AI 马上会被关掉”——它针对的是最顶尖的实验室模型，不影响你日常用的聊天工具。