加州州长纽森推动AI紧急停止开关

• 政策
• 人工智能
• 新闻

鉴于国会不太可能在中期选举前采取行动，加州正试图抢占先机。

加州州长加文·纽森（民主党）于周五发布了一项新的行政命令，旨在推动该州在人工智能监管方面发挥领导作用，其中包括可能要求前沿模型配备“紧急停止开关”。

纽森的这项命令指示州政府召集一个专家小组，在两个月内提交关于加强州法律中人工智能安全措施的推荐建议。纽森希望该小组考虑如何要求人工智能公司在现场嵌入独立验证团队以进行定期审计，使透明度报告和风险评估符合独立审计师的标准，创建并常规性验证有效的“紧急停止开关”，并确保公司被要求将类似 OpenAI 对 Hugging Face 的攻击等“失控事件”报告为重大安全事故。该命令还指示一家州级机构加快实施他最近签署的两项法律，这两项法律分别为独立验证者评估人工智能安全建立了框架，并设立了州级人工智能审计员名册。

在前 Anthropic 研究员雅各布·科克森（Jacob Coxon）发帖警告称人工智能在十年内“杀死全人类”的概率超过 10% 之后，国会曾就相关法案展开密集讨论。但在华盛顿，人们普遍对近期通过实质性法案持悲观态度，因为众议院休会至 11 月，且即将到来的中期选举使得参议院推进重大立法的可能性同样渺茫。与此同时，唐纳德·特朗普总统坚持认为，“人工智能唯一需要的控制或‘护栏’是一个强大且聪明（高智商！）的总统，而美国恰恰拥有这样一位总统！”

纽森的行政命令很可能不是加州就此话题发声的最后一次。周三，他在接受《政客》杂志采访时透露，除了潜在的行政举措外，他还考虑召集加州议员召开关于人工智能的特别立法会议。他特意将该命令定位为联邦行动的范本，呼吁国会和特朗普“审查并采纳该州的框架，或将其领先的国家级监管作为底线而非上限，以造福所有美国人并保障其安全。”

纽森在一份声明中表示：“联邦政府在建立任何形式的有意义的人工智能监督或问责机制方面的彻底失败，应引起每个美国人的警觉，尤其是当人工智能首席执行官们自身都在呼吁监管时。我们不会坐以待毙——我们将在为时已晚之前加速推进实质性和负责任的人工智能监督工作。我们将深思熟虑但以紧迫的速度行动；事态严重，不容等待或拖延。”

• 劳伦·费纳
• 人工智能
• 新闻
• 政策
• 政治

最受欢迎