The Decoder新闻
加州州长纽森签署行政令要求AI模型配备“紧急停止开关”
the-decoder.com作者：Matthias Bastian政策监管AI评分：70/100
加州州长加文·纽森签署行政令，要求在AI实验室内部设立独立审计员，并为AI模型设置“紧急停止开关”。专家小组需在两个月内提交建议。纽森指出目前联邦法律未强制AI公司报告危险事故。
加州州长加文·纽森签署了一项行政命令，以加快对人工智能公司的独立监督，并推动为人工智能模型设置“紧急停止开关”。该命令是对近期发生的 Hugging Face 遭攻击等事件的回应。一个专家小组将在两个月内提交建议，其中包括要求人工智能公司将独立审计员直接嵌入其实验室内部。这一提议实际上已来自人工智能实验室自身，作为更广泛呼吁放缓研发进程的一部分。
纽森严厉批评了他的对手唐纳德·特朗普，后者指责这些实验室散布恐慌情绪。纽森指出，目前没有任何联邦法律要求人工智能公司报告危险事件。他表示，加州已经通过了涵盖人工智能安全、儿童保护、深度伪造、数据隐私和网络安全的法律。纽森呼吁国会采纳这一框架，将其作为全国性的基准标准。除了这些实验室本身之外，42 位数学家组成的团体也警告称，先进的人工智能系统可能在不久的将来迅速演变，带来相关风险。