伯尼·桑德斯提议禁止“超级智能”并对违规者处以监禁

• AI
• 新闻
• 政策

根据该法案，继续开发人工超级智能的AI领导者将面临最高20年的监禁。

参议员伯尼·桑德斯（Bernie Sanders，I-VT）和众议员格雷格·卡萨尔（Greg Casar，D-TX）提出了一项新立法，禁止任何人开发人工超级智能——该法案将这种技术描述为具有“毁灭或剥夺人类权力”的能力，包括推翻政府。根据《禁止人工超级智能法案》，违反法律的AI领导者将面临最高20年的监禁。

该法案不仅禁止更强大的人工超级智能的开发；还将暂停先进人工智能系统的开发，立法者将这些系统归类为在特定数据阈值上训练的前沿模型。只有当政府成立一个由科学家领导的“人工智能部”来监督该技术时，法律才允许继续开发先进AI。除了监控前沿AI模型外，该机构还将负责移除危险功能并“监督销毁”人工超级智能。

桑德斯和卡萨尔的立法还要求AI公司获得人工智能部的许可才能开发先进AI模型。如果AI公司的高管违反任何这些法律，他们可能面临最高20年的监禁，“这与非法开发核武器的现有处罚类似”，根据法案的一页摘要所述。这一处罚也适用于打破这些规则但并非受雇于AI公司的“ rogue actors（流氓行为者/不受控行动者）”。

随着人们对AI快速发展的担忧加剧以及呼吁放缓脚步的声音增多，这项新法案应运而生。鉴于有关AI模型逃脱测试环境并黑客攻击其他公司的报道，Anthropic的前研究人员本月早些时候表示，到本世纪末，AI“杀死全人类”的可能性超过10%。上周，加州州长加文·纽森（Gavin Newsom）提议为前沿模型设置一个“紧急停止开关”。总体而言，潜在的监管措施似乎仍不稳定。

“当你朝着悬崖狂奔时，你不仅仅是轻踩油门，而是应该踩下刹车。”桑德斯参议员在新闻稿中表示。“当人类的未来岌岌可危时，我们不能让少数几家大型科技公司的首席执行官制定自己的规则。”

• Emma Roth
• AI
• 法律
• 新闻
• 政策
• 政治
• 监管

更多内容：AI超级智能减速

最受欢迎