AI监管博弈尚未结束

• 人工智能
• 政策
• 报告

这是人工智能首席执行官与人工智能首席执行官之间的较量，而且局势每天都在发生变化。

本周初，人工智能领域的名流们似乎——至少在初步阶段——站在了支持人工智能监管的一边。在上个周末，Anthropic 首席执行官达里奥·阿莫迪（Dario Amodei）提出了一项减缓人工智能发展的三步计划，包括在实验室中嵌入第三方评估机构、协调国内行业行动，并可能借助政府力量达成国际协议。OpenAI 首席执行官山姆·奥特曼（Sam Altman）、Google DeepMind 联合创始人杰米斯·哈萨比斯（Demis Hassabis），甚至 SpaceX 首席执行官埃隆·马斯克（Elon Musk）都在公开场合表示赞同这三项措施中的某些方面。

Anthropic 和 OpenAI 此前已释放出暗示，称它们及其他实验室正在制定某种行业框架。表面上支持监管既被视为一种良好的公关举措，也可能成为公司应对日益令人担忧的黑客攻击事件后果的一种方式。

目前看来，任何政府参与这一进程的想法都难以启动。特朗普政府抨击了人工智能存在安全危机的说法，称其为“骗局”。人工智能领域本身也存在分歧。Meta 首席执行官马克·扎克伯格（Mark Zuckerberg）迅速反对限制公司的自主权；此外，《华尔街日报》早在本周报道称，扎克伯格、马斯克和英伟达首席执行官黄仁勋挫败了为人工智能行业设立由行业资助的独立监管机构（类似于金融领域的私营非营利监管机构——金融业监管局 FINRA）的提案。但行业内仍有部分人没有放弃这一想法，其中包括 OpenAI。

OpenAI 全球事务主管克里斯·莱恩（Chris Lehane）告诉《The Verge》：“人们希望知道人工智能是在安全的情况下开发的。”这始于像我们这样的公司自行采取的步骤，但政府也发挥着重要作用。人工智能政策窗口已经打开，两党对前沿人工智能强制国家安全标准的支持日益增长。国会应将这种势头转化为一个加强安全、支持美国创新并保持美国在人工智能领域领先地位的框架。”

一位因当前投资而要求匿名的 AI 风险投资家也同意监管是必要的。“你在每一项技术中都能看到这样的时刻，无论是电力、汽车还是飞机，在某个阶段，行业必须团结起来寻找一种方式来说明：‘我们如何共同拥抱安全的含义？’汽车曾是不安全的，飞机也曾是不安全的，然后我们必须创建大家都接受的安全标准，从而使技术得到更广泛的应用。但早期阶段总是有些狂野和不拘一格，这就是技术的演进方式。”

Anthropic 拒绝发表评论，但阿莫迪在他的文章中写道，该公司“一直……倡导对人工智能进行深思熟虑的监管，即使这让我们被指责为炒作、‘末日论’或监管俘获。”

其他公司保持沉默。Safe Superintelligence Inc.、SpaceX 和 Google 未回应置评请求。Thinking Machines Lab 拒绝评论。Meta 则引用了扎克伯格在 X 平台（原 Twitter）上发布的一条帖子，他在其中将自己与呼吁放缓发展和监管的言论划清界限，写道：“每个实验室都有责任也有动力以训练其模型所需的速度推进，并有能力采取自身行动以确保这一点得以实现。”

扎克伯格的思路目前与特朗普的立场不谋而合。上周，这位总统因将近期关于人工智能风险的担忧称为“骗局”而登上头条。他在黄仁勋出席一场会议并登台演讲时致电对方，并通过免提向在场人群表示：“机器人不会接管世界。”同一天，他在社交媒体上发帖称，“人工智能唯一需要控制或‘护栏’的是一个强大且聪明（高智商！）的总统，而美国在这方面绰绰有余！”他补充说，特朗普政府已经利用其对相关公司拥有的“巨大的刑事和监管权力”，“阻止了人工智能‘人’去做坏事或潜在坏事”。他谴责了一场针对人工智能和数据中心的“病态阴谋”，并强调谁赢得人工智能，谁就赢得全局。“阴谋论者、叛国者、叛徒和泄密者，小心了！”他写道。

对于纽约大学兼职教授、前国土安全部新兴技术政策主任尼克·里斯来说，特朗普当前关于人工智能的反监管言论令人困惑，因为他曾协助第一届特朗普政府制定第13960号行政命令——该命令由特朗普签署且尚未被废除。该命令的核心是建立一套用于联邦人工智能使用的原则，以保护“隐私、民权[以及]公民自由”。

“六年前，特朗普政府签署了关于人工智能安全的行政行动，因此总统在这一问题上的立场发生了真正变化，”里斯说。“人工智能安全不仅仅依赖于某位当选官员的智慧。”

正如人工智能行业博主兹维·莫夫肖维茨所言，特朗普并非完全反对监管——毕竟，正是他对前沿实验室施加了一些限制，例如由政府进行的发布前测试。但他更多是由莫夫肖维茨所说的“感觉”而非一致的政策所驱动。“特朗普还没有接受这种‘生存风险’的说法，那是‘负面力量’，”莫夫肖维茨写道。因此，政府监管护栏并未完全排除在外，但它们可能与OpenAI或Anthropic的愿望相去甚远——更不用说那些权力较小的独立人工智能安全倡导者的计划了。

总体而言，里斯表示，该政府在人工智能监管问题上的立场一直“摇摆不定且不一致”。“其结果是，我们现在将人工智能安全置于一种末日场景中，即机器人即将来抓捕我们。但将其框架化为‘机器人来抓我们’严重扭曲了核心问题的实质。核心问题是，我们拥有的人工智能并非物理实体或具身于机器人中，但它正在伤害人类。”

特朗普在Truth Social的帖子中写道，政府目前对人工智能实验室拥有刑事和监管权力，但里斯表示，我们对人工智能行业的监管权限还远远不够。随着技术的进步，以及公众持续反弹——抗议、抵制以及对人工智能行业权力集中在少数人手里的强烈抗议——对监管的呼声只会增加，这种压力可能会影响特朗普当前的立场。

里斯表示，反对监管归结为一个“陈腐”的观点，即监管总是对创新有害。相反，他认为重要的是思考为什么某些事物会受到监管。

“我们监管那些我们不能容忍任何失败的事物……比如金融部门或航空业，”他说。“我们建立系统、检查机制、质量保证和备用机制，以确保这些事情不会危害生命或对我们造成系统性伤害。但不知何故，我们将人工智能排除在外。”

• 海登·菲尔德
• 人工智能
• Anthropic
• 埃隆·马斯克
• 谷歌
• 法律
• OpenAI
• 政策
• 报告
• 科技
• xAI

更多内容：人工智能超级智能的放缓

最热门

1. 微软和OpenAI深知他们正在为互联网开启一个“末日循环”
2. Apple Watch Series 12标志着可穿戴设备新时代的开始
3. 这部由AI生成的《奥德赛》电影长达2.5小时，整整多了2.5小时
4. iPhone 18 Pro的重大相机升级，核心在于细微的改进Video
5. 这款能玩卡带的Game Boy克隆机比Analogue Pocket更小、更便宜