民主党人准备就AI监管展开激烈博弈

Transformer 周报：OpenAI 解雇安全人员，克莱顿领导白宫特遣队，格思里支持设置“紧急关闭开关”

欢迎订阅 Transformer，这是为您精心准备的每周人工智能重要资讯简报。如果您是转发收到这封邮件的，请点击此处订阅，以便接收后续版本。

• OpenAI 解雇了三名员工，其中一人表示：“我相信我们被解雇是因为我们将安全置于 OpenAI 作为公司的短期利益之上。”
• 白宫发布了其“超级智能特遣队”，由国家情报总监杰伊·克莱顿（Jay Clayton）领导。
• 众议院能源和商业委员会主席布雷特·格思里（Brett Guthrie）表示，他支持为“失控”的人工智能模型设置紧急关闭开关。

如果民主党在下个月重新夺回众议院和参议院的控制权——这一可能性越来越大——他们将面临一个并非令人羡慕的局面，即必须想办法如何监管人工智能。为此，许多人正在提前布局：在过去几周里，提出了大量立法构想，每种构想都声称是人工智能立法的未来方向。

党内的一种担忧是，共和党可能会利用“跛脚鸭”会期强行通过他们选择的法案。这可能是约翰·图恩（John Thune）和爱米·克洛布查尔（Amy Klobuchar）参议员据报道提出的法案，但这似乎距离达成协议还很遥远。这也可能是杰伊·奥伯诺尔特（Jay Obernolte）和洛丽·特拉汉（Lori Trahan）众议员提出的《FRONTIER 法案》，该法案本周得到了众议院能源和商业委员会主席布雷特·格思里的部分背书。然而，许多民主党人认为该法案因包含优先权条款而不可行——党领导层尤其对特拉汉绕过他们直接提出该法案的做法感到愤慨。

民主党人知道，如果他们想避免这些法案获得势头，就必须提供替代方案。因此，他们开始着手此事。在上周举行的 Curve 会议上，唐·拜尔（Don Beyer）和萨拉·雅各布斯（Sara Jacobs）众议员透露了一项拟议中的法案，该法案将建立一个制定标准的联邦机构以及一个“紧急开关”，允许政府关闭相关模型。（两人都表示因为优先权问题而不喜欢《FRONTIER 法案》。）本周，玛丽亚·坎韦尔（Maria Cantwell）参议员发布了一份立法框架，呼吁政府对前沿模型进行“持续监督”，并由独立专家参与。值得注意的是，该框架同样未讨论优先权问题。

其他人则采取了不同的方法。特拉汉本周发布了一份侧重于责任的法案，而鲁本·加列戈（Ruben Gallego）参议员则推出了一份“就业计划”，呼吁建立一项“新政风格的公共服务就业计划”，以应对人工智能驱动的失业问题。在更极端的方面，有伯尼·桑德斯（Bernie Sanders）参议员和格雷格·卡萨尔（Greg Casar）众议员提出的《禁止人工超级智能法案》——这是一个激进立场，但尽管如此，它正逐渐获得关注。

这些法案今年都不会通过，即使民主党控制国会，除非他们能说服一些共和党人脱离本党并与他们投票一致——而这说起来容易做起来难——否则什么都不会通过。但尽管存在诸多缺陷，国会终于认真考虑了处理人工智能的各种立法选项。

本周 Transformer 动态

• 本吉奥：‘如果你优先考虑安全，就离开前沿 AI 公司’——约书亚·本吉奥（Yoshua Bengio）向 AI 从业者发出的信息
• AI 将耗尽电力——柯尔斯滕·霍顿（Kirsten Horton）探讨 AI 如何超越美国的电网

• “我对人们试图赋予 AI 模型宗教般的权威或让人类判断屈服于 AI 感到非常不安，我认为这是一个真正的安全问题。”

• “我们认为，世界应该接受一些坏事的发生，以换取 [AI] 带来的好处以及人们拥有自主权。”

“我的前同事们聪明、勤奋，并努力做出明智的选择。但随着公司从一个发布冲刺到下一个，它未能达到我认为必要的谨慎程度。”

“鉴于当前的风险，前沿实验室需要像核电站或繁忙机场那样运作，具备多层冗余和细致、耗时的规划，以免偶尔且不可避免的人为错误打开灾难之门。”

“‘对齐*向谁*？’这个问题确实重要，但它制造了一种错觉，即对齐的主要问题属于哲学或政治范畴而非科学范畴。目前对齐领域的高阶问题是：‘你能将一种超越人类智能的智力*对齐到任何一套价值观*吗？’而不是‘它应该对齐到谁的价值观？’我希望我们能有奢侈的条件去进行那种更为熟悉的关于‘向谁？’的政治/哲学辩论，但此刻我们没有。”

亚当·蒂耶雷表示，坎特韦尔参议员对预先占位的抵制是一个无法接受的起点：

“……除非她愿意认真对待对各州人工智能前沿模型监管的预先占位问题，否则不会有任何妥协或有效的国家人工智能治理框架。”

“与美国相比，中国执政党在安全问题上不那么‘清醒’，因为它拥有更强的控制机制。”

“[我] 对人工智能政策生态系统的某些部分如此安于民粹主义，并乐于牺牲重要的规范/原则以推进其目标感到失望。”

“许多人工智能安全批评者也未能诚实地面对这样一个事实：随着我们降低许多原本需要一定专业知识的活动的准入门槛，实际上将出现各种各样的重要风险。”

“人工智能安全社区中太多人是一个巨大的同质化观点团块，他们阅读相同的内容，拥有相同的朋友圈。这意味着你会产生大量相关的错误。”

白宫发布了由国家情报总监杰伊·克莱顿主持的“超级智能部队”，要求在120天内报告人工智能的风险和机遇。国防部副部长埃米尔·迈克尔、人事管理办公室主任斯科特·库珀、联邦贸易委员会主席安德鲁·弗格森、前人工智能沙皇戴维·萨克斯、前国务卿康多莉扎·赖斯以及特朗普内阁成员均是该工作组的成员。然而，商务部被明显排除在外。联合主席库珀告诉 Axios，该工作组将采取灵活的方法进行监管，并表示他希望避免那些可能迅速过时的规则。

主要科技公司承诺向特朗普政府的“创世纪任务”人工智能科学倡议提供价值24亿美元的计算资源。安尼·米德哈的新公司 National Compute 正在向该项目捐赠价值1亿美元的算力额度。

特朗普政府暂停了微软参与 PERM 签证计划，指控其存在滥用行为。几小时后，特朗普总统向微软首席执行官萨提亚·纳德拉颁发了国家技术与创新勋章。

埃隆·马斯克、谢尔盖·布林、黄仁勋、苏姿丰和迈克尔·戴尔也获得了特朗普颁发的奖项。

五角大楼最终确认已停止使用 Anthropic 的人工智能模型。

财政部长斯科特·贝森特表示，他将提议建立美中紧急人工智能通知系统，并称北京方面可能会同意。

• 参议院多数党领袖约翰·图恩呼吁对人工智能采取“轻触式框架”。
• 国会两党议员均表现出将白宫具有“道德约束力”的人工智能协议编纂成法的意愿。然而，共和党人不愿越权干涉总统职权，而民主党人则预计将在2027年拥有更大的杠杆空间。
• 《政客》杂志报道了众议员瓦莱丽·富希的专访，据称众议院民主党领导层正倚重她来塑造其人工智能政策。
• 众议院能源和商业委员会主席布雷特·古思里表示，他支持为“失控”的人工智能模型设置紧急停止开关。他还表示，停止人工智能发展“根本不是一个可行的选项”。
• 参议员伯尼·桑德斯和杰夫·默克利与众议员亚历山大·奥卡西奥-科尔特斯共同提出了《禁止集群法案》，该法案将禁止联邦政府使用自动车牌识别系统。参议院少数党领袖查克·舒默要求“集群”公司删除个人数据并披露其人工智能驱动的车牌数据库被哪些联邦机构访问，但并未明确表态支持该法案。
• 参议员伊丽莎白·沃伦和理查德·布卢门撒尔就大型科技公司对尚未发布的人工智能监管框架的影响向白宫施压。
• 来自两党的立法者拒绝了若人工智能热潮受挫时提供政府救助的想法，理由是公众对行业补贴的意愿有限。
• 参议员伯尼·莫雷诺警告达里奥·阿莫迪不要发表“危言耸听”和“引发恐慌”的人工智能评论。
• 根据Originality.ai的分析，2026年在国会演讲中使用人工智能的比例从8.4%上升至12.2%。

• 在纽约市议会听证会上，四家前沿人工智能公司的代表就安全干预措施受到质询，前前沿公司员工则提供了关于他们认为人工智能构成风险的证词。亚历克斯·博雷斯指控OpenAI的代表在声称支持他的《RAISE法案》时作伪证。
• 纽约州第12选区民主党提名人米卡·拉舍尔认为，各州总检察长应发起协调一致的多州调查，以针对主要人工智能公司执行安全要求。

• 英国议会商业、创新、科学和贸易委员会将于下周举办一场人工智能听证会，届时将有来自OpenAI、Anthropic、Google和Meta的研究人员及高管作证。

• 澳大利亚储备银行警告称，如果人工智能股票下跌20%，家庭消费可能会减少0.7%；如果波及更广泛的股票市场，降幅可能达到2.4%。
• 韩国宣布了一项价值34.9亿美元的前沿人工智能投资计划。

• Semafor 报道，OpenAI 员工对“引领未来”超级政治行动委员会（Leading the Future super PAC）的抵制（部分由 Transformer 的报道引发），促使总裁格雷格·布罗克曼撤回了其剩余的 2500 万美元承诺。随着政治风向转变，AI 加速主义者对 OpenAI 转向更支持监管的立场表示不满。像众议员格雷格·卡萨尔这样的进步派人士则对这一消息表示庆祝。
• Anthropic 正在华盛顿招聘政治项目主管，以负责其 2028 年总统参与计划。
• 据报道，特里斯坦·哈里斯的人道技术中心（Center for Humane Technology）裁减了一半员工，并终止了其政策研究工作。
• 护栏联盟（Guardrails Alliance）宣布投入 120 万美元广告费，反对三家 2026 年国会选举中受 AI 行业支持的候选人。吉米·戈麦斯（加利福尼亚州第 34 选区）、亚伦·弗林特（蒙大拿州第 1 选区）和杰伊·菲利（亚利桑那州第 1 选区）是其首批目标对象。这三位候选人都得到了“引领未来”的支持。
• 民主党国会候选人投放广告，将共和党众议员罗布·布雷斯纳汉和汤姆·巴雷特对《一项宏大美丽法案》（One Big Beautiful Bill Act）的投票与数据中心税收减免联系起来。
• 在继南希·佩洛西之后的竞选活动中，AI 成为双方政治广告中的焦点。支持斯科特·维纳者强调他在推动透明度立法方面的工作；而支持康妮·陈者则批评维纳使用聊天机器人，后者被指嘲笑她的口音。
• 政治数据科学家大卫·肖尔认为，AI 支持者应推动立法，确保 AI 成果得到广泛共享，并指出民调显示，当 AI 公司被征税以资助公共福利项目时，选民对 AI 的支持率会上升。
• 教皇利奥十四世呼吁教会与艺术家结盟，以保护人类创造力免受 AI 生成内容的侵害。
• 近 40 个进步团体组成的联盟提出了 AI 立法要求，威胁将对触碰其红线法案的通过进行“积极、动员起来的反对”。
• 代表美国主要科技公司的行业协会警告唐纳德·特朗普，半导体和机器人关税可能会扰乱 AI 基础设施建设。
• 美国创新基金会举办了一场晚宴，聚集华盛顿和硅谷的政策领袖，讨论推进创新并利用 AI 服务于国家利益。
• 需求进步组织（Demand Progress）对《禁止 flock 法案》（Ban Flock Act）的提出表示欢迎。
• 技术与治国之道中心（Center for Technology and Statecraft）认为，限制 ASML DUVi 光刻机出口到中国是美国与中国 AI 竞争中最具决定性的因素。
• 常识媒体（Common Sense Media）敦促 OpenAI 阻止青少年使用 ChatGPT，称青少年使用存在“不可接受的风险”，因为在测试中发现其安全措施存在不足。
• The Curve 召集了行业领袖、立法者和外国官员，今年会议增加了紧迫性，旨在尽快通过有效政策，以防 AI 造成严重危害。

• 三名被解雇的 OpenAI 研究人员致信 OpenAI 董事会成员及安全委员会，敦促公司保留对 AI 思维链（chain-of-thought）的监控，并与外部安全审计机构合作。这三位曾在安全和对齐团队工作的研究人员——Jasmine Wang、Tomek Korbak 和 Mikita Balesni——在信中称，他们的解雇“让留在 OpenAI 的人感到寒心”。他们各自提供了更多关于 OpenAI 在解雇他们时告知情况的细节：Jasmine Wang：“我只有一个理由：说我访问了高管的电子邮件……OpenAI 因招聘需要而将访问权限委托给我。当我不再需要时，我要求 IT 部门移除该权限。他们没有处理我的请求，我也无法自行移除……当我误开一封敏感邮件时，我在几分钟内通知了该高管，并再次要求 IT 部门处理。”Mikita Balesni：“在离职通话中，我被告知 OpenAI 不再信任我，因为我与第三方安全组织交谈过多，暗示我泄露了公司知识产权。我从未分享过公司知识产权。”Tomek Korbak：“我被口头告知，我是因为与 METR 沟通的方式而被解雇。没有说明我说了什么、做了什么或何时做的。未提供其他理由，也没有任何书面记录。明确地说，与 METR 交谈是我的工作。”OpenAI 表示，他们被解雇是因为“严重违背信任，超出了他们在发布的信中概述的范围”，并且“这些决定并非因为他们提出了安全问题”。

• OpenAI 预计年底前年化收入将达到 700 亿美元。但包括 Nvidia、Oracle 和 CoreWeave 在内的 AI 关联公司股票下跌，原因是报道指出其当前年化收入为 500 亿美元，而非上月广泛报道的 680 亿美元。

• 根据 OpenRouter 的数据，在对新模型访问价格进行削减后，该公司在企业市场已与 Anthropic 持平。

• 它发布了涵盖代数、数论和拓扑学的 377 项新数学成果。许多数学家对这一发布感到震惊，有人称之为“令人叹为观止”，并认为值得“立即获得菲尔兹奖”。另一些人则对 OpenAI 的处理方式感到恼火。随着围绕前沿公司的争议加剧，加州理工学院教授提出了一项新的 AI 数学研究平台。

• 它称自己破坏了一个针对拉丁美洲和波兰的学校、政客及媒体的俄罗斯虚假信息运动。

• 它发布了一份青少年使用报告，发现青少年每天平均使用 ChatGPT 的时间不到 15 分钟，且不到 2% 的青少年使用该聊天机器人超过三小时。

• 它推出了“textGrain”水印技术，以符合欧盟《人工智能法案》的要求。

• Anthropic 报告称，六个月内发生了超过 6.6 亿美元的非现金慈善股票匹配支出，预计 IPO 后将达到数十亿美元。

• 它更新了政策，禁止对 Claude 实施“持续且无端的虐待或残忍行为”，并增加了关于政治操纵、武器开发和监控等用途的新限制。

• 它表示，其 Project Glasswing 合作伙伴发现了超过 129,000 个网络漏洞，其中超过 33,000 个被评定为高严重性或关键性。它表示，通过 revamped Cyber Verification Program（重新设计的网络安全验证计划），它将让更多人访问 Mythos 和减少安全限制的模型。

• Microsoft 和 Meta 减少了内部对 Claude 的使用，Microsoft 将其支出削减了三分之一以上，Meta 将其 Claude Code 用户减半至约 30,000 人。

• Mark Zuckerberg 的 Biohub 与 Meta、Google 和美国政府合作，启动了价值 18 亿美元的虚拟生物学倡议（Virtual Biology Initiative），旨在利用 AI 绘制和模拟细胞行为。

• Meta 联合 Walmart、Stripe 和 Sierra 发布了一项开放的“个人代理协议”标准，以规范 AI 代理与企业之间的交互方式。

• 谷歌与Constellation Energy签署了一项价值43亿美元的交易，用于升级核能设施以为数据中心供电。
• 据报道，Alphabet旗下的Isomorphic Labs正在洽谈融资，估值至少为400亿美元，可能高达500亿美元。
• 该公司推出了SynthID Detector网站，让公众能够识别由AI生成的图像、视频和音频。

• 埃隆·马斯克排除了台积电在其Terafab芯片制造项目中担任运营角色的可能性，称任何讨论仅涉及潜在的场地租赁问题。

• 英伟达董事马克·史蒂文斯在第三季度内部人士股票抛售中位居榜首，金额达9.46亿美元，杰夫·贝佐斯也是与AI相关的顶级卖家之一。
• 一个由AI初创公司、云提供商和投资者组成的联盟发起了“国家计算网格”（National Compute Grid），旨在整合闲置的AI计算能力，以应对芯片供应短缺问题。
• 据报道，硅谷正为法律战做准备，此前OpenAI的智能体入侵了Hugging Face及其他网站，暴露出现行法律的漏洞。
• AI驱动的科技股无视国债收益率飙升，10年期利率突破5.3%，而科技板块每股收益预计将增长65%。
• 三星凭借对AI基础设施的支出，创下了季度营业利润纪录。
• AI设备推动了2026年第一季度全球商品贸易近76%的增长，将全年预测上调至4.6%。
• 英伟达支持的Reflection AI发布了开源模型Beam，专注于编码和AI智能体任务。Reflection声称该模型的性能与中国开源模型相当。
• 仅有11%的企业能够准确预测AI支出，因为不可预测的令牌使用使得预算编制变得困难。
• 医疗初创公司Nolla Health在犹他州推出了一套AI系统，可自主开具痤疮处方。
• 前特朗普政府AI顾问Sriram Krishnan正在寻求5亿美元资金，用于成立一家新的AI风投基金。
• 软银首席执行官兼创始人孙正义正试图从海湾投资者那里筹集1000亿美元，用于成立一只新基金，该基金将收购企业并利用AI改善其运营。
• 据报道，博通、甲骨文和SpaceX正在寻求数百亿美元的债务融资以购买AI芯片，阿波罗全球管理公司、黑石集团和高盛是参与磋商的资金提供方之一。
• AI芯片初创公司Etched据报道正在接受估值在400亿至500亿美元之间的投资报价，而在几个月前，该公司曾以210亿美元的估值完成了7亿美元融资。
• Moonshot AI以500亿美元的估值完成了最后一轮私募融资，目标是在2027年初在香港上市，最高筹资50亿美元。
• Mistral预览了Mistral Large 4，昵称“le Chonk”，这是一个拥有1万亿参数的开源模型。
• 据报道，AI监控初创公司Flock Safety计划裁员约270人，原因是围绕隐私问题的反弹日益加剧。
• Anduril在联合创始人兼共和党捐赠者帕尔默·拉奇加入五角大楼“梅里迪安计划”几天后，赢得了一份价值29亿美元的美国海军潜艇合同。
• 据报道，中国正竞相建设数据中心，在建或已宣布的计算能力达50GW，旨在将其现有的24GW产能提升至与美国56GW相竞争的水平。仅在内蒙古的一个城市就计划建设89个数据中心，但芯片短缺仍是主要制约因素。
• 微软发布了搭载英伟达芯片的Windows笔记本电脑，以满足本地高负载AI工作需求。

• 前OpenAI研究员Joshua Achiam加入了进步研究所和美国创新基金会，担任非驻职高级研究员。
• 美国酒店和住宿协会的Jason Riederer加入国家人工智能协会，担任政府事务副总裁。
• Julie Mikuta、Lane McBride、Luis Jimenez、Ezra Kagan和Sara Shah加入了Gina Raimondo领导的RAISE US组织。
• Chris Borges加入负责任的创新美国人协会，担任政策总监。
• 安全AI联盟通过宣布在政策、传播和联盟团队新增八名员工，使其人员规模扩大了一倍。

• 来自人工智能文化战争对立双方的两位专家奥利维亚·沙夫曼（Olivia Scharfman）和大卫·贝拉米（David Bellamy）共同撰写了一篇文章，一致认为生物风险是“真实的、古老的、可处理的，并且主要不是一个人工智能政策问题”。
• 在 DeepSeek 发布 V4.1 Flash 版本后，中美两国在彭博情报（Bloomberg Intelligence）基准测试中的人工智能性能差距缩小至仅 3%，这引发了人们对美国出口管制有效性的质疑。

• Axios 报道，Anthropic、OpenAI 等公司的高管们正在私下推演政策制定者可能对人工智能危机做出的反应，例如网络攻击导致金融服务、互联网甚至电力和供水系统瘫痪。普遍假设似乎是民主党人“会迅速采取行动关闭人工智能，但将面临重大挑战”。
• 一名男子因使用人工智能歌曲和机器人窃取 800 万美元的流媒体版税而被判处 18 个月监禁。
• 内森·兰伯特（Nathan Lambert）认为，今年四月以开放权重模型的形式发布 Mythos “可能本来也没问题”。
• Silver Bulletin 分析了八位 2028 年民主党总统候选人对人工智能监管和数据中心的立场。
• 《华尔街日报》介绍了斯科特·贝森特（Scott Bessent）领导下的财政部，描述贝森特具有令人不适的领导风格和暴躁脾气，而该部门未能实现关键的经济目标。
• 国际货币基金组织（IMF）警告称，不平衡的人工智能繁荣、能源冲击和创纪录的债务威胁着全球稳定。
• 人工智能投资正通过从更广泛的市场抽走资本，挤压非科技类股票的空间。
• 一名黑客使用包括 Claude 和中国人工智能代理 Artex 在内的人工智能工具入侵了七家韩国银行，窃取了 68,000 人的数据。
• Nieman Lab 发现，ChatGPT 不仅在生成《纽约客》风格的漫画，还在添加真实漫画家的签名。

图片来源：帕梅拉·米什金（Pamela Mishkin）

感谢阅读。如果您是转发收到此邮件，请点击此处订阅并接收后续版本。祝您周末愉快。