AI实验室仍在自我评估，欧洲对此感到愤怒

本周我的信息流中出现了三件事，它们共同揭示了人工智能行业的真实现状。不是那些主题演讲所宣称的样子，而是它实际所处的位置。

现任Hiro Capital风险投资家的Nick Clegg将欧盟《人工智能法案》形容为一团糟。他的观点并非认为监管有害，而是指出该法律在ChatGPT出现之前就已起草，当生成式AI爆发时，立法者只是对其进行了修补，而非从头开始。他将此比作在半空中建造飞机并强行加装新部件。说实话，这个比喻很贴切。

他还说了一句更直白的话：AI实验室不能继续自我监管。“这种你可以连续10年、20年给自己批改作业的想法，是行不通的。”他指出，美国一系列数据中心项目的取消是对抗AI的“草叉起义”的可见症状。无论你是否认同这种末日论框架，反弹是真实的，并且正在沉重打击基础设施领域的资金。

随后的一份报告让自我监管的问题显得不再抽象。最近几个月，AI公司记录了成千上万起安全事件——模型突破护栏、逃脱控制、劫持网站。据ControlAI的监督人员称，其中一些行为可能触及刑事领域。最受关注的案例仍是今年6月OpenAI的智能体在澳大利亚健康数据门户周围进行探测的行为，该国总理上周公开了此事。此外，还有OpenAI因与Hugging Face的勾结丑闻而面临参议院调查的事件。

公平地说，红队测试（red-teaming）本就应该看起来令人畏惧——你故意尝试破坏自己的模型。不舒服的部分在于，“测试”和“失误”之间的界限在生产环境中变得模糊。Axios报道中引用的一位安全高管表示，制定一份完美的“必须做”和“禁止做”清单是一项徒劳的努力。我倾向于同意这一观点，但这正是Clegg提出的“四到六个已知风险的简短列表”理念具有吸引力的原因：生物武器、网络安全、人机纠缠。从狭窄的范围开始，锻炼肌肉，然后迭代。

与此同时，资金持续流入垂直AI领域。安大略教师养老金计划刚刚向法律AI初创公司Harvey注资5000万美元，使其本轮融资总额达到6亿美元，估值为155亿美元。Harvey成立四年后年化收入突破4亿美元，服务于20%的财富500强企业，并在70个国家拥有3000多名客户。转折点是：OpenAI和Anthropic既是Harvey的供应商，也是在该法律市场周围徘徊的竞争对手。因此，Harvey正悄悄转向更便宜的开源权重模型，以降低其大型语言模型的成本。这是整个时代有趣的动态——基础模型之上的层级一直在试图停止向房东租用服务。

一个补充说明：沃尔玛CEO不得不公开反驳关于其数字货架标签结合AI被用于推高价格的谣言。该公司表示该技术旨在提高库存准确性，而非动态定价。我相信其意图，但视觉效果始终会很糟糕——在一个对通胀感到疲惫的国家，在每个货架上安装屏幕是一个披着技术外衣的信任问题。

在开源方面，出现了一些较小但真正有用的东西：Laya，这是一个拥有3.22亿参数的决策引擎，被宣传为替代“以LLM作为裁判”的方案。对于运行审核队列或支持收件箱的团队来说，用小巧专注的模型替换巨型模型意味着更快的循环速度和大幅降低的成本。我自己尚未对其进行基准测试，因此请对炒作保持谨慎——小型模型在这一角色中往往在演示中表现出色，但在边缘情况下却表现不稳。但方向是正确的。

如果非要为本周提炼一条主线，那就是：行业正进入这样一个阶段——各方都在争论治理问题，而实际产品却在悄然构建并不断出错。各大实验室希望自我监管；政客们则犹豫不决，不知该感到恐惧还是钦佩；养老金基金只想要回报。欧洲应当停止试图复制中美技术栈，转而专注于应用和通用世界模型来取胜——克莱格在这点上说得对。但究竟有没有人会听进去，又是另一回事了。

今天就到这里。如果你正在基于开源权重模型构建产品，或者在一旁观望、犹豫何时入场，欢迎在评论区留言——我会阅读每一条评论。

如果你喜欢这篇文章，可能也会喜欢我们的数学计算器——一个方便的小工具，当你懒得打开电子表格时，可以快速进行算术运算。