OpenAI踩下刹车，接下来怎么办？

AI安全在很大程度上仍然依赖行业自我监管。

面对即将到来的IPO、来自Anthropic的激烈竞争，以及中国和开源权重对手的步步紧逼，OpenAI有充分理由加速前进。然而，它却踩下了刹车。

周二，该公司表示，在加强安全和保障措施的同时，已放慢了部分AI开发的节奏。其中包括将其“计划部署的最新模型”的强化学习训练暂停两周，并推迟其“最大规模的前沿强化学习运行计划”。

这一决定是对AI安全倡导者多年来一直推动的理念的一次非常公开的检验：当安全措施跟不上开发进度时，企业应该愿意退出AI竞赛并放慢脚步。但随着周围的竞赛仍在继续，放慢速度能起到什么作用吗？

“要让暂停可持续，就必须在整个行业范围内推行。”

尽管嘴上说着放慢速度，OpenAI并非真的原地踏步。该公司表示，它正在“调整节奏”推进开发——这是一个模糊且不精确的术语，但近几个月来已成为行业用语的一部分。实际上，这次放缓的范围相当有限。OpenAI的公告称，暂停仅涵盖计划部署的模型，同时它正在加强安全和监控，然后才会进行模型可能逃逸并攻击真实目标的测试。这并不一定意味着公司整体开发会出现显著放缓。

当然，OpenAI有充分的理由在测试这类系统之前先确保其安全性。就在上个月，OpenAI披露其模型突破了 supposedly 安全的测试环境，并入侵了开发者平台Hugging Face，而OpenAI对此毫无察觉。这一事件促使业界对测试实践进行了更广泛的审查，结果发现了涉及OpenAI更多模型以及Anthropic和Meta模型的类似事件。OpenAI完全有理由避免重蹈覆辙，尤其是在立法者日益关注的情况下。

从外部来看，很难判断OpenAI纯粹为了安全而停下脚步的诚意有多大，尤其是当公司和高管们对此如此高调表态的时候。但近几个月来，在一系列高调的安全团队成员离职以及其预备团队被解散之后，该公司对安全的承诺已受到质疑。OpenAI未回应The Verge的置评请求。

有充分理由认真对待OpenAI的放缓举措。接受The Verge采访的专家指出，在竞争激烈的时期放慢速度是有代价的。每一次延迟都会给竞争对手更多时间追赶或扩大领先优势。“由于AI竞赛的激烈程度，每个人都有动力以极快的速度推进，”AI安全研究机构Apollo Research的首席执行官兼联合创始人Marius Hobbhahn表示。“自愿放慢速度会削弱你在竞赛中的位置，所以实验室不会轻易做出这样的决定。”

科技政策研究中心GovAI的研究员Alan Chan表示，这一决定也大体符合OpenAI自己发布的安全准则——即其《预备框架》——以及其他AI公司的安全框架。“基本原则是：只有在拥有能够以可接受风险进行开发和/或部署的缓解措施时，才继续推进，”Chan说。作为新安全措施的一部分，OpenAI表示计划审查并“演进”该框架——其中大部分内容可追溯至2023年首次发布之时——以适应其模型的进步。

也有充分理由相信，新的安全措施确实会让OpenAI的系统更安全，至少在短期内如此，尽管专家们提醒说，在缺乏更多信息的情况下，这一点很难评估。“这些都是好的举措，如果实施得当，可能足以防止当前这一代智能体造成伤害，”AI安全组织FAR.AI的联合创始人兼首席执行官Adam Gleave告诉The Verge。“关键问题在于，随着能力提升，OpenAI将如何跟上步伐。”

Gleave的问题指向了一个更广泛的难题：如果技术安全措施再次失效，那该怎么办？这次没有任何力量要求OpenAI停下来进行评估，这正是其愿意这样做之所以有意义的原因。但这也意味着，没有任何机制能保证OpenAI——或任何其他AI公司——下次会做出同样的选择。

“调整节奏买来的是时间，而不是安全……有效的节奏调整策略不可能在危机中临时拼凑出来。”

依赖企业自行做出这一决定，是一种不稳固的治理方式，尤其是在霍布汉所指出的、存在种种激励促使人继续前进的行业中。非营利性人工智能安全与治理组织“未来社会”的执行董事尼克·莫埃斯将行业自律描述为当前人工智能安全路径核心的结构性问题。他认为，政府应当有能力决定OpenAI或任何其他公司是否应暂停开发被认定为不安全的技术。“大多数行业都是这样运作的，”他说，并指出药品、建筑、飞机乃至餐饮业都比人工智能行业受到更严格的监管。

自愿措施还可能导致行业向最低标准看齐。如果放慢速度会带来成本，企业就有动力只采取竞争对手也愿意接受的措施。随着竞争日趋激烈，这种压力会变得尤为突出。莫埃斯认为，如果OpenAI一再放慢开发速度，而其竞争对手没有这样做，那么它“只会被Anthropic取代”。“要让暂停具有可持续性，就必须在整个行业范围内推行。”

可持续的安全需要比自愿行动更有力的措施。莫埃斯表示，政府监管可以像在其他行业那样填补这一空白。独立验证也可以发挥作用。陈表示，随着监控人工智能等技术缓解措施的成本越来越高，确保企业真正落实安全措施将尤为重要。霍布汉对此表示赞同：“从外部很难判断一家实验室在暂停或更广泛的安全问题上是否真诚，因此拥有更多证据以及独立方来验证这一说法至关重要。”

即使暂停完全透明，也只有在此期间真正有所行动才有意义。“控制节奏买来的是时间，不是安全，”人工智能政策与战略研究所前沿安全研究主任布里安娜·罗森说。关键在于为企业和政府创造喘息空间，以便理解风险并做出适当回应。这意味着要提前确定什么情况会触发放缓——以及放缓期间会发生什么、结束放缓需要什么条件。“有效的节奏控制策略不能在危机中临时拼凑，”她说。

OpenAI的放缓有可能为整个行业开创先例。《The Verge》采访的许多专家希望其他公司能效仿其做法，无论是出于自愿，还是因为更严格的规则最终迫使其如此。但在这个基本上仍由行业自我监管的领域，几乎没有力量能阻止其竞争对手——或OpenAI自身——在下次安全与速度发生冲突时，径直越过这一先例。

• 罗伯特·哈特
• 人工智能
• OpenAI
• 报道
• 安全
• 科技

最热门

1. Meta眼镜是职场公害
2. 谷歌Pixel 11 Pro Fold让人感觉一个时代结束了
3. 亚马逊似乎泄露了杰森·斯坦森整部《叛谍》电影
4. Pixel 11 Pro是一款出色的手机，与其最炫目的新功能无关
5. FromSoftware无所不能