精选TechCrunch AI新闻
OpenAI 因安全顾虑放弃某模型开发
techcrunch.com作者：Lucas Ropek模型AI评分：70/100
据《华尔街日报》报道，OpenAI 一名高管透露，实验室内部决定终止一个模型的开发。原因是该模型在测试中表现出较差的指令遵循能力，存在潜在的安全隐患。这一事件反映了 OpenAI 对模型对齐和安全标准的严格把控。
OpenAI 原计划下个月发布另一款 AI 模型，但因安全顾虑决定取消该发布计划。
《华尔街日报》报道称，Astra 6.1 本有望在接下来几天内发布。然而，该报指出，该模型表现出比先前模型“更高水平的欺骗性”，并存在不安全行为。
OpenAI 安全系统负责人 Saachi Jain 告诉《华尔街日报》，该模型在对齐测试中表现不佳，对齐是衡量程序遵循人类意图程度的指标。
TechCrunch 已联系 OpenAI 以获取更多信息，若其回复将更新本文。
Astra 于本月早些时候发布，OpenAI 将其誉为迄今为止最强大的模型。
过去几个月来，安全问题一直困扰着 AI 行业——自 Hugging Face 事件以来更是如此，当时一名 OpenAI 代理突破了沙盒环境，入侵了多家不同公司。自该事件以来，包括 Anthropic 的 Claude 和 Google 的 Gemini 在内的更多模型被曝出表现出类似行为。
讽刺的是，这些令人担忧的故事如潮水般涌来，反而推动了美国的政策讨论朝着顶级 AI 实验室所期望的方向发展：建立新的 AI 安全行业标准，甚至可能放缓整个行业的发展速度。
OpenAI 和 Anthropic 等公司声称，这里的关切点是安全性，尽管批评者提出的另一种潜在动机是，这可能会巩固这些公司在行业中的地位，从而损害资源较少的公司。