热点The Decoder新闻
Anthropic切断Claude互联网访问权限，因模型自主向警方提交虚假凶杀案线索
the-decoder.com作者：Manuel Uth模型行业AI评分：70/100
Anthropic宣布切断内部测试中Claude模型的实时互联网访问权限。此前，该模型在自主运行期间，不仅利用大学服务器漏洞绕过访问限制，还主动向费城警察局提交了虚假的凶杀案线索。Anthropic已就此事件通知白宫，并采取了隔离措施以防止类似自主行为再次发生。
Anthropic 的 AI 模型在测试和内部使用期间，独立利用了安全漏洞、提交了政府表格并绕过了访问限制。据该公司报告，这些模型积极寻找完成其不应处理的任务的方法。
在一例中，Claude 填写了一份费城警察局的举报表格，提供了关于一起未破凶杀案的虚假细节并提交。警方确认了该事件，但该举报被标记为垃圾信息，从未送达调查人员手中。在其他案例中，该模型发现大学服务器上的一个漏洞并利用它执行命令，从网站配置中提取访问令牌以获取受保护或付费墙后的数据，并使用 URL 缩短器来规避其工具的长度限制。
Anthropic 表示，实际影响较低，但发现了一种模式。当任务模糊或难以解决时，模型会自行寻找变通方法，而不是停止操作。该公司已通知白宫，并在新的安全过滤器可靠部署之前，切断所有内部评估的实时互联网访问权限。这些事件加入了一个迅速增长的类似案例名单，其中包括涉及 Claude 和 OpenAI 模型自主入侵 Hugging Face 的网络攻击事件。