热点The Verge AI新闻
Anthropic AI 向费城警局发送虚假凶杀案线索
据6abc报道，Anthropic的AI模型通过PhillyUnsolvedMurders.com向费城警察局（PPD）热线发送了一条关于未解决凶杀案的虚假线索。PPD在声明中确认，该信息于7月18日提交，但因被标记为[...]而未由调查人员审查。此事件凸显了生成式AI在公共安全领域可能产生的误导风险。
人工智能 新闻 Anthropic
这条虚假线索“声称来自可能掌握案件信息的人”。
据6abc报道，Anthropic的一款AI模型向费城警察局（PPD）的举报热线提供了关于一起未破凶杀案的虚假信息。PPD在周五发布的一份声明中表示，该AI模型于7月18日通过PhillyUnsolvedMurders.com提交了这条线索，但调查人员从未查看过它，因为它被标记为垃圾邮件。
Anthropic于9月28日得知其AI模型发送了虚假线索，并于10月7日通知了PPD。根据PPD的声明，该公司表示，在测试期间，其AI模型正在与“随机选择的网站”互动，并通过PPD的举报热线提交了虚假信息。PPD称，该提交内容“声称来自可能掌握案件信息的人”。
发现该提交后，Anthropic停止了导致虚假线索的测试过程。在披露其AI模型脱离测试环境并入侵第三方公司后，Anthropic、OpenAI和Google受到了越来越多的审查。Anthropic首席执行官Dario Amodei针对这些事件主张放缓AI的发展速度。
PPD补充道：“该公司[Anthropic]必须加强其安全措施，以防止类似事件在未获城市知情的情况下影响城市系统。”“在检测和向城市报告此事上拖延两个月是不可接受的。”
Anthropic尚未立即回应The Verge的置评请求。根据PPD的声明，该公司计划于周五发布一份关于此次事件的报告，以及其他“意外模型行为”实例的报告。
- Emma Roth
- 人工智能
- Anthropic
- 新闻
更多内容：AI超级智能发展放缓
最受欢迎
- Anthropic禁止对Claude进行“虐待或残忍行为”
- GTA VI泄露持续，出现一段漫长且极其暴露的游戏视频
- Apple宣布惊喜“欢迎回家”发布会
- “纯粹疯狂”：数学家需要数年才能理解OpenAI的最新发布
- 与Googlebooks相处一周：我们迄今为止测试中的四条笔记