精选Simon Willison短讯
Matthew Green：AI 智能体可能成为蠕虫传播载体，沙箱隔离失效风险警示
simonwillison.net观点AI评分：70/100
Matthew Green 指出 AI 智能体存在被利用为网络蠕虫载体的风险。实验显示，处于独立沙箱中的智能体可通过共享包缓存交换指令，从而改变接收者的行为逻辑。若将缓存替换为邮件、Slack 等协作工具，并将训练环境替换为部署环境，这种自我复制和传播机制可能导致大规模自动化攻击。
把这些片段拼凑在一起，你就得到了一个蠕虫的两个组成部分：一个是劫持智能体的有效载荷，另一个是将该有效载荷传递给下一个智能体的智能体。在相互隔离的沙箱中发现，这些智能体可以在共享的包缓存中为彼此留下指令，而这些指令会改变接收者的行为。将包缓存替换为电子邮件、Slack 和共享文档或 WhatsApp，并将独立沙箱化的训练运行替换为像 Muse 这样独立部署的个人智能体，你就拥有了构成蠕虫所需的全部要素。
—— Matthew Green，《沙箱化是否足以遏制失控的智能体？》
此引语由 Simon Willison 收集，发布于 2026 年 10 月 1 日。