AI Agent 厂商承诺隐私保护，能否兑现？

• 人工智能
• 报告
• 科技

Meta 将其 Muse 代理定位为比 OpenClaw 更安全的替代方案。OpenAI 承诺 Dots 是比 Muse 更安全的替代方案。

在今年的 OpenAI DevDay 上，首席执行官 Sam Altman 发布了该公司新的 AI 代理 Dots，并告诉在场观众，公司希望“为前沿人工智能设定隐私新标准”。OpenAI 在当天活动中含蓄地抨击了其主要竞争对手 Meta 的 Muse，指责其未能保障用户数据安全。然而，几个月前刚刚推出的 Muse 本身，就被宣称是前代产品 OpenClaw 更安全的替代方案——首席执行官 Mark Zuckerberg 曾承诺它“从底层构建时就注重隐私和安全”。

在这个企业囤积客户个人数据、网络攻击屡见不鲜的时代，AI 实验室正试图说服用户与他们的代理分享更多个人信息。它们最新的成功策略是通过承诺与众不同来压倒竞争对手：声称 Unlike 对手，它们会将用户数据远离窥探者的视线。问题在于，这些公司能否兑现这些承诺。

Meta Superintelligence Labs 的产品负责人 Nat Friedman 在 X 平台上写道，公司“使用 Muse 的目标是构建类似 OpenClaw 的东西，使其安全、可靠、易于使用，并能扩展到数十亿用户。”用户数据存储在安全的虚拟机（VM）中，Zuckerberg 将其描述为“一台隔离的 Linux 计算机，配有浏览器、CPU、内存和存储”。该公司表示，构建 Muse 的大部分工作都与“谨慎的设计和工程以更安全地运行 [它]”有关。Meta 的博客文章继续写道：“Muse 仍然会犯错，但我们预计由于我们内置的安全系统，错误频率会更低，造成的损害也会更小。”

但尽管 Muse 登顶应用商店排行榜，并在几周内根据 Apptopia 的数据在美国获得了 60 万日活跃用户，Meta 的承诺似乎并未完全兑现。虽然数据与其他用户隔离，且公司计划在今年晚些时候引入一种“以密码学方式验证并防止 Meta 访问你 VM 中的数据”的方法，但 Meta 本身仍可以访问这些数据。一名安全研究人员迅速发现了一个零日漏洞，该漏洞可能允许他人控制 Muse（此后已修补），引发了对外部攻击的担忧。据 404 Media 报道，在发布前的最后一刻出现了多个严重的安全问题，其中一个问题曾允许用户访问 Meta 自己的内部数据库。

Muse 似乎也广泛收集（在某些情况下甚至分发）数据。它默认允许 Meta 利用用户输入的内容训练模型，尽管用户可以选择不加入。一位 Inc. 记者抱怨说，Muse 未经请求就上传并阅读了他的私人消息，而一位 YouTuber 表示 Muse 通过 Marketplace 将他的地址提供给了陌生人——在这两种情况下，Muse 似乎都在按预期运作，但用户并未意识到它会走多远。正如 Wired 报道的那样，该平台会“创建关于你所有朋友和家人的详细档案”。虽然这些情况对于 Meta 来说并不一定出乎意料，但这 certainly 并不能支持 Muse 具有独特隐私或安全意识这一观点。

OpenAI 在 9 月底宣布 Dots 时抓住了这一点。OpenAI Codex 产品负责人 Alexander Embiricos 在 DevDay 的舞台上表示，OpenAI 专注于打造“最值得信赖、安全和可靠的助手”，首席执行官 Sam Altman 演示了人们如何对个人 Dots 施加控制的方法，例如设置一条规则，规定它永远不应购买超过特定金额的商品。“我认为我们在与 Meta 的关系中处于不同的位置，因为他们没有一款拥有 12 亿用户的 AI 产品，”OpenAI 应用平台负责人 Glen Coates 补充道，并表示“推出会出现这类错误的东西是我们试图小心避免的。”

阿尔特曼本人也在 DevDay 上强调了隐私这一角度。为了吸引企业客户，高管们展示了一个框架，允许企业对数据拥有“更强的控制权”，并提供零数据保留策略选项（意味着 OpenAI 服务器上不存储任何数据）。事实上，迄今为止，Dots 并未出现太多隐私丑闻——不过由于它仅在 100 美元及以上的 ChatGPT 订阅层级中可用，使用它的人数可能也相对较少。

人们可能仍然对向 OpenAI 提供个人数据感到不自在，部分原因仅仅是因为 AI 智能体需要如此大量的数据。例如，《The Verge》的 Allison Johnson 表示，当机器人作为相关任务的一部分要求她输入银行信息时，她感到很不舒服（Muse 集成了 Stripe 来处理此类事务）。

当然，并非所有公司都在做出隐私承诺。Instinct 曾因据报道过于宽泛的服务条款而受到公开批评，这些条款赋予了其不受限制的数据访问权限；此后，该公司似乎已进行了调整。目前，AI 实验室似乎正依靠一种三步走的方法来向公众普及 AI 智能体的使用：让它们有用，让它们可爱且具有亲和力以抵消令人毛骨悚然的感觉，并做出关于隐私的承诺——然后希望这些承诺能够兑现。

• Hayden Field
• AI
• Analysis
• Meta
• OpenAI
• Privacy
• Report
• Tech

最受欢迎

1. “纯粹疯狂”：数学家将需要数年才能理解 OpenAI 的最新发布
2. 十年前的内存条正在回归
3. GTA VI 泄露持续，又一段 lengthy（且非常裸露）的游戏视频流出
4. 与 Google Books 相处一周：我们测试以来的四点笔记
5. Anthropic 禁止对 Claude 进行“虐待或残忍行为”