OpenAI 推出新隐私保护功能，与 Anthropic 竞争企业客户

随着AI模型变得愈发强大，这些模型被滥用的可能性也在增加——要求建立安全护栏以阻止此类滥用的呼声同样日益高涨。如今，AI公司必须在尊重企业客户隐私与监控使用情况以发现潜在问题之间走一条微妙的钢丝。

OpenAI嗅到了超越竞争对手Anthropic的机会，刚刚宣布了一种以隐私为核心的安全监控方法。该公司正在向部分精选客户预览一项名为“Private Safety Processing”的新服务。这是一套自动化系统，能够在监控潜在滥用的同时，不保留客户的任何数据。

这一系统显然与Anthropic最近公布的数据保留政策背道而驰。该政策令一些客户感到不满，它允许这家AI实验室在涉及“受覆盖模型”时，将用户数据（包括所有会话及其中的对话）保留30天。这些模型包括所有Mythos级模型以及“具有类似能力的未来模型”，该公司表示。

这项政策于7月公布，其目的是出于安全考虑，允许实验室筛选和分析潜在的不当行为。然而，这令一些处理大量敏感数据、不希望数据被AI实验室留存（或审查）的企业深感担忧。

OpenAI——与大多数其他AI公司一样——已经通过遵守一项名为“零数据保留”（ZDR）的政策，为客户提供了相对程度的隐私保护。ZDR利用OpenAI API中的代理按会话监控滥用行为。这样一来，客户数据不会被公司保留，但企业仍然能够在无需人工干预的情况下扫描不良活动。值得注意的是，Anthropic也基本遵守ZDR——但涉及“受覆盖模型”（如Fable）时除外。

OpenAI表示，Private Safety Processing是一项扩大ZDR范围的新技术。它将其描述为一种长周期安全监控形式，评估多个对话的输入和输出——而不仅仅是单个对话。同样，监控由代理执行，一旦被触发，它会捕获交互并在多个会话中进行分析，以寻找潜在滥用的迹象。

一位发言人告诉TechCrunch，这项新技术帮助OpenAI检测跨多个会话发生的AI恶意使用行为。恶意行为者——假设有人试图为网络攻击设计恶意软件——可能会分散他们的请求以避免被检测。Private Safety Processing可以在无需人工审查用户对话的情况下，分析这些多个对话以寻找滥用迹象。

该公司表示，如果系统被触发，它可能会向OpenAI发送一个“范围狭窄的信号”，警告特定类型的活动。基于该信号，OpenAI可以决定是否“需要采取执法措施”。发言人称，如果需要，OpenAI将联系客户以获取更多背景信息或与他们合作解决问题，客户可以自行决定是否与OpenAI共享数据。

相比之下，Anthropic指出，对客户数据的人工审查可能发生，但只能通过“受控访问路径”进行，涉及“一小批经批准的审查人员”。该公司表示，每一次审查会话都会“记录在防篡改日志中，审查人员无法压制或修改”。

目前OpenAI与Anthropic之间的企业竞争十分激烈，两家公司都在寻找任何机会以取得对对方的优势。最近的一份报告显示，OpenAI第二季度的增长速度慢于Anthropic。据报道，Anthropic的年化收入运行率目前为650亿美元。Anthropic的投资人表示，该公司可能以2万亿美元的估值进行IPO，而OpenAI也在筹备自己的IPO。