The Decoder新闻
OpenAI 构建安全系统，在不存储客户数据的情况下捕捉滥用行为
the-decoder.com作者：Maximilian Schreiner产品政策监管AI评分：70/100
OpenAI 宣布推出名为“Private Safety Processing”的安全系统，旨在为企业客户提供最先进的 AI 模型，同时不存储客户数据，仍能检测滥用行为。该系统通过分析多个相关交互来识别滥用模式，但仅接收类型和严重程度等窄安全信号，不接触实际输入输出。客户数据保留在客户自身基础设施或加密存储中，密钥由客户持有。OpenAI 产品政策主管 Aleah Houze 表示，风险往往在多次对话中显现。竞争对手 Anthropic 对其最强大模型（如 Fable 5）要求 30 天数据保留。OpenAI 计划于 9 月发布技术白皮书。
OpenAI希望在不存储企业客户数据的情况下，为其提供最先进的AI模型，同时仍能捕捉滥用行为。该公司构建了一套名为“Private Safety Processing”的安全系统来实现这一目标。
该系统能在保持零数据留存（ZDR）的同时，跨多个相关交互检测滥用模式，这意味着处理完成后不会保留任何数据。OpenAI表示，它仅接收一个狭窄的安全信号，包括活动的类型和严重程度，而不会看到实际的输入或输出。
客户数据保留在客户自身的基础设施上，或以加密形式存储，且密钥由客户持有。OpenAI产品政策负责人Aleah Houze表示，风险往往只有在多轮对话过程中才会显现。相比之下，竞争对手Anthropic对其最强大的模型（如Fable 5）要求保留数据30天。据OpenAI称，一份技术白皮书预计将于9月发布。