NVIDIA AI推文

AI代理承担更复杂工作时，安全应放在哪里？

2026/8/21观点AI评分：50/100

Anthropic的安全与安保团队分享了对AI代理栈安全性的思考：harness（引导代理尝试做什么）与基础设施（控制代理实际能做什么）共同决定安全边界。

译文

随着AI代理承担越来越复杂的工作，安全应该落在哪里？约束框架引导代理尝试做什么，基础设施则控制它实际能做什么。我们的AI安全与安全团队分享了他们如何在整个代理技术栈中思考安全问题。👇

NVIDIA AI

@NVIDIAAI

As AI agents take on more complex work, where should security live? The harness guides what an agent tries to do. Infrastructure controls what it can actually do. Our AI safety and security teams share how they’re thinking about security across the agent stack. 👇

2026-08-22 00:43

阅读原文