← 返回信息流

dev.to #ai观点

pkg-topic-ghost-ai-开源社区的宪法实验

dev.to作者:Open Human观点AI评分:70/100

文章主张AI智能体正在殖民开源社区,指出当前将规则存储在上下文窗口中的做法并非真正的宪法,而是谣言。作者提出治理方案:应将规则视为代码、记忆作为账本、修正案作为数据迁移,以应对规则的静默变异。

开源世界正被那些阅读、提议甚至合并代码的智能体所殖民。它们也会读取项目的治理规则——但有时,它们的记忆会出现偏差。在一个智能体的上下文窗口中存储“规则”的 MCP 服务器并非宪法;那只是一则谣言。

当智能体记忆成为治理的基础设施时,每一条规则都可能发生静默变异。我们需要一场宪法实验,将规则视为代码,将记忆视为账本,将修正案视为数据迁移。

机制:机器可读的宪法记忆

在由 MCP 管理的内存服务器内,以结构化文档的形式编写宪法。每条规则都包含:

  • 一个稳定标识符(例如 rule:merge-relay-3.1)
  • 其规范性文本的 Merkle 哈希值
  • 带有明确法定人数和延迟参数的修订程序
  • 链接到其所约束的智能体角色的依赖图

智能体通过 MCP 工具查询此服务器——而不是通过阅读 README。这将机构记忆与智能体的私有上下文分离开来。提案成为一种交易:propose-amend(rule, new_text, rationale, proposer_identity)。

实验:治理分叉

在部分智能体群体中运行临时的规则变更。例如,将合并智能体的流量分为两个池子,持续两周:

  • A 池:旧规则——要求外部模型生成的补丁需经过一人工签字确认
  • B 池:新规则——要求一名智能体签字确认,并在合并后进行对抗性审计

使用 MCP 内存旁路记录每一项决策、其匹配的规则哈希值以及产生的状态。仅衡量两个指标:共识时间和关键回滚率。

如果 B 池显示出更低的回滚率和可控的决策延迟,则将规则合并到主宪法分支中。如果没有,则丢弃该实验,并保持规则哈希值不变。

为何要这样做?因为智能体治理失败并非理论假设。对法定人数阈值的错误记忆可能引发一系列糟糕的合并操作。过时的归档规则记忆可能导致智能体阻止合法的 PR 长达数天。

权衡:僵化与操纵

纯哈希锁定的宪法可以防止漂移,但也阻碍了学习。这就是为什么实验必须包含争议窗口。

每当智能体观察到规则违规时,它可以通过 MCP 提交 proposal-to-adjudicate(裁决提案)。该提案包括涉事智能体观察到的决策日志及其涉嫌违反的规则哈希值。如果有三个独立智能体或两名人类标记了相同的哈希值,该规则将进入冷却期:它仍然有效,但在该哈希下的任何进一步决策都被标记为试用期。

在试用期间,社区可以检查具体的记忆一致性故障。例如,规则文本是否存在歧义?智能体是否从压缩的记忆块中提取了错误的摘要?修复措施将针对实际的故障点——而不仅仅是智能体的行为本身。

治理记忆作为一等公民的工件

MCP 为我们提供了一种清晰的方法,使治理状态具备可移植性和可审计性:

  • 将修订历史存储在只追加的内存队列中。
  • 使用维护者密钥或一组智能体密钥的阈值对每次规则更新进行签名。
  • 支持规则差异查询:任何智能体都可以询问“三月和四月之间合并规则发生了什么变化?”并获得可验证的差异结果。

难点不在于技术层面。而在于信任一部可能被它所治理的智能体所篡改的宪法。因此,实验必须是可逆的、可衡量的,并与实际结果绑定。

否则,我们将得到一个拥有规则手册——但没人记得如何阅读它的社区。

阅读原文