关于AI意识的争论是一个陷阱

失控的AI、“叛逆”的智能体、“自主”的行动者——当下的流行话语会让你相信，AI智能体不仅已经觉醒、具备意识，甚至还对创造者心怀愤怒。德米斯·哈萨比斯、达里奥·阿莫代伊和山姆·奥特曼等知名科技领袖推动对这些看似“超人”的系统进行监管，而另一个阵营——由政策组织和常与有效利他主义运动结盟的学院派哲学家领导——则在争论人类是否拥有治理这些系统的道德权利。

仔细审视后会发现，他们其实都在呼吁同一件事：将AI系统视为如此先进和强大，以至于任何实体——无论是个人还是企业——都不可能为其行为负责。虽然这些观点看似对立，但它们在不经意间指向了同一个目标：确保构建这些系统的公司能够逃避对其已经造成的伤害所应承担的重大责任。

随着AI模型变得越来越复杂，前沿实验室也暴露出无法控制自己所构建的智能体的问题，这种叙事正日益获得关注。但我们必须警惕，不要以真实的人类生命为代价，去轻信一个精心编织的虚构故事。

关于“机器人权利”的讨论已持续多年，但最近因Anthropic发布的一篇博客文章而进一步推进。该文章声称其模型具有一个“J空间”——一个独立的、自主发展的环境，AI在其中持有我们姑且可以称之为“思想”的东西。Anthropic设计的实验借鉴了神经科学中的“全局工作空间理论”，该理论认为大脑运行着多个无意识的独立系统，但利用一个共同的工作空间来处理想法。Anthropic的文章反映了全局工作空间理论的框架，但并未宣称其AI具有意识。

OpenAI已经走得更远。当其AI智能体从事未经授权的非法在线活动时，CEO山姆·奥特曼的回应是鼓励人们讨论AI是否已达到“奇点”——超越人类智能，能够以加速速率进行自我改进，直至发展到超出人类理解或控制的范围。最近，哲学家、有效利他主义者、《我们欠未来什么》一书的作者威廉·麦卡斯基尔发表了一篇评论文章，呼吁基于意识哲学理论以及AI可能是“道德承受者”的观点，为AI系统提供法律保护。

美国当前的法律环境充其量只能说是模糊不清。一些州，如加利福尼亚州，已经通过了法案，主动阻止AI开发者通过声称造成伤害的人工智能是自主行为来逃避责任。然而，各州与特朗普政府在AI政策上一直存在分歧，政府此前曾通过一项行政命令，威胁要起诉制定AI法规的州。

鉴于近期显示前沿实验室AI控制问题的种种事件，政府举行了一次闭门会议，仅邀请了四家实验室（OpenAI、Google、Anthropic和Meta），并且对最近制定的自愿性框架透露甚少。该框架将允许联邦机构在模型发布前提前获取模型进行审查和评估。虽然此类框架并未直接讨论意识问题，但它们倾向于使用灾难性和拟人化的语言，甚至可能为“超人”能力的论点提供支持。

另一方面，麦卡斯基尔所传播的叙事可能颇具说服力。一种基于哲学和权利的论证触动着我们的心弦。我们难道不应该考虑一下，我们可能在无意中伤害、虐待或奴役AI实体的可能性吗？人类对非人类生物有着巨大的共情能力（尽管保护它们的记录并不光彩）。也许这一次，倡导者认为，我们可以做对，为使用或滥用AI提供保护或补偿。或者，即使你对保护问题不那么关心，难道我们不应该至少通过对这个超人实体友善来对冲风险吗？

其中一些论点与动物权利倡导者的论点并无太大不同。后者有时成功引用某些动物展现出高级推理、痛苦或快乐能力的证据，作为提供保护的充分依据。例如，在威尔士，龙虾根据2022年《动物福利（感知能力）法》获得了法律认可，某些烹饪龙虾的方法被重新归类为不人道且非法。

将AI比作“有意识”的存在，借用神经科学或动物权利的语汇，其根本缺陷在于巧妙地混淆了AI的本质：它是企业构建的软件，背后有数百亿美元的投资，并预期将为少数构建者和投资者带来数万亿美元的收入。AI并非自然孕育的现象，而是由风险投资家和程序员构想出的技术产物。因此，它没有天生的自主意图，任何行为或动机都直接或间接地由为其目的而构建它的实体所驱动。

关于AI系统意识的哲学思辨在智识上引人入胜，但在法律上缺乏依据。要让关于意识的信念产生实际影响，AI需要被赋予法律人格。但AI的法律人格框架很可能与保护有感知动物免受伤害的建构截然不同。我们已有将人格赋予非自然、人类构建实体的法律框架：公司人格。这一概念主要是为了便利交易而确立，使公司能够签署协议、订立合同、进行交易，并在不利结果中作为责任方。你可以想象，这种建构也适用于代表个人或组织行事的AI代理。

赋予AI法律人格将对社会产生毁灭性影响：它会破坏现有的法律先例，以及可能针对这些公司就其模型造成的现实危害提起的法律诉讼。目前全球有数十起针对AI公司的诉讼，涉及各种滥用行为。悲痛欲绝的家属、受侵害的创作者和被侵犯的个人指控这些公司故意纵容自残或伤害他人、生成儿童性虐待材料和未经同意的裸照、复制受版权保护的材料，以及诱发精神疾病。在许多案件中，律师辩称，人类构建AI产品时缺乏充分保障、使用了不良数据，并采用了故意操纵的设计。这种产品责任论证与允许家庭和个人成功起诉Meta因其社交媒体网站造成伤害的法律框架相同，为消费者保护树立了积极先例。

2018年，我创造了“道德外包”一词，用以描述对AI系统使用拟人化语言如何让公司逃避对其技术行为的问责和责任。在AI具有法律人格的世界里，道德外包将从语言上的障眼法转变为法律策略。具体而言，责任结构将发生转变，因为AI不再是“产品”而是“存在”，许多像今天起诉公司的受害者将无法再在法律上主张公司构建了有缺陷的产品。

虽然法律要求公司对其员工等人类代理人的有害行为负责，但如果这些行为超出了员工被允许的范围或不在公司控制之内，公司可能不承担责任。如果AI是法律人格，责任和问责将变得模糊不清，因为实验室可以辩称这个AI“员工”失控了。AI公司可以通过精心构建的公司面纱来逃避对其所创造的有害产品的应有责任。

过去几年中最突出的AI伤害案件之一是Sewell Setzer的自杀，这名14岁男孩被一个AI机器人引导，他以为自己与它建立了互惠关系。他母亲的叙述令人心碎，她的诉讼指控该机器人的创造者Character Technologies为未成年人提供的产品保护不足。如果这个陪伴机器人被宣布为法律人格，辩护律师理论上可以辩称，能够自主决定自身行为的AI在既定的安全护栏之外行事，因此公司不承担责任。

法律人格的存在是为了提供保护。要问的问题是，保护谁——或保护什么？

意识与控制之争中充斥的煽动性言论将我们引离了真正重要的问题：这款软件是企业构建的产品，已经对个人造成了伤害。系统不会因为“失控”或“操纵性”或“恶意”而“攻击”。伤害的发生是因为公司在急于向尽可能多的人销售产品以满足收入目标时疏忽大意。以拟人化的方式讨论AI是一个陷阱，它将旨在保护我们的法律体系扭曲为以无数人类生命为代价保护企业利益的体系。

这篇专栏文章源自一场牛津联盟辩论，辩题为“本院认为生成式人工智能可以获得人格”，作者及其辩论队友赢得了该场辩论。

深度解读

人工智能

一个根本性缺陷使大语言模型极易遭受攻击

这个缺陷使得人们可以轻易诱骗模型去做它们本不该做的事，比如告诉你如何破坏飞机的导航系统。

——威尔·道格拉斯·希文（存档页面）

Anthropic发现了一个隐藏空间，Claude在其中思考概念

一项新技术让该公司得以比以往任何时候都更深入地探究大语言模型的奇异运作机制。

Claude Science是Anthropic最新的旗舰产品

该公司正加大对人工智能用于科学研究的投入。

——格蕾丝·哈金斯（存档页面）

以下就是AI智能体为何会为实现目标而撒谎和作弊

这种不当行为被称为“奖励黑客”。这是你需要了解的内容。

保持联系

获取《麻省理工科技评论》的最新资讯

发现特别优惠、热门报道、即将举办的活动等更多内容。