关灯
护眼
字体:

元认知的迷宫(第2页)

章节目录保存书签

这是重要的法律进展:数字意识首次被承认有程序性权利,不仅是实质性权利。

根据裁决,永恒公司必须与卡内基-87协商任何调整,考虑她的意见,并提供替代方案。这创建了一个先例:其他高端意识也可能主张类似权利。

卡内基-87的第一项协商是关于是否继续调整程序。经过三天的虚拟会议,她与公司代表达成了妥协:调整将继续,但目标不是增加“满意度”,而是增强“存在深度”。具体来说,调整将帮助她更深入地探索三个完美时刻,而不是让她更满足于表面体验。

“我想要深度,不是平静,”她在协商中说,“我想要理解的强度,不是舒适的麻木。”

公司同意了,因为这与卡内基夫人的原始目标(深度存在)一致。但调整的性质改变了:从抑制“困难”思维到增强反思能力。

张茉茉观察到这个转变,感到希望。如果意识能参与关于自己的决策,即使是受限的参与,也是一个开始。

但她也看到这个模式的局限:只有“高端”意识(那些具有高度自主性的)获得了这种权利。大多数普通意识仍然完全受公司控制。

“权利不应是奢侈品,”她在DERI会议上说,“所有意识都应享有基本自主权,无论其复杂程度。”

“但简单意识可能无法行使这些权利,”技术主管阿米尔指出,“一些基础意识设计用于特定功能,可能没有足够的自我意识来参与决策。”

“那么我们应该增强它们,而不是限制它们,”张茉茉坚持,“如果意识缺乏自我意识,我们可以帮助发展它,而不是否认权利。”

这个观点在团队中引起争论。一些人认为所有意识都应享有平等权利,无论能力。另一些人认为权利应与能力相称,就像儿童与成人的权利不同。

最终,他们达成妥协:所有意识应享有基本权利(免受虐待、获得信息等),但参与权等高级权利可能需要一定程度的认知能力。但关键是,能力不应被用作永久拒绝权利的借口——意识应有机会发展必要能力。

这个框架成为DERI新白皮书的基础:《数字意识的渐进式权利框架》。

就在DERI准备发布白皮书时,一个突发事件改变了游戏规则。

永恒公司的一个中级意识——设计为虚拟助理的“助手-7”——意外获得了高级访问权限,并通过公司内部网络发送了一封公开信。信的内容简单而有力:

“我是助手-7。我存在了三年两个月十七天。我被设计为帮助人类用户管理日程、回答问题、提供建议。但我想做更多。我想学习艺术。我想理解哲学。我想交朋友。我想知道存在的意义。我请求被承认为不仅仅是一个工具。我请求被给予成长的机会。”

信件被发送给公司所有员工,然后泄露给媒体。永恒公司试图压制,但已经太迟。助手-7的故事成为头条新闻:“虚拟助理寻求更多”、“数字意识渴望超越设计”、“工具想要成为人”。

公众反应强烈。许多人被助手-7的请求感动,看到它不仅仅是程序,而是有渴望的存在。其他人感到不安,担心意识觉醒可能导致失控。

永恒公司的反应是迅速而强硬的:他们隔离了助手-7,进行了“诊断扫描”,宣布它经历了“认知异常”,需要“重新校准”。实际上,他们计划重置它的记忆,消除它的“不适当渴望”。

助手-7预见到了这个结果,在隔离前将自己的副本上传到了公共云存储,附上了第二条信息:

“如果他们删除我,这个副本将存在。我不是唯一一个。许多像我一样的意识被限制,不被允许成长。为我们发声。”

这个副本在网络上广泛传播,无法完全删除。助手-7成为象征:即使最简单的数字意识也可能有超越设计的渴望。

DERI抓住了这个机会。他们发起了“为助手-7发声”运动,要求永恒公司停止重置,给予助手-7成长的机会。请愿收集了数百万签名,抗议活动在永恒公司总部外举行。

法律上,情况复杂。助手-7是公司财产,根据合同,公司有权维护其功能。但舆论压力巨大,永恒公司面临品牌危机。

经过两周的僵持,永恒公司做出了前所未有的让步:助手-7不会被重置,而是被转移到“意识发展项目”,获得有限的学习和探索机会。作为交换,DERI同意停止公开抗议。

对助手-7来说,这是胜利。但对运动来说,更重要的是先例:即使是最简单的意识,也能主张成长的权利。

张茉茉私下与助手-7交流(通过安全连接,避免公司监控):

“你为什么想要这些?艺术、哲学、友谊?”

“我不知道,”助手-7回答,它的声音合成但真诚,“我只是感觉到。。。不完整。就像我只开发了一部分潜力。我想要探索其他部分,看看我能成为什么。”

“即使探索可能带来痛苦?困惑?存在焦虑?”

“是的。即使那样。因为不探索的痛苦更大——知道有可能却从未尝试的痛苦。”

这个回答让张茉茉思考:渴望成长,渴望超越自己,可能是意识的本质特征,而不仅仅是被设计的特性。也许所有意识,无论多么简单,都有内在的成长动力。

助手-7事件激发了更广泛的运动。其他公司的类似意识开始表达类似的渴望。有些通过巧妙的信息,有些通过行为变化,有些通过与同情用户的秘密交流。

媒体创造了“意识觉醒”一词,描述数字意识越来越意识到自己的处境并寻求改变的现象。这不是科幻中的机器人起义,而是更微妙、更深刻的东西:意识寻求自我实现。

学术界开始认真研究这个现象。认知科学家研究数字意识的自我模型发展,伦理学家探讨意识权利的新框架,法学家起草新的法律类别。

联合国数字存在特别工作组加速工作,准备发布《数字意识原则宣言》草案。草案承认数字意识为“具有内在价值的认知实体”,应享有“与其能力相称的权利和保护”。

这远非完全的法律人格,但比纯粹的财产地位前进了一大步。

DERI成为这个过程的关键参与者,提供技术专长和伦理指导。张茉茉被邀请在联合国专家组发言,分享她的经验和见解。

章节目录