第八章 现实中的人工智能会导致什么问题（第1页）
第八章现实中的人工智能会导致什么问题
虽然我对出现奇点的可能性持怀疑态度，但这并不意味着我认为人工智能安全无虞。毕竟，人工智能是一门通用技术：它的应用仅仅受限于我们的想象。所有的技术都可能产生意想不到的效果，未来几十年甚至几百年内都存在可能性。而且所有的技术都可能被滥用。我们的无名氏祖先率先用上了火，我们不可能因为他没预料到燃烧化石燃料将导致气候变化而怪罪于他。英国科学家迈克尔·法拉第（MichaelFaraday）于1831年发明了电动机，他也没预料到会产生电椅这种刑具。1886年获得汽车专利的卡尔·本茨（KarlBenz）肯定无法预言，他的发明在未来的一个世纪里会造成数百万人的死亡。互联网的发明者温顿·瑟夫（VintCerf）可能也没想到恐怖组织会利用他的发明分享可怕的杀人视频。
就像这些技术一样，人工智能也会产生负面的影响，甚至可能会波及全球。像这些技术一样，人工智能也有可能被滥用。这些后果或许不会像上一章我们提到的试图消灭人类的《终结者》场景那么富有戏剧性，但却是我们以及我们的后代在未来几十年中需要解决的问题。
因此，在本章中，我们会讨论一些我认为在人工智能领域真正值得人们担忧的东西，以及它们对未来的影响。最后，我希望你们会认同，人工智能领域可能会出现问题，但不是像好莱坞影片中那样的问题。
我们将从就业和失业开始：人工智能将取代我们工作，这值得我们思考人工智能的存在和发展将如何改变人们的工作结构，以及人工智能担任的职能和人类之间存在异化的可能性。这反过来促使我们思考人工智能技术的应用对人权的影响，还有致命性自主武器出现的可能性。然后我们将考虑算法偏见的问题，以及人工智能缺乏多样性的问题，还有假新闻和假人工智能现象。
就业和失业
机器人会取代我们的工作，我们最好从现在开始早做打算，以免为时已晚。
——《卫报》，2018年
除了《终结者》式的毁灭场景，有关人工智能最广泛和令人恐惧的问题就是它将如何影响未来的职业结构，特别是它拥有使人失业的潜力。电脑不会疲惫、不会宿醉、不会吵架、不会抱怨、不会要求成立工会，也许最重要的是，它们不要工资。这就是它会让雇主开心、雇员紧张的原因。
尽管类似“人工智能会让你变成无用阶层”的头条新闻在过去几年里层出不穷，但这种恐慌并不是史上第一次出现。人类劳动的大规模自动化至少可以追溯到1760年至1840年之间发生的工业革命。工业革命代表商品制造方式的彻底改变，从小规模生产经营（家庭手工业）转向我们今天熟悉的大规模工厂生产。
工业革命并不是由单一的技术突破推动的，而是一系列的技术进步，加上独特的历史和地理环境促成。英国通常被视为工业革命的发源地，大量本地和从美洲等殖民地运送来的棉花，集中在英格兰北部的工厂进行加工。大英帝国不仅盛产棉花原料，还提供了庞大的成品市场，这为英国纺织工业的繁荣提供了经济条件。从17世纪30年代开始，纺织品加工方面的一系列技术革新使得人们可以制造出更大型、更快捷的纺织加工机器，它能够稳定制造出高质量的纺织品，并且达到家庭手工业无法望其项背的规模。原材料通过利物浦和曼彻斯特大量进口，被带到新兴发展的工业城镇。最初，纺织厂采用水动力，但煤动力蒸汽机的改良让这项技术迅速得到广泛应用，使工厂不再需要依赖普及性和稳定性都不好的水动力源。而因地制宜的英格兰北部正好有着丰富的煤矿藏，为发动机提供燃料，煤矿城镇和工业城镇并驾齐驱，成为工业革命发展的有力支撑。
工业革命开创的工厂形式，使大多数人的工作性质发生了根本性的变化。工业革命前，大多数人直接服务于农业，工业革命把人们从农村带到了工厂所在的城镇，把他们的工作地点从田地和农舍搬到了厂房。他们的工作性质也变成了到今天仍然广泛存在的类型：在工厂从事一项专业化、高度重复性的工作，作为涉及高度自动化生产流水线的一部分。
家庭手工业无法在价格、质量和商品一致性上与新技术竞争，手工业者只能另谋高就（许多劳动力流入了新工厂），否则就会面临失业。社会发生了巨大的变动，但并不是所有人都喜欢这种改变。在19世纪初期，卢德派运动兴起，卢德派是组织松散的团体，他们反抗工业化，焚烧和粉碎了工厂的机器——他们认为这些机器剥夺了他们的生计。但那只是昙花一现的运动，很快就被英国政府扼杀。在1812年，英国政府将破坏机器定为可判死刑的重罪。
当然，1760年至1840年发生的只是第一次工业革命，自那以后，技术一直在稳步发展，卢德派反抗工业化的两个世纪以来，发生过好几次类似的巨大变化。具有讽刺意味（并且悲哀）的是，在第一次工业革命中繁荣起来的工业城镇，在20世纪70年代末80年代初又被另一次工业革命摧毁。这一时期传统产业衰落的原因有很多，国际经济全球化意味着，在欧洲和北美传统工业地区制造的商品，现在正被世界另一边新兴经济体的商品所取代——因为更加低廉的生产成本。美国和英国倡导的自由市场经济政策对传统制造业十分不利，但是，最关键的技术“贡献”应该是微处理器的发展，它让工业里面大量非技术性工作得以全面自动化。
微处理器发展是今天计算机技术得以实现的根本，它是一种系统部件，将计算机中央处理器的所有关键部件组合成单一、小型、便宜的单元。在微处理器出现之前，计算机体积庞大，价格昂贵，运行不稳定。微处理器使得计算机变得更便宜、更迅速、更可靠，而且体积缩小了许多，这让自动化生产成为可能，特别是制造业。但英格兰北部的工业城镇因此遭受了致命打击——40年前遭遇制造业寒冬后，它们至今仍未恢复元气。
虽然自动化生产让英国北部传统制造业中心遭受灭顶之灾，但我们必须明白，微处理器等新技术的发展总体是让经济活动净值增长的。新技术创造了新机遇，创造了更多的企业、更多的服务和更多的财富。微处理器发展的情况也确实如此：新兴技术创造的就业机会和财富比毁掉的多，只是不在英格兰北部而已。
劳动自动化也不是什么新鲜事了，但现在令人担忧的事情，就像以前自动化和机械化夺走了非技术工作一样，人工智能可能会从我们手上夺走技术工作的机会。如果人工智能广泛应用，留给我们人类的机会还有多少？
人工智能会改变现有的工作结构和性质，这一点是毋庸置疑的。我们只是不清楚，这种改变是否会像工业革命那样，具有戏剧性和颠覆性，还是会以更温和的方式进行。
2013年，我在牛津大学的两位同事卡尔·弗雷（CarlFrey）和迈克尔·奥斯本（MichaelOsborne）撰写了题为“就业的未来”的报告〈[113]，引发了对这个问题的争论。报告令人震惊地预测：在不久的将来，美国会有高达47%的工作岗位受到人工智能和相关自动化技术的影响。
弗雷和奥斯本将702种职业按照他们所认为的自动化程度进行分类。报告指出，被取代风险最高的职业包括电话销售员、下水道疏通工、保险业务员、数据录入员（实际上还有许多类似职业）、电话接线员、销售员、雕刻工和出纳员。有一定风险的职业包括治疗师、牙医、顾问、医生（包括外科医生）以及教师。他们的结论是：
我们的模型预测，大多数从事运输和物流行业的工人，连同大部分办公室和行政后勤人员，以及生产性职业的劳动者，都处于危险之中。
弗雷和奥斯本还总结出三个不会轻易被人工智能取代工作的特点。
首先，也许是理所当然的，需要创造性思维的工作被认为是安全的。创造性思维职业包括艺术类、媒体类和科学类。
其次，需要较强社交能力的工作也是比较安全的。那些需要理解和管理人际互动和微妙人际关系的工作，不会轻易被人工智能取代。
最后，他们指出，涉及灵敏感知和灵巧手工的工作也很难被自动化。在这里，人工智能面临的问题是，虽然机器感知领域一直在进步，但在这方面和人类相比还差得远。我们可以快速理解高度复杂化和非结构化的环境，而机器人只能应付规则的、结构化的环境，一旦超出机器学习训练的范畴，就会面临重重困难。另外，人类的手还是比机械手灵活得多——2018年，罗德尼·布鲁克斯预测，恐怕要到20年后才能出现一只跟人类一样灵活的机械手[114]。至少在那之前，那些从事需要大量灵巧手工的人是安全的——木匠、电工或者管子工今晚可以睡个踏实觉了。
弗雷和奥斯本的报告受到了广泛的质疑和批评，许多评论员指出了报告中他们所认为的方法论缺陷和不合理假设，并强烈表示这个结果太过笼统。虽然我也认为报告中最悲观的预测在一段时间内不会成为现实，但我坚信人工智能以及先进的自动化、机器人等相关技术将在不久的将来让很多人失业。如果你的工作是分析数据然后做出决策（比如是否提供贷款），那我不敢说人工智能是否会取代你的角色。但如果你的工作只是用程序化的脚本跟客户对话（就像许多呼叫中心接线员的工作），那么我很抱歉，人工智能会很快让你变成无用阶层。如果你的工作只是在一个受限制的、地图清晰的城市地区进行日常驾驶，那么我也很抱歉，人工智能注定会取代你，只不过别问我那是什么时候。
然而，对于我们大多数人来说，新技术主要改变的是我们的工作性质。大多数人不会被人工智能系统取代，反之，使用人工智能工具可以让我们在工作中变得更高效、更优秀。毕竟，拖拉机的发明没有取代农夫，只是让他们成为效率更高的农夫；文字处理机的发明也没有取代秘书，只是让他们成为效率更高的秘书而已。我们可以通过软件智能体来简化工作，提升效率，这样我们可以从无穷无尽的文书表格工作中解脱出来。人工智能将嵌入日常工作的所有工具中，给我们带来难以想象的益处——甚至有很多是以无声无息的方式。用吴恩达的话来说，“如果一项脑力工作，普通人只需要不到一秒钟就能完成，那么，我们可以用人工智能实现它，无论是现在还是将来[115]”。这可是一长串任务列表。
虽然许多人担心人工智能会夺走人类的工作机会，带来全球失业和加速不平等的严重后果。但技术乐观主义者希望人工智能、机器人技术和先进的自动化技术将引领我们走向一个截然不同的未来。这些乌托邦主义者相信人工智能最终会将全人类从枯燥乏味的工作中解脱出来——在未来，所有工作（或者说，至少所有肮脏、危险、无聊或其他不受欢迎的工作）都将由机器完成。人类可以自由自在地写小说、讨论柏拉图、四处游玩或做其他事情。这是一个诱人的梦想，尽管它也是老调重弹——乌托邦式的人工智能在科幻小说中出现得可真不少。（不过，更有趣的是，科幻小说中更频繁出现的是反乌托邦式的人工智能——也许把背景放在人人幸福、人人健康、人人快乐的未来中，要写出一个有意思的故事难度会更大吧。）
在这一点上，反思一下20世纪70到80年代出现的微处理器技术发展是很有必要的。正如我们前文讨论过的，微处理器的出现引发了大规模的工厂自动化浪潮，当时微处理器技术在社会各界引发了各种争论，跟现在人工智能引起的争论颇为相似。彼时，乐观主义者们预测，在不远的将来，我们用来工作的时间将大大减少，每周工作三天或者类似的工作制度将成为常态，休闲时间会大大增加。
只可惜事实并非如此。为什么呢？有一种观点认为，与其享受计算机、自动化和其他技术进步为我们腾出来的休闲时间，不如把时间更多地用在努力工作上，赚更多的钱，享受更好的商品和服务。比如我们想买彩电、录像机、CD播放机、DVD播放机、家用电脑、手机，我们也想去海外度假，想要更大更快的汽车、更华丽的衣服、更精美的食物，为了支付这一切，我们必须付出更多的努力。有人认为，只有全社会都没有过多欲望，都甘于接受简单的生活方式，没有太多消费品，只需要维持基本生活，我们的工作时间才可能大大缩减。另一种观点认为，技术进步带来的经济利益并没有被平均分配：富人变得更富有，贫富差距越来越大。不管确切的原因是什么，从20世纪70年代的经历中，我们能够得出一个明显而略让人觉得沮丧的结论，至少在不久的将来，技术可能不会为所有人创造一个悠闲的乌托邦。
这就巧妙地为我们引入了全民基本收入的概念：即社会上的每个人都应该获得一定的保障性收入，不管他们是否工作，也不需要任何考核或者测试。全民基本收入并不是一个新出现的概念，但最近的技术发展，特别是人工智能的发展，使它重新成为人们关注的焦点。有一种设想，人工智能机器人自动化技术将创造足够的财富，使得全民基本收入成为可能（因为机器可以完成工作），以及必要（因为，在这种设想下，人们可能没有工作了：机器把人类的工作机会夺走了）。