作者注（第4页）

[94]。库兹韦尔，《奇点临近》，企鹅出版集团，2005年。

[95]。温格，《即将到来的技术奇点：如何在后人类世代生存》，美国宇航局刘易斯研究中心，《21世纪展望：网络空间世代的跨学科科学与工程》，第11-22页。

[96]。沃尔什，《奇点可能永远不会临近》，arXiv:1602。06462v1。

[97]。https:tinyurl。6k

[98]。威尔德和埃齐奥尼，《机器人学第一定律：召唤武器》，《国际人工智能会议论文集》，1994年，第1042-1047页。

[99]。富特，《堕胎问题和双重效应理论》，《牛津评论》，第5期，1967年。

[100]。tinyurl。ybl8luoe

[101]。阿瓦德等人，《道德实验机器》，《自然》，563，2018年，第59-64页。

[102]。tinyurl。ydf26689

[103]。tinyurl。95f

[104]。为了透明起见，我应该说明，两次促成阿西洛玛人工智能准则的会议都曾邀请我参加，我本来很想去。可惜很不凑巧，两次都因为承诺了别的事情而不得不食言。

[105]。tinyurl。tw

[106]。tinyurl。y29v4rrd

[107]。tinyurl。yc3vgkgv

[108]。tinyurl。y2egvzxx

[109]。迪格努姆，《负责任的人工智能》，施普林格出版社，2019年。

[110]。博斯特罗姆，《超级智能》，牛津大学出版社，2014年。

[111]。汉森，《什么是平等偏好》，《哲学逻辑杂志》，25（3），1996年，第307-332页。

[112]。吴恩达和罗素，《逆向强化学习算法》，《第十七届机器学习国际会议论文集》，2000年。

第八章　现实中的人工智能会导致什么问题

[113]。贝内迪克特·弗雷和奥斯本，《就业的未来：电脑化将如何影响工作》，《技术预测与社会变革》，114，2017年1月。

[114]。https:rodneybrooks。blog

[115]。https:tinyurl。yytefewg

[116]。tinyurl。ydb9bpz4

[117]。tinyurl。ycq6jk35

[118]。tinyurl。y74yfk8a

[119]。奥斯瓦尔德等人，《算法风险评估-治安模型：从杜伦HART模型与“实验性”相称中所学到的经验》，《信息与通信技术法》，27：2，2018年，第223-250页。

[120]。tinyurl。y6narok3

[121]。https:。predpol。

[122]。tinyurl。y242nn5u

[123]。tinyurl。qv

[124]。tinyurl。y4elgklp

[125]。我认为这种场景是由著名人工智能专家斯图尔特·罗素提出的。

[126]。tinyurl。yy7szdxm

[127]。阿尔金，《控制致命行为：将伦理嵌入混合审议反应机器人架构中》，技术报告GIT-GVU-07-11，佐治亚理工学院计算机学院。

[128]。https:。stopkillerr