如果我们创造出了达到或者超过人（rén）类智能（néng）水平的人（rén）工智能（AI），会发生什么？人（rén）类会成（chéng）为自己发明的受害者（zhě）吗？在不远抑或是遥远的未来，人（rén）类与机器人（rén）可（kě）以和平共（gòng）处吗？人（rén）类有一（yī）天，会（huì）向机器人乞（qǐ）讨吗？在2017年（nián），《纽约客（kè）》杂（zá）志的一幅封面画引发了（le）一场有（yǒu）关（guān）于人（rén）类与机器人的大讨论。而今（jīn），由人工智能（néng）引发（fā）的（de）争论正（zhèng）在变得比当（dāng）时更多也更加激烈，这其中既有技（jì）术的纷争，也充（chōng）斥着伦理和法（fǎ）律的博弈。

《纽（niǔ）约客》杂志封面画（2017年10月）。基库·约翰逊（R. Kikuo Johnson）绘。

插图对应的封面文（wén）章名为《黑暗工（gōng）厂》（Dark Factory），描述了密歇根州大急流（liú）城Steelcase金属厂中一些（xiē）被称作“人肉机器人”的工人的（de）故事，在（zài）这（zhè）家（jiā）公（gōng）司，越来越（yuè）多（duō）原本由人类（lèi）从事的工作都被机器人取代。在这幅由基库·约翰逊（R. Kikuo Johnson）绘制（zhì）的封面（miàn）画中，年轻（qīng）的人类乞丐坐在未来的曼哈顿街头乞讨（tǎo），路上穿过的形（xíng）形色（sè）色的机器（qì）人“上班族（zú）”和（hé）“行人”则（zé）向他手中的杯子里投掷着螺丝和垫片，他（tā）身（shēn）旁的小狗也（yě）“目瞪口呆”地注（zhù）视着面前通过的机（jī）器狗。

不可（kě）否认的是，人工（gōng）智能正在成为（wéi）日常生（shēng）活的一部分——虽然它在即将过去的2020年并（bìng）未取得（dé）重大突破，但（dàn）显（xiǎn）然，它已经切实改变了每（měi）一个人的（de）生（shēng）活。对于熟（shú）悉（xī）科幻小说、影视作品的人们来说，其中虚构的未来（lái），可（kě）能正是（shì）我们所身（shēn）处（chù）的现在。人工智能生态系统、无人（rén）驾（jià）驶（shǐ）汽车、智能个人助（zhù）理、家用（yòng）机器（qì）人……蓬勃发展的人（rén）工智能通过智能手机、家电（diàn）、汽车等终端深入家庭、企业和各种公共设施，它（tā）是当下的普遍现象（xiàng），更是未来的主（zhǔ）导技术。

在人（rén）类（lèi）尚未进入技术（shù）时代（dài）开始，有关机器人（rén）的想象就（jiù）大量存（cún）在（zài）于文学和戏剧、影（yǐng）视作品之中。起（qǐ）初，人（rén）们（men）担心人工智能会背叛人类——机器会因为更加（jiā）聪明（智能）而反抗人类，甚至消灭（miè）人类。

比如在（zài）根据（jù）科幻大师阿（ā）西莫（mò）夫短篇小说改编（biān）的电影《我，机器（qì）人》中所探讨的正是人（rén）与机（jī）器之间的关系。影片中（zhōng），机器（qì）人（rén）具备（bèi）了自我进化的能力，它（tā）们（men）随（suí）时会转（zhuǎn）化（huà）成整个（gè）人类（lèi）的“机械公敌”。而“终结者”系列，探讨的同样是机器人毁灭人类。为人（rén）工（gōng）智能赋予人类的感（gǎn）情，衍生的又（yòu）是（shì）一个全新（xīn）的故事。史蒂文·斯皮尔伯格（gé）导演的《人工智能》中（zhōng），机（jī）器（qì）人小孩大卫（wèi）试图寻找自己的生（shēng）存（cún）价（jià）值（zhí）：渴望变成（chéng）真正（zhèng）的（de）小（xiǎo）孩。

这些故事塑造了我（wǒ）们对人工智能的认知，阿西（xī）莫夫创（chuàng）作的“机器人三大定律”也因为这些作品的一再表述而（ér）成（chéng）为我们（men）看（kàn）待机器人的（de）“标准”信条。但在斯图（tú）尔特·罗素（Stuart Russell）看来，这（zhè）或许反而成为了人类的某种误区，比如让人工（gōng）智能“服从人（rén）类”显（xiǎn）然就是个坏主意。

斯图尔特·罗（luó）素（Stuart Russell）（版权：Peg Skorpinski），加州大（dà）学伯克（kè）利分校计算机科学（xué）家，人（rén）类（lèi）兼容人工智能中心（CHAI）主任，人工智能研（yán）究（jiū）实验室指（zhǐ）导（dǎo）委（wěi）员会（BAIR）成员。世界经济论坛人工智能（néng）和机器（qì）人委员会副主席（xí），美国科学促进会（AAAS）会士，美国人工智能协会（AAAI）会士。罗素获得过多项（xiàng）科学荣誉，包括（kuò）美国国家科学基金会总统青（qīng）年研究（jiū）员（yuán）奖、国际人（rén）工（gōng）智能联合会议（yì）（IJCAI）计算机与思想奖（jiǎng）、国际（jì）计算机学会（ACM）卡尔斯（sī）特朗杰出教育家奖等，并受邀在TED、世界经济论坛演讲（jiǎng）。

一个（gè）极端的案例是，如果人类（lèi）赋予机器人一个错（cuò）误的或者存在漏洞（dòng）的目（mù）标，这可能是致命的。假如我们希望通过人工智能（néng）系统控制气候变化（huà），并为其设（shè）定将大气中的二氧化（huà）碳水（shuǐ）平（píng）恢复到工业革命前水（shuǐ）平的命令，这（zhè）一系（xì）统很可能会得出（chū）消灭人类的结论——因为人类（lèi）活动是产（chǎn）生二氧化碳（tàn）最主要的来源（yuán）。即（jí）便人类为此附加条件不能（néng）消灭人类，人工智（zhì）能系统也可以（yǐ）会以（yǐ）说服（fú）的方式让人类少生孩子，直到人类自然灭绝（jué）。

身为美国加州大（dà）学伯克利分校计算机科学家（jiā）的斯图尔特·罗素，是（shì）当今世界上人工智能领域的权威专家，他（tā）曾与谷（gǔ）歌研究总监彼得·诺维（wéi）格合著（zhe）出版了（le）人（rén）工智能领（lǐng）域里的“标准教科书”《人工智（zhì）能》，该书（shū）被128个国家的1400多所（suǒ）大（dà）学使用（yòng）。就在今（jīn）年（nián）二月，他已经完成了该书的（de）第四版。

今年十月（yuè），斯图尔特·罗（luó）素的著作（zuò）《AI新生：破解人机共（gòng）存（cún）密码——人（rén）类最后一个大（dà）问题》引（yǐn）进出版（bǎn），在（zài）这本书中（zhōng），罗素提（tí）出了一个（gè）问题：如（rú）何破（pò）解人机共存的密码（mǎ），使得人类可以掌握比我们（men）自（zì）身强大（dà）得多的智（zhì）能？在过去相当长的一段时间里，人类之所以能控制地球，是因为人类的大脑比其他动物的大脑要复杂得多。而这正是（shì）因为“智（zhì）能”，是一种（zhǒng）权利（lì）。因此（cǐ），罗素更（gèng）为关注（zhù）的，是对于这些（xiē）比我们更（gèng）强大（dà）的（de）机器，如何保持绝（jué）对（duì）的控制权？在新京报（bào）记者对罗（luó）素的采访中，他回答（dá）了一些关于人工智能我们所关心，或者未知的问题（tí）。

《AI新（xīn）生：破解人机（jī）共存密码——人类最（zuì）后一个大问题》，［美］斯图（tú）尔特·罗（luó）素（Stuart Russell）著，张羿译，中（zhōng）信出版社2020年10月版。

斯图尔特（tè）·罗素：目前对人工智能（néng）的思考方式，我将（jiāng）其（qí）称之（zhī）为（wéi）“标准模（mó）型（xíng）”。也就是说（shuō），我们赋予机器（qì）以最佳（jiā）方式去实现目标的能力，然后给予它们（men）一个目标，它们开始运行。当定义（yì）了一个错误目（mù）标时，就（jiù）会出现问题，现实情况（kuàng）中总会出现这（zhè）样的状（zhuàng）况。在许多文（wén）化中，都有（yǒu）着类似的传说：一个人被赐予三（sān）个愿（yuàn）望，而第三（sān）个愿（yuàn）望，总是会推翻前两个愿（yuàn）望——因（yīn）为（wéi）它（tā）们毁掉了一切。

来自机器人的“阻力”并非（fēi）来自意识，而（ér）是机器人会追求（qiú）我们所赋予它们的目（mù）标，而这可能会与我们真（zhēn）正想要达成的目标产生冲突（tū）。我们当然可以（yǐ）试着停止机器，或者彻底关闭它。但是，如（rú）果它们（men）比我们更加聪明，这也许会成为（wéi）一个不可能完成的任务。

如果我们编（biān）写了一个智（zhì）能程序，它的行为方式就会完全由代码决定，这个时候，人工智能（néng）是否有意识（shí），对于即将发生的事情并不会产生任（rèn）何影响。当然（rán），我们也完全（quán）不知道（dào）如何去制（zhì）造一个拥有自主意识（shí）的（de）人工（gōng）智（zhì）能，也不可能知道我们是（shì）否已经制造了（le）一个。

人们（men）之所（suǒ）以会（huì）关注（偶然）创（chuàng）造意（yì）识，主（zhǔ）要原（yuán）因是因为拥有（yǒu）自我意识的机器也许应该拥（yōng）有一些特权，而这将（jiāng）使人工智能研究者以及其（qí）他人的生活变得（dé）非常复杂。想（xiǎng）象一（yī）下这样的（de）场景，你的烤面包机正在与（yǔ）冰箱进行着关（guān）于生（shēng）命意（yì）义的精彩对话时，你拔下了它们的插头，然后因（yīn）此被送进了监狱。

电影《人工智能》剧照（zhào）。

故事发生于21世纪中期，由于温室效应，南北极（jí）冰川融（róng）化，地球上很多城市被淹没，人工智能机（jī）器人就（jiù）是人类发明（míng）出来用以应对恶劣自（zì）然（rán）环境的科技手段之一。在影片的设（shè）定中，机器（qì）人制造（zào）技术已经高度发达，先进的机器（qì）人不但拥有可以乱真的人类外表，还能感（gǎn）知自身的存在。

我们（men）到底应该如（rú）何理（lǐ）解“人工智能”这一（yī）概念？在《AI新生》中你（nǐ）提到（dào），超（chāo）级人工智能的（de）成功可能意味着人类的毁灭。

斯（sī）图尔特·罗素（sù）：粗略地讲，如（rú）果一个实体是智能的，它就会根据它的（de）感知来（lái）做事情，而它（tā）所（suǒ）做的（de）事情是为了满（mǎn）足它的需求。我们可以（yǐ）用一（yī）种很自然的（de）方（fāng）式来理解它（tā）的含义：“智能”意（yì）味着以一种可以预期的方式（shì）来实现一（yī）个人的目标的能（néng）力。智能包括了（le）多种能力：比如推理、学（xué）习和交流（liú）能力，都（dōu）可以理解为对这（zhè）种（zhǒng）能（néng）力的（de）贡献。

对于人类（lèi）而言，智（zhì）能是一种非常好的能力（lì）。不幸的是，“人工智能”这（zhè）一概念（niàn）的框架形成于上世纪四五十年代间（jiān），而这也成为我们今天对人工智能（néng）的理（lǐ）解。这也（yě）正是我在前（qián）面所提到（dào）的“标准模型”。当然，机器本身并没有（yǒu）自己的目标，这些目标都来（lái）自于人类的（de）设定（dìng）。如果我们设（shè）定了错误的目（mù）标，就会导致（zhì）失败。

如果你仔细思考一（yī）下（xià），就（jiù）会发现，创建一个可以自主追（zhuī）求并设定（dìng）固定目标的机器是（shì）没有（yǒu）意（yì）义的——制（zhì）造出能够实现自己目（mù）标的机器就更没（méi）有意（yì）义了！我（wǒ）们（men）应该制造那些只能（néng）够帮助人类实现目标的机器，即使它（tā）们并不能理解这些（xiē）目标到（dào）底是什么。

人工智能究竟会（huì）如何改变我们的未来是一个非常热门的（de）话题。如果（guǒ）我们制造（zào）出（chū）比人类更为智能的机器，将（jiāng）会发生（shēng）什么？你（nǐ）心目中的人工智能时代是什么（me）样的？

斯图尔特·罗素：如果（guǒ）可以成功创建（jiàn）出那些安全、有益的（de）人工智能系统，我们（men）将（jiāng）会获得几乎（hū）难以想象的好处，这些好处来自于运（yùn）用更为强大的（de）智能（néng）来推进人类文明的能（néng）力。我们将（jiāng）从数千年来，作为农业、工（gōng）业和文书工作的奴（nú）役中解（jiě）放出来，能够自由（yóu）、充分地发挥和利（lì）用生活最（zuì）大的潜力。站在（zài）这个黄金时（shí）代（dài）的有（yǒu）利位（wèi）置上，回顾我们（men）当下的（de）生活，可能正（zhèng）如托马斯·霍布斯（Thomas Hobbes）所（suǒ）想象的那（nà）样：充满着孤（gū）独、贫穷、肮脏、野蛮和短暂。

电影《2001太（tài）空漫游》（1968）剧照（zhào）。

故事设定开（kāi）始于2001年，为了寻（xún）找黑石的根源，人（rén）类（lèi）开展（zhǎn）一项木星登（dēng）陆计划。飞船上有冬眠的三名（míng）宇航员，大卫船长、富（fù）兰克飞行（háng）员，还有一部叫“HAL9000”（赫尔）的高智能电脑。

具体来（lái）说，这（zhè）样（yàng）的（de）人工（gōng）智能系统，可以让我们（men）把地球上（shàng）每一（yī）个人的生活水平都提升到一（yī）个像样且体面的（de）程度；每一个人都可（kě）以获得一位私（sī）人导师来指导他们（men）的成（chéng）长；每一个在目前看来昂贵、困难、进（jìn）展缓慢甚（shèn）至（在（zài）世界某些（xiē）地区（qū））无法（fǎ）得以实施的（de）社区（qū）项（xiàng）目都（dōu）会变（biàn）得可行。

对于你个人而言，人（rén）工智能（néng）的应运，对你的（de）生活带来了哪些改（gǎi）变？

斯图尔特·罗素：在我（wǒ）的日常生（shēng）活中（zhōng），人工智能提（tí）供了即时、免费且高质量的翻译（yì）。我因此可以阅读出版商用中文发来的文件，我也（yě）经（jīng）常阅读法国政（zhèng）府寄来的法律（lǜ）和税（shuì）务文件（不幸的是（shì），我也看不（bú）懂他（tā）们（men）发来的（de）英文）。和数十亿人一（yī）样（yàng）。我每（měi）天都要使用搜索（suǒ）引擎（它们大多由人工智能（néng）驱动）来寻找那些过（guò）去被（bèi）深（shēn）藏（cáng）于图书馆或百（bǎi）科全书中，或者根本得不（bú）到的信息（xī）。那（nà）些（xiē）在过去缓慢（màn）、昂贵或难以访问（wèn）的东（dōng）西，正在变得（dé）即（jí）时（shí）、免费、唾（tuò）手可得。而这正（zhèng）是（shì）现如今人工智能为我们生活带来的改变——这不仅（jǐn）仅是信息服务，还包括了各种商品和其他服（fú）务。

如果一台（tái）机器通晓（xiǎo）人（rén）类所有语言，且能够以一种（zhǒng）迅（xùn）速而强大的方式获取人类知（zhī）识（尽管在你看来这不（bú）太可（kě）能），普（pǔ）通人阅读（dú）和学习还有意义吗？人工智能是否会颠覆人（rén）类（lèi）获取知识的方式？

斯图尔特·罗素：如果一个机器人可以快速（sù）的吃掉冰淇淋，是否意（yì）味着人类将停止（zhǐ）吃冰淇淋？并不会（huì）！我（wǒ）们（men）阅读，是为了娱乐和学（xué）习。显然（rán），我（wǒ）们将继（jì）续这样做。当（dāng）然，人工智（zhì）能可以帮助我们去阅读（dú）那些我们难以独立完成阅读的书籍和资料。

电影《机械姬（jī）》（2014）剧照。影片中（zhōng），天才一般的纳森研制（zhì）了具有（yǒu）独立思考能力的智能机（jī）器人伊娃，为了确认她是否具有（yǒu）独（dú）立思考的能力，他（tā）希望加利能为伊娃（wá）进行著名的“图灵测试”。似乎从（cóng）第（dì）一眼开（kāi）始（shǐ），加利便为这台有着（zhe）宛如人类般姣好容颜的机器人所吸引（yǐn）。

人工智能将来有可能取代作家吗？尽管一些（xiē）人可能不这么认（rèn）为。

斯图尔特·罗（luó）素：是的，人工智能正在取（qǔ）代创作者（zhě），特别是对于（yú）新闻而言。这（zhè）种现象（xiàng）将会变（biàn）得越来越普遍，而且，这（zhè）会很快。目（mù）前，许多文章的原始资料已经可（kě）以（yǐ）在网上轻易获取，人（rén）工智能（néng）只需要收集和整（zhěng）理（lǐ）这（zhè）些（xiē）信息，并以（yǐ）某（mǒu）种可读的方（fāng）式将它们呈现出来（lái）。目前，人工智能还不（bú）能准确（què）处理（lǐ）人（rén）类、社会、政治（zhì）、国际关系方面的内容——这（zhè）种情况当然会（huì）得到改变（biàn），但还需要很长（zhǎng）一段时间（jiān）。

不过（guò），我认为，人工（gōng）智能很快就（jiù）可以通过（guò）阅读数以（yǐ）百万计的书籍，并将其中的一些元（yuán）素进行重新（xīn）编织，形成新颖的（de）组合（hé），从而创（chuàng）作出具有（yǒu）创造性和吸引力的作品（pǐn）。

你曾经提出了人（rén）工（gōng）智能（néng）的三（sān）个新原则：而这显然和阿西（xī）莫夫（fū）定律背道而驰，你为什么会（huì）做出如此修改呢？

斯图尔特·罗素：这三个原（yuán）则（zé）如下：1、利他主义（Altruism）——机器（qì）的唯一（yī）目（mù）标是最大限度地实现（xiàn）人类的（de）偏好；2、谦逊原则（zé）（humility）——机器最（zuì）初并不确定人类的（de）偏好是什么，这是创建有益机器的关键；3、学习预测（cè）人类偏（piān）好（hǎo），人类偏好的最终信息来（lái）源是（shì）人（rén）类（lèi）行为（wéi）。

阿西（xī）莫夫（fū）（Asimov）设（shè）计他的（de）三定律（不（bú）伤害人类、服从人类、保护自我（wǒ））是为了创造有趣的情节，而不（bú）是为了保护人类免受（shòu）机器人的伤（shāng）害。“不伤害人（rén）类”的原则与我的第一条原则相似，只是阿西莫夫认为“伤害（hài）”有一个固定的定义——而这正是我试图避免的。

出于同样的原因，“服从人（rén）类”也（yě）是个坏（huài）主意，尤其是（shì）当这个（gè）人类是（shì）一（yī）个脾（pí）气（qì）暴躁（zào）的两岁儿（ér）童时。他（tā）的机（jī）器人（rén）“保护自我”原则是完全没有必要的，因为如果机器人（rén）的（de）继续存在对人类有帮助的（de）话，它（tā）会自动做到（dào）这一点。而且（qiě），正如它应该做的那样，《星（xīng）际（jì）穿越》中的TARS机器人也应该为了（le）拯救人类而快乐地（dì）自杀。

电影《星际穿（chuān）越》（2014）剧（jù）照。右侧方（fāng）形（xíng）物体为TARS机器人。

有几种情况可能会误解这些原则。最为常见的是（shì）人们认为我（wǒ）是在建议把（bǎ）一套人类的价值观插入机器，例如（rú）基督（dū）教价值观或儒家价值观。没（méi）有这回事。机（jī）器应该为每个活（huó）着的人设（shè）置一个单（dān）独的偏好模型，这个（gè）模型是基（jī）于人类的偏（piān）好（其中大部分（fèn）是机器（qì）并不知道的）。同（tóng）样重要的是，要（yào）明白机器不（bú）会把这些偏好（hǎo）当成自己的，它只是在学习人类想要什么。它也学不会像（xiàng）人类一（yī）样（yàng）行事，就像犯罪（zuì）学家不（bú）会（huì）学着像罪犯一（yī）样行（háng）事。这台机器完全是利他主义的，没有自己的偏好。

最为困难（nán）的问题（tí）来自于专业的哲学家，他（tā）们已经（jīng）为此思（sī）考了几千年。有些人会（huì）问：人（rén）类（lèi）的偏好是不（bú）稳定的，是可以被操纵的，我同（tóng）意这是上（shàng）述三个原则的一个问题。其（qí）他人则问，偏（piān）好——我们希望未（wèi）来如何——是否真的可以作为在道（dào）德上（shàng）站得住的决定的基础（chǔ），以及我们是否也（yě）需（xū）要考虑（lǜ）权（quán）利。令人担忧（yōu）的是，许（xǔ）多（duō）人的（de）偏好可能会（huì）侵犯个（gè）人的权（quán）利。关于这一主（zhǔ）题的书籍已经有成千上万了，因此我（wǒ）不会在这里（lǐ）提（tí）出（chū）自己（jǐ）的意见（jiàn），只（zhī）想说我相信对立的观（guān）点（diǎn）实际上也是（shì）可以调和的（de）。

电影《黑客帝国》(1999)剧照。

片中，网络黑（hēi）客（kè）尼奥对这个（gè）看似（sì）正常的现实世界产生了怀疑。他结识了（le）黑（hēi）客崔（cuī）妮蒂（dì），并见到了黑客组织的首领（lǐng）墨菲斯。墨菲斯告（gào）诉他，现实（shí）世界（jiè）其实是（shì）由一个名叫“母体”的（de）计算（suàn）机人工智能（néng）系（xì）统控（kòng）制，人们就像他们饲养的动（dòng）物，没有自由（yóu）和思想（xiǎng），而（ér）尼奥（ào）就是能够拯救人类的救世主。

今年春天（tiān），我和两（liǎng）位哲学（xué）家，一位经济学家一起上了一（yī）堂（táng）课，研究了一些难（nán）题，即机器做出的决策对人类（lèi）有益到（dào）底意（yì）味着什么，尤其是当（dāng）我（wǒ）们考虑到有（yǒu）许多（duō）人（rén）有着（zhe）不同（tóng）的偏好（hǎo）时。这些问题在（zài）道德哲学和政治理论（lùn）中已经提出（chū）了很（hěn）长时间，但我们需要尽快回答它们（men）！否则我们的人工智（zhì）能系统就会（huì）遵循非常错误（wù）的（de）理（lǐ）论。我觉得这很有趣，我很确（què）定（dìng）我们能取得一些（xiē）进展。

那么，你（nǐ）会如（rú）何看待有关（guān）于人工（gōng）智能的科幻小说或（huò）者影视作品呢（ne）？

斯图尔特（tè）·罗（luó）素（sù）：我小时（shí）候读过很多科幻小说，最近几年，我又开（kāi）始和孩子们一起阅读（dú）。现在，我正和（hé）二（èr）儿（ér）子乔治一起看刘（liú）慈欣的（de）《三体》三部曲（qǔ），和小儿子艾萨克一起看《星际迷航》。我一直在寻找那些描（miáo）绘人（rén）类（lèi）与超级（jí）智（zhì）能愉快共存（cún）并拥有美好未来的作（zuò）品。这样的（de）作品（pǐn）不是很多（duō）。比如（rú）伊恩·班克（kè）斯（Iain Banks）的“文明”系列，在他的构（gòu）想（xiǎng）中，未（wèi）来的人（rén）工智能系统比人类（lèi）的能（néng）力要强大得多，但它们（以某种方（fāng）式）被设计（jì）成几乎完全（quán）有利于人类。他无法回答的一个明显问（wèn）题是，当机器完美地运行（háng）一切时，人类能在生活中找到什么目（mù）的。他们有大量的闲暇时（shí）间和无限（xiàn）的物（wù）质资源，但缺乏明确的目（mù）的，人们拼（pīn）命地竞争极少（shǎo）数可以提供真正挑战的职（zhí）位。

电影《星际迷航》（2009）剧（jù）照。

像（xiàng）大多数人工智能研究（jiū）人员一样，我相当有信心我们将实现达到人（rén）类（lèi）水（shuǐ）平的人工智能（néng），尽管这可能不会像许多人认为的那样快。我们（men）仍然需要（yào）克服一些巨大的概念性（xìng）挑（tiāo）战，很（hěn）难（nán）说这需要（yào）花费多长时间。

在新款（kuǎn）Neuralink脑（nǎo）机接（jiē）口芯片（piàn）的发布仪（yí）式上，埃（āi）隆·马斯克说（shuō），人们将能（néng）够通过（guò）BCI召唤他们的（de）特斯拉（lā）。你（nǐ）也曾经提到过一种极端（duān）情况：人机一体（tǐ）化（huà），电（diàn）子硬件直接连（lián）接到大脑（nǎo），成为单一的、可扩展的、有意识的实体的一部分。我们应该如何看待人类与人工智（zhì）能之间的共生机制？

斯（sī）图尔（ěr）特·罗素：人脑能够向设备发出命（mìng）令是一回（huí）事，比如现在瘫痪的人（rén）可以使用机器手臂。但当（dāng）我（wǒ）们试（shì）图通（tōng）过电子（zǐ）设备，增强大脑（nǎo）的（de）思维过程时，这件事（shì）就截然不同（tóng）了。如果每个人都必须接受脑外科手（shǒu）术才能够上（shàng）学，这（zhè）难道不（bú）是我们犯了一（yī）个（gè）大错？

数字永生呢？

斯图尔特（tè）·罗素（sù）：到（dào）目前为止，将我们大脑中的全部（bù）思（sī）想和记忆上（shàng）传到（dào）计算机（jī）中仍然是一个（gè）推测（cè）。我们并（bìng）没有理（lǐ）论（lùn）可以（yǐ）解释（shì）为什（shí）么人类的（de）意识、体验可（kě）以（yǐ）存在，因此，我们也（yě）无法确定将（jiāng）思想和记忆的（de）结构（gòu）、状态（tài）复制（zhì）到计算机（jī）中，我们仍然可以存（cún）在（zài）。苏珊·施耐德（Susan Schneider）撰写的《人造的你》（Artificial You）一（yī）书对这个问题进行了广（guǎng）泛的讨论。

《人（rén）造的你》（Artificial You），苏珊·施耐德（dé）（Susan Schneider著，普林斯顿大学出版社（shè）（Princeton University Press）2019年9月版。

滥用人工智能的（de）可（kě）怕（pà）后果是什（shí）么（me）？很（hěn）明显（xiǎn），这一（yī）部分的某些东西会（huì）让人非常沮丧（sàng）。

斯图（tú）尔（ěr）特·罗素：就（jiù）像任何技术一样（yàng），人（rén）工智能也可能被滥用。以下是几种可能的情况：用于监视、劝（quàn）说和控制的（de）人工智能可以极大地减少（shǎo）人们的自由（yóu）。而且，人（rén）工智能可以（yǐ）产生（shēng）和（hé）传播虚（xū）假信息，并且模仿人类，使得人们很难知道什么是（shì）真的。

用于（yú）杀人的人工智能（néng）自（zì）主武器是致命的（de），很容易变成大规模杀（shā）伤性武（wǔ）器，因为人（rén）工智能武器不需要人类（lèi）来监（jiān）督，而（ér）且（qiě）可（kě）以成（chéng）百（bǎi）万（wàn）计（jì）的发射。人（rén）工智能最（zuì）终可能取代大（dà）多数人（rén）类（lèi）工作——如果我们不（bú）能迅速调整社会和教育系统，让人们得以适应一个完全不同的世界（jiè）——这（zhè）将引（yǐn）发巨大的问题。

随着人工智能时（shí）代的到（dào）来，我们（men）的文明会（huì）终结吗？当我（wǒ）们把（bǎ）所有的知识都投入到机器中，让机器来（lái）管理我们的文（wén）明，人类的（de）惰性很可能导致这种结果。如何避（bì）免这种结果？

斯图尔特·罗素（sù）：这里有两个问（wèn）题（tí）。首先（xiān），我们（men）能否确保超级智能人工智能系统（tǒng）是安全和有益的？我认为答案（àn）是肯定的。第二，当人类文明由机器在运转时，还能保持它的（de）活力吗？尼（ní）克·博斯特罗（luó）姆（Nick Bostrom）在（zài）他的《超级智能（néng）》（Superintelligence）一书（shū）中说，第一个问题是“我（wǒ）们这个时代的基本任务”，但是如果（guǒ）我（wǒ）们（men）回答了第一个问题，那么第二个（gè）问题就成了我们这个时代以及所有未来时代的根本任（rèn）务。

《超级智能》(Superintelligence)，尼克·博斯特罗姆（mǔ）(Nick Bostrom)著，Oxford University Press2014年9月版。

我们（men）应该从哪里找到目标，无论是个（gè）人的还（hái）是集体的?也许人工（gōng）智（zhì）能会（huì）来拯救我们，因为目标和挑战是人（rén）类生（shēng）活的（de）重（chóng）要组成部分，它们（men）的（de）消失显然不是我们希望看到的未来。因此，可以说（shuō），机器必然会后（hòu）退一步，为人类（lèi）留下可成长的空间（jiān）。