现如（rú）今人类对于AI的应用，就好像带妈（mā）妈（mā）去外面的（de）餐厅吃饭，妈妈们不光要（yào）吃，还总想弄明白这些菜是怎样（yàng）做成的（de）。就如同神经网（wǎng）络越是高效，我们就越好奇黑箱里（lǐ）究竟发生了什么。

一直以（yǐ）来我（wǒ）们对于AI可解（jiě）释性的（de）追求（qiú）可以被（bèi）分为两（liǎng）层（céng），一是从技术角度探寻神经网络黑箱的（de）运行机制；二（èr）是从社会角度（dù）将AI技术原理更多地（dì）解（jiě）释给各（gè）个（gè）行（háng）业（yè）。

虽（suī）然计（jì）算机科学家们一直没（méi）有停止对神经网络黑箱突破（pò）的探（tàn）索，但也有人曾经（jīng）明确地表示过，追求AI的可解释性并不是什么好主意。

去年年底（dǐ），谷歌大脑负责（zé）人Geoff Hinton就曾在接受媒体（tǐ）采访时（shí）说过若干“AI不可解释”的（de）理由。其中很（hěn）重（chóng）要的一点是，他认为大多数人也没法很好地（dì）解（jiě）释（shì）自己（jǐ）做（zuò）出（chū）一种决策的理由，如果强（qiáng）迫（pò）人类对自己的行为（wéi）做出解释，结果很可能就是（shì）让人类说出违心的谎言。AI也是一样，也许（xǔ）强行在AI算法（fǎ）中加（jiā）入可解（jiě）释性，得出的结果（guǒ）很可能只是一种“针（zhēn）对（duì）于解（jiě）释需（xū）求的答案”，并不能（néng）发挥出（chū）人们（men）所期（qī）望的作（zuò）用。Geoff Hinton可（kě）以说是一位坚定的（de）“AI不可知论”支持者。

让AI模型说人话

不过在几天（tiān）前，佐治亚理工学院就推（tuī）出了（le）一种让AI用人类语（yǔ）言解释（shì）自己行（háng）为的模型。整个模型（xíng）的训练过程，建立（lì）在一（yī）款“小青蛙过马路”的古老游戏上（shàng）。游（yóu）戏中（zhōng）玩家要操控（kòng）着小青蛙前（qián）后左右躲避（bì）来往车辆，成功（gōng）到达（dá）马路对岸。

佐治亚理工学院（yuàn）先是收（shōu）集了大量的人（rén）类（lèi）样本，让人类（lèi）实验员（yuán）玩一遍游戏，然后再回（huí）溯整（zhěng）个游（yóu）戏过程，解释出自己的每（měi）一步动作有哪些（xiē）意（yì）图。例（lì）如向左走是想躲（duǒ）避开（kāi）后方来车，向（xiàng）前跳跃是因为漂浮（fú）的（de）荷叶（yè）刚好来到自己面前。

portant;" />

这样一来，可以（yǐ）将自然语言与游（yóu）戏控制结（jié）合在（zài）一起建立映射（shè）。将（jiāng）这一模（mó）型迁移到AI的训练中，最终（zhōng）结（jié）果是（shì）AI在每进行一步动作时，都会用自然语言解（jiě）释出自己的意图（tú）。

实验者可以再根据四个维度对（duì）AI的行为和解释进（jìn）行评分，这四个维度分别是“信任（认为AI的这（zhè）一步（bù）行（háng）动是正确（què）的（de））”、“人（rén）性化（认（rèn）为这是人类采取的行动）”、“理由充分（语言解释和行为（wéi）动（dòng）作有相关性）”、“可理解性（能（néng）看懂所给出的（de）自然语言（yán）解释）”。由此以来，就可以对AI的游（yóu）戏能力和自我解释（shì）能力进行共同（tóng）训练。

佐治（zhì）亚理工学（xué）院研发的这一模型，为（wéi）AI的可（kě）解释性带（dài）来不少全新角度的突破。当AI进行错误决策时，我们（men）可以清（qīng）晰地看到（dào）AI究竟（jìng）错在哪了（le）。比如在游戏（xì）中小青蛙被路过的汽车撞死导（dǎo）致游戏失（shī）败，通过自（zì）然语言解释，我们可以看到可能是（shì）AI没有（yǒu）“想到”要躲避（bì）汽（qì）车（chē）而导致（zhì）失败，还是已经“想到”了，却因想法和（hé）行为没能成功（gōng）匹配（pèi）而导致失（shī）败。在后期进行参数调（diào）整时可以更加有（yǒu）的放矢，明确地找（zhǎo）到问题所在。

更重（chóng）要的是，这一过程完全是由人类的自然语言所（suǒ）表达的（de），普通人（rén）也能看到并理解问（wèn）题发生的整个过（guò）程（chéng）。技（jì）术的可解释权不再受信息科技知（zhī）识（shí）基础的限（xiàn）制，甚（shèn）至可（kě）以让更（gèng）多人参（cān）与到（dào）AI训（xùn）练的（de）过程（chéng）中来。

AI可知论，是在开技（jì）术的倒车吗？

然而，“小青蛙模型”并不能（néng）解决Geoff Hinton提到的“AI不可知论”的很多（duō）问题。

首先，让（ràng）人（rén）类描述自身行（háng）为，然后再将语言和行为建立对应关系的玩法适用度并不（bú）高。在小青蛙过马路这样简单的游戏中（zhōng），人类可以清晰明了地解释自己的（de）行（háng）为。但换（huàn）个（gè）场景，很多时（shí）候我们就像Geoff Hinton所说的（de），自己（jǐ）也（yě）说不清自己做出决策的原因（yīn）。尤其在一（yī）些场景，例如行车时是撞到马（mǎ）路上（shàng）的动物还是撞到其他车辆，人们自身的选择常常（cháng）陷（xiàn）入（rù）道德困境（jìng）而不能统一，和AI的决策模式有着天然的差异，就无法形成语言解释和行为之（zhī）间的映射。

另一点则（zé）是（shì），让AI“自我解释”这种行为，投入和产出比（bǐ）究竟如何？我们知道自然语（yǔ）言（yán）处（chù）理是AI领域中（zhōng）一块相当难啃的硬骨头（tóu），如果“AI说（shuō）人话（huà）”这种模（mó）式成（chéng）为标配，结果恐（kǒng）怕就是让所（suǒ）有领域的AI模型都要进行相关的训练。也（yě）就是说，未来（lái）一家做智能客服产品的企业，为了AI的可解释性（xìng），需要招聘（pìn）NLP领域（yù）人才；未（wèi）来一家做（zuò）人脸识别产品的企业，为了AI的可解释性，同样也（yě）需要（yào）招聘（pìn）NLP领域人才……NLP专业学子或成最大赢家。如（rú）此（cǐ）为AI产（chǎn）业带（dài）来的巨大成本，又将怎样被覆（fù）盖呢（ne）？

世（shì）界在等待AI+X

在Geoff Hinton发表（biǎo）过那番“AI不可知论”后，有不少社会学专家进（jìn）行了相关（guān）反驳（bó）。其中剑桥智能未来中（zhōng）心（xīn）的（de）研究员就提出，AI在事（shì）物效率上的提升和对（duì）于社会（huì）的（de）影响，本来（lái）就不能分开讨（tǎo）论（lùn），Geoff Hinton这样的科（kē）学家，如果认为（wéi）自己脱离（lí）了社会语境和政策语境，那么很可能在研究（jiū）过（guò）程的一开始就走错了（le）方向。

其实AI的可知论和不可知论之间，最核心的问题就是（shì）“AI出现了问（wèn）题该怎么办？”。不（bú）可知（zhī）论者认为，当（dāng）AI出现了问题，我（wǒ）们就应该像算法训练过程一样，在（zài）发现问题（tí）后立（lì）刻（kè）进行针对性（xìng）的训练和矫正。但可知论者认为，如果我们等到AI在现实场景中出现问题再进行改善，一切就已经晚了。当（dāng）前的要务是让更多社会角色参与到AI的研发过程（chéng）中（zhōng）来（lái），在广（guǎng）泛的现实应用之间就能（néng）够从多种角度发现问题（tí）。

正因（yīn）如此，才会出现佐（zuǒ）治亚理工学院这种“让AI说人话”的（de）项目出现。而在AI学会说人话之前（qián），AI与人之间、AI专（zhuān）家与其他（tā）专家之间，仍然（rán）会呈（chéng）现出（chū）严重（chóng）的沟通断层。在相当长（zhǎng）的一段时间内，AI+X的跨领域人才都将炙（zhì）手（shǒu）可热。