在某些情况下,我们常常无法对自己的行为作出合理的解释。例如一场说走就走的旅行,一次奋不顾身的爱情,事后人们常常无法相信当时的自己究竟为什么会做出那样的选择。但这种情况毕竟是少数,大多数时候,我们都具有自我解释和自我认知的能力,而这一点也是人类与机器人(或者说人工智能)最大的区别之一。
一般我们所说的人工智能,其实说到底就是由一段程序代码组成的复杂运算系统,这个系统能够根据输入数据得出一个运算结果,而这个结果的外在体现就是人工智能。在通常情况下,我们只能看到输入的数据和最终的运算结果,至于中间的运算过程究竟怎样,则一概不知。
这会带来两方面的缺陷:一是当整个系统出现问题时,我们无法迅速准确地对问题进行定位并实施改进;二是当人工智能得到一个近乎完美的运算结果时,我们无法回溯整个过程,并从中汲取经验(注:也就是我们常说的“AI决策黑箱”)。
现在有一个正在迅速成长的研究领域,正在试图改变这一现状。