根据MIT和Google研究人员近期发布的论文，他们正在训练AI将图像、声音和文字等多方面信息匹配起来。

研究人员并没有教给算法任何新东西，只是建立了一种方式让算法能够将多种感官获得的知识进行连接和协调。这一点至关重要。

论文的联合作者之一——MIT的AI博士后Yusuf Aytar以无人车为例：比如无人车的声音传感器先听到了救护车的声音，然后激光雷达才看到救护车的样子。有关救护车的鸣叫声、样子以及职能的知识可以让无人车放慢速度，切换车道，为救护车让路。

他说道：“你是先看到汽车还是先听见引擎声并没有关系，你马上能识别出这是同一个概念。因为你大脑中的信息已经自然地把它们协调统一起来了。”

为了训练这套系统，MIT的研究小组首先向神经网络展示了与音频相关的视频帧。在神经网络发现视频中的对象并且识别出特别的音频之后，AI就会尝试预测哪一个对象跟声音关联。比方说，招手会不会发出声音呢？

接下来，研究人员又以相同的形式为算法提供了带标题的图片，让它将文字和图片进行匹配。网络首先需要单独识别出图中所有的对象以及相关问题，然后才能进行匹配。

由于AI独立识别声音、图像、文字的能力已经十分出色，这种网络乍看之下并没有什么了不起。但研究人员表示，当他们对AI进行声音/图像、图像/文字的配对训练时，系统就能在未经训练指导哪个单词与不同声音匹配的情况下将声音与文字关联起来。这表明神经网络对于所看到的、听到的或者读到的东西已经形成了更加客观的看法，而且这种看法的形成并不完全依赖于它用来了解这一信息的媒介。

统筹对象的观感、听觉以及文字后，算法就能自动将听到的东西转化为视觉图像，从而强化对于世界的理解。

据悉，Google也进行了类似的研究，不过Google更加强调一点：新算法还能将文字转化成其他的媒体形式，虽然从准确率上来说，它暂时还比不上单用途的算法。