一个物种和另一个物种需要多年的观鸟经验。 但是，利用一种名为“深度学习”的人工智能技术，杜克大学的研究人员已经训练了一台计算机，从一张照片中识别多达200种鸟类。

然而，真正的创新是，人工智能工具也显示了它的思维，即使是一个不认识企鹅的人也能理解。

该小组训练了他们的深层神经网络-基于大脑工作方式的算法-通过给它提供11788张200种鸟类的照片来学习，从游泳鸭到盘旋蜂鸟。

研究人员从来没有告诉网络“这是一个喙”或“这些是翅膀羽毛”。 给定一张神秘鸟的照片，该网络能够在图像中挑选出重要的模式，并通过将这些模式与它以前看到的典型物种特征进行比较来危害猜测。

在这一过程中，它吐出了一系列的热图，其中基本上说：“这不仅仅是任何莺。 这是一只头戴帽的莺，这里有一些特征，就像它的蒙面头和黄肚皮一样，让它消失了。”

杜克计算机科学博士 D.学生陈超凡和本科生奥斯卡·李领导了这项研究，以及杜克教授辛西娅·鲁丁指导的预测分析实验室的其他团队成员。

他们发现，他们的神经网络能够在84%的时间内识别出正确的物种-就像它的一些表现最好的物种一样，这并不能揭示他们如何能够从下一分辨出一只麻雀。

鲁丁说他们的计划不仅仅是命名鸟类。 它是关于视觉化深层神经网络在观察图像时真正看到的东西。

类似的技术被用来在社交网站上标记人们，在监控摄像头中发现罪嫌疑人，并训练自动驾驶汽车来检测交通灯和行人等东西。

鲁丁说，问题在于，大多数深入学习的计算机视觉方法是众所周知的不透明。 与传统的软件不同，深度学习软件在不被显式编程的情况下从数据中学习。 因此，这些算法在对图像进行分类时如何“思考”并不总是很清楚。

鲁丁和她的同事正试图证明人工智能不一定是那样的。 她和她的实验室正在设计深度学习模型，解释他们预测背后的推理，明确他们得出答案的原因和方式。 当这样一个模型犯了错误时，它内置的透明度使人们有可能看到原因。

对于他们的下一个项目，Rudin和她的团队正在使用他们的算法对医学图像中的可疑区域进行分类，比如X线照片。 如果它有效，他们的系统不会只帮助医生发现肿块，钙化和其他症状，可能是乳腺癌的迹象。 它还将显示它在X线检查中的哪一部分，揭示哪些特定的特征最类似于它以前在其他患者中看到的癌变病变。

鲁丁说，这样他们的网络就可以模仿医生诊断的方式。 鲁丁说：“这是基于案例的推理。 我们希望我们能更好地向医生或病人解释为什么他们的图像被网络归类为恶性或良性。

该小组将于12月12日在温哥华举行的第三十三届神经信息处理系统会议(NeurIPS2019)上介绍他们的研究结果。