MIT神经网络知道何时可以信任

深度学习神经网络是人工智能系统，用于越来越重要的决策。深度学习神经网络用于从自动驾驶到诊断医疗状况等多种多样的任务。这种类型的网络擅长识别大型复杂数据集中的模式，以帮助做出决策。

一大挑战是确定神经网络是否正确。研究人员在麻省理工学院和哈佛大学已经制定了一个神经网络，通过数据流失，在其答案神经网络的置信水平一起提供预测的快捷方式。该项目的研究人员认为，他们的系统可以挽救生命，因为深度学习已经部署在现实世界中。

目前，神经网络的不确定性估计往往计算量大，而且对于瞬间决策来说速度太慢。研究人员设计的方法称为“深度证据回归”，可以加快过程，从而可能带来更安全的结果。该项目的研究人员表示，我们需要能够拥有高性能模型并了解模型的结果何时不可信。

深度学习在各种任务中表现出令人印象深刻的表现。在某些情况下，它已经能够超越人类的准确性。这些网络擅长在 99% 的时间内知道正确的答案，但任何错误都是不可接受的。研究人员设计了一种使用单次运行神经网络来估计不确定性的方法。该网络的设计增加了产生决策的输出，并采用了新的概率分布来捕获支持其决策的证据。

这些分布称为证据分布，直接捕获模型对其预测的置信度。研究人员使用具有挑战性的计算机视觉任务测试了他们的系统。他们训练神经网络分析双目彩色图像并估计每个像素的距离值。这是自动驾驶汽车可能执行的任务。新网络的性能与之前最先进的模型相当，并增加了估计其不确定性的能力。