算法游戏到底让你头疼了几次？

　　了解某人心里的想法，就更能理解他的行为。对人工智能(AI)也同样如此。最近，一项新的技术能够在神经网络处理问题时「抓拍快照」，将能有助于我们了解神经网络究竟是如何工作的，并能为我们带来更好、更值得信任的AI。

　　过去几年，构建于神经网络(多层相互连接的人工神经)之上的深度学习算法在AI的许多领域都取得了突破性的进展，包括自然语言处理、图像识别、医疗诊断和下围棋。

　　但有一个问题困扰着人们，那就是我们并不知道它们是如何做到这些的。以色列理工学院的Nir Ben Zrihem说，深度学习系统是一个黑盒子。「如果它运转良好，那很好。如果它不工作，你就惨了。

　　神经网络远远大于它的各部分之和。它们的组成单元非常简单——就是人工神经。Zrihem说：「你没法指着神经网络中的一个区域，然后说，智能就存 在于此。」但是连接的复杂性意味着我们有可能追踪深度学习算法到达某个给定结果的步骤。在这种情况下，机器表现得很像一个先知，而它的结果则不证而明。

　　为了解决这个问题，Zrihem和他的同事创造出了深度学习的实时图像。他们说，这项技术就像计算机的fMRI(功能性核磁共振)，可以捕捉到算法解决问题时的行为。这些图像允许研究者追踪神经网络进程中的不同阶段，包括死胡同。

　　为了得到这些图像，这个团队交给一个神经网络一项任务——玩经典的Atari 2600电子游戏：《打砖块》(Breakout)、《海底救人》(Seaquest)和《吃豆人》(Pac-Man)。当这个深度学习算法玩游戏时，他们收集了这个算法的12**理解它们的弱点，并增强它们的长处。