了解某人心里的想法，就更能理解他的行為。對人工智能(AI)也同樣如此。最近，一項新的技術能夠在神經網絡處理問題時「抓拍快照」，將能有助于我們了解神經網絡究竟是如何工作的，并能為我們帶來更好、更值得信任的AI。

　　過去幾年，構建于神經網絡(多層相互連接的人工神經)之上的深度學習算法在AI的許多領域都取得了突破性的進展，包括自然語言處理、圖像識別、醫療診斷和下圍棋。

　　但有一個問題困擾著人們，那就是我們并不知道它們是如何做到這些的。以色列理工學院的Nir Ben Zrihem說，深度學習系統是一個黑盒子。「如果它運轉良好，那很好。如果它不工作，你就慘了。

　　神經網絡遠遠大于它的各部分之和。它們的組成單元非常簡單——就是人工神經。Zrihem說：「你沒法指著神經網絡中的一個區域，然后說，智能就存 在于此。」但是連接的復雜性意味著我們有可能追蹤深度學習算法到達某個給定結果的步驟。在這種情況下，機器表現得很像一個先知，而它的結果則不證而明。

　　為了解決這個問題，Zrihem和他的同事創造出了深度學習的實時圖像。他們說，這項技術就像計算機的fMRI(功能性核磁共振)，可以捕捉到算法解決問題時的行為。這些圖像允許研究者追蹤神經網絡進程中的不同階段，包括死胡同。

　　為了得到這些圖像，這個團隊交給一個神經網絡一項任務——玩經典的Atari 2600電子游戲：《打磚塊》(Breakout)、《海底救人》(Seaquest)和《吃豆人》(Pac-Man)。當這個深度學習算法玩游戲時，他們收集了這個算法的12**理解它們的弱點，并增強它們的長處。