備受關(guān)注的“人機(jī)大戰(zhàn)”——柯潔VSAlphaGo2.0已經(jīng)結(jié)束了，但人工智能的黑箱之惑還沒有得到有效解決。某種程度上，人們對(duì)于AI黑箱問題的探索十分類似于人類對(duì)于自身大腦運(yùn)作機(jī)制的探索。我們可以本能地相信大腦做出的決定，但是我們能不假思索地信任AI的判斷嗎？

備受關(guān)注的“人機(jī)大戰(zhàn)”——柯潔VSAlphaGo2.0已經(jīng)結(jié)束將近十天了，人們對(duì)這場歷史性對(duì)決的討論仍在繼續(xù)。面對(duì)人工智能3比0完勝人類的比賽結(jié)果，有些人提出了這樣的觀點(diǎn)：這場比賽無論哪一方獲勝，其實(shí)都是人類的勝利，因?yàn)槿斯ぶ悄芤彩侨祟惖陌l(fā)明創(chuàng)造。這一說法當(dāng)然有其合理性，但是在人工智能黑箱問題尚未得到解決的今天，這說法還是無可避免地帶著一絲自我安慰的色彩。

困擾學(xué)界多年的AI黑箱之惑

人工智能黑箱問題并不是在近幾年圍棋程序?qū)覄偃祟愔蟛鸥〕鏊妫聦?shí)上，它已經(jīng)困擾學(xué)界多年了。

美國卡內(nèi)基梅隆大學(xué)機(jī)器人學(xué)兼職教師的Pomerleau早在26年前就開始了對(duì)黑箱問題的研究，那時(shí)他還是卡內(nèi)基梅隆大學(xué)機(jī)器人技術(shù)研究生。他在悍馬里安裝了一臺(tái)編程過的計(jì)算機(jī)，可以通過攝像機(jī)記錄的信息解讀路況，并儲(chǔ)存他對(duì)各種路況作出的反應(yīng)。Pomerleau希望這臺(tái)機(jī)器能夠獲得更多關(guān)聯(lián)獨(dú)立控制駕駛。每一次的實(shí)驗(yàn)中，Pomerleau都會(huì)運(yùn)行系統(tǒng)幾分鐘，然后讓汽車自行駕駛，一切都很順利。但是，有一次悍馬靠近一座橋時(shí)突然向一邊急轉(zhuǎn)彎。Pomerleau趕緊抓住方向盤才得以避免這場車禍。經(jīng)過分析，Pomerleau弄清了原因：復(fù)雜如神經(jīng)網(wǎng)絡(luò)般的電腦程序一直把長滿草的路邊當(dāng)向?qū)В酝蝗怀霈F(xiàn)的大橋迷惑了它。而二十六年之后的今天，人工智能應(yīng)用愈加發(fā)達(dá)和普遍，黑箱問題的破解難度也增加了許多，緊迫性也日益凸顯。

學(xué)界目前對(duì)AI黑箱問題的幾個(gè)解決辦法

AI黑箱問題這么多年都沒有解決，是不是意味著人類對(duì)其束手無策呢？也不盡然。目前，學(xué)界已經(jīng)提出了幾種解決辦法。

創(chuàng)業(yè)公司OptimizingMind發(fā)明了一項(xiàng)能觀察智能機(jī)器決策過程的技術(shù)。該算法的目的是創(chuàng)造“透明訪問”系統(tǒng)以呈現(xiàn)機(jī)器學(xué)習(xí)是如何做出預(yù)期的。該系統(tǒng)以人腦的神經(jīng)模型為基礎(chǔ)，能把任何深度網(wǎng)絡(luò)轉(zhuǎn)化為該系統(tǒng)的模式。其目的是探索人工智能行為的潛在預(yù)期，并且找出人工智能思維模式的哪個(gè)方面對(duì)決策影響最大。它可以為工程師大幅減少機(jī)器開發(fā)的時(shí)間，幫企業(yè)節(jié)省資源。

斯坦福大學(xué)的科學(xué)家則開發(fā)了一種神經(jīng)網(wǎng)絡(luò)錯(cuò)誤檢查工具Reluplex。這個(gè)新工具的用戶可以詢問應(yīng)用了這個(gè)神經(jīng)網(wǎng)絡(luò)的系統(tǒng)，有關(guān)其屬性的具體問題。但是它仍然無法測試有數(shù)百萬個(gè)節(jié)點(diǎn)的網(wǎng)絡(luò)。而Reluplex本身仍然需要獨(dú)立驗(yàn)證。盡管如此，研究人員預(yù)期會(huì)有許多可能的用途。

某種程度上，人們對(duì)于AI黑箱問題的探索十分類似于人類對(duì)于自身大腦運(yùn)作機(jī)制的探索，這大概是由于人類在開發(fā)人工智能時(shí)借鑒和模擬了人類的大腦和神經(jīng)系統(tǒng)。目前這兩個(gè)領(lǐng)域?qū)Ω髯缘难芯繉?duì)象都還是知之甚少。我們不甚了解自己的大腦是如何運(yùn)作的，但我們本能地相信它。同樣地，我們也不甚了解AI是如何做出各種決定的，但是我們能不假思索地相信它嗎(雖然大多數(shù)時(shí)候這些決定是合理的)？恐怕很難。因此，在大規(guī)模開發(fā)和利用人工智能之前，黑箱之惑是個(gè)需要盡早攻克的難題。這一問題得不到有效解決，AI普及推廣之路上的疑云便會(huì)持久存在。