隨著言語進(jìn)入我們的腦海，我們形成了某人對(duì)我們所說的話的想法，那到底這些想法是如何在我們腦中產(chǎn)生的。
　　
　　書讀百遍其義自見，一個(gè)詞有多重含義，但我們可以根據(jù)之前所說的內(nèi)容推斷出那個(gè)詞對(duì)于那個(gè)詞的含義，那大腦如何聯(lián)系這些概念的。
　　
　　人工智能' target='_blank'>人工智能（AI）能幫助我們理解大腦如何理解語言嗎？神經(jīng)科學(xué)可以幫助我們理解為什么AI和神經(jīng)網(wǎng)絡(luò)在預(yù)測(cè)人類感知方面是有效的嗎？
　　
　　來自德克薩斯大學(xué)奧斯汀分校（UT Austin）的Alexander Huth和Shailee Jain的研究表明兩者都有可能。
　　
　　在2018年神經(jīng)信息處理系統(tǒng)會(huì)議（NeurIPS）上發(fā)表的一篇論文中，學(xué)者們描述了使用人工神經(jīng)網(wǎng)絡(luò)比以往更準(zhǔn)確地預(yù)測(cè)大腦中不同區(qū)域如何響應(yīng)特定單詞的實(shí)驗(yàn)結(jié)果。研究人員認(rèn)為使用人工神經(jīng)網(wǎng)絡(luò)比以往更準(zhǔn)確地預(yù)測(cè)大腦中不同區(qū)域如何響應(yīng)特定單詞。
　　
　　實(shí)驗(yàn)內(nèi)容
　　
　　研究人員進(jìn)行了相關(guān)實(shí)驗(yàn)，以測(cè)試并最終預(yù)測(cè)大腦中不同區(qū)域在聽故事時(shí)的反應(yīng)（特別是蛾類無線電小時(shí)）。他們使用從fMRI（功能磁共振成像）機(jī)器收集的數(shù)據(jù)，根據(jù)神經(jīng)元的活躍組，捕獲大腦血液氧合水平的變化。這是語言概念在大腦中代表的對(duì)應(yīng)物。
　　
　　研究人員利用德克薩斯高級(jí)計(jì)算中心（TACC）的強(qiáng)大超級(jí)計(jì)算機(jī)，通過LSTM方法訓(xùn)練了一個(gè)語言模型。當(dāng)試圖預(yù)測(cè)下一個(gè)詞時(shí)，這個(gè)模型必須隱含地學(xué)習(xí)關(guān)于語言如何運(yùn)作的所有其他內(nèi)容，就像哪些詞語傾向于跟隨其他詞語，而不是實(shí)際訪問大腦或任何有關(guān)大腦的數(shù)據(jù)。
　　
　　基于fMRI數(shù)據(jù)和語言模型，研究人員訓(xùn)練了一個(gè)系統(tǒng)，可以預(yù)測(cè)大腦第一次聽到新故事中每個(gè)單詞時(shí)的反應(yīng)。
　　
　　根據(jù)新的研究表明，添加語境元素 - 在這種情況下，最多20個(gè)單詞 - 可以顯著改善大腦活動(dòng)預(yù)測(cè)。他們發(fā)現(xiàn)，即使使用最少量的上下文，他們的預(yù)測(cè)也會(huì)有所改善。提供的上下文越多，其預(yù)測(cè)的準(zhǔn)確性就越高。
　　
　　如果LSTM包含更多單詞，那么它就能更好地預(yù)測(cè)下一個(gè)單詞，這意味著它必須包含過去所有單詞的信息。
　　
　　研究進(jìn)一步深入。它探討了大腦的哪些部分對(duì)所包含的上下文量更敏感。例如，他們發(fā)現(xiàn)似乎局限于聽覺皮層的概念較少依賴于背景。如果你聽到狗這個(gè)詞，這個(gè)區(qū)域并不關(guān)心那之前的10個(gè)單詞是什么，它只會(huì)響應(yīng)狗的聲音。另一方面，當(dāng)涉及更多背景時(shí)，更容易確定處理更高層次思維的大腦區(qū)域。這支持了心靈和語言理解的理論。
　　
　　要求更高的計(jì)算能力
　　
　　LSTM（以及一般的神經(jīng)網(wǎng)絡(luò)）通過將高維空間中的值分配給各個(gè)組件（此處為單詞）來工作，這樣每個(gè)組件都可以通過其與許多其他事物的數(shù)千種不同關(guān)系來定義。
　　
　　研究人員通過從Reddit帖子中提取數(shù)以千萬計(jì)的單詞來訓(xùn)練語言模型。然后他們的系統(tǒng)預(yù)測(cè)了六個(gè)主體大腦中的數(shù)千個(gè)體素（三維像素）將如何響應(yīng)模型和個(gè)體之前都沒有聽過的第二組故事。因?yàn)樗麄儗?duì)上下文長度的影響以及神經(jīng)網(wǎng)絡(luò)中各個(gè)層的影響感興趣，所以他們基本上測(cè)試了每個(gè)受試者的60個(gè)不同因素（20個(gè)長度的上下文保留和3個(gè)不同的層維度）。
　　
　　所有這些都導(dǎo)致大規(guī)模的計(jì)算問題，需要大量的計(jì)算能力，存儲(chǔ)器，存儲(chǔ)和數(shù)據(jù)檢索。TACC的資源非常適合這個(gè)問題。研究人員使用Maverick超級(jí)計(jì)算機(jī)（包含用于計(jì)算任務(wù)的GPU和CPU）和Corral（一種存儲(chǔ)和數(shù)據(jù)管理資源）來保存和分發(fā)數(shù)據(jù)。通過將問題并行化到許多處理器，他們能夠在幾周而不是幾年內(nèi)運(yùn)行計(jì)算實(shí)驗(yàn)。
　　
　　同時(shí)為了有效地開發(fā)這些模型，需要大量的訓(xùn)練數(shù)據(jù)，這意味著每次要更新權(quán)重時(shí)都必須通過整個(gè)數(shù)據(jù)集。
　　
　　端到端系統(tǒng)
　　
　　研究人員開發(fā)了一個(gè)直接預(yù)測(cè)大腦反應(yīng)的模型，稱之為端到端系統(tǒng)，而Huth和Jain希望在未來的研究中采用這種方式。這樣的模型將直接改善其對(duì)大腦反應(yīng)的表現(xiàn)。對(duì)大腦活動(dòng)的錯(cuò)誤預(yù)測(cè)會(huì)反饋到模型中并刺激改進(jìn)。這樣的模型將直接改善其對(duì)大腦反應(yīng)的表現(xiàn)。對(duì)大腦活動(dòng)的錯(cuò)誤預(yù)測(cè)會(huì)反饋到模型中并刺激改進(jìn)。
　　
　　Jain說道大腦是一種非常有效的計(jì)算機(jī)器，人工智能的目的是建立能夠完成大腦所能完成的所有任務(wù)的機(jī)器，但是，我們對(duì)大腦并不了解很多。因此，我們嘗試使用人工智能來首先質(zhì)疑大腦是如何工作的，然后，根據(jù)我們通過這種審訊方法獲得的見解，以及通過理論神經(jīng)科學(xué)，我們使用這些結(jié)果來開發(fā)更好的人工智能。