近期神經科學領域有哪些對人工智慧研究有啟發的工作?
本題已加入圓桌 ? 漫談機器智能,更多「人工智慧」相關的話題歡迎關注討論
近期真沒有,至少沒有完成轉化。但是不要因此就放棄喔。
下面來畫餅,節選自 機器學習和神經科學:你的大腦也在進行深度學習嗎? - 知乎專欄
深度學習的靈感起源可能是神經科學,但近年來的發展毫無疑問已經自成一派,(幾乎)與神經科學無關了。機器學習專家們感興趣的是如何進一步優化他們的演算法;神經科學家們則更想知道人腦,而非深度網路們,是如何工作的。
神經科學啟發的機器學習
作者 (Marblestone 等人) 相信大腦是進化所產生的隱態機器學習機制。那麼大腦應該可以高效地優化多種數據下的多種成本函數。事實上,相比於現有的機器學習系統,大腦的硬體十分緩慢(受限於生化反應的速率);而對非線性,不可微分,時間上隨機,基於脈衝的擁有大量反饋連接的系統如何進行優化,我們所知甚少。在系統構架層面,大腦可用的刺激展示次數少,作用於多個不同的時間框架,並採用主動學習。如果大腦果然是機器學習的範例(特別地,如果它的確解決了多層網路的功勞分配問題),那麼我們將學到很多有用的優化演算法。
另一方面,即使大腦並不使用反向傳遞,我們也將學到一種全新的非反向傳遞的技巧。
機器學習領域中已經開始研究如何用網路產生成本函數。通過考察大腦如何在發展過程中逐漸產生和適用不同的成本函數將幫助我們在機器學習中更好地設計成本函數以及層級行為。
原文獻:Toward an Integration of Deep Learning and Neuroscience
The human brain has resisted explanation for centuries, but I think there is good reason to think that we might figure out how it works within the next several decades, for three reasons. First, the techniques for investigating the brain are rapidly improving.
Much of the hype in the last decade was about technique called fMRI that allowed only extremely course pictures of the brain, "vowels" each of which contained tens of thousands of neurons, but those techniques were never sufficient. The real action is at the level of individual neurons, and how those individual neurons work together in small circuits. We had no reliably way to study this in the last decade, but in the next decade we will.
With new techniques like ontogenetic and high-density electrodes, neuroscience will advance quickly; it will be like what happened to biology when microscopes were first discovered. Second, we live in a data revolution, and the brain is a huge "Big Data" problem; a few years ago we wouldn"t have even been able to store, much less analyze, the data of 80 billion neurons and trillions of connections between them, interacting over time. We soon will be able to do that, in large part using techniques that were developed to support the internet. Third, advances in AI - some that have not yet arrived -- should eventually allow machines to help us in developing a theoretical understanding of what all these neural data mean. AI is still not good enough to do true scientific reasoning, but my by hope is that we will be able to do so, before long. At that point, we may finally make some enormous breakthroughs in understanding the brain.
Gray Marcus是機器之心 | GMIS 2017 全球機器智能峰會嘉賓,知乎賬號由Gray Marcus授權,機器之心代為註冊和運營,以上是Gray Marcus的英文版答案,以下為機器之心翻譯答案供大家參考。
對大腦原理的探索已經持續了數個世紀,但我認為,我們有充分理由相信這一問題會在未來幾十年得到解決,原因有三個。第一,大腦檢測技術正在飛速提升。過去十年很大一部分炒作集中在應用範圍非常有限的功能性磁共振成像技術。但是這一技術還遠遠不夠。真相存在於個體神經元及其在小迴路之中協作的層面。在過去的 10 年中,我們並沒有研究這一問題的可靠方法;但下個 10 年情況將有所不同。通過一些新技術比如個體發育和高密度電極,神經科學會取得快速進步。這類似於顯微鏡的出現極大推動了生物學的發展。第二,我們身處大數據時代,大腦實際上也是一個「大數據」問題。若干年之前,我們甚至不能存儲、分析 800 億神經元及其連接之間的數據量。而現在這已不再是問題,很大的原因來自互聯網技術的使用。第三,人工智慧的進步——以及一些還未到來的進步——最終允許機器幫助我們從理論層面理解所有這些神經數據。人工智慧依然沒有達到進行真正科學推理的地步,但是我希望不久後這將會實現。到那時,也許我們最終在理解人腦方面取得了巨大突破。
我想不引用文獻隨便寫寫,如果說得幼稚還請見諒,也歡迎指教,因為實話說人工智慧我了解不多,我只是學neural circuits formation的,然後我覺得這些環路形成中有一些很有趣的特點,可能對設計人工神經網路什麼的有啟發:
1. 簇(叢集)
一組功能相近神經軸突,在發育伸長的過程中可以聚合成簇,以此減少路徑錯誤。可以理解為,只需要一個領路者找方向,其他大軍都無腦跟隨,只要它們手舉的旗幟都一致。2. 選擇性規避
兩組神經元,分別有不同的標識,經過某個區域時,一組被阻擋所以繞路通過,另一組順利通過。3. 時序性功能改變
同一個分子,第一個24小時引起兩組神經元互相排斥,第二個24小時不再有任何作用,第三個24小時讓其互相吸引。所以路徑上,先分叉,再平行,再匯合。4. 信息的過濾
input神經元通過中間神經元,對output神經元進行精細調節。中間可以是一層兩層甚至多層,反饋可以是正向負向。信號如果持續時間太長,可以脫敏或者增敏。5. 通過增加競爭者調節信號強度。兩組輸出搶一組輸入…
6. 位置。
目標的位置決定鏈接準確度。Anyway
其實我也不知道這些對你們有沒有用,希望能給內行們一些靈感!peaceˉ\_(ツ)_/ˉps. 如果需要具體文獻名稱請在評論區留言沒。但並不妨礙國內各大院系在招生時把二者在理論上做完美結合以此保山頭。
推薦閱讀:
※為什麼小動物可以醒來以後瞬間清醒,而人需要一個緩衝期?
※神經痛是一種怎樣的體驗?具體有多痛?和肉體的疼痛有什麼區別?
※工程領域的人工神經網路和深度學習等方法,是否需要尋求其在神經科學、認知科學和生物學等其他領域的合理性?
※反應遲鈍的人如何讓自己思維變得更加敏捷?
※季節是有味道的嗎?為什麼有人能聞到春天的味道?