人工神經網路的本質(物理或數學意義)是什麼?
從數學的角度講,人工神經網路的本質從機器學習的過程可理解為通過引數求最佳解得過程。同樣也是一個負反饋的過程,以最簡單的負反饋神經網路bp神經網路(back propagation)為例,其本質可以形象的理解為這樣一個過程:我們假設這個剛搭建的好的機器人叫“小明”(假設他剛出生),他的硬體軟體等我們不需要考慮的部分全部是最先進的,小明的大腦裡現在是最純淨的,除了一個學習的演算法什麼都沒有,就像一個剛出生的嬰兒一樣。
現在,小明餓了,想吃東西。那麼如何才能吃到東西呢?在什麼都不知道的情況下,小明開始探索如何才能不餓。他可能會伸手,或者笑、哭,於是母親餵了他吃的,從邏輯上可以這麼理解:然後他每次餓了,都開始伸手-笑-哭,然後就有吃的了。突然,有一天他自己也不知道怎麼搞的,直接哭了。然後---有吃的了!
這時他才明白這一個邏輯:這時候,機器人“小明“明白,其實達到一個目的很簡單,但是需要不斷嘗試。再後來,小明又餓了,這回他懶得動,稍微小哭了一下等吃的,結果媽媽沒來喂他!這是為啥?然後他就哭的超級大聲,媽媽看他這樣子以為是病了,急衝衝的送她去診所,結果啥病也沒有,小明迷惑,這是為什麼?
邏輯可以這麼理解:然後他把哭聲再稍微降低以點,變成了很正常的哭,這時媽媽終於恍然大悟,喂他吃的。小明終於明白,想吃東西,首先需要哭,然後若哭聲小,不起作用,需要調大哭聲,若哭聲過大,會起反作用,需要把哭聲再降小一點,就有吃的了。