??上一篇文章我們簡(jiǎn)單的講述了關(guān)于人工智能的幾個(gè)概念，這篇文章我們將對(duì)人工神經(jīng)網(wǎng)絡(luò)展開(kāi)來(lái)講，廢話少說(shuō)，小二，上菜！
??我們知道，神經(jīng)網(wǎng)絡(luò)分為生物神經(jīng)網(wǎng)絡(luò)和人工神經(jīng)網(wǎng)絡(luò)。其中，人工神經(jīng)網(wǎng)絡(luò)（后文簡(jiǎn)稱(chēng)神經(jīng)網(wǎng)絡(luò)）是一種從結(jié)構(gòu)、實(shí)現(xiàn)機(jī)理和功能上模擬人腦神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型，說(shuō)白了就是模擬人類(lèi)的大腦。為了更好的把讀者帶進(jìn)坑，我們就先簡(jiǎn)單講解一下人腦神經(jīng)網(wǎng)絡(luò)，讓你不知不覺(jué)的進(jìn)坑。

1.生物神經(jīng)網(wǎng)絡(luò)

??眾所周知，人類(lèi)大腦是人體最復(fù)雜的器官，由神經(jīng)元、神經(jīng)膠質(zhì)細(xì)胞、神經(jīng)干細(xì)胞和血管組成. 其中，神經(jīng)元（Neuron），也叫神經(jīng)細(xì)胞（Nerve Cell），是攜帶和傳輸信息的細(xì)胞，是人腦神經(jīng)系統(tǒng)中最基本的單元。人腦神經(jīng)系統(tǒng)是一個(gè)非常復(fù)雜的組織，包含近860億個(gè)神經(jīng)元 ，每個(gè)神經(jīng)元有上千個(gè)突觸和其他神經(jīng)元相連接.而早在1904年，生物學(xué)家就已經(jīng)發(fā)現(xiàn)了神經(jīng)元的結(jié)構(gòu). 典型的神經(jīng)元結(jié)構(gòu)大致可分為細(xì)胞體和細(xì)胞突起。具體結(jié)構(gòu)如下圖所示：

??（1） 細(xì)胞體（Soma）是神經(jīng)元的主體，相當(dāng)于一個(gè)信息處理器，對(duì)來(lái)自其他神經(jīng)元的信號(hào)進(jìn)行求和，并產(chǎn)生神經(jīng)脈沖輸出信號(hào)。對(duì)應(yīng)生理活動(dòng)：興奮或抑制
??（2） 細(xì)胞突起是由細(xì)胞體延伸出來(lái)的細(xì)長(zhǎng)部分，又可分為樹(shù)突和軸突.
??(a) 樹(shù)突（Dendrite）可以接收刺激并將興奮傳入細(xì)胞體. 每個(gè)神經(jīng)元可以有一或多個(gè)樹(shù)突.也就是說(shuō)樹(shù)突主要起感受器的作用，并且可以接受一個(gè)或者多個(gè)輸入。
??(b) 軸突（Axon）可以把自身的興奮狀態(tài)從胞體傳送到另一個(gè)神經(jīng)元或其他組織. 每個(gè)神經(jīng)元只有一個(gè)軸突.也就是說(shuō)軸突主要起傳輸?shù)淖饔?#xff0c;并且只有一個(gè)輸出。
??神經(jīng)元可以接收其他神經(jīng)元的信息，也可以發(fā)送信息給其他神經(jīng)元. 神經(jīng)元之間沒(méi)有物理連接，中間留有20納米左右的縫隙. 神經(jīng)元之間靠突觸（Synapse）進(jìn)行互聯(lián)來(lái)傳遞信息，形成一個(gè)神經(jīng)網(wǎng)絡(luò)，即神經(jīng)系統(tǒng). 突觸可以理解為神經(jīng)元之間的鏈接“接口”，將一個(gè)神經(jīng)元的興奮狀態(tài)傳到另一個(gè)神經(jīng)元. 一個(gè)神經(jīng)元可被視為一種只有兩種狀態(tài)的細(xì)胞：興奮和抑制. 神經(jīng)元的狀態(tài)取決于從其它的神經(jīng)細(xì)胞收到的輸入信號(hào)量，及突觸的強(qiáng)度（抑制或加強(qiáng)）. 當(dāng)信號(hào)量總和超過(guò)了某個(gè)閾值時(shí)，細(xì)胞體就會(huì)奮，產(chǎn)生電脈沖. 電脈沖沿著軸突并通過(guò)突觸傳遞到其他神經(jīng)元.
流氓式總結(jié)： 根據(jù)上面的描述，我們對(duì)生物神經(jīng)網(wǎng)絡(luò)的特點(diǎn)做如下總結(jié)：

1. 每個(gè)神經(jīng)元都是一個(gè)多輸入單輸出的信息處理單元；
2. 神經(jīng)元輸入分興奮性輸入和抑制性輸入兩種類(lèi)型；
3. 神經(jīng)元具有時(shí)空整合特性和閾值特性；
   PS :
   時(shí)間整合： 各輸入脈沖抵達(dá)神經(jīng)元的時(shí)間先后不一樣，總的突出后膜電位為一段時(shí)間內(nèi)的累積。
   空間整合： 同一時(shí)刻產(chǎn)生的刺激所引起的膜電位變化，大致等于各單獨(dú)刺激所引起的膜電位變化的代數(shù)和。
4. 神經(jīng)元輸入與輸出間有固定的時(shí)滯，主要取決于突觸延擱。

2.人工神經(jīng)網(wǎng)絡(luò)

??1943 年，心理學(xué)家 Warren McCulloch 和數(shù)學(xué)家 Walter Pitts 最早提出并給出了人工神經(jīng)網(wǎng)絡(luò)的概念及人工神神經(jīng)元的數(shù)學(xué)模型，這種神經(jīng)元模型稱(chēng)為MP 模型，至此開(kāi)啟了人工神經(jīng)網(wǎng)絡(luò)研究的序幕.為了使得建模更加簡(jiǎn)單，以便于進(jìn)行形式化表達(dá)，我們忽略時(shí)間整合作用、不應(yīng)期等復(fù)雜因素，并把神經(jīng)元的突觸時(shí)延和強(qiáng)度當(dāng)成常數(shù)。下圖就是M-P模型示意圖。

??結(jié)合示意圖來(lái)看，X1,X2…,Xn 是該神經(jīng)元的輸入，相當(dāng)于來(lái)自不同神經(jīng)元的刺激；由于生物神經(jīng)元具有不同的突觸性質(zhì)和突觸強(qiáng)度，所以對(duì)神經(jīng)元的影響不同，我們用權(quán)值w 來(lái)表示，其正負(fù)模擬了生物神經(jīng)元中突出的興奮和抑制，其大小則代表了突出的不同連接強(qiáng)度；θ表示為一個(gè)閾值（threshold），或稱(chēng)為偏置（bias）；我們對(duì)全部輸入信號(hào)進(jìn)行累加整合，相當(dāng)于生物神經(jīng)元中的膜電位（水的變化總量），其值就為下圖公式計(jì)算所得的X.如果有看到公式y(tǒng)=wx+b不要驚慌失措，和我這里列出來(lái)的公式是一樣的，無(wú)外乎正負(fù)號(hào)和字母的區(qū)別。

??上式得到的X將會(huì)作為激活函數(shù)的輸入，通過(guò)激活函數(shù)引入非線性變換得到整個(gè)神經(jīng)元最后的輸出。當(dāng)然實(shí)際的網(wǎng)絡(luò)中處理單元和過(guò)程遠(yuǎn)比這個(gè)復(fù)雜，我們這里只說(shuō)個(gè)意思，懂的都懂！關(guān)于幾個(gè)常用的激活函數(shù)我會(huì)在后面的文章專(zhuān)門(mén)進(jìn)行補(bǔ)充。

3.神經(jīng)網(wǎng)絡(luò)發(fā)展簡(jiǎn)史

參考文獻(xiàn)：
1.神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)
2.神經(jīng)網(wǎng)絡(luò)的基本原理
3.神經(jīng)網(wǎng)路的基礎(chǔ)知識(shí)
4.神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)之M-P模型