神經網絡檢視原始碼討論檢視歷史
| 神經網絡 |
人工神經網絡（Artificial Neural Networks，簡寫為ANNs）也簡稱為神經網絡（NNs）或稱作連接模型（Connection Model），它是一種模仿動物神經網絡行為特徵，進行分布式並行信息處理的算法數學模型。這種網絡依靠系統的複雜程度，通過調整內部大量節點之間相互連接的關係，從而達到處理信息的目的。
簡介
生物神經網絡主要是指人腦的神經網絡，它是人工神經網絡的技術原型。人腦是人類思維的物質基礎，思維的功能定位在大腦皮層，後者含有大約10^11個神經元，每個神經元又通過神經突觸與大約103個其它神經元相連，形成一個高度複雜高度靈活的動態網絡。作為一門學科，生物神經網絡主要研究人腦神經網絡的結構、功能及其工作機制，意在探索人腦思維和智能活動的規律。人工神經網絡是生物神經網絡在某種簡化意義下的技術復現，作為一門學科，它的主要任務是根據生物神經網絡的原理和實際應用的需要建造實用的人工神經網絡模型，設計相應的學習算法，模擬人腦的某種智能活動，然後在技術上實現出來用以解決實際問題。因此，生物神經網絡主要研究智能的機理；人工神經網絡主要研究智能機理的實現，兩者相輔相成。
評價
1943年，心理學家W·Mcculloch和數理邏輯學家W·Pitts在分析、總結神經元基本特性的基礎上首先提出神經元的數學模型。此模型沿用至今，並且直接影響着這一領域研究的進展。因而，他們兩人可稱為人工神經網絡研究的先驅。 1945年馮·諾依曼領導的設計小組試製成功存儲程序式電子計算機，標誌着電子計算機時代的開始。1948年，他在研究工作中比較了人腦結構與存儲程序式計算機的根本區別，提出了以簡單神經元構成的再生自動機網絡結構。但是，由於指令存儲式計算機技術的發展非常迅速，迫使他放棄了神經網絡研究的新途徑，繼續投身於指令存儲式計算機技術的研究，並在此領域作出了巨大貢獻。雖然，馮·諾依曼的名字是與普通計算機聯繫在一起的，但他也是人工神經網絡研究的先驅之一。50年代末，F·Rosenblatt設計製作了「感知機」，它是一種多層的神經網絡。這項工作首次把人工神經網絡的研究從理論探討付諸工程實踐。當時，世界上許多實驗室仿效製作感知機，分別應用於文字識別、聲音識別、聲納信號識別以及學習記憶問題的研究。然而，這次人工神經網絡的研究高潮未能持續很久，許多人陸續放棄了這方面的研究工作，這是因為當時數字計算機的發展處於全盛時期，許多人誤以為數字計算機可以解決人工智能、模式識別、專家系統等方面的一切問題，使感知機的工作得不到重視；其次，當時的電子技術工藝水平比較落後，主要的元件是電子管或晶體管，利用它們製作的神經網絡體積龐大，價格昂貴，要製作在規模上與真實的神經網絡相似是完全不可能的；另外，在1968年一本名為《感知機》的著作中指出線性感知機功能是有限的，它不能解決如異或這樣的基本問題，而且多層網絡還不能找到有效的計算方法，這些論點促使大批研究人員對於人工神經網絡的前景失去信心。60年代末期，人工神經網絡的研究進入了低潮。另外，在60年代初期，Widrow提出了自適應線性元件網絡，這是一種連續取值的線性加權求和閾值網絡。後來，在此基礎上發展了非線性多層自適應網絡。當時，這些工作雖未標出神經網絡的名稱，而實際上就是一種人工神經網絡模型。隨着人們對感知機興趣的衰退，神經網絡的研究沉寂了相當長的時間。80年代初期，模擬與數字混合的超大規模集成電路製作技術提高到新的水平，完全付諸實用化，此外，數字計算機的發展在若干應用領域遇到困難。這一背景預示，向人工神經網絡尋求出路的時機已經成熟。美國的物理學家Hopfield於1982年和1984年在美國科學院院刊上發表了兩篇關於人工神經網絡研究的論文，引起了巨大的反響。人們重新認識到神經網絡的威力以及付諸應用的現實性。隨即，一大批學者和研究人員圍繞着 Hopfield提出的方法展開了進一步的工作，形成了80年代中期以來人工神經網絡的研究熱潮。[1]