在這一節(jié)里，我將對我這些年所從事的工作進行更詳細的闡述，重點介紹近十年的，因為這些和本書的主體最有聯系。

早在20世紀80年代晚期，我就開始利用一種模擬達爾文進化的軟件形式，所謂的基因算法(Genetic Algorithm)來設計神經網絡，并開始發(fā)表一系列的科學研究論文。到我獲得博士學位時，我已經發(fā)表了20篇論文。

神經網絡可以被想象成由像枝節(jié)一樣的纖維(叫做軸突(axon)和樹突(dendrite))連接起來的三維大腦細胞矩陣。來自神經元的信號由軸突發(fā)送出去。樹突將信號傳入神經元。當一個軸突和一個樹突相連，形成的聯系叫做神經鍵(synapse)。

在一個真正的生物大腦中，每一個神經元或者大腦細胞擁有上萬個神經鍵。也就是說，它可以被上萬個來自其他神經元的信號所影響。這些神經信號同時到達一個神經元，被加強或者加權，然后相加。如果總的信號大于神經元激活閥值，神經元就會被激活，也就是說，它會順著自己的軸突發(fā)送電子脈沖信號，信號的頻率決定于總的信號強度大于閥值多少。軸突的脈沖發(fā)送到神經鍵，進一步影響其他的神經元。

一系列神經元圖片

神經元(人腦細胞)有許多不同的存在方式。

這種生物神經網絡可以用程序模擬。在20世紀80—90年代，一個典型的神經網絡里的神經元數目大概有10余個到100個不等。當時我的博士研究工作，每個神經網絡通常最多擁有16個神經元。這和我現在工作中使用近1億個神經元形成了強烈的對比。

下面幾頁對我的工作進行了更為詳細的描述，并且技術性更強。我希望你能夠堅持下去，但是如果理解起來確實有困難的話，跳過此節(jié)也不會太影響對本書總體的了解。同時在這里提醒您一下，本書最后有一個術語表，可能會對閱讀有所幫助。

神經網絡，許多神經元相互連接起來形成復雜的神經網絡，也就是人腦

CBM演化出來的神經網絡的二維圖像

基因算法

基因算法(Genetic Algorithm)是一種達爾文進化的程序模擬形式，用來優(yōu)化任何被進化的性能。實際應用中，我把基因算法用于神經網絡的進化。具體通過以下的方式來模擬神經網絡的運行。首先要考慮如何描述神經網絡本身。我使用16個神經元并且讓它們和自身以及其他神經元連接，因此，總共有16×16=256個連接。輸入信號的強度，以普通的十進制數字來表示，例如，再乘以一個權值，例如，然后相加。作為這個概念的一個例子，想象一個非常簡單的只有兩個神經元的網絡，因此，有4個連接。神經元1輸出的信號通過連接或形成神經突起C11發(fā)送到自身，并且通過連接或形成神經突起C12發(fā)送到神經元2。 神經元2輸出的信號通過連接或形成神經突起C22發(fā)送到自身，并且通過連接或形成神經突起C21發(fā)送到神經元1。假設在某個時刻的強度是S1和S2(例如，和)。

每一個連接Cij(或者形成神經突起)擁有一個相應的權值Wij，用來和通過該連接輸入的信號強度相乘。因此，輸送到神經元2的信號總強度應該是(W12* S1 + W22* S2 )。對于神經元1計算也類似?？偣灿?個這樣的權值。假設每一個權值的范圍在–1到+1之間。因此，每一個權值可以用二進制小數來表示，比如說8個比特(二進制數字，0或者1)。4個這樣的數字可以用4×8=32個比特來表示，可以排列成有32個比特的一行。對于16個神經元，我們將用一個有16×16×8=2 048個比特的行或串來表示我將用來進化的神經網絡的16×16個權值。

如果我知道2 048個比特的值(0或者1)，我將可以計算所有的256個權值，并且可以通過它們建立一個完全連接的神經網絡。相反，如果知道所有的權值，并且知道輸入信號的初始值，我們就可以計算出每一個神經元發(fā)射時候的信號強度。如果知道了每一個神經元是怎么發(fā)射的，就會知道整個神經網絡是怎么發(fā)射信號的或是怎么運轉的。我們可以提取某些神經元的信號，并且把這些信號當作控制信號，來控制一些活動，比如說，通過控制機器人腿的角度來讓它行走。