接著，簡單介紹下神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)。生物的大腦是由許多神經(jīng)細(xì)胞組成，同樣，模擬大腦的人工神經(jīng)網(wǎng)絡(luò)ANN是由許多叫做人工神經(jīng)細(xì)胞（Artificial neuron，也稱人工神經(jīng)原，或人工神經(jīng)元）的細(xì)小結(jié)構(gòu)模塊組成。人工神經(jīng)細(xì)胞就像真實(shí)神經(jīng)細(xì)胞的一個(gè)簡化版，如圖所示，左邊幾個(gè)藍(lán)色圓中所標(biāo)字母w代表浮點(diǎn)數(shù)，稱為權(quán)重（weight，或權(quán)值，權(quán)數(shù)）。進(jìn)入人工神經(jīng)細(xì)胞的每一個(gè)input(輸入)都與一個(gè)權(quán)重w相聯(lián)系，正是這些權(quán)重將決定神經(jīng)網(wǎng)絡(luò)的整體活躍性。你現(xiàn)在暫時(shí)可以設(shè)想所有這些權(quán)重都被設(shè)置到了-１和１之間的一個(gè)隨機(jī)小數(shù)。因?yàn)闄?quán)重可正可負(fù)，故能對與它關(guān)聯(lián)的輸入施加不同的影響，如果權(quán)重為正，就會有激發(fā)（excitory）作用，權(quán)重為負(fù)，則會有抑制（inhibitory）作用。當(dāng)輸入信號進(jìn)入神經(jīng)細(xì)胞時(shí)，它們的值將與它們對應(yīng)的權(quán)重相乘，作為圖中大圓的輸入。大圓的‘核’是一個(gè)函數(shù)，叫激勵函數(shù)(activation function)，它把所有這些新的、經(jīng)過權(quán)重調(diào)整后的輸入全部加起來，形成單個(gè)的激勵值(activation value)。激勵值也是一浮點(diǎn)數(shù)，且同樣可正可負(fù)。然后，再根據(jù)激勵值來產(chǎn)生函數(shù)的輸出也即神經(jīng)細(xì)胞的輸出：如果激勵值超過某個(gè)閥值（作為例子我們假設(shè)閥值為1.0），就會產(chǎn)生一個(gè)值為1的信號輸出；如果激勵值小于閥值1.0，則輸出一個(gè)0。這是人工神經(jīng)細(xì)胞激勵函數(shù)的一種最簡單的類型。