之前介紹的神經網絡中,相鄰層的所有神經元之間都有連接,這叫做“全連接(Fully-connected)”,另外我們使用的Affine層實現全連接層。

CNN中新出現了卷積層(Convolution)和池化層(Pooling),對比的構造圖如下

Affine層,進行仿射變換的處理。神經網絡的正向傳播中進行矩陣的乘積運算在幾何學中稱為“仿射變換”。幾何中,仿射變換包括一次線性變換和一次平移,分別對應神經網絡的加權和運算與加偏置運算