CNN網絡一(yī)共有5個層級結構(1)_e操盤
簡要地
CNN網絡共有5個層次結構:
1) 輸入層
2)卷積層(内部)
3) 激活層
4)池化層(内部)
5)全連接FC層
一(yī):輸入層
與傳統的神經網絡/機器學習一(yī)樣,該模型需要對輸入進行預處理。輸入層常見的預處理方法有:
去(qù)平均、歸一(yī)化、PCA/SVD降維等。
二:卷積層
局部感知(zhī):人腦在識别圖片時,并不是一(yī)下(xià)子就識别出整張圖片網絡層次設計特點,而是先局部感知(zhī)圖片中(zhōng)的各個特征,然後在更高層次上對局部進行綜合運算網絡層次設計特點,得到全局信息。
卷積層的作用:
提取圖像的特征,可以學習卷積核的權重。可以猜測,在高級神經網絡中(zhōng),卷積操作可以突破傳統濾波器的限制,根據目标函數提取想要的特征。“局部感知(zhī)和參數共享”的特性大(dà)大(dà)減少了網絡參數,保證了網絡的稀疏性,防止過拟合。“參數共享”之所以成爲可能,是因爲樣本具有局部相關特性。
小(xiǎo)卷積核的優點
1 提升網絡容量和模型複雜(zá)度
2 減少卷積參數的數量
三:激活層
所謂激勵,其實就是卷積層輸出的非線性映射。
如果不使用激勵函數(實際上激勵函數是f(x)=x),這種情況下(xià),每一(yī)層的輸出都是上一(yī)層輸入的線性函數。很容易得出結論,不管有多少神經網絡層,輸出都是輸入的線性組合,效果和沒有隐藏層的一(yī)樣。這是最原始的感知(zhī)器。
四:池化
1 池化層的位置和形式
在 CNN 網絡中(zhōng),卷積池後面是池化層。池化層的作用是提取局部均值和最大(dà)值。根據計算值的不同,分(fēn)爲平均池化層和最大(dà)池化層。最常見的是最大(dà)池化層。池化時,還需要提供大(dà)小(xiǎo)和步長。
2 max pool 在計算機視覺中(zhōng)的價值體(tǐ)現在兩個方面?
(1)、降低了上層隐藏層的計算複雜(zá)度;
(2) 這些池化單元具有平移不變性,即使圖像有很小(xiǎo)的位移,提取的特征也會保持不變。由于增強了對位移的魯棒性,可以忽略目标的傾斜和旋轉等相對位置的變化,從而提高精度。最大(dà)池采樣方法是一(yī)種降低數據維度的有效采樣方法。
3 池化層的作用()
池化的作用體(tǐ)現在下(xià)采樣上:保留顯着特征,降低特征維度,增加感受野。另一(yī)點值得注意:也可以提供一(yī)些旋轉不變性。
池化層可以降低提取的特征信息的維數。一(yī)方面,它使特征圖更小(xiǎo),簡化了網絡的計算複雜(zá)度,在一(yī)定程度上避免了過拟合。另一(yī)方面,它執行特征壓縮并提取主要特征。
4 池化的效果和解決方法是什麽?
操作是收縮特征圖,可能會影響網絡的精度,所以可以通過增加特征圖的深度來彌補。
5 理解
1 爲什麽推出?
卷積神經網絡使用元素乘加運算完成卷積運算,以完成檢測垂直邊緣的特征。但是這樣做會帶來兩個問題:
1)卷積運算後,輸出圖像尺寸減小(xiǎo)。
2)邊緣信息容易丢失。
爲了解決這個問題,我(wǒ)們引入 .
2 它是什麽?
所謂可以認爲是對圖片進行擴展,在圖片周圍添加一(yī)些像素,并将這些像素初始化爲0。
3 種用途
1)保留邊界信息。如果不加,輸入圖像邊緣的像素信息隻會被卷積核操作一(yī)次,但是圖像中(zhōng)間的像素會被掃描多次,一(yī)定程度上會減少邊界. 信息的參考水平,但是添加之後,在實際處理過程中(zhōng)會從新的邊界開(kāi)始操作,在一(yī)定程度上解決了這個問題。
2)可用于填充不同輸入尺寸的圖片,使輸入的圖片尺寸相同。
3)卷積神經網絡的卷積層的加入可以使卷積層的輸入輸出維度保持一(yī)緻。
4)卷積神經網絡的池化層一(yī)般會加入,以保持邊界信息與Use 1中(zhōng)的描述一(yī)緻。
4種模式
SAME:填充,填充大(dà)小(xiǎo),p = (f-1)/2;VALID:無填充,直接計算輸出。
五:輸出層(全連接層)
經過前面幾次卷積+激勵+池化,終于來到了輸出層,模型将學習到的高質量特征圖像全連接到該層。事實上,在全連接層之前,如果神經元數量過多,學習能力強,可能會出現過拟合。因此,可以通過引入操作來随機删除神經網絡中(zhōng)的一(yī)些神經元、正則化等來解決這個問題。還可以執行局部歸一(yī)化 (LRN)、數據增強、交叉驗證、提前終止訓練等以提高魯棒性。
說到全連接層,可以理解爲一(yī)個簡單的多類神經網絡(如:BP神經網絡),通過函數得到最終輸出。整個模型都經過訓練。
兩層之間的所有神經元都有權重連接,通常全連接層位于卷積神經網絡的末端。
卷積層和池化層:/p/
CNN中(zhōng)卷積層的計算細節:/p/
卷積神經網絡CNN總結--博客園(寫得好,推薦收藏)
cnn卷積神經網絡各層及典型神經網絡介紹
懂CNN就夠了:卷積神經網絡技術與發展 - 博客 - CSDN博客
了解更多學習網絡推廣知(zhī)識,就來廣西網絡推廣。
上一(yī)篇:推廣競價銷售百度競價推廣經驗分(fēn)享(圖)分(fēn)享广西南宁弄潮营销策划有限责任公司 : 版權所有