18video性欧美19sex,欧美高清videosddfsexhd,性少妇videosexfreexxx片中国,激情五月激情综合五月看花,亚洲人成网77777色在线播放

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

卷積神經網(wǎng)絡是怎樣實現(xiàn)不變性特征提取的?

新機器視覺 ? 來源:OpenCV學堂 ? 作者:OpenCV學堂 ? 2021-04-30 09:11 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

圖像特征

傳統(tǒng)的圖像特征提?。ㄌ卣鞴こ蹋┲饕腔诟鞣N先驗模型,通過提取圖像關鍵點、生成描述子特征數(shù)據(jù)、進行數(shù)據(jù)匹配或者機器學習方法對特征數(shù)據(jù)二分類/多分類實現(xiàn)圖像的對象檢測與識別。卷積神經網(wǎng)絡通過計算機自動提取特征(表示工程)實現(xiàn)圖像特征的提取與抽象,通過MLP實現(xiàn)數(shù)據(jù)的回歸與分類。二者提取的特征數(shù)據(jù)都具不變性特征。

f71e58ea-a929-11eb-9728-12bb97331649.jpg

卷積神經網(wǎng)絡為什么能提取到圖像特征,其關鍵在于卷積神經網(wǎng)絡有兩種不同類型的層

-卷積層(convolution layers/detection layers)

-池化層(pooling layers)

卷積層

卷積層是一系列濾波器集合(filters set)、它的輸出結果被稱為特征映射(feature maps),每個feature map都一個filter在圖像上卷積得到的輸出。一般情況下都會輸出結果加線性修正,對卷積層常用就是ReLU

f72949da-a929-11eb-9728-12bb97331649.png

這樣做的好處是:

卷積是一個線性操作,我們需要一個非線性組合,否則兩個卷積卷積層還不如一個卷積層

兩個相反方向的邊緣不應該被取消

使圖像梯度值更加的稀疏、有助于提高反向傳播的效果

假設灰度輸入圖像,有兩個filter,卷積層生成過程如下所示:

假設灰度輸入圖像,有兩個filter,卷積層生成過程如下所示:

f7332e50-a929-11eb-9728-12bb97331649.jpg

膨脹卷積

通常我們常見的卷積層操作使用的filter都是基于連續(xù)鄰近像素的,除了這種卷積filter之后另外還有一張卷積filter被稱為膨脹卷積,其算子的分布更加的稀疏,圖示如下:

f73ee704-a929-11eb-9728-12bb97331649.jpg

膨脹卷積在不增加網(wǎng)絡總參數(shù)的情況下,提升每個感受野的尺度大小。

1x1卷積

1x1的卷積首次使用是在Network In Network網(wǎng)絡模型中,后來受到越來越多的關注,在一般情況下我們的卷積是2D的,1x1的卷積操作是毫無意義的,但是對卷積神經網(wǎng)絡來說,它的卷積層是三維的,所以1x1的卷積操作是有意義的。

f77ec374-a929-11eb-9728-12bb97331649.jpg

卷積層大小計算

對于一個輸入大小WxW的feature map,假設Filter的大小位FxF,卷積時填充邊緣P個像素、卷積步長(stride)為S則輸出的大小為:

f7a9c042-a929-11eb-9728-12bb97331649.png

在多數(shù)深度學習框架中支持兩種輸出大小計算:

padding = “same”

意味著使用填充邊緣的方式,輸出大小與輸入的feature map大小保持不變

padding = “valid”

意味著不使用邊緣填充,即P=0此時輸出大小為:

f7b36d4a-a929-11eb-9728-12bb97331649.png

池化層

在卷積層提取到的特征數(shù)據(jù)不具備空間不變性(尺度與遷移不變性特征),只有通過了池化層之后才會具備空間不變性特征。池化層是針對每個feature map進行池化操作,池化操作的窗口大小可以指定為任意尺寸,主要有兩種類型的池化操作

-下采樣池化(均值池化)

-最大值池化

下采樣池化

f7cb92e4-a929-11eb-9728-12bb97331649.png

對每個窗口大小取均值,然后乘以標量beta加上我們增益偏置b的輸出

最大值池化

f7d574e4-a929-11eb-9728-12bb97331649.png

無論是選擇哪種池化方式都會輸出一個新低分辨率feature map,多數(shù)時候這個過程中會包含一定的信息損失,所以卷積神經網(wǎng)絡一般通過擴展深度(增加feature map的數(shù)量)來補償。

重疊窗口與稀疏窗口

在進行池化的時候我們如果選擇步長=1進行池化,通過這樣的池化方式輸出的結果我們稱為重疊池化輸出,它不利于特征的稀疏生成,重疊窗口池化與均值池化都有這樣的缺點,所以經常采樣的是最大值池化,同時不會進行窗口重疊,有實驗結果表明,在卷積層保持相同feature map與參數(shù)的情況下,最大值池化的結果明顯優(yōu)于重疊池化與均值池化,而且網(wǎng)絡的深度越深,兩者之間的準確度差異越大。

總結

最終卷積神經網(wǎng)絡經過池化層操作對單位像素遷移和亮度影響進行了校正,做到了圖像的遷移與亮度不變性的特征提取、而且在池化過程中通過不斷的降低圖像分辨率,構建了圖像的多尺度特征,所以還具備尺度空間不變性,完成了圖像不變性特征提取工作。

f7e0128c-a929-11eb-9728-12bb97331649.jpg

編輯:jq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 濾波器
    +關注

    關注

    162

    文章

    8218

    瀏覽量

    184226
  • 圖像
    +關注

    關注

    2

    文章

    1094

    瀏覽量

    42058
  • 卷積神經網(wǎng)絡

    關注

    4

    文章

    369

    瀏覽量

    12637

原文標題:卷積神經網(wǎng)絡是如何實現(xiàn)不變性特征提取的

文章出處:【微信號:vision263com,微信公眾號:新機器視覺】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    如何通過地址生成器實現(xiàn)神經網(wǎng)絡特征圖的padding?

    對于SiamFC網(wǎng)絡結構,我們設計的卷積核寬度為3*3,卷積步長為1,則經卷積過后,特征圖寬度會減少2,為了滿足我們所設計的pe陣列的計算要
    發(fā)表于 10-22 08:15

    在Ubuntu20.04系統(tǒng)中訓練神經網(wǎng)絡模型的一些經驗

    , batch_size=512, epochs=20)總結 這個核心算法中的卷積神經網(wǎng)絡結構和訓練過程,是用來對MNIST手寫數(shù)字圖像進行分類的。模型將圖像作為輸入,通過卷積和池化層提取
    發(fā)表于 10-22 07:03

    CICC2033神經網(wǎng)絡部署相關操作

    讀取。接下來需要使用擴展指令,完成神經網(wǎng)絡的部署,此處僅對第一層卷積+池化的部署進行說明,其余層與之類似。 1.使用 Custom_Dtrans 指令,將權重數(shù)據(jù)、輸入數(shù)據(jù)導入硬件加速器內。對于權重
    發(fā)表于 10-20 08:00

    BP神經網(wǎng)絡卷積神經網(wǎng)絡的比較

    BP神經網(wǎng)絡卷積神經網(wǎng)絡在多個方面存在顯著差異,以下是對兩者的比較: 一、結構特點 BP神經網(wǎng)絡 : BP神經網(wǎng)絡是一種多層的前饋
    的頭像 發(fā)表于 02-12 15:53 ?1064次閱讀

    BP神經網(wǎng)絡的優(yōu)缺點分析

    自學習能力 : BP神經網(wǎng)絡能夠通過訓練數(shù)據(jù)自動調整網(wǎng)絡參數(shù),實現(xiàn)對輸入數(shù)據(jù)的分類、回歸等任務,無需人工進行復雜的特征工程。 泛化能力強 : BP
    的頭像 發(fā)表于 02-12 15:36 ?1306次閱讀

    BP神經網(wǎng)絡的基本原理

    輸入層、隱藏層和輸出層組成。其中,輸入層負責接收外部輸入數(shù)據(jù),這些數(shù)據(jù)隨后被傳遞到隱藏層。隱藏層是BP神經網(wǎng)絡的核心部分,它可以通過一層或多層神經元對輸入數(shù)據(jù)進行加權求和,并通過非線性激活函數(shù)(如ReLU、sigmoid或tanh)進行處理,從而
    的頭像 發(fā)表于 02-12 15:13 ?1334次閱讀

    人工神經網(wǎng)絡的原理和多種神經網(wǎng)絡架構方法

    在上一篇文章中,我們介紹了傳統(tǒng)機器學習的基礎知識和多種算法。在本文中,我們會介紹人工神經網(wǎng)絡的原理和多種神經網(wǎng)絡架構方法,供各位老師選擇。 01 人工神經網(wǎng)絡 ? 人工神經網(wǎng)絡模型之所
    的頭像 發(fā)表于 01-09 10:24 ?1822次閱讀
    人工<b class='flag-5'>神經網(wǎng)絡</b>的原理和多種<b class='flag-5'>神經網(wǎng)絡</b>架構方法

    卷積神經網(wǎng)絡實現(xiàn)工具與框架

    卷積神經網(wǎng)絡因其在圖像和視頻處理任務中的卓越性能而廣受歡迎。隨著深度學習技術的快速發(fā)展,多種實現(xiàn)工具和框架應運而生,為研究人員和開發(fā)者提供了強大的支持。 TensorFlow 概述
    的頭像 發(fā)表于 11-15 15:20 ?958次閱讀

    卷積神經網(wǎng)絡的參數(shù)調整方法

    卷積神經網(wǎng)絡因其在處理具有空間層次結構的數(shù)據(jù)時的卓越性能而受到青睞。然而,CNN的成功很大程度上依賴于其參數(shù)的合理設置。參數(shù)調整是一個復雜的過程,涉及到多個超參數(shù)的選擇和優(yōu)化。 網(wǎng)絡架構參數(shù)
    的頭像 發(fā)表于 11-15 15:10 ?1660次閱讀

    卷積神經網(wǎng)絡在自然語言處理中的應用

    。 卷積神經網(wǎng)絡的基本原理 卷積神經網(wǎng)絡是一種前饋神經網(wǎng)絡,它通過卷積層來
    的頭像 發(fā)表于 11-15 14:58 ?1075次閱讀

    卷積神經網(wǎng)絡與傳統(tǒng)神經網(wǎng)絡的比較

    在深度學習領域,神經網(wǎng)絡模型被廣泛應用于各種任務,如圖像識別、自然語言處理和游戲智能等。其中,卷積神經網(wǎng)絡(CNNs)和傳統(tǒng)神經網(wǎng)絡是兩種常見的模型。 1. 結構差異 1.1 傳統(tǒng)
    的頭像 發(fā)表于 11-15 14:53 ?2274次閱讀

    深度學習中的卷積神經網(wǎng)絡模型

    卷積神經網(wǎng)絡是一種前饋神經網(wǎng)絡,其靈感來源于生物的視覺皮層機制。它通過模擬人類視覺系統(tǒng)的處理方式,能夠自動提取圖像特征,從而在圖像識別和分
    的頭像 發(fā)表于 11-15 14:52 ?1097次閱讀

    卷積神經網(wǎng)絡的基本原理與算法

    ),是深度學習的代表算法之一。 一、基本原理 卷積運算 卷積運算是卷積神經網(wǎng)絡的核心,用于提取圖像中的局部
    的頭像 發(fā)表于 11-15 14:47 ?2231次閱讀

    基于LSTM神經網(wǎng)絡的情感分析方法

    能力而受到廣泛關注。 1. 引言 情感分析在商業(yè)智能、客戶服務、社交媒體監(jiān)控等領域具有廣泛的應用。傳統(tǒng)的情感分析方法依賴于手工特征提取和機器學習算法,但這些方法往往難以處理文本中的長距離依賴關系。LSTM作為一種循環(huán)神經網(wǎng)絡
    的頭像 發(fā)表于 11-13 10:15 ?1525次閱讀

    關于卷積神經網(wǎng)絡,這些概念你厘清了么~

    隨著人工智能(AI)技術的快速發(fā)展,AI可以越來越多地支持以前無法實現(xiàn)或者難以實現(xiàn)的應用。本文基于此解釋了 卷積神經網(wǎng)絡 (CNN)及其對人工智能和機器學習的意義。CNN是一種能夠從
    發(fā)表于 10-24 13:56