-
當(dāng)前位置:首頁 > 創(chuàng)意學(xué)院 > 技術(shù) > 專題列表 > 正文
神經(jīng)網(wǎng)絡(luò)控制原理(神經(jīng)網(wǎng)絡(luò)控制原理是什么)
大家好!今天讓創(chuàng)意嶺的小編來大家介紹下關(guān)于神經(jīng)網(wǎng)絡(luò)控制原理的問題,以下是小編對(duì)此問題的歸納整理,讓我們一起來看看吧。
開始之前先推薦一個(gè)非常厲害的Ai人工智能工具,一鍵生成原創(chuàng)文章、方案、文案、工作計(jì)劃、工作報(bào)告、論文、代碼、作文、做題和對(duì)話答疑等等
只需要輸入關(guān)鍵詞,就能返回你想要的內(nèi)容,越精準(zhǔn),寫出的就越詳細(xì),有微信小程序端、在線網(wǎng)頁版、PC客戶端
官網(wǎng):https://ai.de1919.com。
創(chuàng)意嶺作為行業(yè)內(nèi)優(yōu)秀的企業(yè),服務(wù)客戶遍布全球各地,如需了解SEO相關(guān)業(yè)務(wù)請(qǐng)撥打電話175-8598-2043,或添加微信:1454722008
本文目錄:
一、請(qǐng)簡(jiǎn)述一下神經(jīng)網(wǎng)絡(luò)的PDB模型
資料1.人工神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)
包括:
(1) PDP(Parallel Distribated Processing)模式
(2) 容限理論
(3) 網(wǎng)絡(luò)拓?fù)?/p>
(4) 混沌理論
1、PDP模式
PDP模式是一種認(rèn)知心理的平行分布式模式。認(rèn)知是信息處理過程,并且是知覺、注意、記憶、學(xué)習(xí)、表象、思維、概念形式、問題求解、語言、情緒、個(gè)性差異等等有機(jī)聯(lián)系的處理過程。PDP模式是一種接近人類思維推論的模式。人腦中知識(shí)的表達(dá)是采用分布式的表達(dá)結(jié)構(gòu),人腦的控制是實(shí)行分布式的控制方式。相互作用、相互限制是PDP模式的基本思想,平行分布是PDP模式的基本構(gòu)架。
PDP模式的實(shí)施,需要一種合理的表示方法,其中一種表示方法便是人工神經(jīng)網(wǎng)絡(luò)表示法。即采用類似于大腦神經(jīng)網(wǎng)絡(luò)的體系結(jié)構(gòu),在這種基本體系結(jié)構(gòu)下,使人工神經(jīng)網(wǎng)絡(luò)經(jīng)過學(xué)習(xí)訓(xùn)練,能適應(yīng)多種知識(shí)體系。
參考:http://gamejedi.cn/bbs/dispbbs.asp?boardid=7&id=924&star=1&page=2
資料2.神經(jīng)網(wǎng)絡(luò)模型
信息加工模型有助于理論家把其理論假設(shè)進(jìn)一步細(xì)致化、具體化。然而正如我們?cè)诘谝还?jié)所討論過的,遵循聯(lián)結(jié)主義傳統(tǒng)的學(xué)者對(duì)比提出了反對(duì)意見,認(rèn)為這一模型假設(shè)認(rèn)知過程是繼時(shí)性流動(dòng),而事實(shí)并非總是如此,(參見Rumelhart, Hinton,和 McClelland, 1986),至少有一些認(rèn)知過程更可能是同時(shí)發(fā)生的。比如說司機(jī)開車時(shí)可同時(shí)與人講話。一種用得越來越多的模型是神經(jīng)網(wǎng)絡(luò)模型(或稱并行分布模型)。這類模型認(rèn)為不同的認(rèn)知過程可以同時(shí)發(fā)生,這一假設(shè)與人們的主觀感覺相一致:許多東西同時(shí)出現(xiàn)在腦海中。這一假設(shè)還與我們已知的大腦神經(jīng)的操作相一致。
神經(jīng)網(wǎng)絡(luò)模型假設(shè)有一系列相互連接的加工單元,而且這些單元的激活水平是不同的。根據(jù)不同的傳播規(guī)則,激活從一個(gè)單元傳播到與之相連的其它單元。
參考:http://jpkc.ecnu.edu.cn/jxcg/931045/stu/ygg02/gg021/gg02102/gg02102c.htm
3.
二、神經(jīng)網(wǎng)絡(luò)與模糊控制優(yōu)劣?
(2)由工業(yè)過程的定性認(rèn)識(shí)出發(fā),比較容易建立語言控制規(guī)則,因而模糊控制對(duì)那些數(shù)學(xué)模型難以獲取,動(dòng)態(tài)特性不易掌握或變化非常顯著的對(duì)象非常適用。(3)基于模型的控制算法及系統(tǒng)設(shè)計(jì)方法,由于出發(fā)點(diǎn)和性能指標(biāo)的不同,容易導(dǎo)致較大差異;但一個(gè)系統(tǒng)語言控制規(guī)則卻具有相對(duì)的獨(dú)立性,利用這些控制規(guī)律間的模糊連接,容易找到折中的選擇,使控制效果優(yōu)于常規(guī)控制器 。(4)模糊控制是基于啟發(fā)性的知識(shí)及語言決策規(guī)則設(shè)計(jì)的,這有利于模擬人工控制的過程和方法,增強(qiáng)控制系統(tǒng)的適應(yīng)能力,使之具有一定的智能水平。(5)模糊控制系統(tǒng)的魯棒性強(qiáng),干擾和參數(shù)變化對(duì)控制效果的影響被大大減弱,尤其適合于非線性、時(shí)變及純滯后系統(tǒng)的控制。|||什么是模糊控制?與傳統(tǒng)控制理論相比有什么優(yōu)點(diǎn)?模糊控制是近代控制理論中建立在模糊集合輪上基礎(chǔ)上的一種基于語言規(guī)則與模糊推理的控制理論,它是智能控制的一個(gè)重要分支。與傳統(tǒng)控制理論相比,模糊控制有兩大不可比擬的優(yōu)點(diǎn):第一,模糊控制在許多應(yīng)用中可以有效且便捷的實(shí)現(xiàn)人的控制策略和經(jīng)驗(yàn),這一優(yōu)點(diǎn)自從模糊控制誕生以來就一直受到人們密切的關(guān)注;第二,模糊控制不需要被控對(duì)象的數(shù)學(xué)模型即可實(shí)現(xiàn)較好的控制,這是因?yàn)楸豢貙?duì)象的動(dòng)態(tài)特性已隱含在模糊控制器輸入、輸出模糊集及模糊規(guī)則中。所以模糊控制被越來越多的應(yīng)用于各個(gè)領(lǐng)域,尤其是被廣泛應(yīng)用于家電系列中,基于模糊控制的洗衣機(jī)就是其中的一個(gè)典型實(shí)例。|||模糊控制實(shí)質(zhì)上是一種非線性控制,從屬于智能控制的范疇。模糊控制的一大特點(diǎn)是既具有系統(tǒng)化的理論,又有著大量實(shí)際應(yīng)用背景。|||優(yōu)點(diǎn):對(duì)于難于建立模型的控制對(duì)象不失為一種良好的控制方法。
三、神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)搜索(Neural Architecture search)
神經(jīng)網(wǎng)絡(luò)搜索是生成和優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)的有效工具 Neural Architecture Search 。
在不確定網(wǎng)絡(luò)的長(zhǎng)度和結(jié)構(gòu)的情況下,使用一個(gè)循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent network)作為控制器來生成網(wǎng)絡(luò)結(jié)構(gòu)的字段,用來構(gòu)建子神經(jīng)網(wǎng)絡(luò)。將訓(xùn)練子網(wǎng)絡(luò)之后的準(zhǔn)確率作為控制器回饋信號(hào)(reward signal),通過計(jì)算策略梯度(policy gradient)更新控制器,這樣不斷的迭代循環(huán)。在下一次迭代中,控制器將有更高的概率提出一個(gè)高準(zhǔn)確率的網(wǎng)絡(luò)結(jié)構(gòu)??傊殡S著時(shí)間的推移,控制器將通過不斷的學(xué)習(xí)來提高搜索結(jié)果。如下圖所示就是網(wǎng)絡(luò)結(jié)構(gòu)搜索。
神經(jīng)結(jié)構(gòu)搜索中,我們使用控制器產(chǎn)生神經(jīng)網(wǎng)絡(luò)的超參數(shù)。控制器使用的是一個(gè)循環(huán)神經(jīng)網(wǎng)絡(luò)。假設(shè)我們希望預(yù)測(cè)只有卷積層的前饋神經(jīng)網(wǎng)絡(luò),就可以使用控制器來生成這些超參數(shù)的序列。
控制器可以看到代理(agent),生成的超參數(shù)序列(網(wǎng)絡(luò)結(jié)構(gòu)的描述字符串)可以被看做代理一系列的動(dòng)作(actions) 。子網(wǎng)絡(luò)在收斂后將達(dá)到準(zhǔn)確率 。隨后,將 作為回饋信號(hào)并使用增強(qiáng)學(xué)習(xí)訓(xùn)練控制器。具體的說,為了優(yōu)化的結(jié)構(gòu),需要讓控制器最大化期望回饋,期望回饋可以表示為 :
由于 不可微分,因此不能使用傳統(tǒng)的BP算法。我們需要使用回饋更新代理的策略參數(shù) ,進(jìn)而實(shí)現(xiàn)回饋的最優(yōu)化。這里我們使用 Williams 提出的REINFORCE,這個(gè)公式關(guān)聯(lián)了回饋 和策略參數(shù) :
上述數(shù)值的可以近似表示為:
是控制器一個(gè)批樣本網(wǎng)絡(luò)模型的數(shù)量, 是控制器生成的網(wǎng)絡(luò)結(jié)構(gòu)的超參數(shù)數(shù)量。 是第 個(gè)神經(jīng)網(wǎng)絡(luò)模型的準(zhǔn)確率。
上述更新的梯度是梯度的無偏估計(jì),但是方差很大。為了減小方差,我們使用了一個(gè)基線函數(shù): 。
只要 不依賴與當(dāng)前的動(dòng)作,這個(gè)梯度導(dǎo)數(shù)將始終是無偏估計(jì)。這里,我們的 是準(zhǔn)確率的指數(shù)移動(dòng)平均值 EMA 。
在神經(jīng)網(wǎng)絡(luò)搜索中,訓(xùn)練一個(gè)子網(wǎng)絡(luò)可能需要幾個(gè)小時(shí)的時(shí)間。使用分布式訓(xùn)練和并行參數(shù)更新可以加速控制器的學(xué)習(xí)過程。我們使用參數(shù)服務(wù)器保存所有參數(shù),服務(wù)器將參數(shù)分發(fā)給控制器,控制器被分成 個(gè),每一個(gè)控制器使用得到的參數(shù)進(jìn)行模型的構(gòu)建,由于得到的參數(shù)可能不同,構(gòu)建模型的策略也是隨機(jī)的,導(dǎo)致每次構(gòu)建的網(wǎng)絡(luò)結(jié)構(gòu)也會(huì)不同。每個(gè)控制器會(huì)構(gòu)建一個(gè)batch, 個(gè)子網(wǎng)絡(luò),然后并行訓(xùn)練子網(wǎng)絡(luò)得到準(zhǔn)確率。計(jì)算出參數(shù)的梯度。然后計(jì)算完梯度的控制器將梯度傳遞到參數(shù)服務(wù)器,分別對(duì)自己負(fù)責(zé)的參數(shù)進(jìn)行更新。接下來控制器得到更新的參數(shù)開始構(gòu)建新的神經(jīng)網(wǎng)絡(luò)模型。這里,每一個(gè)控制器獨(dú)立的發(fā)送自己的梯度更新服務(wù)器參數(shù),不需要控制器之間同步,這及時(shí)異步更新。這里子網(wǎng)絡(luò)的訓(xùn)練次數(shù)固定(epochs)。這種并行架構(gòu)如下圖所示
為了讓控制器產(chǎn)生跳躍連接。在第 層中,添加一個(gè)錨點(diǎn)(anchor point)表示是否和前面的網(wǎng)絡(luò)層連接:
表示控制器第 層網(wǎng)絡(luò)錨點(diǎn)的隱藏狀態(tài), 介于0到 之間。根據(jù)這些sigmoids的結(jié)果來決定哪些網(wǎng)絡(luò)層被用作當(dāng)前層的輸入。 , 和 是可訓(xùn)練參數(shù)。[圖片上傳失敗...(image-feb8fe-1558488967580)]
為了產(chǎn)生循環(huán)元胞。控制器需要找到一個(gè)公式,以 和 作為輸入, 作為結(jié)果。最簡(jiǎn)單的方式 ,這是一個(gè)基本的循環(huán)細(xì)胞的公式。一個(gè)更復(fù)雜的公式是廣泛應(yīng)用的LSTM循環(huán)元胞。
基礎(chǔ)RNN和LSTM都可以描述為一個(gè)樹形結(jié)構(gòu),輸入 和 ,產(chǎn)生 ,這些變量作為葉子??刂破鱎NN需要標(biāo)明樹上的每個(gè)節(jié)點(diǎn)的結(jié)合方法(相加,按元素相乘等)和激活函數(shù),用于融合兩個(gè)輸入并產(chǎn)生一個(gè)輸出。然后兩個(gè)節(jié)點(diǎn)輸出又被作為樹上下一個(gè)節(jié)點(diǎn)的輸入。為了控制器可以選擇這些方法和函數(shù),我們將樹上的節(jié)點(diǎn)以一定的順序編號(hào),這樣控制器可以順序的預(yù)測(cè)。
四、基于人工神經(jīng)網(wǎng)絡(luò)的mppt控制是什么意思
mppt是最大功率跟蹤器,用于控制新能源(光伏,風(fēng)能等等)時(shí)刻發(fā)出最大功率的,是個(gè)設(shè)備
人工神經(jīng)網(wǎng)絡(luò)是智能算法的一種,是個(gè)算法。
它的意思是用人工神經(jīng)網(wǎng)絡(luò)算法去控制這個(gè)設(shè)備工作。
望采納
以上就是關(guān)于神經(jīng)網(wǎng)絡(luò)控制原理相關(guān)問題的回答。希望能幫到你,如有更多相關(guān)問題,您也可以聯(lián)系我們的客服進(jìn)行咨詢,客服也會(huì)為您講解更多精彩的知識(shí)和內(nèi)容。
推薦閱讀:
神經(jīng)網(wǎng)絡(luò)三大分類(神經(jīng)網(wǎng)絡(luò)三大分類包括)
PSO算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)代碼(bp神經(jīng)網(wǎng)絡(luò)的優(yōu)化算法)
神經(jīng)內(nèi)科排行榜(神經(jīng)內(nèi)科哪家醫(yī)院排名第一)
設(shè)計(jì)作品集(設(shè)計(jì)作品集英文)
良品鋪?zhàn)哟蠖Y包圖片(良品鋪?zhàn)哟蠖Y包圖片真實(shí))