-
QT编写的RTSP播放器,各QT版本可完整编译运行
最近项目用到播放RTSP视频流,研究了一阵子,初步写了个demo,放出源码,QT实现RTSP视频流播放这块例子比较少,而且大部分不可用,不是缺lib库就是缺运行库等,就算几个可用的VLC,QTAV,播放视频的速度及画面呈现质量实在不敢恭维,特意编写了此DEMO,全部放出代码以供学习
- 2020-12-04下载
- 积分：1
-
MIMO技术原理及应用
PPT内容 pdf 现代通信先进技术MIMO技术原理及应用。MMO系统模型(1)MIMO系统模型(2)■M根发送天线发射的倌号矢量为■N根接收天线上引入的噪声矢量为N根接收天线HM根发送天线(n的每一个分量都是独立同发布的复高斯随机过程)■接攻信号可以表示为r= hs+n〔其中图MIM0系统框图MIMo系统模型(3)MIMO信道模型(1)■独立同分布的复高斯信道为n,表示第j根发送天线到第根接收天线幼冲击响应函数;且都是独立司分布的复机变量,实部和虚部都是高斯随机变量h注:这样的独立高斯信道,一般用于描述较强的散射环境,可以认为是比较理想的信道MIMO信道模型(2)MIMO信道模型(3)■带有相关性的信道模型主散射休>天线之间的间距入射波的到达角入射波的角度扩展接收端多輸入多输出系天线结构示意图MIMO信道模型(4)MIMo信道模型(5)■ nokia空间相关MMo信道模型■每一条路径接收角(A0A)和发送角(AOD)定研究的MHMo信道模型假定在远场区有很少的空间义为关于天线阵列和主要反射体位置的量。独立的主反射体,一个主反射体有一条主要路径■由于本地散射,每一条路径P都会有角度扩展a9),这条路径含有大量的引入波,这些波是由接收机使信号延时几乎相同的时间,但会随AOA的变化:和发射机附近的当地散射体的结构引起的g)=∑)∑yMIMo信道模型(6)MIMo信道模型(7)表示有L个本地散射体。同理定义发送端有当地散射的角度扩展(φ)假设接收天线在发送天线的远区场内。因此式中可假定接收天线接收的是平面波。通过天线阵列,平面波的传播在不同的天线环境下产生时延^。不同天线的波前到达的很小的时间延式中d“是两个邻近的天线的距离,几是通信系統的载迟导致接收天线的相移Φ波波长MIM信道模型(8)MIMO信道模型(9)≯阵列的传播向量包括关于第一个天线的这些■同样,在发送端相移。对于具有相同天线间隔d的线性阵列,向量a。可表示为Oo,uit. d sin o.接收端的相关矩阵为MIMo信道模型(10)MIMo信道模型(11)■发送端的天线之间的相关矩阵Noka空间相关MMO信道的仿真用生成单天线快衰落的方法,生成互相独立的列向量R1=∑ana3)用上述方法分別计算接收天线和发送天线的相关矩阵Rx、RR计算接收天线和发送天线的相关矩阵的Kronecker积,得到总的相关矩阵RNuMIMo信道模型(12)MIM◎信道 Shannon容量(1)Nokia空间相关MMO信道的仿真(续■基于前面所述的信道模型,根据信息论的结论,此将总的相关矩阵进行 Cholesky分解,得到矩阵MIMO系统能达到的系统 Shannon容量为Nx MNC=log;deo+fH”)bsH计算列向量hx=[h,h2,…,hw丁和矩阵其中du)表示取方阵的行列式,是NxN单位矩阵,p为每根CMww的乘积,得到列向量hMN接收天线的信噪比,∥表示信道矩阵的共轭转置■由于信道矩阵H是随机的,上式的容量也是一个随机变量将列向量h进行分段,得到矩阵hM,即为空间相关的MMO信道MIMo信道 Shannon容量(2)MIM信道 Shannon容量(3)■在理想情况下,即MMO信道可以等效为最大数目的独C=log, I/eI立、等增益、并行的子信道时,得到最大的 Shannon容量(为保证系统性能比较是在相同条件下,将发射功率Roll Lahs Tewchaui n AR s, UTs归一化;每根发送天线的发射功率与1/M成比例)当信道列矢量互相正交时可以达到的容量aCaloyM log,(C=Logo/.5以看出,对于采用多天线发送和接收技术的系统,理想情况下的信道容量将随着发射天线的数目成线性増长这就为MIMO的高速数据速率传输奠定了理论基础。MIM信道 Shannon容量(4)MIM信道 Shannon容量(5)■当接收天线和发送天线数目都为8根,且平均H吧M=信噪比为20旧B时,链路容量可以高达42b/s/HzDm5■在大信噪比下,仅仅在链路的一端采用多天线,比两端都采用多天线所取得的容量要小。例如,N=M=2在大信噪比下的容量比N=4,M=1的容量要大图二不同天线数目下, Shann。n容量与SNR曲线MIMo系统的实现接收分集(1)■接收分集■采用一个发送天线,多个接收天线的分集方式,■发送分集能够抗衰落和抗噪声■分层空时结构r=hs+n■空时编码■空时扩频其中■正交发送分集r=r2…y■空时发送分集Th, h,,hy j接收分集(2)接收分集(3)■最大比合并算法(MRc■容量为s=[h,,,+h1…hn=(h2+h2+,+h(+h1nhC-log(+p∑■分集增益为h2+1hP+,+h16发送分集(1)发送分集(2)■采用多个发送天线,一个接收天线的分集方式,能够抗衰落■如果和接收分集保持相同的总的发送功率,则每个发送天线的发送功率为发送分集的1MC=log(1-(p/M∑h■分集增益为(内2+h2F÷.+h)/M发送分集(3)发送分集(5)■上面的发送分集方案是在发送端不知道信道信息的情况下得到的性能,如果发送端准确地知道信道的信息,可以获得与接收分集相同的性S能,下面以2个天线的情况为例加以说明。√h22+|h22■对发送的信息进行预处理,令h2发送分集(6)发送分集(7)■则■系统增益为r= hs+nh2+1h2+.+h2h *s,+h,.s+n■容量为hIh,.s+nN4P+1212°h1P+1h2PC=log(+*∑2)2+|h2*s+n分层空时结构(1)分层空时结构(2)■为了充分利用MMO的信道容量,G. OSchin提出■将信源数据分为多个数据子流,分别经过多个信道编了分层空时结构( BLAST: Bel-laboratories码器编码,或不经过信道编码,直接送入调制映射器Layered Space-Time进行信号映射。输出的多路调制信号进行空间域和时间域的信号构造(对角结构、垂直结构等)后,再由■ BLAST的优点是真正意义上实现了高数据通信多个发射天线发射出去.经无线信道传播后,由多个因为它在多条并行信道里发送的是独立的、没有冗余接收天线接收。在接收机中经空时检测、解调、译码,的信息流,所以它的传输速率将远大于利用传统技术得到判决数据。所得到的传输速率分层空时结构(3)分层空时结构(4)■特点高散射高信噪比T开环系统,因为 BLAST的发射机不需要信道的data ende信息,只需在接收端进行信道预澳Fig 1 V-BLASTHigh-lerei syster dagra:m分层空时结构(5)分层空时结构(6)■发送端将单个用户的数据部变并到多个发送天线上,同时l D-BLAST( Diagonal Bell Laboratories Layered的、并行的发送这些数据,利用多输入和多输出方式在同Space-Time)技术是一种在接收端和发送端均使频率上传输并行信息流。如果信道是多径散射环境足够用多天线矩阵,并运用一种较好的钟层编码的结构,强,在接攻端可以采用 BLAST算法,恢复出原始信号码块在空时结构中分散在对角线在独立的瑞利散射环境中,这种处理技术理论上以使容量与发送天线数目成线而且接近于■ BLAST根据构造方式的不同,可以分为对角结构(D-Shannon容量极限的90%,但是这种算法较复杂BLAST: Diagonal BLAST)和垂直结构( V-BLAST实现较困难Vertical blast)。■ V-BLAST( Vertical BLAST)是一种简化的BLAST检测算法,也就是码块垂直分散在每根天线上在室肉慢表环境中其频谱效率可以达到40bits/Hz。8分层空时结构(7)分层空时结构(8)对角结构的检测也是对角线进行处理的。比如现在需要如图三阶示,设发送天线数检测第1路数据,a3:图中对角线(蓝色)以上部为M=5,5路数括流在5根天线上循环发,比如对于第1分(红色)都是未检测数据,对角线以下部分(绿色)路,第1个数据a在天熊1都是已测数据。对于数据干扰抵消法将巳检测的时间t泼送,第2个数据在b1,c1,d1,e1抵消,再进行检测;对于数据2,用干扰天线2上时间发送,5个时抵消法将已检测的b:;2d抵消,再用干扰置零法将未控间段完成一个循环测的巳2消除,再进行检测,依此类推。分层空时结构(9)分层空时结构(10)■发射机采用循环变动的结构;就避免了某一路数据因为信道条件的不好,而导致连续的误码,从如图四所示,设发射天线数而影响整个接收机的性能.D- BLAST能够达到为M5,5路数据流分別在5根天线上并行发送,第Shannon容量的90%,其运算极其复杂;所以贝路的数据恒在天线1尔实验室又进一步提出了 V-BLAST算法上发送:第二路的数据也恒在天线2上发送;等等依次类推分层空时结构(11)分层空时结构(12)广在检测时间!1的数据时,先计算出信道转移炬阵■ V-BLAST迫零算法的伪逆,取出其中模数最小的行向量,亦即对应于最大信噪比■迫零(ZF)矢量(w:i=1,2…,M)的数椐,假设为C1,用干扰置零法将术检测的a1hd,消除从而进行C1的检测,检测后的C1应在总的接收信号去掉它的影响,并且在信道转移矩阵中去掉相应的列向量,生成新的信7(H);=道矩阵;再计算此信道粳阵的伪逆,依此类推其中(为H的第j列,d为 Kronecker delta函数,迫零炬阵HH(伪逆)分层空时结构(13)分层空时结构(14)≯假设发送信号向量为a=(x1,42…,ax),对应的N维摄■V- BLAST迫零加干扰消除算法向量为由矩阵理论可知,矩阵H的列数越少,迫零失量的模越小所以性能越好y=Wr=(H"H)H"(Ha+v)=a+H"H"*v分层空时结构(15)分层空时结构(16)V- BLAST加干扰消除检测算法是一个循环过程,包括优化排序方法■以下是一个循环递归过程的选取W;=(G,)rGI=H=(HH)H(ZF这样就判决出了一个信号.然后把它的影响从接收信号中减去,并去掉k,= arg min (G;lI信道转移矩阵肀相应的列,得到新的转移矩降,并确定新竹伪迸阵,确定耕的判决顺序注:1k1,k为检测过程的排序2k1为追零矩阵G1中具有最小模值的行向k:= argmin(G21),‖表示H中去掉的量第《列后卓伪逆分层空时结构(17)分层空时结构(18)a的第k个成分检测后的SNR为■最小均方误差(MMSE)算法H*=( I+H"H)H在栓测过程中,不同的推序会产生不同的P1:例如M=3的系统,一般来说,先检测1和先检测2,所褥的■只是迫零矢量变化,不能严格迫零,但是使总的嗓声加干是不一样的。假没的所有成分均采用相同的消除方法:则扰的方差最小。信噪比内最小的成分将决定系純的误码率性能。因此,该系统中我们可以采用一种最小信噪比最大亿的概念。在榍环检测过程中,每一步我们都选择最好的,从这种将最小信嗅比最大化的意义上来说,就可以萩得最优化排序510
- 2021-05-06下载
- 积分：1
-
以身高与体重为特征进行C-均值聚类
matlab 以身高与体重为特征进行C-均值聚类
- 2020-11-27下载
- 积分：1
-
matlab实现haar小波分解
从源代码的角度实现了小波的haar分解，有利于初学者对小波分解的理解，不单纯的使用matlab wavelet工具箱
- 2020-12-01下载
- 积分：1
-
最大功率跟踪（扰动观察法和电导增量法）
扰动观察法：PO80025.mdl是温度保持25℃不变，0.1s时光照强度由1000W/m2瞬间下降到800W/m2的情况；PO100045.mdl是光照强度保持1000W/m2不变，0.1s时温度由25℃瞬间上升到45℃的情况；电导增量法：IC80025.mdl是温度保持25℃不变，0.1s时光照强度由1000W/m2瞬间下降到800W/m2的情况；IC100045.mdl是光照强度保持1000W/m2不变，0.1s时温度由25℃瞬间上升到45℃的情况.
- 2020-12-12下载
- 积分：1
-
微电网三相并网逆变器硬件研究与设计
对于并网逆变器的设计，关于DSP的控制算法，还有对硬件电路的设计，摘要摘要微电网系统的电能通常是由多种分布式发电装置或储能装置经过电力变换组网形成,其供电单元具有分散性,间断性的特点。不论是何种分布式发电装置或者储能装置,最终都要并入可供用户直接使用的交流电网,因此必须经过一系列电能变换,才能保证安全、高效的将电能馈送至电网。微电网三相并网逆变器就是其并网的关键器件之一,其在微电网运行管理系统的统一调度控制下运行。论文首先介绍了微电网以及各类分布式电能的概念及特点,之后系统的介绍了三相并网逆变器的功能,结构,并按照三部分进行介绍:主功率电路部分,基于的控制电路部分以及三相全桥逆变器控制策略。主功率电路部分按照能量变换过程,将系统分为两级:前级变换部分和后级的二相逆变部分。并根据设计功率详细介绍主开关器件的选型,驱动电路以及保护电路的确定和该部分其他电路器件参数的选择依据基于控制电路主要分为了两部分来具体介绍:通用的最小工作系统和用于该三相全桥逆变器控制芯片的接口电路。最小工作系统包括系统电源,晶振,串口等;接口电路包括控制信号放大电路,以及电能质量采样电路。以交流电能的采样部分为主,介绍了采用六通道同步采样芯片的信号调理电路的设计。文章还对常用的逆变器控制方案进行比较,给出本系统使用控制策略。并结合系统采用的心片的结构特点介绍了软件设计思路最后,文章还进行该论文相关的仿真和测试实验。通过仿真和实验结果验证了设计的正确性关键词:分布式电源、微电网、并网逆变器目录目录第一章绪论1.1课题背景与意义1.2微电网系统综述1.2.1微电网的概念及优点1.2.2微电网电源22232.3微电网中微电源的供电模式1.2.4分布式并网系统的并网标准1.2.5微电网逆变器的特点3本文主要研究内容第二章并网逆变器的拓扑结构及工作原理2.1并网逆变器的分类及设计原则2.2并网逆变器主电路结构的设计.6788992.2.1输入方式与控制方式的确定2.2.2能量转换结构的确定..102.3直流变换电路的设计2.3.1 Boost斩波升压电路图及基本原理2.3.2电感电流连续的条件.......122.4三相逆变电路的设计2.4.1组合式三相逆变器132.1.2半桥式三相逆变器2.1.3全桥式三相逆变器2.4.4三相逆变器的工作原理2.5谐波扣制电路的设计182.5.1谐波的定义,,,,,,,,,,,,,,192.5.2滤波器的选择2.6本章小结.....19目录第三章并网逆变器功率电路的设计.3.1设计技术指标看1垂春203.2电力电子器件的选型●·垂垂203.2. L IGBT的结构和工作原理垂·春看垂垂213.2.2IGBT的特性·垂非,,,,,223.2.3IGBT驱动电路的设计3.2.4IGBT过流保护电路243.2.5工作波形253.3整体设计3.4前级DC-DCB00s电路273.1.1组成及参数设计,,,,,,,,273.4.2主要参数设计273.4.3 MATLAB仿真.●·春293.5后级DC-AC三相仝桥逆变电路.5.1主要参数设计·◆·D313.5.2滤波电感D垂鲁323.6控制检测系统总体设计343.6.1直流电能传感器的选择和使用343.6.2交流电能传感器的选择和使用.353.7本章小结.第四章基于TMS32OF2812的控制电路设计..374.1TMS320LF2812简介374.2系统工作过程及功能设计.1.3TMS320LF2812通用部分电路的设计13.1电源电路4.3.2晶振电路,.4.3.3外部存储器的扩展414.3.4串凵电路的设计4.4TMS320LF2812接口电路的设计424.4.1交流信号的同步采集..434.4.2直流信号的采集....51目录4.4.3SPWM驱动信号输出电路,D·垂4.4.4eCAN总线驱动器的选择鲁D垂垂4.5木章小结.第五章三相并网逆变器的控制策略及软件设计..545.lPWM理论简介.545.2常见控制方式.垂···看垂·垂5.2.1滞环瞬时比较方式555.2.2 SVPWM控制方式565.2.3SPWM控制方式....565.3SPWM波的产生575.4基于TMS320LF2812控制芯片的软件设计595.4.1程序总体设计595.4.2SPWM控制波中断程序605.4.3其他中断子程序,615.5本章小结垂·垂·垂61第六章结论与展望..626.1设计制作实物6.2系统逆变输出646.3展望.6致谢67参考文献攻硕期间取得的研究成果第一章绪论第一章绪论木章介绍了微电网系统的概念以及发展情况,闸明了论文选题的背景和意义,明确了木文研究目标。1.1课题背景与意义能源是人类社会赖以生存和发展的物质基础,伴随着现代社会的发展,人类对于能源的需求愈来愈多,但是传统的化石能源如煤炭、石油与天然气等,在转化为其他各种形式的能量时,会不同程度的产生废气、废物等,严重污染了自然环境,对人类的健康和地球的生态平衡等都造成了不可忽视的影响;更严峻的是化石能源不可再生,终会有消耗殆尽的时候。因此为了保护人类的生态环境,避免能源危机,人类必须减少化石能源的份额,增加新型能源和可再生能源的比重,向建立可持续发展的能源体系过渡。我国又是世界上最大的煤炭生产国和消费国,以及世界上少数几个以煤炭为主要能源的国家之一,能源短缺以及对环境造成的污染更是不容我们迟疑,新型能源以及可再生能源的开发与应川势在必行。可再生能源中的太阳能,风能等新型能源都是当前的研究热点。此类能源具有资源卡富,洁浄环保,分布分散,位置灵活的特点,极好的适应了资源分布和分散电力的需求,因此多作为分布式电源用于局部或偏远地区的发电,有效减少了配电网的巨额投资和长距离传输中所产生的电能浪费;此外,分布式电源还可与大电网互为各用,提高供电可靠性等。虽然分布式电源有着自身的优点,但是也存在诸多问题:分布式电源单机接入成本高,控制困难;为了减小分布式电源对大电网的冲击,大系统通常对其采取限制、隔离的方式来处理;当大电网系统发生故障时,分布式能源必须退出运行等,这些都大大限制了分布式电源充分发挥其自身的优势。为了充分发挥分布式电源的优势,降低其对公共电网的不利影响,于是提出了把分布式电源、储能设备以及负荷一起作为配电子系统一一微电网(微电网及用户对所使川电能的电压值、功率、功率因数和谐波畸变因数等都有严格的要求,如何使各分布式电能单元与微电网实现安全、高效的并网是其应用的重要环节。本文就是研究微电网中,各分布式发电系统与电网之闫的电力电电子科技大学硕上学位论文子学界面一一三相并网逆变器,并基于的设计,实现一种在微电网运行管理系统下根据指令协调运行,安全可靠,相位可调的三相并网逆变器1.2微电网系统综述1.2.1微电网的概念及优点国际上对微型电网的定义各不相同,美国、欧盟、日本等都各有特点年,美国电力可靠性技术解决方案协公()首次对微电网展开」研究。年,从系统结构、控制方法、经济效益等方面系统全面地介绍了微电网的概念。微电网是一种由微型电源、负载、监控保护装置共同组成的为一定区域供电的小型发配电系统。它通过一个公共连接点(,)与大电网连接,即可以独立运行确保区域内部供需平衡,也可以与大电网并联运行,形成一个大型电网与分布式电源微电网联合运行的系统。微电网相对于外部大电网表现为单一的受控单元,并可同时满足用户对电能质量和供电安全的要求,与传统的大电网相比较,具有下列显著优点。()投资小、见效快。发展微电网可以减少延缓对大型常规发电厂与输配电系统的投资,降低投资风险。()满足特殊场合的川电需求。如是大电网不易达到的偏远地区的供电,避免输电网长距离送电的电能传输损耗;以及临时大型活动的供电系统等()提高供电可靠性。采用分布式电源的微电网可以弥补大电网安全稳定性上的不足,在大电网停电时维护全部或部分重要拥护的供电,避免大面积停电造成的严重后果)釆用分布式电源组网,启停方便,调峰性能好,冇利于平衡负荷)将太阳能、风能等可再生能源组网使用,可就地补偿可再生能源发电装置功率输出的问歇性问题()储能系统组网后,可在负荷低估从电网获取宦于电能,而在负荷高峰时向电网送电,提高电网运行效率1.2.2微电网电源电源是微网中重要的组成部分,相对于传统电力系统的电源都是同步发电机,
- 2020-11-02下载
- 积分：1
-
反向传播算法推导—全连接神经网络
反向传播算法是人工神经网络训练时采用的一种通用方法，在现代深度学习中得到了大 规模的应用。全连接神经网络(多层感知器模型，MLP)，卷积神经网络(CNN)，循环神 经网络(RNN)中都有它的实现版本。算法从多元复合函数求导的链式法则导出，递推的 计算神经网络每一层参数的梯度值。算法名称中的“误差”是指损失函数对神经网络每一层 临时输出值的梯度。反向传播算法从神经网络的输出层开始，利用递推公式根据后一层的误 差计算本层的误差，通过误差计算本层参数的梯度值，然后将差项传播到前一层(w, x,)+b这个神经元接受的输入信号为向量(),向量()为输入向量的组合权重,为徧置项,是标量。神经儿对输入冋量进行加权求和,并加上偏置项最后经过激活函数变换产生输出为表述简洁,我们把公式写成向量和矩阵形式。对每个神经元,它接受的来自前一层神经元的输入为向量,本节点的权重向量为,偏置项为,该神经元的输出值为先计算输入向量与权重向量的内积,加上偏置项,再送入一个函数进行变换,得到输出这个函数称为激活函数,典型的是函数。为什么需要激活函数以及什么样的函数可以充当激活函数,在之前的公众号文章“理解神经网终的激活函数”中已经进行了介绍。神绎网络一般有多个层。第一层为输入层,对应输入向量,神绎元的数量等于特征向量的维数,这个层不对数据进行处理,只是将输入向量送入下一层中进行计算。中间为隐含层,可能有多个。最后是输出层,神经元的数量等于要分类的类别数,输出层的输岀值被用来做分类预测。下面我们来看一个简单神经网络的例了,如下图所示这个网络有层。第一层是输入层,对应的输入向量为,有个神经元,写成分量形式为(),它不对数据做任何处理,直接原样送入下一层。中间层有个神经元,接受的输入数据为向量,输出向量为,写成分量形式为。第三个层为输出层,接受的输入数据为向量,输出向量为,写成分量形式为()。第一层到第层的权重矩阵为(,第二层到第三层的权重矩阵为()。权重矩阵的每一行为一个权重向量,是层所有神经元到本层某一个神经儿的连接权重,这里的上标表小层数如果激活函数选用函数,则第二层神经元的输出值为+(-(+0)+(1+(0)(-(()第三层神经元的输出值为如果把代入上面二式中,可以将输出向量表示成输出向量的函数。通过调整权重矩阵和偏置项可以实现不同的函数映射,因此神经网终就是一个复合函数需要解决的·个核心问题是·旦神经网络的结构(即神经元层数,每层神经元数量)桷定之后,怎样得到权重矩阵和偏置项。这些参数是通过训练得到的,这是本文推导的核心任务个简单的例子首先以前面的层神经网络为例,推导损失函数对神经网络所有参数梯度的计算方法假设训练样本集中有个样本()。其中为输入向量,为标签向量。现在要确定神经网络的映射函数:什么样的函数能很好的解释这批训练栟本?答案是神经网络的预测输出要尽可能的接近样本的标签值,即在训练集上最小化预测误差,如果使用均方误差,则优化的目标为:∑‖()-其中()和都是向量,求和项内部是向量的范数平方,即各个分量的平方和。上面的误差也称为欧氏距离损失函数,除此之外还可以使用其他损失函数,如交叉熵、对比损失等。优化目标函数的自变量是各层的权重矩阵和梯度向量,一般情况下无法保证目标函数是凸函数,因此这不是一个凸优化问题,有陷入局部极小值和鞍点的风险(对于这些概念和问题之前的公众号文章“理解梯度下降法”,“理解凸优化”中己经做了详细介绍)这是神经网络之前一直被诟病的一个问题。可以使用梯度下降法进行求解,使用梯度下降法需要计算出损失函数对所有权重矩阵、偏置向量的梯度值,接下来的关键是这些梯度值的计算。在这里我们先将问题简化,只考虑对单个样本的损失函数()-‖后面如果不加说明,都使用这种单样木的损失函数。如果计算出了对单个样木损失函数的棁度值,对这些梯度值计算均值即可得到整个目标函数的梯度值。和(要被代入到网络的后一层中,是复合函数的内层变量,我们先考虑外层的和。权重矩阵是一个x的矩阵,它的两个行分别为向量(和是个维的列向量,它的两个元素为()和()。网络的输入是向量,第一层映射之后的输出是向量首先计算损失函数对权重矩阵每个元素的偏导数,将欧氏距离损尖函数展开,有((+))(())6(如果,即对权重矩阵第行的元素求导,上式分了中的后半部分对来说是常数。根据链式法则有S()+()O如果,即对矩阵第二行的元素求导,类似的有:可以统一写成可以发现,第一个下标决定了权重矩阵的第行和偏置向量的第个分量,第二个下标决定了向量的第个分量。这可以看成是一个列向量与一个行向量相乘的结果,写成矩阵形式为上式中乘法⊙为向量对应元素相乘,第二个乘法是矩阵乘法。是个维列向量,+也是一个维列向量,两个向量执行⊙运算的结果还是个维列向量。是一个元素的列向量,其转置为维行向量,前面这个:维列向量与的乘积为的矩阵,这正好与矩阵的尺寸相等。在上面的公式中,权重的偏导数在求和项中由部分组成,分别是网络输出值与真实标签值的误差激活区数的导数+(),本层的输入值。神经网络的输出值、激活函数的导数值本层的输入值都可以在正向传播吋得到,因此可以晑效的计算出来。对所有训练样本的偏导数计算均值,可以得到总的偏导数对偏置项的偏导数为:如果上式分子中的后半部分对来说是常数,有:()⊥()如果类似的有这可以统写成:写成矩阵形式为偏置项的导数由两部分组成,分别是神经网络预测值与真实值之间的误差,激活函数的导数值,与权重矩阵的偏导数相比唯一的区别是少了。接下来计算对和的偏导数,由于是复合函数的内层,情况更为复杂。()是个的短阵,它的个行向量为(),(,(,(。偏置项()是维向量,个分量分别是(),(,(),(。首先计算损失函数对的元素的偏导数:而上式分子中的两部分都有,因此都与有关。为了表述简活,我们令:根据链式法则有:其巾((和和都是标量和()是两个()向量的内积,的每一个分量都是()的函数。接下来计算和这里的一是个向量,衣示的每个分量分别对求导。当时有:后面个分量相对于求导变量(都是常数。类似的当时有:()0)(()和时的结果以此类推。综合起来有:同理有:()十如果令合并得到()()[()-)。()。()写成矩阵形式为()最后计算偏置项的偏导数()类似的我们得到:合并后得到()写成矩阵形式为:(0)至此,我得到了这个简单网络对所有参数的偏导数,接下来我们将这种做法推广到更般的情况。从上面的结果可以看岀一个规律,输出层的权重矩阵和偏置向量梯度计算公式中共用了()-)()对」隐含层也有类似的结果完整的算法现在考虑一般的情况。假设有个训练样本(),其中为输入向量,为标签向量。训练的目标是最小化样木标签值与神经网络预测值之闩的误差,如果使用均方误差,则优化的目标为:其中为神经网络所有参数的集合,包括各层的权重和偏置。这个最优化问题是·个不带约束条件的问题,可以用梯度下降法求解。上面的误差函数定义在整个训练样本集上,梯度下降法每一次迭代利用了所有训练样本,称为批量棁度卜降法。如果样木数量很大,每次迭代都用所有样木进计算成木太高。为了解决这个问题,可以采用单样本梯度下降法,我们将上面的损失函数写成对单个样本的损失函数之和:定义对单个样本()的损失函数为)=-()如果采用单个样本进行迭代,梯度下降法第次迭代时参数的更新公式为:nV如果要用所有样本进行迭代,根据单个样本的损失函数梯度计算总损失梯度即可,即所有样本梯度的均值用梯度下降法求解需要初始化优化变量的值。一般初始化为一个随机数,如用正态分布(a)产生这些随机数,其中G是一个很小的正数到日前为止还有一个关键问题没有解决:日标函数是一个多层的复合函数,因为神经网络中每一层都有权重矩阵和偏置向量,且每一层的输出将会作为下一层的输入。因此,直接计算损失函数对所有权重和偏置的梚度很复杂,需要使用复合函数的求导公式进行递推计算几个重要的结论在进行推导之前,我们首先来看下面几种复合函数的求导。又如下线性映射函数:其中是维向量,是×的矩阵,是维向量。问题:假设有函数,如果把看成常数,看成的函数,如何根据函数对的梯度值Ⅴ计算函数对的梯度值Ⅴ?根据链式法则,由于只和有关,和其他的≠无关,因此有:c∑(对于的所有元素有:写成矩阵形式为:问题:如果将看成常数,将看成的函数,如何根据V计算Ⅴ?由于任意的和所有的都有关系,根据链式法则有写成矩阵形式为这是一个对称的结果,在计算函数映射时用矩阵乘以向量得到,在求梯度时用矩阵的转置乘以的梯度得到的梯度。问题:如果有向量到向量的映射:
- 2020-12-09下载
- 积分：1
-
单信号压缩感知ISAR仿真
单LFM信号压缩感知ISAR仿真 傅里叶变换基 OMP追踪准则
- 2021-05-07下载
- 积分：1
-
图幅号生成工具（1：10000 等）
图幅号生成（shp文件）工具（1：10000 等） VC#2010+ArcEngine10 哭直接运行。
- 2021-05-06下载
- 积分：1
-
X-Ways Forensics v13.0（法证版Winhex)
X-Ways Forensics V13.0 Winhex法证版，你懂的，网上很难找
- 2020-12-10下载
- 积分：1
