稀疏自编码深度学习的Matlab实现
稀疏自编码深度学习的Matlab实现，sparse Auto coding，Matlab codetrain, m/7% CS294A/CS294W Programming Assignment Starter CodeInstructions%%%This file contains code that helps you get started ontheprogramming assignment. You will need to complete thecode in sampleIMAgEsml sparseAutoencoder Cost m and computeNumericalGradientml For the purpose of completing the assignment, you domot need tochange the code in this filecurer:YiBinYUyuyibintony@163.com,WuYiUniversityning, MATLAB Code for Sparse Autoencodtrain.m∥%%========%6% STEP 0: Here we provide the relevant parameters valuesthat willl allow your sparse autoencoder to get good filters; youdo not need to9 change the parameters belowvisibleSize =8*8; number of input unitshiddensize 25number of hidden unitssparsity Param =0.01; desired average activation ofthe hidden units7 (This was denoted by the greek alpharho, which looks like a lower-case pcurer:YiBinYUyuyibintony@163.com,WuYiUniversityning, MATLAB Code for Sparse Autoencod4/57train.,m∥in the lecture notes)1 ambda=0.0001%o weight decay parameterbeta 3%o weight of sparsity penalty term%%==:79 STEP 1: Implement sampleIMAGESAfter implementing sampleIMAGES, the display_networkcommand shouldfo display a random sample of 200 patches from the datasetpatches sampleIMAgES;display_network(patches(:, randi(size(patches, 2), 204, 1)), 8)%为产生一个204维的列向量,每一维的值为0~10000curer:YiBinYUyuyibintony@163.com,WuYiUniversityning, MATLAB Code for Sparse Autoencod5/57train.m/v%中的随机数,说明是随机取204个 patch来显示%o Obtain random parameters thetatheta= initializeParameters ( hiddenSize, visibleSize)%%=============三三三三====================================97 STEP 2: Implement sparseAutoencoder CostYou can implement all of the components (squared errorcost, weight decay termsparsity penalty) in the cost function at once, butit may be easier to do%o it step-by-step and run gradient checking (see STEP3 after each stepWecurer:YiBinYUyuyibintony@163.com,WuYiUniversityning, MATLAB Code for Sparse Autoencod6/57train. m vb suggest implementing the sparseAutoencoder Cost functionusing the following steps(a) Implement forward propagation in your neural networland implement the%squared error term of the cost function. Implementbackpropagation tocompute the derivatives. Then (using lambda=beta=(run gradient Checking%to verify that the calculations corresponding tothe squared error costterm are correctcurer:YiBinYUyuyibintony@163.com,WuYiUniversityning, MATLAB Code for Sparse Autoencod7/57train. m vl(b) Add in the weight decay term (in both the cost funcand the derivativecalculations), then re-run Gradient Checking toverify correctnessl (c) Add in the sparsity penalty term, then re-run gradiChecking toverify correctnessFeel free to change the training settings when debuggingyour%o code. (For example, reducing the training set sizecurer:YiBinYUyuyibintony@163.com,WuYiUniversityning, MATLAB Code for Sparse Autoencod8/57train m vl/number of hidden units may make your code run fasterand setting betaand/or lambda to zero may be helpful for debuggingHowever, in yourfinal submission of the visualized weights, please useparameters web gave in Step 0 abovecoS七grad]sparseAutoencoderCost(theta, visibleSize,hiddensize, lambda,sparsityParam, beta,patches)二〓二二二二二二二〓二〓二〓二〓=二====〓=curer:YiBinYUyuyibintony@163.com,WuYiUniversityning, MATLAB Code for Sparse Autoencod9/57train.m vlll96% STeP 3: Gradient CheckingHint: If you are debugging your code, performing gradienchecking on smaller modelsand smaller training sets (e. g, using only 10 trainingexamples and 1-2 hiddenunits) may speed things upl First, lets make sure your numerical gradient computationis correct for a%o simple function. After you have implemented computeNumerun the followingcheckNumericalGradientocurer:YiBinYUyuyibintony@163.com,WuYiUniversityDeep Learning, MATLAB Code for Sparse Autoencode10/57
- 2020-12-05下载
- 积分：1
通信原理MATLAB仿真实验指导书
通信原理MATLAB仿真实验指导书V3.0最终版内容很全的实验指导书通信原理仿真实验指导书林志谋目录实验:基础实验的建模仿真实验:信道与噪声仿真实验:调制与解调仿真实验:调制与解调仿真实验调制与解调仿真实验编码与解码仿真实验:单极性码与双极性码眼图仿真实验调制与解调仿真实验调制与解调仿真实验调制与解调仿真实验:循环码的差错控制系统仿真综合实验:通信系统的仿真附录程序设计通信原理仿真实验指导书林志谋实验:基础、实验目的:.熟悉开发环境掌握矩阵、变量、表达式的各种基本运算熟悉和了解图形绘制程序编辑的基本指令;熟悉掌握利用图形编辑窗口编辑和修改图形界面,并添加图形的各种标注掌握等指令格式和语法二、实验原理:基础知识程序设计语言简介的缩写,是由公司升发的一套用科学工程计算的可视化髙性能语言,具有强大的矩阵运算能力。与大家常用的和等高级语言相比,的语法规则更简单,更贴近人的思维方方式,被称为“草稿纸式的语言”软件主要由主包、仿真系统()和工具箱()主大部分组成。界面及帮助基本界面如图所示,命令窗口包含标题栏、菜单栏、工具栏、命令行区、状态栏、垂盲和水平波动条等区域。标题栏菜单栏工具栏命令行区状态栏垂直和水平瘕动条)ATLA日? Ntt Dr ivory C MATLA86A5B=iwuEy1山具C2 dPubLe wrE田用田田3TZ doublE Wra面自172自的272 double ra9 dpublE rsa double wremn■double r电田ydoubl mri1.00000mm-0.1.0>I Workspace cuuneniDIncnpiF国]47【7.193,E,日:151117笔k【7,19B,z,B1,45图基本界面()菜单栏在主窗凵的菜单栏,共包含和个菜单项菜单项:菜单项实现有关文件的操作。通信原理仿真实验指导书林志谋菜单项:菜单项用于命令窗∏的编辑操作。菜单项:菜单项用于设置集成环境的显示方式。菜单项:菜单项用于设置的操作。菜单项:主窗口菜单栏上的菜单,只包含一个子菜单用」关闭所有打开的编辑器窗凵,包括和窗凵。菜单项菜单项用于提供帮助信息()工只栏主窗∏的工具栏共提供了个命令按钮。这些命令按钮均有对应的菜单命令,但比菜单命令使用起来更快捷、方便,()命令行区按以下顺序对输入命令进行解释:检查它是否是工作空间中的变量,实则显示变量内容检查它是否是嵌入函数,是则运行之。检查它是否是子函数。检查它是否是私有函数检查它是否是位于搜索路径范围內的函数文件或脚本文件甲有以下几种方法可获得帮助()帮助命令()是查询函数相关信息的最直接方式,信息会直接显示在命令窗中键入,会显示相关信息命令可以从键入的关键字列出所有相关的题材,和/相比覆盖范围更广,可查找到某个主题所有词组或短语。()帮助窗凵()提供与帮助命令相同的信息,但帮助窗凵界面更为方便直接。()帮助桌面()通过在命令窗口中选择帮助菜单的“选项或键入命令即可进入帮助桌面。()在线帮助页是帮助桌面的在线帮助均有相应的格式文件。网站,对于连接入的用户通过公司的网站询问有关问题。熟悉环境桌面和命令窗口、命令历史窗、帮助信息浏览器、工作空间浏览器文件和搜索路径浏览器。掌握常用命令除命令窗口中内容清除工作空间中变量对所选函数的功能、调用格式及相关函数给出说明查找具有某种功能的函数但却不知道该函数的准确名称査询工作空间中的变量信息变量与运算符变量命名规则如下()变量名可以由英语字母、数字和下划线组成()变量名应以英文字母开头()长度不大于个()区分大小写中设置了一些特殊的变量与常量,列于下表。表的特殊变量与常量变量名1功能说明变量名功能说明默认变量名,以应答最小的正实数最近一次操作运算结果通信原理仿真实验指导书林志谋或虚数单位无穷大圆周率不定值(浮点数的相对误差网数实际输入参数个数最大的正实数函数实际输出参数个数运算符,通过下面几个表来说明的各种常用运算符表算术运算符操作符功能说明操作符功能说明矩阵左除数组左除矩阵乘矩阵右除数组乘数组右除矩阵乘方矩阵转置数组乘方数组转置表关系运算符操作符功能说明等于不等于大于小于人于等于小于等于逻辑运算符逻辑运算符逻辑运算说明逻辑与逻辑或逻辑非逻辑异或表特殊运算符号功能说明示例符号功能说明例分隔行分隔列注释构成向量、矩阵调用操作系统命令构成单元数组用于赋值1的一维、二维数组的寻访通信原理仿真实验指导书林志谋表了数组访问与赋值常用的相关指令格式指令格式指令功能数组中指定行、指定列之元素组成的子数组数组中指定行对应的所有列之元素组成的了数组数组中指定列对应的所有行之元素组成的了数组数组中各列元素首尾相连组成的“维长列”了数组维长列了数组中的第个元素数组中指定行、指定列之元素组成的子数组的赋值数组仝元素赋值,保持的行宽、列长不变,、两组几素总合应相同的基本运算表两种运算指令形式和实质内涵的异同表数组运算矩阵运算指令含义含义非共轭转置共轭转置把标量赋给的每个元素标量分别与元素之和标量分别与元素之差标量分别与元素之积标量分别与每个元素之积标量分别被的元素除阵的逆乘的每个元素自乘次阵为方阵,自乘次对各元素分别求非整数幂方阵的非整数乘方对应元素相加矩阵相加对应元素相减矩阵相减对应元素相乘内维相同矩阵相乘的元素别的对应元泰除右除与上相同左除以自然数为底,分别以的元素为的矩阵指数函数指数,求幂对的各元素求对数「的矩阵对数函数对的各元素求平方根的矩阵平方根函数的常用函数表标准数组生成函数指令含义含义对角形数组(对高维不适用)生均匀分布随机数组单位数组(对高维不适用)E正态分布随机数组产生魔数组(对高维不适用)生全数组产生全数组返回指定矩阵的行数和列表数组操作函数通信原理仿真实验指导书林志谋指令含义提取对角线元素,或生成对角阵以数组“水平中线”为对称轴,交换上下对称位置上的数组儿素以数组“垂直中线”为对称轴,交换左右对称位置上的数组元素在总元素数不变的前提下,改变数组的“行数、列数”矩阵逆时针旋转度方阵的行列式值矩阵的秩三、实验内容和步骤学习使用命令例如在命令窗口输入,然后根据帮助说明,学习使用指令(其它不会用的指令依照此方法类推学习使用观察和等窗口的变化结果,执行前后有什么不同?初步程序的编写练习新建,保存(自己设定文件名,例如……),学习使用的基木运算符、数组寻访指令、标准数组生成函数和数组操作函数。注意:每一次的修改后,都要存盘。二维曲线绘图基本指令演示。指令基本操作演示问题:本例运作后,再试验观察产生图形的有什么不同,为什么?问题:本例运作后,再试验观察产生图形的有什么不同,为什么?问题:本例运作后,再试验观察产生图形的有什么不同,为什么?用图形表示连续调制波形及其包络线。通信原理仿真实验指导书林志谋0∈问题请查找的的帮助,想想怎么用行语句来代替卜面这行一句绘制标准三维曲面。函数的调用格式为:凶数的调用格式为还有一个函数,称为多峰函数,常用于三维曲面的演示。图像如下:四、实验报告要求:回答实验内容和步骤上面所有的问题。并总结本次实验遇到了哪些问题?你是怎么解决的?如何避免下次实验再遇到同样的问题?如何在帮助窗口,帮助命令,帮助演示中查找的相关命令和演示程序?软件由几部分组成?各有什么作用?通信原理仿真实验指导书林志谋实验的建模仿真、实验目的熟悉工作环境及特点.掌握线性系统仿真常用基本模块的用法掌握的建模与仿真方法二、实验原理:简介提供的用于对动态系统进行建模、仿真和分析的工具包。提供了专门用」显示输岀信号的模块,可以在仿真过程中随时观察仿真结果。同时,通过的存储模块,仿真数据可以方便地以各种形式保存到工作区或文件中,供用户在仿真结束之后对数据进行分析和处理。另外,把具有特定功能的代码组织成模块的方式,并且这些模块可以组织成具有等级结构的子系统,因此具有内在的模块化设计要求。基于上述优点,成为一种通用的仿真建模工具,)泛应用于通信仿真、数字信号处理、模糊逻辑、神经网终.机控制和虚拟现实等领域。它使用户把精力从编程转向模型的构造。随着实验的不断深入,你们会发现它为用户省去了许多重复的代码编写工作,用户就不必、步步地从最底层廾始编写。如果把动态系统建模仿真过程比作建造房子,那么用高级语言或语言编写的仿真程序的方式就如同是从一堆沙子开始造房子。这不但麻烦,而且有许多重复操作,建造者的精力会大量地浪费在一些相同地例如把沙子变成砖块的事情上,以及如何把它们组在一起变成房子这些技术性的事情.而不能把更多的精力集中用到房子的设计上,这在计算机仿真里,就等于是把精力厦多地投入到某一个具体的算法的设计上,而不是用到模型的设计构造本身,的目的就是让用户能化更多的精力投入到模型设计本身。它首先提供了些基本模块,这些模块就放在上面的库浏览器里.用户可以调用这些模块,而不必再从最基△的做起的每个模块对用户而言都是透明的,用户只需知道模块的输入输出以及模块旳功能,而不必管模块内部是怎么实现。于是,留给用户的事情就是如何连接这些模块来完成自的仿真任务。连接的方式在里是很简单的,例如要连接两个摸块只需要将一个模块的输入和另一个模块的输岀用一根直线连起米就行了。模型构造好之后,用户可以进行仿真、等待结果、或者改变参数,再运行。至于像各个模块在运行时如何执行,时间是如何采样离散系统,事件足如何驱动等等细节性问题,用户可以根木不用去关心,都替你做好了。总之,把那些最没有意思、最烦人的细节都屏蔽掉了,而留绐用户的是一个友好的环境,让用户以最轻松、最有效的万式完成他们感兴趣的东西。启动的方法有很多种,按照的传统方式,只要在的命令窗口中键入:个称为的窗口就会弹出,如下图所示:
- 2020-12-09下载
- 积分：1
