多智能体系统的协同群集运动控制
《多智能体系统的协同群集运动控制》以多智能体系统协同群集运动控制为主线，首先介绍了图论和控制器设计所用到的基础理论知识；其次，分别从拓扑结构的边保持和代数连通度两个角度介绍了连通性保持条件下的协同群集运动控制协议设计方法；进而，针对典型的轮式移动机器人非完整约束模型介绍了连通性保持条件下的协同控制策略，为简化系统复杂拓扑结构，还介绍了基于骨干网络提取的协同群集运动控制策略；书中将个体动态模型提升到高阶非线性系统模型，介绍了高阶非线性系统协同控制协议设计方法；最后，针对多智能体系统非合作行为检测与隔离进行了详细介绍，并提出了相关算法。内容简介本书以多智能体系统协同群集运动控制为主线,首先介绍了图论和控制器设计所用到的基础理论知识;其次,分别从拓扑结构的边保持和代数连通度两个角度介绍了连通性保持条件下的协同群集运动控制协议设计方法;进而,针对典型的轮式移动机器人非完整约束模型介绍了连通性保持条件下的协同控制策略,为简化系统复杂拓扑结构,还介绍了基于骨干网络提取的协同群集运动控制策略;书中将个体动态模型提升到高阶非线性系统模型,介绍了高阶非线性系统协同控制协议设计方法;最后,针对多智能体系统非合作行为检测与隔离进行了详细介绍,并提出了相关算法。本书可作为系统与控制及其相关研究领域的科研工作者、工程技术人员、高等院校师生的参考书,也可作为研究生和高年级本科生的教科书。图书在版编目(CIP)数据多智能体系统的协同群集运动控制/陈杰,方浩,辛斌著.一北京:科学出版社,2017(系统与控制丛书)ISBN978-7-03-051165-2L.①多…Ⅱ.①陈…②方…③辛…Ⅲ.①人工智能-研究Ⅳ.①TP18中国版本图书馆CP数据核字(2016)第310934号责任编辑:杨向萍裴育纪四稳/责任校对:桂伟利责任印制:张倩/封面设计:蓝正舞学出服出版北京东黄城根北街16号邮政编码:100717http://www.sciencep.com京通州皇家印刷厂印刷科学出版社发行各地新华书店经销2017年1月第一版开本:720×10001/162017年1月第一次印刷印张:1414字数:268000定价:95.00元(如有印装质量问题,我社负责调换)《系统与控制丛书》编委会主编:郭雷中国科学院数学与系统科学研究院副主编:陈杰北京理工大学编委:洪奕光中国科学院数学与系统科学研究院黄捷Chinese University of Hong Kong姜钟平Polytechnic Institute of New YorkUniversity USAFrank lewisUniversity of Texas at Arlington, USA林宗利University of Virginia, USA申铁龙Sophia University, Japan谈自忠Washington University, USA谢立华Nanyang Technological UniversitySingapore殷刚Wayne State University, USA张纪峰中国科学院数学与系统科学研究院周东华清华大学编者的话我们生活在一个科学技术飞速发展的信息时代,诸如宇宙飞船、机器人、因特网、智能机器及汽车制造等高新技术对自动化提出了更高的要求。系统与控制理论也因此面临着更大的挑战。它必须能够为设计高水平的物理或信息系统提供原理和方法,使得设计出的系统能感知并自动适应快速变化的环境。为帮助系统控制专业的专家、工程师以及青年学生迎接这些挑战,科学出版社和中国自动化学会控制理论专业委员会合作,设立了《系统与控制丛书》的出版项目。本丛书分中、英文两个系列,目的是出版一些具有创新思想的高质量著作,内容既可以是新的研究方向,也可以是至今仍然活跃的传统方向。研究生是本丛书的主要读者群,因此,我们强调内容的可读性和表述的清晰。我们希望丛书能达到这些目的,为此,期盼着大家的支持和奉献!《系统与控制丛书》编委会2007年4月1日序言自20世纪50年代以来,控制科学不断发展,诞生了诸如最优控制、鲁棒控制、非线性控制等众多研究方向以及大量的科研成果,极大地推动了第三次工业革命的发展。但近年来,由于控制对象规模呈爆炸式增长、信息化社会生成海量数据,系统与控制科学作为一门面向应用的学科正面临着许多重大挑战;同时,计算机科学以及人工智能的兴起也为系统与控制科学的发展带来了新的机遇和启示。受到自然界广泛存在的生物种群有序运动现象的启发,多智能体的研究开始受到广大学者的关注。70年代末期,智能体概念初现,主要研究如何通过协作方式分布式求解问题。90年代,多智能体系统涌现出自主性、社会能力、反应性等特性,使多智能体协同成为控制领域的研究热点。目前,多智能体协同已经应用于智能机器人交通控制、柔性制造、网络自动化和作战智能体模型等领域。毫无疑问,未来几年多智能体协同仍将吸引更多学者的广泛关注,继续在系统与控制科学的发展中扮演十分重要的角色。多智能体协同控制所要解决的根本问题在于如何设计合理的控制协议来协调多个个体统一完成任务,这与传统基于单一对象的控制理论有很大的区别。陈杰教授团队对此进行了大量的研究工作,并取得了很好的研究成果。该书以多智能体系统协同群集运动控制为主线,结合作者在该领域多年的研究积累及国内外最新的研究成果,给出了基于代数连通度估计、基于骨干网络等多种分布式群集运动控制方法,同时考虑了系统连通性保持、模型参数不确定性、多任务约束等诸多限制条件,扩展了相应成果的应用范围。全书内容丰富,论述深入浅出,既有严谨的理论推导与证明,又有数值仿真与实物实验验证,是一本难得的介绍控制理论在多智能体协同控制方面最新研究进展的学术专著。当前世界正在发生着深刻的变革,以互联网产业化、工业智能化、工业一体化为代表的第四次工业革命正悄然到来。该书所研究的内容顺应了当前工业发展的潮流,在民用、军用等领域有着广阔的应用前景,也非常适合相关领域的学者和工程技术人员参考阅读。序言我相信,该书的出版能够对多智能体协同控制领域的研究发展有所帮助,也希望作者能够在该方向上持续研究,取得更多的高水平研究成果。郑列了西安交通大学教授中国自动化学会理事长中国工程院院士2016年12月前言智能体的概念来源于分布式人工智能的思想,通常而言,可以把智能体定义为用来完成某类任务,能作用于自身和环境、有生命周期的一个物理的或抽象的计算实体。智能体的特点是具有自主性、局部通信/感知能力、分布式协作能力、任务分解能力、自适应性和推理能力。而多智能体系统是由多个智能体组成的具有松散耦合结构的,并且通过系统中智能体之间以及智能体与环境之间的通信、协商和协作来共同完成单个智能体( Agent)因能力、知识或资源上的不足而无法解决的问题的系统。多智能体系统通过相互协作,可以完成超出它们各自能力范围的任务,使得系统整体能力大于个体能力之和。鲁棒性、分散性、自组织性是多智能体系统动态行为的基本特征。多智能体协同控制是目前控制科学研究领域的一个热点课题在许多国际期刊及会议中,每年均有大量关于多智能体系统的研究文章出现。多智能体系统由个体的动态模型、通信网络拓扑、分布式控制律(或者协议/规则)三个基本要素构成。本书以多智能体系统协同群集运动控制为主线,围绕上述三个基本要素,首先介绍图论和控制器设计所用到的基础性理论等背景知识;其次面向典型应用,考虑实际约東条件,分别从拓扑结构的边保持和代数连通度两个角度介绍通信连通性保持条件下的协同群集运动控制协议设计方法;进而,从个体动态模型和拓扑结构模型两方面继续深入,针对典型的轮式移动机器人非完整约束模型介绍连通性保持条件下的协同控制策略,为简化系统拓扑结构对控制器设计的影响,介绍基于骨干网络提取的协同群集运动控制策略;书中还将个体动态模型由简单的一阶、二阶线性模型提升到高阶非线性系统模型,介绍高阶非线性系统协同控制协议设计方法;最后针对多智能体系统非合作行为检测与隔离进行详细介绍,并提出相关算法。本书内容自成体系,旨在向读者详细介绍多智能体系统协同群集运动控制的基础理论和最新研究成果本书由11个章节构成。第1章为基础知识部分,首先对多智能体群集运动控制、一致性控制以及非合作行为检测与补偿进行全面的综述,其次介绍在理论推导过程中所用到的代数图论的基础理论知识。第2章介绍在无法获取动态领航者智能体的加速度信息的条件下,进行连通性保持的有界群集运动控制方法。第3章从前言全局连通性的角度,介绍基于代数连通度分布式估计的连通性保持控制方法。第4章针对非完整约束轮式机器人,介绍连通性保持下的多移动机器人群集控制。第5章介绍层次型骨干网络的建立方法,以及基于骨干网络提取的协同避障运动控制方法。第6章针对参数不确定的高阶非线性多智能体系统,设计分布式控制器实现系统的一致性。第7章针对 Brunovsky型高阶非线性多智能体系统,设计分布式一致性控制器。第8章针对高阶非线性多智能体系统,设计自适应鲁棒一致性控制器,并对控制器性能进行分析。第9章在多任务约束下,设计多智能体一致性控制器。第10章介绍一阶多智能体系统的非合作行为检测、隔离与修复算法。第11章介绍基于邻居相关状态的多智能体非合作行为检测与隔离算法。感谢中国自动化学会控制理论专业委员会、《系统与控制丛书》编委会对本书出版的大力支持。本书得到了国家杰出青年科学基金项目(60925011)、国家自然科学基金创新研究群体项目(61321002、61621063)、国家自然科学基金重大国际合作研究项目(61120106010)、国家自然科学基金项目(61573062、61304215、61673058)、北京市优秀博士学位论文指导教师科技项目(20131000704)的资助,在此表示衷心的感谢。同时,还要感谢本领域相关同行学者在本书撰写过程中给予的热心支持,以及毛昱天、黄捷、杨庆凯、李俨、尉越、卢少磊、吴楚、王雪源、商成思、开昰雄、罗明等同学对本书出版给予的大力帮助。由于作者水平有限,书中疏漏和不妥之处在所难免,敬请读者批评指正。作者2016年11月目录编者的话序言前言第1章绪论··················.······1.1多智能体分布式群集运动控制12多智能体一致性控制概述51.2.1低阶积分器多智能体一致性……1.2.2高阶线性多智能体一致性…111.2.3高阶非线性多智能体一致性1713多智能体非合作行为检测与补偿概述2114代数图论背景知识…………26第2章连通性保持条件下多智能体系统群集运动控制3121研究背景3122问题描述312.3领航跟随群集运动控制律∴……………………………·3224稳定性分析……………3425仿真和实验372.51数值仿真37252实物实验,,,,·,,,,,………………402.6结论………………43第3章基于代数连通度估计的多智能体系统群集运动控制·4431研究背景443.2问题描述…………………………………………443.3控制律设计∴………………4634入2的分布式估计473.5稳定性分析52
- 2020-12-11下载
- 积分：1
RBM 算法理解
RBM 算法理解 这份笔记参考了很多网上的资源，也加入很多自己的理解和详细推导， 非常适合初学者使用， 这篇笔记属于复合型产物，感谢那些网上无私奉献自己心得的人们。RBM能量模型这里说一下RBM的能量模型,这里关系到RBM的理解能量模型是个什么样的东西呢?直观上的理解就是,把一个表面粗糙又不太圆的小球,敚到一个表面也匕较粗糙的碗里,就随便往里面一扔,看看小球停在硫的哪个地方。一般来说停在碗底的可能性比较大,停在靠近碗底的其他地方也可能,甚至运气好还会停在碗口附近(这个碗是比较浅的一个碗):能量模型把小球停在哪个地方定义为一种状态,每种状态都对应着个能量,这个能量由能量函数来定义,小球处在某和状态的概率(如停在碗底的概率跟停在碗口的慨率当然不一样)可以通过这种状态下小球具有的能量来定义(换个说法,如小球停在了碗∏附近,这是·种状态,这个状态对应着一个能量,而发生“小球停在碗口附近”这种状态的概率,可以用来表小,表小成,其中是能量函数),其实还有一个简单的理解,球在碗底的能量一般小于在碗边缘的,比如重力势能这,显然碗底的状态稳定些,并且概率大些,就是我认为的能量模型。1.概率分布函数。各个节点的取值状态是概率的、随机的,这里用了3种概率分布来描述整个RBM网络,有联合概率密度,条件概率密度和边缘概率密度2.能量函数。随机神经网络的基础是统计力学,差不多思想是热力学米的,能量函数是描述整个系统状态的一种测度。系统越有序或者概率分布越集中(比如小球在碗底的情况),系统的能量越小,反之,系统越无序并且概率分布发散(比如平均分布),则系统的能量越大,能量函数的最小值,对应着整个系统最稳定的状态RBM能量模型的作用是什么呢?为什么要弄清楚能量模型的作用呢?第一、RBM网终是一种无监督学习的方法,无监督学习的目的自然就是最大限度的拟合输入数据和输出数据。第二、对于组输入数据来说,如果不知道它的分布,那是非常难对这个数据进行学习的。例如:如果我们实现写出了高斯函数,就可以写出似然睬数,那么就可以进行求解,就知道大致的参数,所以实现如果不知道分布是非常痛苫的·件事情,但是,没关系啊,统计力学的一项硏究成果表明,任何概率分布都可以转变成基于能量的模型,即使这个概率分布是未知的。我们仍然可以将这个分布改写成能量函数第三、能量函数能够为无监督学习方法提供个特殊的东两)日标函数b)标解换句话说,使用能量模型使得学丬一个数据的变得容易叮行了。能否把最优解的求解嵌入能量模型中至关重要,决定着我们具体问题求解的好坏。能量模型要捕获变量(这里我理解的是各个分量之间的关系)之间的相关性,变量之间的相关程度决定了能量的高低。把变量的相关关系用图表是一个图,以概率为测度,所以是概率图)模型的能量模型。由上面所说,RBM是一种概率图模型,既然引入了概率,那么就可以通过采样技术来求解,在CD( contrastive diⅳ vergence)算法中采栟部分扮演着模拟求解梯度的角色。能量模型需要定义一个能量函数,RBM能量函数如下:()=∑∑∑∑这个式子的含义非常明显,每个节点有一个能量, hidden和wsbe之间的连接也有个能量,如何求解呢?如果ⅵ isible有组取值(1,0,1),对应的 hidden取值是(1,0,1,01,0,分别带入上面的公式,最后得到的结果就是能量,这里要注意到()里面的地位是相等的,不存在先后顺序,这是一个结构整体的能量值为什么要搞能量函数?前面指出未知分布不好求解但是可以通过能量函数米表示,那么能量函数的概率模型很大程度上可以得到未知分布的概率模型,这样大致就知道了未知分布的分布既然知道了—个RBM网络 hidden和 visible整个框架的能量函数,那么可以定义这个能量函数(能量)出现的概率,很显然这个能量的出现与 hidden和sbe的每个节点的取值都有关系,那么这个能量出现的概率就是和的联合概率密度里可以将能量函数理解成小球在碗里面具体的一个位置所具有的一个能量,那么联合概率密度就是能量也就是这个状态出现的概率)这个概率不是随便定义的,是有统计热力学解释的定义了联合概率密度,那么我就可以得到一个分布,现在再回来前面的知识,可以得到1最初是未知分布的数据,求解参数,完全无从下手2.将未知分布的数据与能量函数联合在起3定义这个能量函数出现的概率,其实也就是对应着未知分布数据一个函数出现的概率4我们可以得到能量函数的概率分布,这个分布就叫 Gibbs分布,这里不是一个标准的Gibs分布,而是一个特殊的 Gibbs分布,这个分布有一组参数,其实就是能量函数中的那儿个前面知道∫下面可以得到边缘概率密度和()∑∑也可以得到条件概率密度和∑∑从概率到极大似然上面的内容已经得到了Gb分布的各种概率密度函数,现在回到最初的目的,即求解让RBM网络表示的Gibs分布最大可能的拟合输入数据,或者换一种说法,求解的目标可以认为是让RBM网终表示的 Gibbs分布与输入样本的分布尽可能的接近现在的小问题是“最大可能的拟合输入数据"这句话怎么定义:假设表小样本空间,即里面含有很多个不同的,是输入样本的分布,()表示训练样本的概率,再假设是RBM网络表示的 Gibbs分布的的边缘分布,即可以理解成每种不同情况的都对应着一个概率。输入样本的集合定义为,那么样木真实的分布和RBM网络表示的边缘分布的KL距离就是2者之间的差异性(KL的详细讲解见附录),样本的真实分布(什么是样本的分布?见附录)与RBM网络表示的边缘分布的KL距离如下所示()20)-0=2()0)2()(如果输入样本表小的分布与RBM表小的Gbbs分布完全符合,这个KL距离就是0,否则是一个大于0的数山附录对熵的定义(在KL讲解里面)可知,上面)的第一项是输入样本的熵,这个是·个固定的数,输入样本固定了,熵就固定了,第二项明显无法直接求。由KL的性质可知,KL是一定大于0的,那么当第二项最大的时候,整个KL最小,我们本来的日的也是求KL最小。注意到第二项-∑()()中的()当样木固定的时候,是固定的而函数是递增的,即当∑()最大即可。在实际应用中,我们采用的是∑(),其中是样本的个数。这里的-∑()就是极大似然估计(这里大家可以∈代替了∈Ω,这是为什么呢?拿一个2维向量来说,(1,0),(1,1),(0,0)这3个的概率和是1,(0,1)出现的概率是0,那么样本空间是(1,0),(1,1),(0,0),但是我们采样的时候只采样到∫(1,0),(1,1),那么这次的输入样本的集合就是(1,0)(1,1))。结论就是求解输入样本的极大似然,就能让RBM网络表示的 Gibbs分布和样本本身表示的分布最接近。求解极大似然这里对似然的定义参考我的另一篇笔记EM算法这个样本从所有样本被取到的概率为0)=∏(b)b∈6()=(0)=∑(0)c⊙在RBM模型中,上面的似然函数写成(上面的式子中是样本,也可以理解为一个isbe节点):(O)-(0)-l()O∈()=∏(b)=∑()0∈对这个函数进行求导02(066∈⊙66我们由能量模型应该也知道了()的概率∑,那么下面开始求导∑06∑c8上面这个式子一定要注意一个问题,即第一项的和第二项的00是不一样的。第一项的是固定的里面的取多少它就取多少而第二项里面的是所有可能的,其实这个细节也可以从∑和∑中发现出来()注意到()和,上面的式子可以写成∑0606∑()∑x((2m0)2x(2m0606第一项和第二项分别是和的期望,这2个是不同的,第一060个求在下的期望,第二项求的是这个函数在概率()下的期望。将O和()由最前面的东西代换,可得到以下3个式了∑∑∑∑∑∑()∑∑()∑()∑∑(这里用到了一个技巧∑这里∑是指hden中第个向量为0,其他分量的值任取的一组向量。?岁∑()∑()∑()∑()∑∑∑∑)-∑()-∑∑()()-∑()∑()∑∑=∑()-∑∑()()=∑()-∑()∑())-∑()(可以发现和的第二项都含有∑,这意味着要对进行遍历,这明显不可能,但是算梯度需要怎么小呢?这时就可以通过 markov采样来算,只要抽取一堆样本,这些样本符合RBM网络表示的Gibs分布,就可以把上面3个偏导数算出来。具体的处理过程是对于每个训练样本,都用某种抽样方法抽取一个对应的,这个是符合RBM网络所表示的Gbs分布的。那么对于整个训练集{米说,就得到一组对应的符合RBM网络表示的Gibs分布的样本集{然后拿这个样本去估算第二项∑,那么梯度就可以用以下的式了来近似了:()(=)-∑()(=)-∑()上面的式子中表小第个训练样木,是所对应的符合RBM网络表小的Gs分布的样本,在式子中用表示。梯度求出来了,就可以求解了,最后不断迭代就可以得到
- 2020-12-11下载
- 积分：1
