最新哈工大智能控制神经网络课件第一课 人工神经网络理论及应用课件PPT.ppt 58页

'哈工大智能控制神经网络课件第一课人工神经网络理论及应用 主要内容引子：神经网络特点发展历史应用模型、结构与学习算法关于课程 神经网络特点——引子一小段视频(“TheMatrix”,1998)；问题：机器是否能模拟人的思维？如果有一天，机器能够模拟人的所有感觉电信号，并且具有决策判断能力，那么如何定义“智能？” 大脑对信息的分布存储和并行处理不是相互独立的，而是相互融合的；即每个神经元都兼有信息处理和存储功能。神经元的连接强度的变化，既反映了对信息的记忆，又与神经元对激励的响应一起反映了信息的处理；大脑对信息的提取，是寻找与处理过程的融合cmp计算机线寻址再存取生物神经网络特点III——信息与处理合一 人脑在生长的过程中具有良好的可塑性；不同能力发展：语言，运动，推理；大脑可通过内部神经网络的自组织、自学习能力不断适应外界变化。“熟能生巧”反映的就是自组织能力。e.g.反复从事一项工作时，工作的各项技术特征就会“融化”在大脑的神经元中，随着工作的反复进行，提高神经元对这些技术特征及操作要领的灵敏度生物神经网络特点IV——可塑性与自组织性 结构极为简单的神经元，通过系统的组合功能效应，完成复杂的信息处理；大脑对信息的处理分层次进行：初级皮层->颅顶区皮层->脑前额叶；cmp数字计算机存储／计算均为线性关系，不存在层次性。生物神经网络特点V——层次与系统性 人工神经网络——介绍人工神经网络(ANN)是从微观结构与功能上模拟人脑神经系统而建立的一类模型，是模拟人的智能的一条途径。人工神经网络信息处理由人工神经元间的相互作用来实现，由联接权来传递，具有学习能力、自适应性、联接强度的可变性。 神经网络是人脑的抽象、简化和模拟，反映了人脑功能的若干基本特征：网络的信息处理，由神经元间的相互作用实现，具有并行处理的特点；知识与信息的存储，表现为神经元间分布式的物理联系；网络的学习和识别，决定于神经元联接权系数的动态演化过程；具有联想记忆特性。人工神经网络特点 神经网络发展历史：产生和初步发展核心：对人类神经系统的模拟萌芽：19世纪末~20世纪初神经生理学；创始：1943年，McCulloch和W.Pitts，提出NN数学模型；1949年，Hebb规则初步发展：1958年，Rosenblatt感知机和联想学习1960年，Widrow和HoffADALINE学习算法 停滞期1969年Minsky“Perceptron”XOR问题缓慢发展期二十世纪七十年代1976GrossbergART1972KohonenSOM福岛邦彦Cognition中野馨AMM原因：理论问题和实现问题同期相关理论：Marr视觉计算理论和Poggio初级视觉神经网络发展历史：缓慢发展 神经网络发展历史：复兴期标志：1982Hopfield解决TSP问题1986Rumelhart和McClellandBP计算机的大众化和计算技术的迅速普及新型神经网络提出RBFNFNNHopfield网络Boltzman机 神经网络应用在各个行业均有应用，擅长的有：模式识别人工智能控制工程优化分析和联想记忆信号处理 神经网络应用——模式识别模式识别本质上是一种分类操作。NN应用包括图像处理语音识别雷达及声纳信号识别药物构效关系分子与生物DNA 神经网络应用——人工智能模拟人的推理判断过程，NN应用包括自然语言理解：自动翻译，输入法模拟专家医学诊断市场/股票分析故障诊断博弈：政策，下棋 神经网络应用——控制工程完成复杂非线性对象的控制，NN应用包括：模型辨识自适应控制：控制器自适应改变改进PID控制：自动调整PID参数鲁棒控制模糊控制：模糊神经控制 神经网络应用——优化计算用于在大量、复杂的搜索空间内寻找最优解系统规划组合优化智能交通管理货物调度航班分配 神经网络应用——信号处理主要用于自适应信号处理，NN应用包括自适应滤波；自适应编码；系统辨识(和控制领域交叉)；故障诊断(和人工智能领域交叉)；信号估计和特征提取弱信号检测 神经网络应用——应用领域(1)航空航天：自动驾驶仪，部件故障检测汽车：自动驾驶系统，故障检测银行：风险评估，投资预测武器工业：指导，目标跟踪与识别，雷达金融业：有价证券交易，决策支持制造业：缺陷检测，生产过程控制，优化保险业：政策应用评估，产出最优化 神经网络应用——应用领域(2)医药：模拟专家诊断，CT、心电分析石油：勘探，油井检测与效用分析电子：自动布线，芯片检测机器人：行走/机械臂控制，机器人视觉交通：智能监控，车流控制，车辆调度 神经网络应用实例(1)美国海湾沿岸炼油厂利用神经网络增加产品回收率BP-Amoco公司得克萨斯城炼油厂原油蒸馏装置加工能力大于2000万吨/年，原油经预热，并分割成五股物流：塔顶物流（去蒸汽回收）、石脑油、煤油、柴油（主要产品）和塔底物流。装置采用在线分析仪控制迟后时间长达30min以上，为此竭力寻求减少物流数据应答时间的办法。1996年起，炼厂使用了GenSym公司G2诊断支持(GDA)软件和采用GenSym公司Neur-On-Line建立的三个神经网络模型，以控制蒸馏过程，神经网络模型的开发可在分析仪不可靠时或价格过于昂贵时用以推断过程物流数据。Neur-On-Line模型可提供质量数据的瞬时估算值，它可表达为馏分的沸点温度。该值然后可用于闭环控制。该先进控制系统用于闭环控制的投用率大于95％，估算回收产品的节约金额超过$50 万/年。 神经网络应用实例(2)CA有限公司发布了首度成功运用其先进的神经网络技术（Neugents）实现的企业管理产品UnicenterTNGNeugents管理解决方案。Neugents技术产品的成功面世，标志着商务应用系统进入了一个新纪元——实现了现有常规趋势分析和资源分析解决方案所无法达到的预报分析精度和准确度，使人们对系统未来可能发生的性能或可用性故障加以预测、预防。也就是说，它使企业IT部门彻底从传统的工作方式中解脱出来——掌握如何防止故障发生，而不再是等到故障发生后再去想办法解决。Neugents之所以能够实现上述重要功能，是因为它具备较完善的“自学习”能力。这种“自学习”功能使得Neugents能够日积月累地不断吸取新信息并形成知识，然后将所积累的知识自动应用于新环境中。 神经网络应用实例(3)赛门铁克公司日前宣布将IBM的专利技术-神经网络启动监测技术集成到NortonAntiVirus产品之中。这一神经网络技术利用人工智能监测启动性病毒，补充了赛门铁克创新的Bloodhound启发式技术，该技术通过专家系统确认类似病毒行为，以达到监测启动病毒的目的。IBM的神经网络启动监测技术通过模仿人的神经细胞来区分被病毒感染和未感染的电脑启动记录，因而该技术提供了更全面的安全保护。神经网络接受许多病毒和非病毒的样本，因而学会了辨认病毒 演示神经元模型 细胞体：由细胞核、细胞质和细胞膜等组成。树突：胞体上短而多分枝的突起。相当于神经元的输入端，接收传入的神经冲动。轴突：胞体上最长枝的突起，也称神经纤维。端部有很多神经末稍传出神经冲动。突触：神经元间的连接接口，每个神经元约有1万～10万个突触。神经元通过其轴突的神经末稍，经突触与另一神经元的树突联接，实现信息的传递。由于突触的信息传递特性是可变的，形成了神经元间联接的柔性，称为结构的可塑性。细胞膜电位：神经细胞在受到电的、化学的、机械的刺激后，能产生兴奋，此时，细胞膜内外有电位差，称膜电位。电位膜内为正，膜外为负。神经元模型——结构 兴奋与抑制：当传入神经元的冲动，经整和，使细胞膜电位升高，超过动作电位的阈值时，为兴奋状态，产生神经冲动，由轴突经神经末稍传出。当传入神经元的冲动，经整和，使细胞膜电位降低，低于阈值时，为抑制状态，不产生神经冲动。学习与遗忘：由于神经元结构的可塑性，突触的传递作用可增强与减弱，因此，神经元具有学习与遗忘的功能。神经元模型——学习 列举两种分类方式：按联接方式：前馈（前向）型与反馈型按学习方式有导师的学习（监督学习）无导师的学习（无监督学习）再励学习（强化学习）它们都是模拟人适应环境的学习过程的一种机器学习模型，因此，具有学习能力的系统，称为学习系统（学习机）神经网络——分类 前馈型神经网络 反馈型神经网络u(t)y(t) 有导师的学习（监督学习）在学习过程中，网络根据实际输出与期望输出的比较，进行联接权系的调整，将期望输出称导师信号是评价学习的标准（见图）。期望输出实际输出学习机输入NN比较 无导师的学习（无监督、或称自组织)无导师信号提供给网络，网络能根据其特有的结构和学习规则，进行联接权系数的调整，此时，网络的学习评价标准隐含于其内部（见图）。实际输出学习机输入NN自我比较 再励学习（强化学习）把学习看为试探评价过程，学习机选择一动作作用于环境，环境的状态改变，并产生再励信号反馈至学习机，学习机依据再励信号与环境当前的状态，再选择下一动作作用于环境，选择的原则是使受到奖励的可能性增大（见图）。状态输入NN1NN2学习机输出---动作环境re 课程与其他学科关联模式识别：监督学习，无监督学习函数逼近论：逼近能力最优化方法：学习算法控制论：反馈网络，稳定性模糊数学：模糊神经网络 课程主要研究角度I——函数逼近给定一个函数f(x),设计逼近函数使误差小于给定误差。 课程主要研究角度II——模式识别给定一组数据{xi},确定Q个分类，使 课程主要内容神经网络基本结构，BP网络及学习算法其他类型网络神经网络应用与实例 神经网络基本结构网络基本结构与学习算法BP网络基本结构与学习算法BP算法改进BP算法与问题实例 其他类型网络径向基函数网络竞争网络与自组织网络Hopfield网络与联想记忆*随机网络与模拟退火算法*模糊神经网络递归网络(时延网络)*实例演示 神经网络应用与实例神经网络辨识神经网络控制神经网络模式识别应用实例 考核方式平时40%主要来自二次设计作业(10%+30%)如有相互抄袭，平时0分！考试60%——闭卷联系方式科学园E2栋(空间控制与惯性技术研究中心)40386402350-4031屈桢深 参考文献人工神经网络原理——入门与应用适于入门神经网络设计全面介绍，深入浅出神经网络控制神经网络+控制神经网络模型及其MATLAB仿真程序设计IEEETrans.IE,2007(1)“NeuralNetworkApplicationsinPowerElectronicsandMotorDrives—AnIntroductionandPerspective”清晰简洁，适于入门 第十六章德育工作 第一节德育课程一、德育课程的概念与特征（一）概念（二）特征1、育德性2、体悟性（三）德育课程的变革1、生活化2、自主性3、整合性4、拓展性 第一节德育课程二、德育学科课程（一）德育学科课程的设计模式1、单一的学科课程模式2、综合课程模式（二）小学德育学科课程1、概述2、目标与内容（三）初中德育学科课程1、课程目标2、课程内容（四）高中德育学科课程1、概述2、课程目标 第一节德育课程三、综合实践活动德育课程（一）内涵（二）特点（三）价值（四）组织 第一节德育课程四、地方与校本德育课程（一）地方德育课程的开发与实施1、地方德育课程的功能2、地方德育课程的开发3、地方德育课程的实施（二）校本德育课程的开发与实施1、校本德育课程的功能2、校本德育课程的开发3、校本德育课程的实施 第二节学科德育一、学科教学的德育功能与特性（一）学科教学的教育性功能1、学科知识是价值形成的前提2、各科教学本身包括诸多价值因素3、真善美内在的统一性（一）学科德育的特性1、间接性2、情感性3、随机性（三）从“学科渗透”到“学科德育” 第二节学科德育二、学科特色与德育优势的精神性（一）人文学科凸显德育的精神性（二）自然学科凸显德育的神圣性（三）艺术学科凸显德育的享用性 第二节学科德育三、各科教学过程中的德育生活（一）教学中的民主与尊重（二）教学中的竞争与合作（三）教学中的精神愉悦 第三节学校文化一、校园显性文化（一）校园建筑的德育价值1、校园建筑是学校物化环境中产生暗示效应的“主件”2、必须重视校园建筑的教育价值（二）校园仪式的德育价值1、仪式的精神内核是社会秩序2、仪式活动要旨3、仪式活动的心理功能4、校园仪式构建 第三节学校文化二、校园隐性文化（一）校园人际环境1、班级是精神成长的摇篮2、建立和谐人际关系（二）校园精神生活（三）书香校园 第三节学校文化三、学生文化（一）尊重学生权利（二）尊重学生需要 第四节德育评价一、概述（一）德育评价的内涵（二）德育评价的功能1、导向功能2、诊断功能3、强化功能4、调节功能（三）现代德育评价的特点1、生态性2、发展性3、主体性（四）德育评价的策略1、多主体评价策略2、多方式整合策略3、定性与定量相结合策略 第四节德育评价二、德育评价的内容与方法（一）学生思想道德状况的评价（二）学校德育工作的评价（三）德育评价的方法1、问卷调查法2、行为观察法3、情境测验法 第四节德育评价三、发展性德育评价（一）发展性德育评价的理念1、强调评价的真实感2、追求评价的激励性3、回归评价的反思性 第四节德育评价（二）发展性德育评价的操作1、利用现实情境，捕捉真实德育信息2、评价指标内隐化，排除动机干扰3、创设适应性情境，采用生态性评价（三）发展德育评价的激励机制1、激励性他评2、反思性自评（四）重视过程性评价和质性评价1、以评价引导德育的过程2、以质性评定展示德育的进程'