凸函数本科毕业论文

基于FPGA的信号发生器按键LCD模块设计 廖超平激光清洗技术的初步研究和应用 苏春洲，栾晓雨，王海军，袁晓东，叶亚云，Su Chunzhou，Luan Xiaoyu，Wang Haijun，Yuan Xiaodong，Ye Yayun基于SuperMap GIS平台的车辆跟踪系统设计 李琦，李子博，孙光民基于Excel VBA技术的调查问卷系统的实现 张茜浅析海南省技师学院《校园办公自动化(SOA)系统》的设计 陈印霁基于单片机的数字心率计设计 黄川X波段波导窄边定向耦合器的设计 王抗美分析调度优化的数据库管理 王鹏，王雪飞，吴亚明多元化计算机网络传输方式的解析 王岩Word在网页布局中的应用 杨柳，罗俊中小企业办公自动化系统(XPOA)的设计思考 马琴浅谈升级后的广电移动合作系统 殷菲虹，严芳服务器机房虚拟化建设实践与思考 唐宏维对电子数据现场获取存在问题的分析与探讨 王永刚地铁综合监控系统设计与实现 付芳蓉，戴军，洪超PPT课件中的色彩搭配 韩建彬CFK201319浅析Ontology及其与E-learning的关系 董栋浅谈网页设计中的艺术表现形式——艺术与技术相结合 许玲玲超声波风数据异常的分析和解决办法 刘永利浅论电子商务在我国国际贸易发展中存在的问题及对策 王舟光接入网ODN工程规划实例 方国涛，丁业兵，李安庆准能公司“光进铜退”网络改造方案分析探讨 徐琛无线网络最优接入的研究 屠子谦，Tu Ziqian《科技资讯》期刊投稿要求及说明工程测量内业相关关键技术研究 徐清园，孔繁雯应用RTK的线路测量技术研究 张兴元，魏国，王秀玲地铁隧道收敛监测方法应用分析 谭长瑞，张焱基于多波束测深的海洋测绘技术研究 罗杰林基于COMGIS的房产测绘信息系统总体架构设计研究 牛卫东广东某资源勘查项目中GPS布网及数据处理研究 江秀明基于GIS的地震专题图模版绘制 李雅静，赵颖，姜海GPS RTK技术在地质测量中的应用研究 张双，邓清卿，屈夷陵关于山区高速公路的桥梁设计问题探讨 吴星，虞建水电站有压隧洞开挖施工技术探讨 潘祥弟浅析桥梁设计中的仿生理念应用 宣秀珍浅析猴子岩水电站特大断面溢洪洞开挖施工方法 刘旭东浅谈混凝土裂缝处理 钱峰不同地震强度作用下导管架海洋平台的动力响应研究 胡欢焕，蒋建平宜昌某工程岩土勘察技术研究 汪俊，罗关俊，邓燕红，刘彦地下空间利用背景下的城市规划研究 胡婿解析建筑工程电气仪表安装施工要点 伏国运铝热连轧机大件牌坊卸车及吊装方案 陈鑫，黄昆峰基于感知悬架载荷的车辆防侧翻控制策略研究 王奥博，唐炜，赵喻贤汽车雾灯生产流程之精益改善研究 柯佚多管取样器常见故障及原因分析 王俊珠，刘碧荣中厚板铸机动态轻压下控制系统优化 张明辉，Zhang Minghui多层升降横移立体停车库钢结构骨架设计 马静，杨叶，黑正荣液固分离综合单元操作的研究 夏毅，张遥，曾昆，印炜琪，赵天文定位轴在立式转塔磨床上的控制方法 吴湘益基于Pro/Mechnaica的四辊卷板机机架优化 顾明慧高速泵控制系统的改造与应用 孙桂娟，赵洋，顾斌快速处理15MW汽轮机断叶片事故 戴国伟PLC控制技术在自动生产线中的应用 郭淳芳薄煤层托伪顶开采安全高效技术实践 温玉玺工业自动化仪表与自动化的控制技术 于杰工业自动化仪表控制系统的技术 刘敏影响中密度纤维板质量因素及控制探究 姜世明数控车宏程序的研究及椭圆实例加工分析 刘衍益浅析圆管带式输送机的特点和优势 裴红光谈浅掘进工作面的支护与完善 李世雄基于工作实践的水电厂发电控制程序研究 谢再军，侯仰东，彭俊玲火电厂输煤系统含尘污水的简易治理 田赣兰超大型潜孔弧门制造工艺研究 胡井林广州蓄能电站厂用电研究 江淑文分布式发电对配电网继电保护的影响 张杰，李兵垂直单管顺流式采暖系统中立管流量偏差对室温的影响 王莉，柳昊洋，许鹏远实现300MW机组停炉不停机功能的方案探讨 霍凤武，李娜智能化变电站10kVPT计量绕组容量选择研究 王爽，周运波浅谈“智能钥匙管理系统”在紫坪铺电厂的应用 龚晓琴，刘江武一起660 MW汽轮发电机转子匝间短路缺陷的查找与分析 高勇变电站标准化红马甲设计 陆强，丁宇海，LU Qiang，DING Yu-hai谐波对高压输电线路的危害及治理探讨 王洪亮火电厂锅炉引风机故障分析及研究对策 孙鹏浅谈输电线路防外力破坏的方法 姚红刚CFB锅炉煤泥入炉系统的优化设计及应用 赵宗花，王文峰，马志鸿继电保护在智能变电站中的改革与应用 达俊电气化铁路接触网故障分析及防护措施探讨 李涛地市级电网零序电流保护的整定计算分析 康雪琴CFB锅炉高压流化风机节能改造 李思平并联电抗器组合式消弧线圈的特点及其在潘一矿的使用 李红，陈超矿产资源评价理论与方法分析 刘蓓蓓近20年玛多县土地沙漠化时空变化特征分析 郑标，殷青军，李文奇，余金林，刘金锋，ZHENG Biao，YIN Qing-jun，LI Wen-qi，YU Jin-lin，LIU Jin-feng城市生态环境规划的原理与模拟探析 高波苏鲁超高压带的研究现状 曾敏敏，王泽利，陈双艳，何智浩，赵远方大兴安岭林区可持续发展的几点构想 张逢彬城市轨道交通减振降噪措施分级比选研究 张朋成，王雨，曾仲毅，Zhang Pengcheng，Wang Yu，Zeng Zhongyi农村环境污染对三农问题的不利影响及对策分析 李新阳公路环境保护的必要性及保护措施探讨 吴莉浅析人造板甲醛释放来源和部分检测方法的影响因素 王首忠，田泽华汽车尾气对人体健康危害的处理措施 黄妹，林黄果，豆红波青果的综合利用 谢惠波，杨艳，苏红卫，陈润，袁箐，马小英，郑小玲供水管网工程造价控制及可持续发展研究 赵浩辰电力工程造价管理与控制 陈聪有关电力安全施工管理的几点思考 黄超浅谈景电灌区泵站水泵机组震动及运行管理措施 张明慧建筑机电安装施工技术管理研究 史建伟汉中电网“调控一体化”项目实施研究 李阳工程项目管理模式探讨 吴启春，程阳，周玉洁森工企业效益量材法的实施 杜玉娟，肖建北，牛志权，卫元河，王金丽如何降低线损提高电力企业经济效益 宋洁浅析电力行业开展职业技能鉴定的重要性 祁爽企业班组建设的实践与探索 赵菁，韩波浅谈维修养护企业应如何抓好安全管理 黄永刚焊接新专业人才培养方案的设计 金燕校企合作管理模式研究 曹娣，吴慎将，张海庆，Cao di，Wu shenjiang，Zhang haiqing以应用引导工科《线性代数》教学的研究 白梅花运用技术量化评价方法提高普通高校游泳教学质量分析 郭爱民，朱静Multisim10在核电子学课程设计中的应用 刘丽艳，赵修良基于高校困难学生认定工作现状调查的思考 王彦加强高职院校体育课教学质量对策分析 李明昊操作系统实验课程分层次教学方法研究 李红林，徐坚，兰美辉，刘昆，Li Honglin，Xu Jian，Lan Meihui，Liu Kun家庭教育与学校教育模式的协调 王莹浅谈技工学校教师素质 王英项目化教学在计算机教学中的应用 陈钊华神经内科临床护生带教思考与实践 曹静我国大学生职业生涯规划教育的改进策略思考 梁海珊学校体育隐性课程的开发策略研究 王建浅议我国高等院校教师素质 徐秀丽，杨娟，刘宝林浅谈农村幼儿园班级管理 尹召霞职业院校语文教学问题探讨 董吉娜浅论大学里计算机理论的教育方法 江琼琴，高迎斌，金焱明“核环境治理工程”课程建设的经验与思考 曹锦佳，刘红娟，单健，康玺，Cao Jinjia，Liu Hongjuan，Shan Jian，Kang Xi高职院校环保类专业的建设与探讨 周子鹏电路实验课程教学改革与探索 李翠英从「モ一娘。」的读法看日语缩略词的缩略规律 陈莹某卫生类高职校企合作现状探析 潘鹏旅游专业快乐教学策略分析 甘露经济管理类实验室建设问题的探讨 周春梅浅谈各学科在音乐欣赏课中的综合运用 周晶浅谈高中艺术生的化学教学 刘保荣浅谈高校实验室管理 张克浅谈“数控加工工艺与编程”课程的教学方法改革 费姝霞，王宏霞浅谈新课标理念下如何在数学教学中突出学生主体地位 王建昌浅谈如何高效完成初、高物理教学的过度 陆新忠体育游戏在小学体育教学中的作用 郁佳园应用型本科高校商务谈判课程实训教学探索 李玲玲论高职院校财务管理信息化建设 杨雪浅析肿瘤实习医科生医患沟通能力的培养 王晓莉，熊伟《电气类数学及应用》课程教学研究 陈海峰以案例为中心的《环境卫生学》教学新模式 罗皓，唐焕文，邵军丽应用型本科“产、学、研”合作教育模式研究 陈树平，梁咏梅高职院校职业技能鉴定机构质量管理体系的构建 刘晓燕《电子商务》课程教学研究综述 方芳大革命前(1661～1789)法国社会状况的特点及启示 冯德昕，Feng Dexin高等职业教育教材选题策划初探 牛晋芳海南省建设用地报批地块统一编码存在问题及实现方法探讨 陈美无平方因子数倒数和问题的几个估计 张艳娜赴德国InWent学习见闻 孙祎教育支出与经济增长关系的实证研究——基于LMDI模型 段玮装备健康管理技术研究与展望 赵以顺，吴飞，管旭军罂粟替代种植合理化探讨——以澜沧县桉树种植为例 陈彬，杨玲汽车维修专业学生就业应对策略 宋飞关于高层建筑物业管理消防安全工作的探讨 高源唐山市城乡体育公共服务体系的一体化探究 曹英浅析机场运行指挥体系管理 付连伟土地财政模式面临重要拐点分析 周璐平行文本在金融英语汉译中的应用 李晶晶，王慧莹论策划编辑服务能力的重要性及服务能力提高的方法 王若明固原市宣传思想文化工作突出的方面及建立长效机制推动文化建设 王宁霞中国大学生方程式汽车大赛成本分析报告 李晔，从光好，Li Ye，Cong Guanghao自动气象站防直击雷技术的改进 王慧，胡晋，胡新凯区域品牌形象塑造的影响因素研究 宁冉发达国家应急救援管理体系分析及对福建消防部门的启示 邱凯旋装备维修保障能力评估指标体系与方法研究综述 沈剑，黄定东，赵大磊论职业指导在促进大学生就业工作中的作用和重要性 庄艳阳试从积极心理学角度看我国社会主义核心价值理念 陈新颖网络技术在图书馆工作中的应用体现 聂俊涛浅议乡镇图书馆建设的缺失与补救方略 刘文凤浅议微信在图书馆的应用前景 马骥浅谈高校图书馆勤工助学的意义及管理方法 卢晓何 Linux在嵌入式操作系统中的应用 钟华数字滤波器网络结构的SIMULINK仿真 甘庆玉，Gan Qingyu面向逆向工程中点云数据的处理与精简方法 许岚汽车多功能语音监控系统设计 王波，郑鹏飞关于建设智能变电站的问题研究 徐乾，徐宝库IPG YLP系列脉冲参镱激光器的单片机控制 王国运数字电视节目指南EPG的实现方式 张晓强驾校内场智能教练系统模型的初步设计 赵猛，宋震移动存储设备使用过程中的风险及管控 范晓明利用Excel软件中VBA批量计算环境空气质量指数(AQI) 王悦东，阎毅，张华PLC变频供水系统的设计与实现 汤立刚正交实验法优选99mTc-Gd-DTPA-BMA的标记条件 王华丽，曹丰物联网在日常生活中的应用与发展趋势 韩志君浅析网络审计 林丁国基于web的高校毕业论文档案管理信息系统的设计 江小华大学新生入学教育游戏设计探讨 许文俊，宋珠东，黄奕达，李一媛电子商务的安全分析和Java实现 罗兴荣全自动无人值守换热站及热网监控系统 张云锋无线设备监测系统设计与应用 王丽LTE网络中的VoIP语音实现 方国涛岚皋县佐龙镇正沟村WLAN无线网络覆盖方案 袁法，Yuan Fa基于江苏某市实践的平面控制测量技术研究 王立国市政道路路面采样测量技术研究 顾汉忠地形图数据库设计与数据录入维护研究 刘利清基于云计算的摄影测量数据处理模型设计研究 蒋昌晶凤凰颈闸垂直位移观测方法的探讨 万进桃，Wan Jintao海洋多波束测深技术应用研究 廖剑波水下不分散混凝土配合比应用研究 詹思卵石地层及入岩地下连续墙的设计与施工 孙孝林，祁志强，谭昌军，黄仙坤关于水利堤防工程软土地基处理的探讨 于权超长预应力束张拉损失分析及预应力连接工艺 唐维东海堤地基承载性状研究 宣杰，蒋建平简支系杆拱钢管拱拼接安装测量方案 庞佑涛工业建筑色彩研究 张姝建筑防火中外墙保温材料防火性能的重要性 贾令龙浅析新材料应用与现代建筑结构技术的创新 徐朝富中心组合设计法优化CuCl2为活化剂的茶梗活性炭制备工艺 李素琼，王焕涵，Li Suqiong，Wang Huanhan乌石化常减压蒸馏装置腐蚀调查及分析 唐应彪，Tang Yingbiao综采工作面刮板运输机的安装及试运转的研究 翟智哲，张锡鹏，徐泉矿用液压千斤顶泄露相关事宜及对策 苏伟，刘朋张力控制对冷轧轧机带钢厚度控制的影响 赵兴华用平行流电积技术处理废电解液研究 张伟提高静电除尘器效率的措施与途径 王兆明刃板型钢的生产 宋翊电动汽车的发展趋势分析 郑孟用户宏程序加工实例 郝晓飞软齿面齿轮传动的应用一例 丁鸣浅析张力计工作原理 宋丹，李文波浅析消除铸轧卷质量缺陷的措施 吕文斌钢结构与搅拌设备机架设计论述 薛水明深加工制冷系统的节能方法探讨 万其乐，朱世龙，王平多绳摩擦式提升机罐道钢丝绳导向座的改进 柴占彪，王文华浅谈车床震动问题的解决措施 孙雪娜，张述江，肖红梅基于VB的四辊卷板机辊位精确控制研究 敖峰浅谈智能化家电产品 吕伟TDC(数字时间转换)测量技术在飞机机体变形上的研究 何超浅析FANUC Oi-D机床主轴换挡方式及含义 谢贺年，Xie Henian机电一体化的发展与应用 王霞，Wang Xia探讨液体膨胀机在内压缩流程空分设备中的应用 孙阳，孟凡华火电厂锅炉安装工程施工组织设计分析 熊柳智给水加氨设备自动化改造工程实例 武友根电力大客户负荷用电负荷预测 史焕弘，毛倩倩小波变换在面波去噪中的一些应用 郝建奇，Hao Jianqi锅炉汽包水位计量误差分析及校正 袁明根发电机封闭母线穿墙隔板发热原因分析及解决方案 施明礼，朱晓军矿用变频器漏电检测系统分析 张先华，张磊，孟庆凯，何辉某发电公司1000MW机组锅炉送风机故障跳闸的原因分析及处理对策 卢伟翔TCR静止型动态无功补偿装置应用 陈淑丽，佟维威浅析轿车电器常用维修方法 许佳云浅谈我国港口节能减排 李宗泽，熊如东水泥窑废气污染防治的几个问题 邓加宏冬暖式蔬菜大棚种植对寿光气温的影响研究分析 徐风霞，高学芹，张爱玲，郭春香农村沼气使用情况调查报告 岳效飞配网自动化管理的探析 於永攀探讨住宅工程分户验收的质量控制 钱峰水利水电工程施工技术及质量控制研究 李永锋建筑混凝土施工现场监理工作探讨 王飞尔基于铁路建设工程管理问题与对策的研究 陈曦环境监测仪器设备的检定管理初探 王晓伟3S技术矿产资源勘查与管理中的应用 高闻宇，王志远，李德忠，Gao Wenyu，Wang Zhiyuan，Li Dezhong矿山用电系统可靠性安全现状研究 甘泽加强高校建筑工程质量管理探析 徐波轧钢厂电气设备综述及其管理维护 丛绍华柬埔寨甘再水电站运行维护管理综述 石全建筑工程管理中的成本控制 谭纬数据挖掘技术在电力管理和分析中的应用 肖文英，张振飞采运企业原条检验地方标准的实施应用 矫全彬，刘新刚，赵菊芳，王林，孙志刚，韩英霞特种设备作业人员培训模式的构想 鲁燕，孔庆伟，高大明新媒体时代茶企业网络创新销售模式探究 李欣欣浅析网络时代企业思想政治工作的创新 黄华浅谈优化员工绩效管理办法 助力“集约化”体系建设 俞益春精益生产在A航空企业的应用 刘柳，樊琳江苏企业自主创新的金融扶持政策研究 杨海波党支部工作积分制考核的思考与实践 史明南探索电子商务在体育用品行业的发展 钱小红师生互动关系视角下的高等教育多媒体应用的思考 梁海珊职业院校机械专业课程考核的现状与改革——以宁夏工商职业技术学院为例 杨叶，赵润良，马静职业教育品牌化思考与构建 奚亚洲本科工程教育实践教学现状及深层次形成原因剖析 吕静概率理论的应用实例 白梅花基于问题解决的创新教育理论研究探析 黄光荣计算机听打录入技术 蔡文中央高校基本科研业务费执行情况回顾与思考——以西北农林科技大学为例 崔卫芳，刘旭，赵磊，王志刚运用多种激励性评价方式优化高职课堂教学 周丹浅谈计算机基础课中任务驱动教学法的应用 吴丹，罗俊促进职业教育教师实施项目课程开发的探索 史春红《工业炸药》课程教学法改革探讨 王瑾专业教师任班主任的认识 李炎，张健，Li Yan，Zhang Jian《PLC应用技术》教改探索与实践 马州生大学公共英语教学中跨文化意识培养的策略 李峥高校电子实验室的规范化管理探讨 任守华，马秀莲，孟洁，张品秀改革人才培养方案,公共类课程先行 罗丹浅谈校友录系统设计 符宇构建现代职业教育体系将校企合作落到实处 蔡敏对张景中数学教育思想的诠释 何淑芬“美国精神”在高校公共英语教学中的应用探析 黄日明高校实施课内外一体化体育俱乐部教学的意义与困境 宋忠良高职院校体育教学中对学生的心理健康教育探析 葛建生结合中学生心理特点,提高生物教学效率 孙晓红浅谈提高机械专业课程教学的有效性 张淑晴浅谈体育教师如何更好的说课 刘文军论计算机等级考试与计算机应用基础教学改革——以高职非计算机专业等级考试为例 马琴完善约束机制才能提高中等职业学校课堂管理水平 张贻莎新时期高职院校财务管理工作探析 杨雪信息化教学在单片机课程中的应用 陈东焰有效率的练习钢琴 张茜基于SolidWorks的《机械制图》国标工程图技术 马静，赵润良如何提高低年级学生识字的时效 袁鹏霞浅谈体育课上如何培养学生终身体育意识 孙杏芳大学课堂应该如何学习 董菊明高校课堂教学管理探索 邢林高校课程考试管理研究 付英杰工学结合课程中网络化辅导模式的探讨 王咏梅，Wang Yongmei浅谈大学生科技创新中的师生互动 涂艳蓉，裴彦斐提高小学德育实效性浅探 王仕魁，谢彦波，王河滨关于高校智库建设的思考 李伟高职学生英语学习中的母语负迁移现象探析——以句法错误为例 干映锋自主学习在环境微生物检测实验中的应用 胥成浩，龚明福，Xu Chenghao，Gong Mingfu影响课堂教学效果的因素分析 邢林基于职业能力与职业素养融合的汽车电器设备课程教学实践 张立关于尺寸链原理在技能大赛中应用的思考 姚辉浅析深化经济改革必须注重的二个领域 唐亚敏苏州社区居民科学素养与科普现状调研——以苏州大学材料与化学化工学部“科普志愿者进社区”活动为例 龚学锋学生评教在高职院校学生思想教育工作中的重要作用 卢秋菊新闻写作相关问题分析 郑国玲电力科技期刊编辑如何适应数字出版时代 陆莹独立学院学籍处理案例的整合与分析——以中国传媒大学南广学院为例 单彩云，郭晓静，滕飞，Shan Caiyun，Guo Xiaojing，Teng Fei2012年世界非织造布生厂商40强过滤材料产品 陆荣生，赵殿栋，陆海岸，严志波，顾钰良浅析政府专职消防队员发展工作中存在的问题及对策 邱凯旋汉越十二生肖动物词语文化内涵的对比分析 裴氏恒娥小学生体质下降的主要原因及教学对策 王洪浅析新形势下一体化教室的文化建设要求 赵洁浅谈农委车队车辆调度管理工作 陈寿宝民航空管运行不安全因素调查研究 张红仓雷雨情况下的空中管制指挥探析 段金国老年人工全膝关节置换手术患者的术后康复护理 田润，沈旭慧克服自身瓶颈,迎来高职音乐就业春天——浅谈现阶段高职音乐教育现状 崔瑜关于国民经济管理制度理念创新的思考 周春梅工科院校研究生就业现状调研分析与对策研究——以广东工业大学2012届毕业研究生为例 王舒书上海废旧衣物回收现状初探 郭亚文，姚钰，万小娟，黎彬有限空间年龄结构种群模型一个新的间断Galerkin方法 岳红格，郝惠娟，Yue Hongge，Hao Huijuan环保部门形象塑建的媒体沟通策略 蒋澄宇，李文青凸函数与Jensen不等式 覃平阳，Qin Pingyang浅谈职业技能大赛对高职师生的影响 张爱芳狄金森诗歌中隐喻的认知研究 甘小群从夏洛蒂·勃朗特看简爱的双重性格 郭玥公共图书馆老年读者服务工作之我见 马丹阳浅论中医药高校图书馆的文化建设 治丁铭浅析高职院校图书馆的服务创新 毕蓉历史感悟未来镌刻发展辉煌——辽宁科技大学校史馆的建设理念与特色 王霞，高兴体育高职院校图书馆的现状及发展对策 邓娉现代医院图书馆知识服务探讨与实践 区雨齐，王秀华，Ou Yuqi，Wang Xiuhua探析公共图书管理中的社会责任 夏建华从CALIS谈中国图书馆联盟发展之路 胡勇祥信息动态

互信息（Mutual Information）是信息论里一种有用的信息度量，它可以看成是一个随机变量中包含的关于另一个随机变量的信息量，或者说是一个随机变量由于已知另一个随机变量而减少的不肯定性。互信息代表了两个随机变量的相关程度或者说依赖程度，因此在数据科学中是一种应用广泛的度量标准。 互信息能够捕捉随机变量之间的非线性统计依赖，因此可以作为变量之间真正的依赖关系的度量。然而，互信息的度量一直以来都是困难的。目前的方法仅限于对离散变量互信息的估计以及一些已知概率分布的连续变量，对于一般任务来说，互信息的估计是困难的。本文提出一种基于KL散度对偶表示的神经网络方法（称为MINE），其为互信息的估计提供了一种通用的解决方案。 对于两个随机变量 和 ，它们的互信息表示为： 和 之间的互信息可认为是在给定 时变量 所减少的不确定性： 另外， 和 的互信息等价于其联合分布 和其边缘分布的乘积 之间的KL散度： KL散度的定义为： 也就是说联合分布和边缘分布的乘积之间的KL散度越大，随机变量之间的依赖程度就越大。到目前为止，互信息的估计问题就转化为了KL散度的估计问题。 MINE中应用的关键技术是KL散度的对偶表示，主要采用Donsker-Varadhan表示，同时也对比了f-divergence表示，两种方法分别记作MINE和MINE-f。 f-divergence的定义如下： f-divergence衡量分布 和 之间的差异程度，满足在 和 完全一致的情况下取得最小值为 ，在有所差异的情况下值为一个正数，这一点可以通过凸函数的性质得到： 和 完全一致时： 和 有差异时： 事实上KL散度就是f-divergence的一个特例： 每一个凸函数都有一个共轭函数（Conjugate Function），记作 ，公式为： 这个函数也就是说要找出给定 的情况下变动 能达到的最大值，限制 必须要在 的定义域内，以下图为例，给定不同的 ，代入所有的 能得到的最大值就是 ： 按照上面的方式能够理解前面的公式。那么 的图像是什么样子的呢？我们可以按照以下方式来考虑，在给定 ，使 变动，那么就能得到一条以 为斜率的直线，对于不同的 就对应着不同的直线： 而此时，要求 ，就只需要从 的位置坐垂线，这样与垂线相交最上面的直线对应的 就是能使得 取得最大值的 ： 那么在整个 的定义域上，将位于最上面的直线的片段连接起来就是 的图像了，当然这只是便于理解的一种形象化的思路： 按照上面的思路，可以很直观地看出 也是凸函数。 另外，我们按照上面的方式把有关 的共轭函数的每条直线都画出来： 得到的共轭函数的图像像是一个指数函数，其实 的共轭函数就是 ，求解共轭函数可以直接用数学的方法计算出来，对于 来说，先把 代入前面共轭函数的表达式： 对于括号里面的式子 ，给定 ，需要求解 来使最大化 ，可以直接对 求导，也就有 ，然后解得 ，也就是说，对于给定的 ，能使得 最大的 就是 ，将 代入原来的式子就可以求得共轭函数了： 另外（在满足 是闭凸函数的条件下，这里就不深究了）有 是 的共轭函数， 也是 的共轭函数，也就是说： 是 互为共轭函数： 这叫做二次共轭。 由上面二次共轭的内容，那么对于f-divergence中的凸函数 ，就可以用 来替换它： 现在对于任意的一个 ，它的输入是 ，输出是 ，将 代入上面的式子中，一定有以下关系： 上面的不等式是恒成立的，我们也就得到了 的下界，来调整函数 （ 是任意的）使得这个下界取得最大值就可以用这个最大值来得到 ： 下表中展示了一些不同的divergence对应的函数以及它的共轭函数： 现在我们知道当 时f-divergence就是KL散度（KL-divergence），而此时 的共轭函数为 ，将这些代入上面的式子，得到KL散度的f-divergence表示： 接下来为了与论文中使用的符号一致，我们可以将上述结论写为： 注意这里的 代表任意函数 。在本文提出的深度方法中， 是一个神经网络，此时 就不是任意函数了， 可以取到的所有函数的集合，记作 。现在可以得到 的下界： 通过梯度下降的方法不断学习 ，就可以使用这个下界近似两个分布 和 之间的KL散度。 Donsker-Varadhan表示来源于 Asymptotic evaluation of certain markov process expectations for large time. IV 这篇文章，其具体的形式为： 类似的，当 是一个神经网络时，得到用于估计 的下界： 直观上来看，对于固定的 ，Donsker-Varadhan表示中的下界总是比f-divergence表示要大。MINE主要采用的是Donsker-Varadhan表示，实验中MINE效果要比MINE-f要好一些。 根据上面的理论对于两个随机变量 和 的互信息，假设 是由 参数化的神经网络，记作 ，参数 ，互信息的边界就可以表示为： 其中： 上面式子中的期望可以通过以下方式估计： ①从分布 和 中采样，样本 和 可以简单地通过丢弃样本 中的 获得； ②沿着batch维度打乱联合分布的样本。 接下来，对于一个分布 ，我们用 代表其与 个 样本相关的经验分布。 使用 代表神经网络参数化的函数集合，MINE定义为： 下面是MINE的算法，MINE-f也类似： 对于MINE而言，一个mini-batch内随机梯度下降的梯度为： 这里 代表一个mini-batch的样本。由于损失函数中 的存在，导致上式梯度中的第二项分子分母都有求期望的过程，然而当用采样来代替期望的时候，分子分母的期望应该独立采样，不能使用同一个mini-batch的样本。因此上式的梯度是有偏的，原因就是第二项分子分母的样本不独立。 矫正的方法是将分母上的 改用真正的 。这个值不是采用采样的方法估计的，在文中是采用滑动平均的方法计算 ，将该值记为 。则梯度变为： 该式相当于在原有的梯度的基础上，在后一项前面乘以了一个权重 ， 相当于当前mini-batch的 均值和滑动平均的 均值的比值。注意 在计算中被当做一个常数。虽然 中也包含有参数 的项，但并不参与梯度的计算。 现在由梯度 反推目标函数，得到： 因此 MINE 的偏差校正过程仅需要在原始目标函数的后一项乘以一个常数 。 MINE: Mutual Information Neural Estimation 【深度学习 111】MINE F-GAN & MINE

E(x)指期望。大体上讲，数学期望（或均值）就是随机变量的平均取值，而方差则刻画了随机变量对它的均值的偏离程度。

论文的研究方法一般从较宽泛的领域看有定性研究与定量研究；从取材方面来看有实证研究（实际调查案例为分析基础）与文献归纳法等；如从分析手法上来看有归纳法、演绎法与比较分析法等等。不过要看你是什么专业，专业不一样运用的研究方法是不一样的。

mc原意是指说唱歌手，现在随着mc的广泛使用，逐渐衍生出许多意思来，也可以指能调节气氛的人，会说rap的人还有能主持控制住全场的人，因此现在许多说唱歌手会在自己艺名前加上mc的前缀，就是在暗示自己的职位是说唱歌手。

（1）文献研究法根据所要研究内容 ，通过查阅相关文献获得充足的资料，从而全面地了解所研究课题的背景、历史、现状以及前景。（2）研究项目分析法在进行理论的搜集与分析之后，根据现有的研究项目对宠物进化模型，宠物行为模型模型的整体系统进行分析与设计，实现理论与实践的相结合，使理论有理有据，设计更合理。