发布时间：
关系：
三者转换关系：
散度指流体运动时单位体积的改变率。简单地说，流体在运动中集中的区域为辐合，运动中发散的区域为辐散。 其计算也就是我们常说的“点乘”。 散度是标量，物理意义为通量源密度。
散度物理意义：对流体来说，就是流体的形状虽然改变，但是由于散度为0，则其面积或体积不变。如下式
梯度物理意义：最大方向导数（速度）
散度物理意义：对流体来说，散度指流体运动时单位体积的改变率。就是流体的形状虽然改变，但是由于散度为0，则其面积或体积不变。
旋度物理意义：旋度是曲线，向量场旋转的程度。矢量的旋度是环流面密度的最大值，与面元的取向有关。
散度为零，说明是无源场；散度不为零时，则说明是有源场（有正源或负源）
若你的场是一个流速场,则该场的散度是该流体在某一点单位时间流出单位体积的净流量. 如果在某点,某场的散度不为零,表示该场在该点有源,例如若电场在某点散度不为零,表示该点有电荷,若流速场不为零,表是在该点有流体源源不绝地产生或消失(若散度为负).
一个场在某处,沿着一无穷小的平面边界做环积分,平面法向量即由旋度向量给定,旋度向量的长度则是单位面积的环积分值.基本上旋度要衡量的是一向量场在某点是否有转弯.
参考资料来源：百度百科-散度
参考资料来源：百度百科-梯度
参考资料来源：百度百科-旋度
设体系中某处的物理参数(如温度、速度、浓度等)为w，在与其垂直距离的dy处该参数为w+dw，则称为该物理参数的梯度，也即该物理参数的变化率。如果参数为速度、浓度或温度，则分别称为速度梯度、浓度梯度或温 散度指流体运动时单位体积的改变率。简单地说，流体在运动中集中的区域为辐合，运动中发散的区域为辐散。用以表示的量称为散度，值为负时为辐合，此时有利于天气系统的的发展和增强，为正时表示辐散，有利于天气系统的消散。表示辐合、辐散的物理量为散度。 表示曲线、流体等旋转程度的量。
在介绍梯度，旋度，与散度这些东西之前，我们首先引入一个东西：nabla算符 （也叫做向量微分算子），其中 。 这个东西到底有什么用呢，继续向下看，你就会明白我把这个东西放在最前面的用意。梯度：在介绍梯度之前，就不得不说方向向量的事情。首先假设我们都是纸片人，在爬一座纸片山 显然我们向上爬的时候，每一处地方，山的陡峭程度是不同的。我们直观的感受就是爬山的时候费不费力。在二维中，这个陡峭程度我们把它叫做导数，导数可以表示函数曲线上的切线斜率。除了切线的斜率，导数还表示函数在该点的变化率。 回到现实，我们开始爬这座三维的山，不同于二维之中，我们只能上下爬山，在三维之中，当我们站在一个点的时候，我们可以向四周随意行动（注意安全）。这也就意味着在这一点有着无数的方向，这么多方向，我们如何才能把他们表示出来呢？这时我们有了一个好办法，就像在一个坐标系中的向量可以用x，y轴上的单位向量表示一样，我们可以建立空间直角坐标系，把山放进坐标系之中，假设山坡可以表示为 ，和之前的思想类似，我们同样可以把不同方向的斜率用x，y方向上的变化表示。而y方向的斜率可以对y偏微分得到.，x方向的斜率可以对x偏微分得到。这里我们直接给出这个结论： 设 。我们可以把之前这个式子写成两个向量点积的形式， ， 一点处的方向导数有很多，但是如果我们要找一个最大，那么 。 这时候当A和I重合时，方向导数最大，也就意味着这时，在这一点，山是最陡峭的。这时我们把A命名为梯度，记作 ， 这样，我们就知道了梯度的意义，从字面来看，这两个字还是比较符合它的实际意义的。下次你再爬山的时候，也许你可以建立山的函数，求出自己所在位置的梯度，从而规划一条最短的路哦。 通量与散度：之前，我们用房顶为曲面的房子讲了进入房子里面的雨水的量，也就是 ，现在我们可以给这个东西取一个名字了，数学家们一拍脑袋，有了这个东西我们就把它叫做通量。显然，通量描述的是进入房子的整体的水的量，而整体是部分的加和。就像之前我们用过的长方体气球，从水龙头中进来的水等于从气球周围流出的水，这样我们便得到了高斯公式： 现在，用闭区域的体积V除上式两端，得 左端表示单位时间内单位体积产生的水的平均值，显然在这个气球里边一定会有一个点单位时间内单位体积产生的水等于这个平均值，我们让这个点取为M（x，y，z），那么左边的式子可以表示为： 我们把这个区域不断地接近M点，也就是对上边的式子取极限得到： 我们把上式左端叫做场v在M点的通量密度或散度，记作 即 设V=（P,Q,R）,把散度写成向量点乘的形式， 显然我们又一次看到了 这个东西。 散度的几何意义： 散度散度，从名字上来看这个，这个量是用来描述“散开的程度”，但是根据我们之前的分析，散度这个量表示的是无穷小曲面处的通量。散度的大小直接与在这一个小曲面是否有通量有关。想像一个朝四面八方喷水的水水龙头。在这个水龙头上套一个橡皮圈。 显然，橡皮圈会被水撑大，这一点散度就不为0，如果我们把这个橡皮圈拿出这个中心，就好像我们划船一样，这个橡皮圈会被水流冲走，这样这个点的散度就为0了，所以说散度并不是描述“散开的程度”的一个量。 旋度：环流量、旋度与通量、散度是比较类似的。我们把单位时间内绕着一条曲线的量叫做环流量。和之前散度的定义类似，我们都是从宏观到微观，逐渐的把这个曲线缩小，缩小到围绕着一个点附近很小的区域里的平均环流量，这样我们就得出了在一个点的旋度： ，之前的散度可以写成 的形式，而我们的旋度又和散度十分相似，而与点乘十分相似的是什么呢？没错就是叉乘，我们可以把 这个形式写成叉乘的形式 总结： 一个矢量一般来说有3种“乘法”： 1、 矢量 A 和一个标量a相乘：a A 2、 矢量 A 和一个矢量 B 进行点乘： A·B 3、 矢量 A 和一个矢量 B 进行叉乘 同样，算子也有三种运算 1、 ▽算子作用在一个标量函数 z 上：▽z，这个表示的是z的 梯度 2、 ▽算子跟一个矢量函数E点乘： ▽·E 。表示E的 散度 3、 3、▽算子跟一个矢量函数E叉乘： ▽×E 。表示E的 旋度 了解了这些之后，你就可以去看被誉为史上最美方程的的麦克斯韦方程组了。 还有一件事 对于格林公式，高斯公式，stokes公式，如果学习了外微分的话，这些公式其实表示的是一个东西 在这里，我仅抛砖引玉，想要学习的可以阅读龚升老师的《微积分五讲》 假设满足 ，这两条规则的微分乘积称为微分的外乘积，由微分的外乘积乘上函数组成的微分形式，称为外微分形式 为一次外微分形式 为二次外微分形式 为三次外微分形式 （A,B,C,D,P,Q,R,H）都是x，y，z的函数 对于任意两个外微分形式 也可以定义外微分 则 外微分的外乘积满足分配律和结合律，如果 是任意的三个外积分形式，则 对于外微分形式 ，可以定义外微分算子 对于零次外微分形式，就是普通的全微分算子 对于一次外微分形式， ，定义 ，即对P,Q,R进行外微分（全微分），然后进行外乘积， 对于二次外微分形式： 同样，定义 ,代入dA,dB,dC利用外乘积的性质得到 对于三次外积分形式 格林公式： 记， ， 是一次外微分形式， 于是 对两边同时积分，得到格林公式 Stokes公式： ，看作是一次外微分形式，于是 ，对两边同时积分得到stokes公式。 对于高斯公式 将 看作二次外微分形式， ,积分得到高斯公式 先看零次外微分形式 ，外微分形式为 ，而f的梯度为 ,梯度与零次型的外微分相对应 同理，旋度与一次型外微分相对应，散度与二次型外微分相对应 牛顿-莱布尼兹法则建立了直线段与边界的关系 格林公式建立了平面区域与其边界的关系 Stokes公式建立了空间曲面与其边界的关系 高斯公式建立了空间中区域与其边界的关系 这四个公式其实说的都是一个内容，都是建立了围成区域与边界之间的关系 参考书目： 工科数学分析基础 下册-马知恩等主编-高等教育出版社-1998 《微积分五讲》龚升 最美的公式：你也能懂的麦克斯韦方程组（微分篇）长尾科技
自己进百度去查啊!!!!~~~~~~
最直接也是最简单的方法，即最大值－最小值（也就是极差）来评价一组数据的离散度。
这一方法在日常生活中最为常见，比如比赛中去掉最高最低分就是极差的具体应用。极差=最大标志值—最小标志值。
R=xmax-xmin
（其中，xmax为最大值，xmin为最小值）
例如 ：12 12 13 14 16 21
这组数的极差就是 ：21－12=9
另附：方差计算公式：s2=1/n [(x1-x_)2 + (x2-x_)2+...+ (xn-x_)2]
（x_) 即为此组数据的加权平均数)。
应用
在统计中常用极差来刻画一组数据的离散程度，以及反映的是变量分布的变异范围和离散幅度，在总体中任何两个单位的标准值之差都不能超过极差。
同时，它能体现一组数据波动的范围。极差越大，离散程度越大，反之，离散程度越小。
极差只指明了测定值的最大离散范围，而未能利用全部测量值的信息，不能细致地反映测量值彼此相符合的程度。
极差是总体标准偏差的有偏估计值，当乘以校正系数之后，可以作为总体标准偏差的无偏估计值，它的优点是计算简单，含义直观，运用方便，故在数据统计处理中仍有着相当广泛的应用。
但是，它仅仅取决于两个极端值的水平，不能反映其间的变量分布情况，同时易受极端值的影响。
sorry,i do noe know
遥感原理与应用第一章 电磁波及遥感物理基础名词解释：1、 遥感 2、遥感技术 3、电磁波 4、电磁波谱 5、绝对黑体 6、绝对白体7、灰体 8、绝对温度 9、辐射温度 10、光谱辐射通量密度 11、大气窗口12、发射率 13、热惯量 14、热容量 15、光谱反射率 16、光谱反射特性曲线 填空题：1、电磁波谱按频率由高到低排列主要由 、 、 、 、 、 、 等组成。2、绝对黑体辐射通量密度是 和 的函数。3、一般物体的总辐射通量密度与 和 成正比关系。4、维恩位移定律表明绝对黑体的 乘 是常数。当绝对黑体的温度增高时，它的辐射峰值波长向 方向移动。5、大气层顶上太阳的辐射峰值波长为 μm选择题：(单项或多项选择)1、 绝对黑体的 ①反射率等于1 ②反射率等于0 ③发射率等于1 ④发射率等于0。2、 物体的总辐射功率与以下那几项成正比关系 ①反射率 ②发射率 ③物体温度一次方 ④物体温度二次方 ⑤物体温度三次方 ⑥物体温度四次方。3、 大气窗口是指 ①没有云的天空区域 ②电磁波能穿过大气层的局部天空区域 ③电磁波能穿过大气的电磁波谱段 ④没有障碍物阻挡的天空区域。4、 大气瑞利散射①与波长的一次方成正比关系 ②与波长的一次方成反比关系 ③与波长的二次方成正比关系 ④与波长的二次方成反比关系 ⑤与波长的四次方成正比关系 ⑥与波长的四次方成反比关系 ⑦与波长无关。5、 大气米氏散射 ①与波长的一次方成正比关系 ②与波长的一次方成反比关系 ③与波长无关。问答题：1、 电磁波谱由哪些不同特性的电磁波组成？它们有哪些不同点，又有哪些共性？2、 物体辐射通量密度与哪些因素有关？常温下黑体的辐射峰值波长是多少？3、 叙述沙土、植物和水的光谱反射率随波长变化的一般规律。4、 地物光谱反射率受哪些主要的因素影响？5、 何为大气窗口？分析形成大气窗口的原因，并列出用于从空间对地面遥感的大气窗口的波长范围。6、 传感器从大气层外探测地面物体时，接收到哪些电磁波能量？第二章 遥感平台及运行特点名词解释：1、 遥感平台 2、遥感传感器 3、卫星轨道参数 4、升交点赤经 5、轨道倾角6、近地点角距 7、地心直角坐标系 8、大地地心直角坐标系 9、卫星姿态角10、开普勒第三定理 11、重复周期 12、近圆形轨道 13、与太阳同步轨道14、近极地轨道 15、偏移系数 16、GPS 17、ERTS_1 18、LANDSAT_1 19、SPOT 20、IRS 21、CBERS 22、ZY_1 23、Space Shuttle 24、MODIS 25、IKONOS 26、Quick Bird 27、Radarsat 28、ERS 29、小卫星填空题：1、遥感卫星轨道的四大特点 。2、卫星轨道参数有 。3、卫星姿态角是 。4、遥感平台的种类可分为 、 、 三类。5、卫星姿态角可用 、 、 等 方法测定。6、与太阳同步轨道有利于 。7、LANDSAT系列卫星带有TM探测器的是 ；带有TM探测器的是 。8、SPOT系列卫星可产生异轨立体影像的是 ；可产生同轨立体影像的是 。9、ZY-1卫星空间分辨率为 。10、美国高分辨率民用卫星有 。11、小卫星主要特点包括 。12、可构成相干雷达影像的欧空局卫星是 。选择题：(单项或多项选择)1、 卫星轨道的升交点和降交点是卫星轨道与地球①黄道面的交点②地球赤道面的交点③地球子午面的交点。2、 卫星与太阳同步轨道指①卫星运行周期等于地球的公转周期②卫星运行周期等于地球的自转周期③卫星轨道面朝向太阳的角度保持不变。3、 卫星重复周期是卫星①获取同一地区影像的时间间隔②经过地面同一地点上空的间隔时间③卫星绕地球一周的时间。4、 以下哪种仪器可用作遥感卫星的姿态测量仪①AMS②TM③HRV④GPS⑤星相机。5、 问答题：1、 根据Landsat-1的运行周期，求该卫星的轨道高度。2、 根据Landsat-4/5的运行周期、重复周期和偏移系数，通过计算排出其轨道（赤道处）的分布图。3、 以Landsat-1为例，说明遥感卫星轨道的四大特点及其在遥感中的作用。4、 叙述地心直角坐标系与地心大地直角坐标系的差别和联系。5、 获得传感器姿态的方法有哪些？简述其原理。6、 简述遥感平台的发展趋势。7、 LANDSAT系列卫星、SPOT系列卫星、RADARSAT系列卫星传感器各有何特点？第三章 遥感传感器及其成像原理名词解释：1、遥感传感器 2、探测器 3、致冷器 4、红外扫描仪 5、多光谱扫描仪6、推扫式成像仪 7、成像光谱仪 8、瞬时视场 9、MSS 10、TM 11、HRV 12、SAR 14、INSAR 15、CCD 16、真实孔径侧视雷达17、合成孔径侧视雷达18、全景畸变 19、动态全景畸变 20、 静态全景畸变 21、距离分辨率22、方位分辨率23、雷达盲区24、角隅反射 25、粗加工产品 26、精加工产品27、多中心投影 28、多中心斜距投影填空题：1、MODIS影像含有 个波段,其中250米分辨率的包括 波段。2、RADARSAT-1卫星空间分辨率最高可达 ,共有 种工作模式。3、多极化的卫星为 。4、目前遥感中使用的传感器大体上可分为 等几种。5、遥感传感器大体上包括 几部份。6、MSS成像板上有 个探测单元;TM有 个探测单元。7、LANDSAT系列卫星具有全色波段的是 ,其空间分辨率为 。8、利用合成孔径技术能堤高侧视雷达的 分辨率。9、扫描仪产生的全景畸变，使影像分辨率发生变化，x方向以 变化，y方向以 变化。10、实现扫描线衔接应满足 。选择题：(单项或多项选择)1、 全景畸变引起的影像比例尺变化在X方向①与COSθ成正比②在X方向与COSθ成反比③在X方向与COS²θ成正比④在X方向与COS²θ成反比。2、 全景畸变引起的影像比例尺变化在Y方向①与COSθ成正比②与COSθ成反比③与COS²θ成正比④与COS²θ成反比。3、 TM专题制图仪有① 4个波段②6个波段③7个波段④9个波段。4、 TM专题制图仪每次同时扫描①6条扫描线②12条扫描线③16条扫描线④20条扫描线。5、 HRV成像仪获得的影像①有全景畸变②没有全景畸变。6、 SPOT卫星获取邻轨立体影像时，HRV中的平面镜最大可侧旋①10º②16º③27º④32º。7、真实孔径侧视雷达的距离分辨率与①天线孔径有关②脉冲宽度有关③发射的频率有关。7、 径侧视雷达的方位分辨率与①天线孔径有关②天线孔径无关③斜距有关④斜距无关。问答题：1、叙述侧视雷达图像的影像特征2、MSS、TM、ETM+影像各有何特点？3、有哪几种方法可以获得多光谱摄影影像？4、对物面扫描的成像仪为什么会产生全景畸变？扫描角为θ时的影像的畸变多大？5、叙述Landsat-1上的MSS多光谱扫描仪获取全球（南北纬度81°之间）表面影像的过程。6、TM专题制图仪与MSS多光谱扫描仪有何不同？7、SPOT卫星上的HRV推扫式扫描仪与TM专题制图仪有何不同？8、侧视雷达影像的分辨力、比例尺、投影性质和投影差与中心投影航空或航天像片影像有何不同？9、侧视雷达为什么要往飞机侧方发射脉冲并接收其回波成像？如果向飞机或卫星正下方发射脉冲并接收回波成像会是什么情景？10、简述INSAR测量高程的基本原理。第四章 遥感图像数字处理的基础知识名词解释：1、光学影像 2、数字影像 3、空间域图像 4、频率域图像 5、图像采样6、灰度量化7、BSQ 8、BIL 9、BMP 10、TIFF 11、ERDAS 12、PCI 13、3S集成填空题：1、光学图像是一个 函数。2、数字图像是一个 函数。3、光学图像转换成数字影像的过程包括 等步骤。4、图像数字化中采样间隔取决于图像的 ，应满足 （公式）。5、一般图像都由不同的 、 、 、 的周期性函数构成。6、3S集成一般指 、 和 的集成。选择题：(单项或多项选择)1、 数字图像的①空间坐标是离散的，灰度是连续的②灰度是离散的，空间坐标是连续的③两者都是连续的④两者都是离散的。2、 采样是对图像①取地类的样本②空间坐标离散化③灰度离散化。3、 量化是对图像①空间坐标离散化②灰度离散化③以上两者。4、 图像数字化时最佳采样间隔的大小①任意确定②取决于图像频谱的截止频率③依据成图比例尺而定。5、 图像灰度量化用6比特编码时，量化等级为①32个②64个③128个④256个。6、 BSQ是数字图像的①连续记录格式②行、波段交叉记录格式③象元、波段交叉记录格式。问答题：1、 叙述光学影像与数字影像的关系和不同点。2、 怎样才能将光学影像变成数字影像。3、 叙述空间域图像与频率域图像的关系和不同点。4、 叙述储存遥感图像有哪几种方法，列举2—3种数字图像存储格式，并说明其特点。5、叙述3S集成的形式和作用。第五章 遥感图像几何处理名词解释：1、 共线方程2、外方位元3、像点位移4、几何变形5、几何校正6、粗加工处理7、精加工处理8、多项式纠正9、间接法纠正10、直接法纠正11、灰度重采样12、最邻近像元重采样13、双线性内插14、双三次卷积15、图像配准16、数字镶嵌17、数字地面模型18、正射影像19、地理编码图象 20、DEM填空题：1、 分别写出中心投影，推扫式传感器（旁向，航向倾斜），扫描式传感器的共线方程表达式 ， ， ， 。2、 遥感图像的变形误差可以分为 和 ，又可以分为 和 。3、 外部误差是指在 处于正常的工作状态下，由 所引起的误差。包括 ， ， ， 等因素引起的变形误差。4、 传感器的六个外方位元素中 的变化对图像的综合影响使图像产生线性变化，而 使图像产生非线性变形。 5、 地球自转对于多中心投影影像产生像点位移在 方向上，位移量bb’= 。6、 TM卫星图像的粗纠正使用的参数有 ， ， ， 纠正的变形有 ， 。7、 遥感图像几何纠正的常用方法有 ， ， 。8、 多项式拟合法纠正中，项数N与其阶数n的关系 。9、 多项式拟合法纠正中，一次项纠正 ，二次项纠正 ，三次项纠正 。10、项式拟合法纠正中控制点的要求是 ， ， 。11、多项式拟合法纠正中控制点的数量要求，一次项最少需要 个控制点，二次项最少项需要 个控制点，三次项最少需要 个控制点。12、SPOT图像采用共线方程纠正时需要 ，有 未知参数，最少需要 个控制点。13、常用的灰度采样方法有 ， ， 。14、数字图象配准的方式有 ， 。15、数字图像镶嵌的关键 ， ， 。16、在姿态角都为0的情况下，中心投影像片的投影差为 ，推扫式影像（HRV）的投影差为 ，扫描仪影像（MSS）的投影差 ，侧视雷达影像（SAR）的投影差 。17、灰度采样中，双线性内插的权矩阵采用 函数求取， 双三卷积的权矩阵采用 函数求取。选择题：(单项或多项选择)1、 垂直航线方向距离越远比例尺越小的影像是①中心投影影像②推扫式影像（如SPOT影像）③逐点扫描式影像（如TM影像）④真实孔径侧视雷达影像。2、 垂直航线方向距离越远比例尺越大的影像是①中心投影影像②推扫式影像（如SPOT影像）③逐点扫描式影像（如TM影像）④真实孔径侧视雷达影像。3、 真实孔径天线侧视雷达影像上高出地面的物点其象点位移（投影差）①向底点方向位移②背向底点方向位移③不位移。4、 逐点扫描式影像（如TM影像）上高差引起的像点位移（投影差）发生在①像底点的辐射方向②扫描方向。5、 多项式纠正用一次项时必须有①1个控制点②2个控制点③3个控制点④4个控制点。6、 多项式纠正用二次项时必须有①3个控制点②4个控制点③5个控制点④6个控制点。7、 多项式纠正用一次项可以改正图像的①线性变形误差②非线性变形误差③前两者。8、 共线方程的几何意义是在任何情况下①像主点、像底点和等角点在一直线上②像点、物点和投影中心在一直线上③ 主点、灭点和像点在一直线上。问答题：1． 叙述中心投影的航空像片,MSS多光谱扫描仪影像,SPOT的HRV推扫式影像和真实孔径侧视雷达图像的几何特征。2． 列出中心投影影像、推扫式影像（旁向和航向）、逐点扫描影像和侧视雷达影像的构像方程和共线方程表达式。3． 列出中心投影影像、推扫式影像、逐点扫描影像和侧视雷达影像的投影差公式，并说明投影差产生的像点位移各自不同点。4. 已知中心投影影像姿态产生的变形误差公式为推导出推扫式影像、逐点扫描影像和侧视雷达影像的像点位移公式。5． 叙述最邻近法、双线性内插、双三次卷积重采样原理（可作图说明）和优缺点。6． 两幅影像进行数字镶嵌应解决哪些关键问题？解决的基本方法是什么？7． 叙述多项式拟合法纠正卫星图像的原理和步骤。8． 多项式拟合法选用一次项、二次项和三次项，各纠正遥感图像中的哪些变形误差？9． 多项式拟合法平差后精度应控制在什么范围内？超限了怎么办？10．叙述共线方程法纠正SPOT卫星图像的原理和步骤。11．在几何纠正的重采样中，内插像元4*4图像亮度值矩阵为：在间接法纠正过程中，某地面点反算到原始像点的坐标值为（ ,）,利用最邻近法和双线性内插法求像点的亮度值。12．叙述数字图像镶嵌的过程。13．画出各个外方位元素变化引起的图形变化情况第六章 遥感图像辐射处理名词解释：1、辐射误差2、辐射定标3、大气校正4、图像增强 5、图像直方图 6、假彩色合成 7、密度分割 8、真彩色合成 9、假彩色合成 10、伪彩色图像 11、图像平滑 12、图像锐化 13、边缘检测 14、低通滤波 15、高通滤波 17、图像融合 18、直方图正态化 19、梯度算子 20、线性拉伸 21、拉氏算子 22、直方图均衡 23、邻域法处理 填空题：1、辐射传输方程可以知道，辐射误差主要有 ， ， 。2、常用的图像增强处理技术有 ， 。3、增强的常用方法有 ， ， ， ， ， ， 等。子4、直方图均衡效果 ， ， 。5、3*3的拉普拉斯算子 。6、图像平滑和锐化的关系 。 7、NDVI= 。8、图像融合的层次 ， ， 。9、HIS中的H指 ，I指 ， S指 。 图像融合的常用算法 ， ， ， ， 等。选择题：(单项或多项选择)1、 图像增强的目的① 增加信息量②改善目视判读效果。2、 图像增强①只能在空间域中进行②只能在频率域中进行③可在两者中进行。3、 从图面上看直方图均衡后的效果是①增强了占图面面积小的灰度(地物)与周围地物的反差②减弱甚至于淹没了占图面面积小的灰度(地物)与周围地物的反差③增强了占图面面积大的灰度(地物)与周围地物的反差④减弱占图面面积大的灰度(地物)与周围地物的反差。4、 标准假彩色合成(如TM4、3、2合成)的卫星影像上大多数植被的颜色是①绿色②红色③蓝色。5、 图像边缘增强采用①低通滤波②高通滤波。6、 消弱图像噪声采用①低通滤波②高通滤波。7、 图像融合前必须先进行①图像配准②图像增强③图像分类。8、 图像融合①必须在相同分辨率图像间进行②只能在同一传感器的图像间进行③可在不同分辨率图像间进行④可在不同传感器的图像间进行⑤只限于遥感图像间进行⑥可在遥感图像和非遥感图像间进行。 问答题：10、 根据辐射传输方程，指出传感器接收的能量包含哪几方面，辐射误差及辐射误差纠正内容是什么，11、 简述遥感数字影像增强处理的目的，例举一种增强处理方法，说明其原理和步骤。12、 什么是遥感图像大气校正？为什么要进行遥感图像大气校正？请以多光谱扫描仪（MSS）资料为例，说明大气校正的原理和方法。13、 以美国陆地卫星TM图像的波段为例，分别说明遥感图像的真彩色合成与假彩色合成方案。与真彩色合成图像相比，假彩色合成图像在地物识别上有何优越性？14、 叙述美国陆地卫星ETM图像分辨率30米的5、4、3波段影像与分辨率15米的全色影像进行融合的步骤和方法。15、 说明以下直方图的影像特征。第七章 遥感图像判读名词解释：1、遥感图像判读 2、景物特征 3、判读标志 4、几何分辨率 5、辐射分辨率6、光谱分辨率 7、时间分辨率 8、波谱响应曲线 9、热阴影 10、冷阴影11、雷达盲区 12、角隅反射 13、体散射 14、影像几何特性 15、影像辐射特性16、 地物光谱特征 17、地物空间特征 18、地物时间特征填空题：1、遥感图像信息提取中使用的景物特征有 。2、遥感图像空间特征的判读标志主要有 等。3、传感器特性对判读标志影响最大的是 等。4、光谱分辨率根据 三项指标来判定。5、热红外图像上的亮度与地物的 和 有关， 比 影响更大。6、 侧视雷达图像上的亮度变化与 等有关。选择题：(单项或多项选择) 1、 遥感图像的几何分辨率指 ①象元相应地面的宽度 ②传感器瞬时视场内观察到地面的宽度 ③能根据光谱特征判读出地物性质的最小单元的地面宽度。2、 热红外图像是 ①接收地物反射的红外光成的像 ②接收地物发射的红外光成的像。3、 热红外图像上的亮度与地物的 ①反射率大小有关 ②发射率大小有关 ③反射太阳光中的红外光强度有关 ④温度高低有关。4、 侧视雷达图像垂直飞行方向的比例尺 ①离底点近的比例尺大 ②离底点远的比例尺大 ③比例尺不变。问答题：1、 遥感图像判读主要应用景物的哪些特征？2、 何为传感器的空间分辨率、辐射分辨率、光谱分辨率？3、 叙述TM多光谱图像的几何特征和辐射特征。4、 叙述地物光谱特性曲线与波谱响应曲线之间的关系和不同点？（可作图说明）5、 举例说明为什么多光谱图像比单波段图像能判读出更多的信息？6、 叙述热红外图像的几何特征和辐射特征。7、 叙述侧视雷达图像的几何特征和辐射特征。第八章 遥感图像自动识别分类名词解释：1、模式识别 2、遥感图像自动分类了 3、统计模式识别 4、结构模式识别5、光谱特征向量 6、特征空间 7、特征变换 8、特征选择 9、主分量变换10、哈达玛变换 11、穗帽变换 12、生物量指标变换 13、标准化距离14、类间离散度15、类间离散度16、类内离散度17、判别函数18、判别边界19、监督法分类20、非监督法分类21、条件概率22、先验概率23、后验概率24、贝叶斯判别规则25、马氏距离26、欧氏距离27、计程距离28、错分概率29、训练样区 30、最大似然法分类 31、最小距离法分类32、ISODATA法分类33、混淆矩阵填空题：1、遥感图像上的地物在特征空间聚类的一般特点是 等。2、特征变换在遥感图像分类中的作用是 。3、遥感图像特征变换的主要方法有 等。4、特征选择的目的是 。5、标准化距离的公式 。6、马氏距离公式 ，欧氏距离公式 ，计程距离公式 。7、最大似然法分类判别函数 。8、分类后处理主要包括 ， 。选择题：(单项或多项选择)1、 同类地物在特征空间聚在①同一点上②同一个区域③不同区域。2、 同类地物在特征空间聚类呈①随机分布②近似正态分布③均匀分布。3、 标准化距离大可以说明①类间离散度大，类内离散度也大②类间离散度小，类内离散度大③类间离散度大，和/或类内离散度小④类间离散度小，类内离散度也小。4、 监督分类方法是①先分类后识别的方法②边学习边分类的方法③人工干预和监督下的分类方法。5、 两类地物的最大似然法分类判别边界在①两类地物分布概率相等处②两类地物均值的中值位置③其中一类地物分布概率的最大处。6、 ISODATA法分类的样区①尽量选在同一类别中②尽量包含所需识别的类别③类别是已知的④类别是未知的。问答题：1、 什么叫特征空间？地物在特征空间聚类有哪些特性？2、 作图并说明遥感影像主分量变换的原理和它在遥感中的主要作用。3、 叙述生物量指标变换的原理及其作用。4、 为什么要进行特征选择？列举几种特征选择的主要方法和原理。5、 叙述监督分类与非监督分类的区别。6、 叙述最大似然法分类原理及存在的缺点。7、 叙述最小距离法分类的原理和步骤。8、 叙述ISODATA法非监督分类的原理和步骤。9、 叙述图像增强中的平滑处理与分类后的平滑处理的异同点。10、述改善仅用光谱特征的统计模式识别自动分类的主要方法和基本原理。11、评价以下的混淆矩阵，并求出平均可信度和加权可信度。类 别 1 2 3 4 5 12345其它类 象元数 135 276 463 178 30512、根据下图中两类地物在一维特征空间中的分布，画出最大似然法、最小距离法的判别边界并分析和比较它们的错分概率。第九章 遥感技术的应用名词解释：1、卫星影像地图 2、DRG 3、DLG 4、GIS 5、同轨立体影像 6、邻轨立体影像 7、沙尘暴 8、海洋赤潮 9、地质构造 10、植被指数 11、森林立地条件12、臭氧空洞 13、土壤侵蚀 14、遥感考古 15、蓝冰填空题：1、 利用遥感图像修测地形图，修测的主要内容有 等。2、遥感图像制作影像图时控制点来源有 等。3、森林立地因子包括 等。4、多时遥感影像监测冰川流速的步骤是 等。选择题：(单项或多项选择) 1、 分辨率30米的TM影像，按规范要求的平面精度（图上），适合制作哪种比例尺的影像图 ①1：10000 ②1：100000 ③1：500000。2、 按规范要求的平面精度制作卫星影像图，选控制点用的地形图比例尺，应比影像图的比例尺 ①大一个等级 ②小一个等级。问答题：1、 举例说明制作不同比例尺卫星影像地图时怎样选择遥感图像？2、 叙述遥感监测南极冰川流速和流量的基本方法。3、 中国南方草场三级分类的内容是什么？TM影像可能提取出哪些信息？4、 叙述遥感调查中国南方草场资源的基本方法。5、 叙
梯度下降是非常常用的优化算法。作为机器学习的基础知识，这是一个必须要掌握的算法。借助本文，让我们来一起详细了解一下这个算法。
前言
本文的代码可以到我的Github上获取：
本文的算法示例通过Python语言实现，在实现中使用到了numpy和matplotlib。如果你不熟悉这两个工具，请自行在网上搜索教程。
关于优化
大多数学习算法都涉及某种形式的优化。优化指的是改变x以最小化或者最大化某个函数的任务。
我们通常以最小化指代大多数最优化问题。最大化可经由最小化来实现。
我们把要最小化或最大化的函数成为目标函数（objective function）或准则（criterion）。
我们通常使用一个上标*表示最小化或最大化函数的x值，记做这样：
[x^* = arg; min; f(x)]
优化本身是一个非常大的话题。如果有兴趣，可以通过《数值优化》和《运筹学》的书籍进行学习。
模型与假设函数
所有的模型都是错误的，但其中有些是有用的。– George Edward Pelham Box
模型是我们对要分析的数据的一种假设，它是为解决某个具体问题从数据中学习到的，因此它是机器学习最核心的概念。
针对一个问题，通常有大量的模型可以选择。
本文不会深入讨论这方面的内容，关于各种模型请参阅机器学习的相关书籍。本文仅以最简单的线性模型为基础来讨论梯度下降算法。
这里我们先介绍一下在监督学习（supervised learning）中常见的三个符号：
e的x减一次方的导数是e^(x-1)。
具体解法如下：
e的x减一次方，即为e^(x-1)
e的x减一次方的导数，即为e^(x-1)的导数
e^(x-1)'=e^(x-1)*(1)=e^(x-1)
所以e的x减一次方的导数是e^(x-1)。
扩展资料
导数的求解注意点：
1、理解并牢记导数定义。导数定义中一定要出现这一点的函数值，如果已知告诉等于零，那极限表达式中就可以不出现，否就不能推出在这一点可导。
2、导数定义相关计算。这里有几种题型：1)已知某点处导数存在，计算极限，这需要掌握导数的广义化形式，还要注意是在这一点处导数存在的前提下，否则是不一定成立的。
3、导数、可微与连续的关系。函数在一点处可导与可微是等价的，可以推出在这一点处是连续的，反过来则是不成立的。
4、导数的计算。导数的计算可以说在每一年的考研数学中都会涉及到，而且形式不一，考查的方法也不同。
5、高阶导数计算。需要同学们记住几个常见的高阶导数公式，将其他函数都转化成我们这几种常见的函数，代入公式就可以了，也有通过求一阶导数，二阶，三阶的方法来找出他们之间关系的。
复合函数的求导法则：y=f(u)与u=g(x)复合而成函数y=f[g(x)]，其导数是f'(u)×g'(x)。这里，f[g(x)]=e^(2x-1)分解为f(u)=e^u，u=2x-1，所以e^(2x-1)的导数是f'(u)×g'(x)＝e^u×2＝2e^(2x-1)。
是的，明年一月股票价格属于逻辑回归问题。逻辑回归这个模型很神奇，虽然它的本质也是回归，但是它是一个分类模型，并且它的名字当中又包含”回归“两个字，未免让人觉得莫名其妙。如果是初学者，觉得头晕是正常的，没关系，让我们一点点捋清楚。让我们先回到线性回归，我们都知道，线性回归当中 y = WX + b。我们通过W和b可以求出X对应的y，这里的y是一个连续值，是回归模型对吧。但如果我们希望这个模型来做分类呢，应该怎么办？很容易想到，我们可以人为地设置阈值对吧，比如我们规定y > 0最后的分类是1，y < 0最后的分类是0。从表面上来看，这当然是可以的，但实际上这样操作会有很多问题。最大的问题在于如果我们简单地设计一个阈值来做判断，那么会导致最后的y是一个分段函数，而分段函数不连续，使得我们没有办法对它求梯度，为了解决这个问题，我们得找到一个平滑的函数使得既可以用来做分类，又可以解决梯度的问题。很快，信息学家们找到了这样一个函数，它就是Sigmoid函数，它的表达式是：它的函数图像如下：可以看到，sigmoid函数在x=0处取值，在正无穷处极限是1，在负无穷处极限是0，并且函数连续，处处可导。sigmoid的函数值的取值范围是0-1，非常适合用来反映一个事物发生的概率。我们认为σ(x) 表示x发生的概率，那么x不发生的概率就是 1 - σ(x) 。我们把发生和不发生看成是两个类别，那么sigmoid函数就转化成了分类函数，如果 σ(x) > 表示类别1，否则表示类别0.到这里就很简单了，通过线性回归我们可以得到也就是说我们在线性回归模型的外面套了一层sigmoid函数，我们通过计算出不同的y，从而获得不同的概率，最后得到不同的分类结果。损失函数下面的推导全程高能，我相信你们看完会三连的(点赞、转发、关注)。让我们开始吧，我们先来确定一下符号，为了区分，我们把训练样本当中的真实分类命名为y，y的矩阵写成 Y 。同样，单条样本写成 x , x 的矩阵写成 X。单条预测的结果写成 y_hat，所有的预测结果写成Y_hat。对于单条样本来说，y有两个取值，可能是1，也可能是0，1和0代表两个不同的分类。我们希望 y = 1 的时候，y_hat 尽量大， y = 0 时， 1 - y_hat 尽量大，也就是 y_hat 尽量小，因为它取值在0-1之间。我们用一个式子来统一这两种情况：我们代入一下，y = 0 时前项为1，表达式就只剩下后项，同理，y = 1 时，后项为1，只剩下前项。所以这个式子就可以表示预测准确的概率，我们希望这个概率尽量大。显然，P(y|x) > 0，所以我们可以对它求对数，因为log函数是单调的。所以 P(y|x) 取最值时的取值，就是 log P(y|x) 取最值的取值。我们期望这个值最大，也就是期望它的相反数最小，我们令这样就得到了它的损失函数：如果知道交叉熵这个概念的同学，会发现这个损失函数的表达式其实就是交叉熵。交叉熵是用来衡量两个概率分布之间的”距离“，交叉熵越小说明两个概率分布越接近，所以经常被用来当做分类模型的损失函数。关于交叉熵的概念我们这里不多赘述，会在之后文章当中详细介绍。我们随手推导的损失函数刚好就是交叉熵，这并不是巧合，其实底层是有一套信息论的数学逻辑支撑的，我们不多做延伸，感兴趣的同学可以了解一下。硬核推导损失函数有了，接下来就是求梯度来实现梯度下降了。这个函数看起来非常复杂，要对它直接求偏导算梯度过于硬核(危)，如果是许久不碰高数的同学直接肝不亚于硬抗苇名一心。为了简化难度，我们先来做一些准备工作。首先，我们先来看下σ 函数，它本身的形式很复杂，我们先把它的导数搞定。因为 y_hat = σ(θX) ，我们将它带入损失函数，可以得到，其中σ(θX)简写成σ(θ) ：接着我们求 J(θ) 对 θ 的偏导，这里要代入上面对 σ(x) 求导的结论：代码实战梯度的公式都推出来了，离写代码实现还远吗？不过巧妇难为无米之炊，在我们撸模型之前，我们先试着造一批数据。我们选择生活中一个很简单的场景——考试。假设每个学生需要参加两门考试，两门考试的成绩相加得到最终成绩，我们有一批学生是否合格的数据。希望设计一个逻辑回归模型，帮助我们直接计算学生是否合格。为了防止sigmoid函数产生偏差，我们把每门课的成绩缩放到(0, 1)的区间内。两门课成绩相加超过140分就认为总体及格。这样得到的训练数据有两个特征，分别是学生两门课的成绩，还有一个偏移量1，用来记录常数的偏移量。接着，根据上文当中的公式，我们不难(真的不难)实现sigmoid以及梯度下降的函数。这段函数实现的是批量梯度下降，对Numpy熟悉的同学可以看得出来，这就是在直接套公式。最后，我们把数据集以及逻辑回归的分割线绘制出来。最后得到的结果如下：随机梯度下降版本可以发现，经过了1万次的迭代，我们得到的模型已经可以正确识别所有的样本了。我们刚刚实现的是全量梯度下降算法，我们还可以利用随机梯度下降来进行优化。优化也非常简单，我们计算梯度的时候不再是针对全量的数据，而是从数据集中选择一条进行梯度计算。基本上可以复用梯度下降的代码，只需要对样本选取的部分加入优化。我们设置迭代次数为2000，最后得到的分隔图像结果如下：当然上面的代码并不完美，只是一个简单的demo，还有很多改进和优化的空间。只是作为一个例子，让大家直观感受一下：其实自己亲手写模型并不难，公式的推导也很有意思。这也是为什么我会设置高数专题的原因。CS的很多知识也是想通的，在学习的过程当中灵感迸发旁征博引真的是非常有乐趣的事情，希望大家也都能找到自己的乐趣。今天的文章就是这些，如果觉得有所收获，请顺手点个关注或者转发吧，你们的举手之劳对我来说很重要。相关资源：【原创】R语言对二分连续变量进行逻辑回归数据分析报告论文(代码...文章知识点与官方知识档案匹配算法技能树首页概览33030 人正在系统学习中打开CSDN，阅读体验更佳VGG论文笔记及代码_麻花地的博客_vgg论文VGG论文笔记及代码 VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION 牛津大学视觉组(VGG)官方网站: Abstract 在这项工作中,我们研究了在大规模图像识别环境中卷积网络深度对其......MNIST研究》论文和Python代码_通信与逆向那些事的博客_机器...1、逻辑回归算法 逻辑回归(Logistic Regression),与它的名字恰恰相反,它是一个分类器而非回归方法,在一些文献里它也被称为logit回归、最大熵分类器(MaxEnt)、对数线性分类器等。 使用中的LogisticRegression方法来训练...两个重要极限的推导两个重要极限 （1） limθ→0sinθθ=1 （θ为弧度） \underset{\theta \rightarrow 0}{\lim}\frac{\sin \theta}{\theta}=1\ \ \text{（}\theta \text{为弧度）} θ→0limθsinθ=1 （θ为弧度） （2） limx→∞(1+1x)x=e \underset{x\rightarrow \infty}{\lim}\left( 1+\frac{1}{x} \ri继续访问两个重要极限及其推导过程一、 证明：由上图可知， 即 二、 证明：首先证明此极限存在 构造数列 而对于n+1 ...继续访问...是多项式回归】Jeff Dean等论文发现逻辑回归和深度学习一样好_qq...其中,基线 aEWS(augmented Early Warning Score)是一个有 28 个因子的逻辑回归模型,在论文作者对预测患者死亡率的传统方法 EWS 进行的扩展。而 Full feature simple baseline 则是 Uri Shalit 说的标准化逻辑回归。 注意到基线模型(红...数学模型——Logistic回归模型(含Matlab代码)_苏三有春的博客...Logistic回归模型是一种非常常见的统计回归模型,在处理大量数据,揭示各自变量如何作用于因变量(描述X与Y之间的关系)时有着十分重要的作用。笔者在写Logit回归模型前参加了一次市场调研比赛,在这次比赛中学到了很多东西,同时发现,许多优秀获...《神经网络设计》第二章中传递函数import math #硬极限函数 def hardlim(data): if data < 0: a = 0 else: a = 1 print("fun:hardlim,result:%f"%a) #对称硬极限函数 def hardlims(data): if data < 0: a = -1 e继续访问两个重要极限定理推导两个重要极限定理： limx→0sinxx=1(1) \lim_{x \rightarrow 0} \frac{\sin x}{x} = 1 \tag{1} x→0limxsinx=1(1) 和 limx→∞(1+1x)x=e(2) \lim_{x \rightarrow \infty} (1 + \frac{1}{x})^x = e \tag{2} x→∞lim(1+x1)x=e(2) 引理(夹逼定理) 定义一： 如果数列 {Xn}\lbrace X_n \rbrace{Xn}，{Yn}继续访问【原创】R语言对二分连续变量进行逻辑回归数据分析报告论文(代码...【原创】R语言对二分连续变量进行逻辑回归数据分析报告论文(代码数据).docx资源推荐 资源评论 鲸鱼算法(WOA)优化变分模态分解(VMD)参数python 5星 · 资源好评率100% 程序 2.有数据集,可直接运行 matlab批量读取excel表格数据...机器学习--逻辑回归_科技论文精讲的博客机器学习-逻辑回归分析(Python) 02-24 回归和分类方法是机器学习中经常用到的方法区分回归问题和分类问题:回归问题:输入变量和输出变量均为连续变量的问题;分类问题:输出变量为有限个离散变量的问题。因此分类及回归分别为研究这两类问题...常见函数极限limx→0sinx=1\lim_{x\to 0}\frac{\sin}{x}=1x→0limxsin=1 limx→∞(1+1x)x=e\lim_{x\to \infty}(1+\frac{1}{x})^x=ex→∞lim(1+x1)x=e limα→0(1+α)1α=e\lim_{\alpha\to 0}(1+\alpha)^\frac{1}{\alpha}=eα→0lim(...继续访问逻辑回归原理及代码实现公式自变量取值为任意实数，值域[0,1]解释将任意的输入映射到了[0,1]区间，我们在线性回归中可以得到一个预测值，再将该值映射到Sigmoid函数中这样就完成了由值到概率的转换，也就是分类任务预测函数其中，分类任务整合解释对于二分类任务（0，1），整合后y取0只保留，y取1只保留似然函数对数似然此时应用梯度上升求最大值，引入转换为梯度下降任务求导过程参数更新多分类的softmax。............继续访问python手写数字识别论文_Python利用逻辑回归模型解决MNIST手写数字识别问...本文实例讲述了Python利用逻辑回归模型解决MNIST手写数字识别问题。分享给大家供大家参考,具体如下: 1、MNIST手写识别问题 MNIST手写数字识别问题:输入黑白的手写阿拉伯数字,通过机器学习判断输入的是几。可以通过TensorFLow下载MNIST手写数据集,...逻辑回归问题整理_暮雨林钟的博客逻辑回归问题整理 之前只是简单的接触过逻辑回归,今天针对于最近看论文的疑惑做一个整理; 逻辑回归与极大似然的关系: 逻辑回归的提出主要是在线性问题下为分类问题而提出的; 简单来说,针对于一个二分类问题,我们需要将线性函数映射为一...机器学习算法-逻辑回归（一）：基于逻辑回归的分类预测（代码附详细注释）1 逻辑回归的介绍和应用 逻辑回归的介绍 逻辑回归（Logistic regression，简称LR）虽然其中带有"回归"两个字，但逻辑回归其实是一个分类模型，并且广泛应用于各个领域之中。虽然现在深度学习相对于这些传统方法更为火热，但实则这些传统方法由于其独特的优势依然广泛应用于各个领域中。 而对于逻辑回归而且，最为突出的两点就是其模型简单和模型的可解释性强。 逻辑回归模型的优劣势: 优点：实现简单，易于理解和实现；计算代价不高，速度很快，存储资源低； 缺点：容易欠拟合，分类精度可能不高 继续访问逻辑回归：原理+代码（作者：陈玓玏） 逻辑回归算是传统机器学习中最简单的模型了，它的基础是线性回归，为了弄明白逻辑回归，我们先来看线性回归。 一、线性回归 假设共N个样本，每个样本有M个特征，这样就产生了一个N*M大小的样本矩阵。令矩阵为X，第i个样本为Xi，第i个样本的第j个特征为Xij。令样本的观测向量为Y，第i个样本的观测值为Yi，那么就会有以下公式： （X+[1]N*1）*W = Y 也就是说，...继续访问浅谈逻辑回归_jzhx107的博客LMSE回归的回归平面受左上角两个绿色样本的影响而向上倾斜。 支持向量机的分离平面只由两个支持向量决定。 另外我们看到,在本例中逻辑回归和支持向量机得到的分离平面很接近,但是支持向量机的推导和训练过程要比逻辑回归复杂很多。所以加州...论文研究-基于HBase的多分类逻辑回归算法研究.pdf_多分类逻辑回归...论文研究-基于HBase的多分类逻辑回归算法研究.pdf,为解决在大数据环境下,用于训练多分类逻辑回归模型的数据集可能会超过执行计算的客户端内存的问题,提出了块批量梯度下降算法,用于计算回归模型的系数。将训练数据集存入HBase后,通过设置表...【机器学习】 逻辑回归原理及代码大家好，我是机器侠~1 Linear Regression（线性回归）在了解逻辑回归之前，我们先简单介绍一下Linear Regression（线性回归）。线性回归是利用连续性的变量来预估实际数值（比如房价），通过找出自变量与因变量之间的线性关系，确定一条最佳直线，称之为回归线。并且，我们将这个回归关系表示为2 Logistic Regression（...继续访问最新发布 【大道至简】机器学习算法之逻辑回归(Logistic Regression)详解(附代码)---非常通俗易懂！逻辑回归详细推导，附github代码继续访问第二重要极限公式推导过程_机器学习——一文详解逻辑回归「附详细推导和代码」...在之前的文章当中，我们推导了线性回归的公式，线性回归本质是线性函数，模型的原理不难，核心是求解模型参数的过程。通过对线性回归的推导和学习，我们基本上了解了机器学习模型学习的过程，这是机器学习的精髓，要比单个模型的原理重要得多。新关注和有所遗忘的同学可以点击下方的链接回顾一下之前的线性回归和梯度下降的内容。讲透机器学习中的梯度下降机器学习基础——线性回归公式推导(附代码和演示图)回归与分类在机器学习...继续访问机器学习之逻辑回归，代码实现（附带sklearn代码，小白版）用小白的角度解释逻辑回归，并且附带代码实现继续访问热门推荐 两个重要极限及相关推导极限两个重要极限： ①limx→0sinxx=1\lim_{x \to 0}\frac{\sin x}{x} = 1 ②limx→∞(1+1x)x=e\lim_{x \to \infty}(1 + \frac{1}{x})^x = e 关于重要极限①的推导极限可以参考： 无穷小的等价代换 由重要极限②可以推导出： limx→∞(1+1x)x⇒limx→0(1+x)1x=e\lim_{x \t继续访问（一）机器学习——逻辑回归（附完整代码和数据集）什么是逻辑回归？ 首先逻辑回归是一种分类算法。逻辑回归算法和预测类算法中的线性回归算法有一定的类似性。简单来讲，逻辑回归，就是通过回归的方法来进行分类，而不是进行预测，比如预测房价等。 逻辑回归解决的问题 先看下面的图，已知平面上分布的红点和蓝点，逻辑回归算法就是解决怎么根据一系列点，计算出一条直线（或者是平面）将平面上的点分成两类，一般的解决方法就是建立一个数学模型，然后通过迭代优化得到一个最优...继续访问机器学习：逻辑回归及其代码实现一、逻辑回归（logistic regression）介绍 逻辑回归，又称为对数几率回归，虽然它名字里面有回归二字，但是它并不像线性回归一样用来预测数值型数据，相反，它一般用来解决分类任务，特别是二分类任务。 本质上，它是一个percetron再加上一个sigmoid激活函数，如下所示： 然后逻辑回归采用的损失函数是交叉熵： ...继续访问逻辑回归，原理及代码实现Ⅰ.逻辑回归概述： 逻辑回归（LR,Logistic Regression）是传统机器学习中的一种分类模型，它属于一种在线学习算法，可以利用新的数据对各个特征的权重进行更新，而不需要重新利用历史数据训练。因此在实际开发中，一般针对该类任务首先都会构建一个基于LR的模型作为Baseline Model，实现快速上线，然后在此基础上结合后续业务与数据的演进，不断的优化改进。 由于LR算法具有简单、高效、易于并行且在线学习（动态扩展）的特点，在工业界具有非常广泛的应用。例如：评论信息正负情感分析（二分类）、用户点继续访问逻辑(logistic)回归算法原理及两种代码实现①简单介绍了逻辑回归的原理 ②介绍了两种代码实现方法继续访问由两个重要极限推导常见等价无穷小以及常见导数公式两个重要极限 第一个重要极限 limx→0xsinx=1 \lim_{x\rightarrow0}\frac{x}{sinx}=1x→0limsinxx=1 第二个重要极限 limx→+∞(1+1x)x=e \lim_{x\rightarrow+\infty}(1+\frac{1}{x})^x=ex→+∞lim(1+x1)x=e 等价无穷小 1. ln(1+x)~x limx→0ln(1+x)x=limx→0ln(1+x)1x=ln(limx→+∞(1+1x)x)=lne=1 \lim_{继续访问机器学习——逻辑回归算法代码实现机器学习——逻辑回归算法代码实现前言一、逻辑回归是什么？二、代码实现1.数据说明2.逻辑回归代码 前言 最近准备开始学习机器学习，后续将对学习内容进行记录，该文主要针对逻辑回归代码实现进行记录！同时也准备建一个群，大家可以进行交流，微信：ffengjixuchui 一、逻辑回归是什么？ 逻辑回归概念篇可看博主之前的文章，传送门 二、代码实现 1.数据说明 你想根据两次考试的结果来决定每个申请人的录取机会。你有以前的申请人的历史数据，你可以用它作为逻辑回归的训练集。
牛顿法需要函数的一阶、二阶导数信息，也就是说涉及到Hesse矩阵，包含矩阵求逆运算，虽然收敛速度快但是运算量大。拟牛顿法采用了一定的方法来构造与Hesse矩阵相似的正定矩阵，而这个构造方法计算量比牛顿法要小；共轭梯度法的基本思想是把共轭性与最速下降方法相结合，利用已知点处的梯度构造一组共轭方向，并沿这组方向进行搜素，求出目标函数的极小点。根据共轭方向基本性质，这种方法运算量不太大收敛速度也不慢。
之前文章 最速下降法、Newton法、修正Newton法 介绍的最速下降法存在锯齿现象，Newton法需要计算目标函数的二阶导数。接下来介绍的 共轭方向法 是介于最速下降法和Newton法之间的一种方法，它克服了最速下降法的锯齿现象，从而提高了收敛速度；它的迭代公式也比较简单，不必计算目标函数的二阶导数，与Newton法相比，减少了计算量和存储量。它是比较实用而有效的最优化方法。
我们先将其在正定二次函数 上研究，然后再把算法用到更一般的目标函数上。首先考虑二维的情形。
任选初始点 ，沿它的某个下降方向，例如向量 的方向，作直线搜索，如上图所示。由下面这个定理：
定理 ：设目标函数 具有一阶连续偏导数，若 ,则 。
知 。如果按照最速下降法选择的就是负梯度方向为搜索方向(也就是 方向)，那么将要发生锯齿现象。于是一个设想是，干脆选择下一个迭代的搜索方向 就从 直指极小点 ，也就是找到上图所示的 方向。
因为 从 直指极小点 ,所以 可以表示为： 其中 是最优步长因子。显然，当 时， 。到这里，我们还有一个已知条件没用，就是目标函数为二次正定，所以我们对目标函数求导，得到： 因为 是极小点，所以有: 将 带入上述方程式，有： 上式两边同时左乘 ，并注意到 和 ，得到 。这就是为使 直指极小点 ， 所必须满足的条件。并且我们将两个向量 和 称为 共轭向量 或称 和 是 共轭方向 。
由上面共轭梯度法那张图可以设： 上式两边同时左乘 ,得： 由此解出： 代回 得： 从而求到了 的方向。
归纳一下，对于正定二元二次函数，从任意初始点 出发，沿任意下降方向 做直线搜索得到 再从 出发，沿 的共轭方向 作直线搜索，所得到的 必是极小点 。到目前为止的共轭梯度法依旧是假设了目标函数是二次正定矩阵。
上面的结果可以推广到 维空间中，即在 维空间中，可以找出 个互相共轭的方向，对于 元正定二次函数从任意初始点出发，顺次沿着这 个共轭方向最多作 次直线搜索，就可以求到目标函数的极小点。
对于 元正定二次目标函数，如果从任意初始点出发经过 有限次迭代 就能够求到极小点，那么称这种算法具有 二次终止性 。例如，Newton法对于二次函数只须经过一次迭代就可以求到极小点，因此是二次终止的；而最速下降法就不具有二次终止性。共轭方向法（如共轭梯度法、拟Newton法等）也是二次终止的。
一般说来，具有二次终止性的算法，在用于一般函数时，收敛速度是较快的。
定义：设 是 对称正定矩阵。若 维向量空间中的非零向量 满足 ， 则称 是 共轭向量或称向量 是 共轭的（简称共轭）。
当 (单位矩阵)时 变为 ， 。即向量 互相正交 。由此看到，“正交”是“共轭”的一种特殊情形，或说，“共轭”是“正交”的推广。
下面介绍几个定理：
定理 ：若非零向量 是 共轭的，则线性无关。
推论 ：在 维向量空间中， 非零的共轭向量的个数不超过 。
定义 设 是 中的线性无关向量， 。那么形式为： 的向量构成的集合，记为 。称为由点 和向量 所生成的 线性流形 。
共轭方向法的理论基础是下面的定理。
定理 假设
(1) Q为 对称正定矩阵;
(2) 非零向量 是 共轭向量;
(3) 对二次目标函数 顺次进行 次直线搜索: 其中 是任意选定的初始点，则有：
i) ， ;
ii) 是二次函数 在线性流形 上的极小点。
这个定理看来较繁，但可借用直观的几何图形来帮助理解。 ， 的情形为例，如图示。
和 是Q共轭向量，张成了二维空间 ，这是过坐标原点的一个平面。 现在，过点 沿 方向作直线搜索得到 ，再过点 沿 方向作直线搜索得到 过点 由向量 和 张成的平面就是线性流形 。它是 的平行平面。
定理的论断是，最后一个迭代点 处的梯度 必与 和 垂直。并且 是三元二次目标函数 在线性流形 (即过 由 和 张成的平面)上的极小点。
共轭方向法算法的大体流程 就是：选定初始点 和下降方向向量 ，做直线搜索 。提供的梯度方向 使得 ， 。提供共轭方向的方法有多种。不同的提供方法将对应不同的共轭方法。每种方法也因产生共轭方向的特点而得名。
那么这里做直线搜索 中的 是如何确定的呢？这里我们先回顾一下在最速下降法中是如何计算这个 的。最速下降法：
依据定理 设目标函数 具有一阶连续偏导数，若 ,则 。，我们可以得到 。由此有： 由此，可求解出 : 这里还可以采用另外一种种方式计算 ，下面对另外一种方式进行公式推导：
由 ，用 左乘上式两边，然后再同时加上 ，利用 能够得到： 左乘 有 由此解出： 在最速下降法中 ，在共轭方向法中 。
在共轭方向法中，如果初始共轭向量 恰好取为初始点 处的负梯度 ，而其余共轭向量 由第 个迭代点 处的负梯度 与已经得到的共轭向量 的线性组合来确定，那么这个共轭方向法就称为 共轭梯度法 。
针对目标函数是正定二次函数来讨论：
(1) 第一个迭代点的获得 ：
选定初始点 ，设 (否则迭代终止)，因此 。取 ，（以下用 表示 ）从 出发沿 方向做直线搜索，得到第1个迭代点 ，其中 可由下式确定： 显然
(2) 第二个迭代点的获得 ：
设 ，因此 。由 知 与 线性无关。取 其中 是使 与 共轭的待定系数，令： 由此解出 并代回确定 ，并获得第2个迭代点。 由公式 可以求得 ，带入公式 可进一步优化得到： (3) 第三个迭代点的获得 ：
设 ，因此 。由 知 与 线性无关。取 其中 是使 与 共轭的待定系数，令： 由此解出 并代回确定 ，并获得第3个迭代点。 其中 上述过程仅表明 与 ， 与 共轭，现在问， 与 也共轭吗？ (4) 第 个迭代点的获得 ：
由 知 与 线性无关。取 其中 是使 与 共轭的待定系数，令： 由此解出 并代回确定 ，并获得第k+1个迭代点。 其中 以上就是共轭梯度法得核心内容。
为使共轭梯度算法也适用于非二次函数，需要消去算法中的 对于正定二次函数，有 代入到 中，得： 此式中已不再出现矩阵 ，将 两端转置运算，并同时右乘 得： 将共轭方向法中的定理带入得到 ，由直线搜索的性质有 ，带入上式有 。此外： 带入 ，得到： 此式称为Fletcher－Reeves公式(1964年)。
共轭梯度法指的是：
共轭梯度法是介于最速下降法与牛顿法之间的一个方法，它仅需利用一阶导数信息，但克服了最速下降法收敛慢的缺点，又避免了牛顿法需要存储和计算Hesse矩阵并求逆的缺点。
共轭梯度法不仅是解决大型线性方程组最有用的方法之一，也是解大型非线性最优化最有效的算法之一。在各种优化算法中，共轭梯度法是非常重要的一种。其优点是所需存储量小，具有步收敛性，稳定性高，而且不需要任何外来参数。
共轭梯度法的提出和应用：
共轭梯度法最早是由Hestenes和Stiefle提出来的，在这个基础上，Fletcher和Reeves 首先提出了解非线性最优化问题的共轭梯度法。由于共轭梯度法不需要矩阵存储，且有较快的收敛速度和二次终止性等优点，现在共轭梯度法已经广泛地应用于实际问题中。
信度效度检验在问卷调查的过程中是必须要做的。
信度效度检验在问卷调查的过程中是必须要做的，因为问卷调查往往只是整个项目的一个环节，在正确项目的目标下，一定会另有调查的可信度，有效分析来支持调查结果，这样我们的问卷调查才有可信度，结果也能趋于正确数据。
信度指测验结果的一致性、稳定性及可靠性，一般多以内部一致性来加以表示该测验信度的高低。信度系数愈高即表示该测验的结果愈一致、稳定与可靠。
系统误差对信度没什么影响，因为系统误差总是以相同的方式影响测量值的，因此不会造成不一致性。反之，随机误差可能导致不致性，从而降低信度。信度可以定义为随机误差R影响测量值的程度。如果R=0，就认为测量是完全可信的，信度最高。
一般如果是含有量表的问卷都需要做信效度分析。非量表问卷可以使用文字形式进行描述，无论是什么类型的问卷，都应该在论文中进行表述以证明数据质量可信可靠。
如果是自编量表，一般需要进行预测试，就是在小范围发放问卷，进行信效度分析，对信效度较低的题项进行修改或删除，便于研究者对初测问卷进行一定调整以形成最终版本。当然，正式研究还是要做信效度分析。
效度与信度是优良测量工具所必备的两项主要条件。效度与信度之间存在的关系，可以用一句话来概括：信度是效度的必要条件而非充分条件。
信度是效度的必要条件，就是说，一个指标要有效度就必须有信度，不可信就不可能正确。但是，信度不是效度的充分条件，即是说，有了信度，不一定有效度。
严格来说！不是所有问卷都适合做信效度分析，信效度分析主要针对【量表】类问卷，而如果只是调查一些客观现实（如年龄、性别、职业、车辆、工资等）以【显变量】为主的问卷，是不适合做信效度分析的！判断一些变量之间是否适合做信效度检验，应该关注这么几点：
（1）潜变量：直接无法观测到的变量，主要反映人的认知和主观意愿等。
（2）可测：可以被测量的变量，一般是有序或等距的变量，而不是像地点这样的分类变量。
（3）变量之间等距等尺度：例如均采用5点或7点评分法获得的测量数据。
在论文写作中，导师常常告诉我们，调研要有信效度检验，那么信度、效度是什么？怎么分析信效度呢？ 信度是指测量的可信程度。 我们来看一个比较理想的状态。当我们用一个测量工具，对我们需要测量的对象测量了很多次后，得到的结果都是一样的。这时我们可以说这个测量工具是可以信赖的。 但是现实中，由于随机误差的影响，不可能达到这种状态。 那么我们怎么评估我们的测量工具是可以信赖的呢？ 我们可以计算我们用自己的测量工具得到的结果与理想状态的差距。如果差距越小，那么我们的测量工具就越可靠。 这个差距就是信度。 信度有不同的指标，我们只要明白什么时候用什么指标来检验信度就可以了。剩下的计算，统计软件可以帮我们完成，我们只要选择我们需要的计算公式进行计算，就能得出我们想要的结果。 效度则是考察我们使用的测量工具是否能有效度量我们要测量的变量。 较为公认的说法是，效度分为三种：内容效度、校标效度和构念效度。 内容效度指问题的撰写是否能准确反映测量的初衷。 校标效度指测量工具与某个公认的标准的关系是否紧密。（研究目的是测量是否能较为准确地进行预测。） 构念效度指测量工具能测量出的结果和理论预测或理论结论之间的关系是否紧密相关。（研究目的是验证理论用于测量的有效性。）那么文献中经常看到的表面效度，聚合效度，区别效度呢？ 表面效度：题项的表述是否明确、清晰、规范。（一般依据专家的意见来检验，具有主观性，不够牢靠。） 构念效度包含区分效度，聚合效度。当测量对象包含较为复杂的相互关系时，需要细化分析了。 区别效度：一个测量中，不同项目得到的测量结果能够得到区分。 聚合效度：测量一个特征的项目中，项目中不同题项应该指向同一相同特征。 那我们具体要怎么做呢？ 和信度一样，我们只要了解在什么情况下用什么指标检验效度就好，剩下的计算软件会帮我们完成。在写文章时，我们只要依据自己的问卷或量表，选择合适的信度、效度检验指标，利用软件计算出结果，就可以验证问卷或量表设计是否可信、有效了。
是啊，q我，我帮你
一般如果是含有量表的问卷都需要做信效度分析。非量表问卷可以使用文字形式进行描述，无论是什么类型的问卷，都应该在论文中进行表述以证明数据质量可信可靠。如果是自编量表，一般需要进行预测试，就是在小范围发放问卷，进行信效度分析，对信效度较低的题项进行修改或删除，便于研究者对初测问卷进行一定调整以形成最终版本。当然，正式研究还是要做信效度分析。