熵理论的意义
时间为什么具有单向性?时间箭头究竞从何而来?这是科学中100多年来没有根本解决的老大难问题。宇宙学箭头是最基本的时间箭头。其他一切时间箭头,比如热力学箭头,电磁箭头,量子力学箭头,乃至生命箭头,生物学时间箭头、历史箭头等都可由宇宙学箭头推出。[157](P44) 熵理论和它的分子解释,却给予时间的流逝以固定的方向和确定的物理意义,这点在已往任何物理学理论体系中是没有的,正如爱丁顿所指出的:熵在物质世界中,为时间的指针。[110](P15) 熵理论则将时间与物质世界联系了起来,它不再是独立于自然运动之外的存在物,赋予了时间以物质的、能量的意义。[110](P15)
能量的退化总是伴随着熵的增加,因此从能量使用上讲,熵是系统能量不可用程度的量度;对一个系统而言,它所包含的“能”量度了该系统的运动转换的能力,而它所包含的“熵”则量度了该系统的运动不能转换的潜力,亦即运动丧失转化能力的程度;能量和熵,一个从正面量度了能的数量;另一个从负面量度了能的质量。[161]
玻尔兹曼熵表征粒子无规则热运动的无序程度。系统的熵越大,表征系统的微观状态越不确定越混乱无序,用维纳的话来说,一个系统的熵就是它的无组织程度的度量。[180] 下面的两个例子,将会使我们对熵与无序性有一个直觉的理解。最初分子被关在左边半个箱子中是比较有序,在自由膨胀后系统变得更加无序了。较确切地说无序性的增大意味着分子之间差别进一步消失。据此观点,“分子在整个箱子中”这一陈述表示的有序性比“分子在左边半个箱子中”这一陈述所表示的有序性弱些。气体的自由膨胀是一个不可逆过程。理想气体经自由膨胀过程后,经计算熵是增加的。即气体最初在左半个箱子中的熵值最小,随着膨胀过程中气休无序性的增加,熵值也逐渐增加,充满整个箱子时气体最无序,对应的熵值也最大。[192] 两个物体,温度分别为T1和T2,若T1>T2使两个物体接触而达到一个均匀的中间温度T0,在这个自然过程中,系统也变得更加无序了。原先温度为T1的物体中的分子的平均动能和温度为T2的物体中的分子的平均动能是不相同的。由于接触,两类分子的平均动能变得相同从而难以区分它们。据此观点,原先在温度为T1和T2的物体的分子,其有序性要比处在共同温度T0时物体中分子的有序性高。[192]
信息熵不仅能用于信息量的计算,它实质是一个有普适意义的关于不确定性的数学度量。申农将熵概念从热力学领域引进了信息论,赋予了熵广义的概念,也引起了数学界关于不确定性度量的研究,后来出现的测度熵、拓扑熵是与申农熵一脉相承的。[179] 包括生命科学在内的自然科学乃至社会科学的各个领域,存在着大量的不同层次、不同类别的随机事件的集合,而每一种集合都对应有相应的不确定性(或称为无序性、混乱度、无规律性等等),这种不确定性或无序度可以是所研究的系统组成要素之间的无规则联系与转化的程度,也可以是客观事件之间的不确定性联系与转化的程度。所有这些不确定性都可使用熵这个统一的概念来描述:即凡是导致事件集合的肯定组织性、法则性、有序性等增加或减少的活动过程,都可用熵的改变量这个统一的标尺来度量,从而使该随机事件集合的某种规律性描述实现定量化。[178] 换句话说,凡是所研究的对象即系统,其组成要素之间的关系具有随机不确定性,或相互转化,或表现形式是混乱的、无序的、都可以用熵理论来描述和研究。[[i]]
--------------------------------------------------------------------------------
[i]杨庆贤.简论熵和负熵与地球生态问题[J].林业经济问题,2001,21(1):62~64
---------------------------------------------------------------------------------------------------------
其它引用文献:
---------------------------------------------------------------------------------------------------------
如果没有得到答案,请您关注后续文章.
1.5.3群体中突变基因的数学分析
1.6生物进化与Shannon信息熵
1.6.1 Shannon信息熵是事物多样性的测度
1.6.2平衡定理是Shannon信息熵最大定理
1.6.3 Shannon信息熵是基因多样度的最好测度
1.6.4 Shannon信息熵在遗传学与群体遗传学中的研究进展
1.7突变与Shannon信息熵
第二章突变基因的信息论模型
2.1 Shannon信息熵的概念及性质
2.1.1 Shannon信息量
2.1.2信息与信源间的关联
2.1.3最大信息熵原(MIP)
2.2两对中性基因平衡群体的Shannon信息熵性质
2.3中性突变基因在世代传递中的Shannon信息熵性质
2.3.1中性频发突变群体的Shannon信息熵
2.3.2中性往复突变群体的Shannon信息熵
2.3.3中性突变基因在有限群体中的信息熵性质
2.4自然选择与稳定多态现象的Shannon信息熵性质
2.4.1自然选择的Shannon信息熵性质
2.4.2在适应度不同显性度选择下的Shannon信息熵分析
2.4.3稳定遗传多态现象的Shannon信息熵性质
[摘要]企业组织在发展过程中随着规模的扩大,其轨迹呈现出从有序到无序的内在演变过程,因而通过组织创新引导企业不断创造有效能、吸收负熵流、减少正熵流、促进管理耗散结构的形成,对推动企业可持续发展尤为重要。
[关键词]组织创新;管理熵;耗散结构
国内外对企业组织创新的研究主要集中于组织创新的动因、形式与路径方面,形成了组织创新内容学派和过程学派,而对企业组织创新定量分析方面研究甚少。基于此,对组织创新进行定量研究,一方面可借助于熵理论分析组织创新的有序度,另一方面可建立组织创新的仿真模型来分析组织创新效率。笔者是基于管理熵和管理耗散结构理论的管理学意义的阐释来说明组织创新。
熵概念是为了将热力学第二定律格式化而引入的,创立信息论之后,熵被作为信息的量度。为了更好地描述熵对事物不确定性程度的量度,中国学者杨国政、宋华岭和任佩瑜等人将熵引入管理学领域。管理熵揭示的是企业组织内部管理效率递减的规律,它指出企业内部存在能量梯度,即能量差异,作为一个相对封闭的孤立系统,如果企业较少与环境进行信息、能量和物质的交换,则必将从有序发展到无序并最终走向衰亡。而管理耗散则从另一个角度揭示了企业组织由无序向有序发展的趋势,它描述了企业作为一个远离平衡态的开放系统,内部各要素问存在非线性作用,当企业外部环境变化达到一定阈值时,随着其内部同环境不断进行能量、物质和信息交换,企业组织总熵减少,因而效率相应递增[1]。可以说,管理熵的本质就是组织的管理混乱、无序、能量无效、衰减的一种状态,而管理耗散的本质则是指组织的管理有序、正常、能量有效、再生的一种状态。
由于现实中,没有哪一种组织结构能使企业常盛不衰,因此,可以综合运用系统理论、熵理论和信息理论,建立数学模型来定量分析企业组织系统演进的内在机理和路径。基于管理熵和管理耗散结构的组织创新是利用管理熵和管理耗散结构理论,通过外部要素结构与内部要素结构之间互动关系的研究,对企业组织进行结构和功能的重组,以增进组织的开放性,扩大企业与外界的物质、信息和能量交换及补偿的能力。所以,基于管理熵、管理耗散结构的组织创新较之于传统的组织创新在一些主要方面存在较大的差别,能较好地融合组织强制力和市场强制力,产生出一种高效有序的组织状态。
一、熵理论和企业组织创新的关系
管理熵意味着无序和混乱,管理耗散则意味着有序和再生,两者是一对矛盾。前者给企业组织带来负面影响,使企业走向衰退,后者则使企业能克服管理熵所造成的负面结果,不断获得再生能量,从而延长企业生命周期,实现企业可持续发展。统一性表现在两者可以相互影响:管理耗散的产生可以减少、抑制管理熵增;反之,管理熵减又可以促进管理耗散的形成。在企业发展当中,上述规律交互影响,两者力量的此消彼长导致企业演化呈现矛盾复杂的特点[2]。若企业不断开拓新的发展点,寻找到再生契机,企业的生命就可以得到延缓,进入新一轮的发展期。由此可见,企业组织发展规律的关键就是管理熵和管理耗散之间的这种矛盾运动,弄清并把握了这种矛盾运动,就把握了企业未来的发展方向。
组织创新正是基于这种矛盾运动的产物。通过组织创新,企业打破封闭,建立开放系统,不断地从外界吸取能与企业产生协同效应、提高竞争力的优质物质,即人力资源、资本、技术、市场信息等,并与外界环境发生物质、能量交换,从而有效地打破旧的相对平衡态,创造新的非平衡态。在这种交互作用的过程中,企业既要克服因熵的增加而导致的混乱状态,又要依靠负熵的导人来构建新的有序。只有在负熵的增加大于正熵增加的时候,企业整体的熵的变化才会小于零,企业才会形成新的有序,才会向更高的层次推进,因此,组织创新的实质就在于创造一个负熵流持续增加的环境,促进管理耗散结构的形成。
二、企业组织创新中的熵原理
(一)组织创新的目的是促进耗散结构的形成
企业在组织创新前是一个相对平衡的系统,他们维持原有的生产结构、人员结构和已有的制度。虽然每天不断地发生采购、生产与销售这些经济活动,但他们的生产函数、资产结构、人事结构没有发生改变,所以企业在组织创新前是一个相对平衡的系统。而这种相对平衡将使企业逐渐成为一种平衡态,最后其熵值越来越大,一旦其熵值达到临界值时,将会出现热寂,使企业无法再维持下去,最后只能破产[3]。
企业在组织创新中引入新的生产要素及其组合,引起企业系统变化,改变了原有的生产结构,打破了原有的人事、生产平衡,打破了企业原有的资产、人力、制度、技术的组合方式,也改变了企业与环境的约束机制,使企业新系统得以形成,因此,组织创新能促使企业系统形成一个新的远离平衡态的耗散结构。在形成新企业系统过程中,各要素间的相互作用是完全不能简单地用一种线性的关系来描述的,这时,新的技术、资产结构、制度等都作为一种新的要素组成了新的生产函数。各种新要素以及其衍生品引人新系统中,直接干扰了旧企业系统的平衡态,并在一种新的反馈机制的作用下,其作用力不断成倍的扩张,促使系统远离平衡态。结果是:新要素间的随机涨落与反应不再被衰减,而是被放大,形成巨涨落,并形成了生产要素的重新组合,使新企业系统得以形成,企业从一种运作状态转换到另一种新的有序运作状态[4]。可以说,企业组织创新是企业系统演进过程中的一次大幅度涨落。
组织创新后,企业在资本结构、技术、人力、制度、信息等方面都会发生变化,各种变化都将使企业朝另一种方向发展。这种巨大外力的作用,使企业不断地发生涨落甚至突变,如果涨落、突变后的各要素能形成一种自组织,企业在组织创新过程中所受的外力将朝着协同的方向前进,形成一种新的耗散结构。那么,在此基础上所形成的新企业系统其熵值远低于创新前各企业子系统的熵值之和,此时新企业子系统乃至整个组织系统更加趋于协同,有利于企业由一种有序走向更高层次的有序,即新企业系统成为新的耗散结构[5]。另一种情况是,如果企业在涨落、突变后,各要素无法形成自组织,那么各要素间将不断地冲突,表现在组织创新后企业不断地产生文化冲突、组织混乱和制度不明朗现象。在此过程中,企业不断地耗散有效能量,最后企业将无力组成一个新系统,各要素都是各自为政。使企业更加混乱,熵值不断增加,最后达到热寂状态,而不得不分离[6]。
可见,耗散结构理论是研究系统怎样从混沌无序的初始状态向稳定有序的组织进行演化的过程
和规律。组织创新是建立一个很有活力的耗散结构,在这种结构中,系统的熵值将会越来越小,这就是将耗散结构理论应用于组织创新的关键所在。
(二)熵变为负:企业组织创新的出发点
熵是一个系统无序程度的度量,如果一个企业只保持一种定态,不从外部引入一些新的东西,这个企业系统的熵就不可避免地会增加。但是,企业要生产出特定的产品或提供特定的服务又必须形成与之相对应的定态,即特定的生产模式或服务模式,否则就不会有企业的存在。这就导致一方面企业为了生存与发展,需要形成一个定态;另一方面定态的维系又伴随着熵的增加。解决这一矛盾的惟一办法就是导入负熵流,利用负熵流冲击已有的定态,导致新定态的产生,进而提高整个企业的有序程度。
企业组织创新其初始目的是希望资源得到有效的配置与利用,最终使企业更有序地发展。从事物的发展规律和能量守恒定律来分析,组织创新这种经济活动就是充分利用资源产出最少的废弃物并减少对社会的损失,在社会学中,我们就把它综合地称之为熵值最低。在组织创新过程中,企业的人力、财力、技术、制度各方面的影响是错综复杂的,他们相互之间都不是独立的,是相互联系与相互制约的,所以,他们之间的作用不是一种简单的线性关系,而是一种非线性关系,少量的外力和流量就足以使它进入完全不同的新状态,即引起系统的突变,从而导致按照熵产生极小原理所确定的热力学关系变得不稳定,表现出复杂的时空行为,正如普里高津论述的一样,如果流过的外力和流量是线性关系,其方向将是熵值最小原理,若流过的外力和流是非线性关系,而非线性方程的解不是惟一的,那么,其熵值变化就可能是正的、也可能是负的或者是不变的。这时,以熵值变化来描述企业,那么企业有可能熵值变化为正无穷大,最后就破产;企业的熵值变化也可能为负,不断地壮大发展;企业的熵值变化也可能为零,维持原有的状况,即创新结果具有一定的不确定性。因此,企业在进行组织创新时,总是选取能量多而能质低的系统,输出的是含能量大而且能质高的产品和能量小而且能质低的废弃物,在此过程中,系统同外界市场之间有一个熵流,表示系统同外界市场发生交换时的熵变,它的作用是促使企业系统形成耗散结构,使系统的熵值变小,这实际上也是我们进行企业组织创新的出发点,即企业的熵值变化为负。
(三)组织创新的不断演进使企业从无序走向有序
随着时间和环境的变化,组织结构变得不再适合企业的发展,各职能部门不断增加,层级变得越来越多,组织日益复杂起来,内部结构性磨擦系数增大,相互之间的冲突越来越多,协调,整合越来越困难,组织内有效能量衰退,反应能力低下,而且由于组织复杂庞大,信息渠道延长,节点增多,经常出现信息失真和迟滞现象,影响组织的正常决策,导致管理熵递增,管理效率递减。为了打破组织的沉寂,让企业充满活力,必须使企业远离平衡态,不断向组织内输送新的能量、物质和信息,使组织有序度增加,无序度减少,负熵大于熵,形成管理耗散结构。依此原理,组织从计划结构过度为柔性结构,再向混乱结构演变,组织处于一种动态平衡中,组织内的一个微观随机小扰动就会通过相关作用放大,发展成一个宏观的巨大涨落,使组织进入不稳定状态,达到一定阈值后又通过自组织再上升到一个新的平衡态,形成充满活力的有序结构,组织将重新走向繁荣。因此,企业必须能够准确把握管理熵的阈值,及时从环境中摄取大量的物质、能量和信息,进行相应的组织创新、管理创新、文化创新和技术创新等,打破内部僵化的平衡状态,使管理效率递增,促使企业从无序向有序进化。
三、熵理论在企业组织创新中的应用:组织的不稳定性分析
根据经典热力学第二定理,封闭系统的不可逆过程将导致系统从有序状态向无序状态转化,即向熵增加的方向转化。由此我们知道,复杂系统在运行时自身具有从有序状态向无序状态发展趋势,在此过程中,各个子系统之间以及系统与环境之间将发生能量、信息和物质等方面的变换,一些不希望产生的能量、信息和物质的变换会导致部分子系统发生崩溃,继而影响到其他子系统,最后导致整个系统的崩溃[7]。因此,笔者得出结论:不稳定性是复杂系统的固有属性。因此,在组织创新过程中,我们必须对组织的稳定性进行分析,从而避免系统不稳定性被激发,这样才能对组织创新提供理论依据。
(一)不稳定性本质
对于一个开放的复杂系统,其熵值的变化dH可以分为两个部分:一部分是由系统内部不可逆过程所引起的熵增加diH,diH≥0;另一部分是系统与外界交换能量和物质所引起的熵流deH,deH可能大于零也可能小于零。业已证明,在远离平衡的区域中,复杂系统的演化并不遵循某种变分原理,因此整个系统的熵的变化应为dH=αdiH+βpdeH,乘上系数p,表明外界流人的熵经系统内部作用后的最后熵变;diH乘上系数α,表明由于外界流入的熵对系统作用的因素,从而使系统内部熵增量diH发生变化后的修正值[8]。
对于孤立系统有:β=0,deH=0,α=1,diH,≥0。对于开放的复杂系统,有四种关系:(1)α≥0,β≥0;(2)α≥0,β≤0;(3)α≤0,β≥0;(4)α≤0,β≤0。系统的不稳定性正是由于diH和deH之间的矛盾运动所引起的。
笔者根据熵增原理分析了系统崩溃的内在机制,证明了不稳定性是系统的一个固有属性。在此基础上,将进一步分析组织创新过程中各个组元之间的相互不稳定性联系以及不稳定性在系统内部的传播扩展模型,便于采取组织修正措施。
(二)复杂系统内部的不稳定性关联
假定企业系统S可以划分为m个子系统S1,S2,…,Sa…,Sm,对任意子系统Sa=(Sai),a=1,2,…,m,i=1,2,…,q是描述子系统不稳定性特征的因子。令Ca(a=1,2,…,k)为sai分类的集合,k≤q,
其中,nij表示子系统Sa属于Ca的第i类的同时Sb属
于Cb的第i类的数量。
定义熵:μ(Sa,Sb)=H(Sb)+H(Sb)-H(Sa∪Sb)为子系统Sa与Sb的不稳定性关联熵。定义μij=±(Sa,Sb)/H(Sb)为子系统Sa与Sb的不稳定性关联度系数[9]。其中正号表示正相关关系,负号表示负相关关系。由各个子系统问的不稳定性关联度系数可以组成系统S的不稳定性关联系数矩阵。这样可以根据实际需要,通过该系数矩阵,找出不稳定性关联度强的子系统,采取必要的修正措施,从而有效地避免组织创新过程中系统的崩溃。
(三)不稳定性传播模型
复杂系统受到外部打击时,如进行组织创新时.不稳定性在其内部子系统间传播扩散,其基本形式可以归纳为如下三种情况:(1)多米诺骨牌模型:系统内部的子系统呈链状结构关系,以每一块骨牌代表一个子系统,以每两块骨牌之间的距离表示其不稳定性关联度。当某个子系统发生崩溃时可能激发相邻子系统的崩溃,最后导致整个大系统的崩溃。(2)金字塔模型:在系统内部的子系统间呈由上至下的层次关系,以每一个点表示一个子系统,点与点的距离表示子系统间的不稳定性关联度。当上层的某个子系统发生崩溃,将激发下层子系统的崩溃.最后导致整个系统的崩溃。(3)倒金字塔模型:和金字塔模型相对应,复杂系统内部子系统间呈从下至上的层次关系,以每一个点表示一个子系统,点与点的距离表示子系统间的不稳定性关联度。下层的某些子系统发生崩溃将激发相邻上层子系统的崩溃,层层传递,最后导致整个系统的崩溃[10]。由于复杂系统内各个子元的联系十分复杂,不稳定性在复杂系统内部传播和扩张往往有各种各样复杂的形式,但不管何种形式,都是由以上三种基本形式的组合和变换而成的。
通过对组织的不稳定性分析,可以发现组织创新过程中的不稳定性产生的机理及扩散方式,以便于组织创新实践的进行。
四、组织创新中导入管理负熵和建立耗散结构的措施
企业作为一个系统可通过对外开放,自我改造,不断地与环境进行物质、能量、信息的交换,通过各要素的相互作用,使组织整体实现负熵值的增加,进而促使企业的发展。对组织创新而言,管理的任务就在于尽可能地促进耗散结构的形成,延缓或减少正熵的增加,消除那些可能导致企业正熵增加的不利因素;当企业出现正熵增加时,管理者的工作便是采用适当的方法在企业内部生成或从企业外部引入负熵流,使企业组织形成新的有序结构。具体来讲,可以通过以下四个方面来导入负熵流和建立耗散结构。
1.不断创新促使企业远离平衡态。当企业处于一个不太熟悉的情景时,通常会更加开放,更容易导人负熵。在一般情况下,负熵的导入带有明显的强制性,企业负熵的增加必须借助于适当的组织结构与强有力的管理制度执行的保障体系,因此,企业组织必须通过不断创新才能打破原有的平衡,使企业远离平衡态,从而为新的更高层次的有序结构的产生创造条件,促使企业与外界环境的交流,不断吸收负熵。
2.加强对外交流和内部反馈机制。在组织创新中,一方面,通过与外部进行产品、人才和技术等方面的交流来增加产生负熵的可能性,另一方面,要加强反馈机制。由于引进了新的深层结构,正反馈和负反馈将会同时出现。前者支持新的深层结构,后者要求恢复原有的平衡状态。此时,管理工作的核心任务就是发现一些支持新的深层结构的信号,利用正反馈机制的乘数效应将其放大,并以此来促进新结构的形成。
3.强化企业管理,营造良好的企业文化氛围。任何涨落,不管是内生的还是外生的,都必然会冲击已有的平衡态,而组织行为学研究表明,任何组织及其成员都具有不同程度对抗变革的倾向。因此,为了保证在组织创新过程中能够增加负熵,就要建立与之相适应的管理制度,营造良好的企业文化氛围,并强行予以实施。
4.通过沟通帮助员工形成与企业整体相一致的利益要求、行为准则和价值标准。因为只有这样,企业才有可能引入并形成新的深层结构,进而将企业的有序化水平推向更高的层次。因此,要求各层次的管理者采用适当的沟通方法、合适的沟通渠道定期与员工进行情感沟通、政策沟通、目标与计划沟通等,通过沟通,让员工知道他应该知道、有权知道的信息,以提高员工对组织创新关注的程度与积极性,并融洽员工与各管理者之间的关系,从而避免产生不利于管理者与被管理者之间的矛盾与冲突。
五、结论
组织创新是企业随着自身和环境变化不断获得再生的发展过程,而基于管理熵和管理耗散结构理论的组织创新不同之处在于传统的组织创新其重点是增强组织强制力,促进企业内部要素的结构化和功能化,因此传统的组织创新更加强调产权结构变革、企业家的作用和控制机制的完善,而基于管理熵和管理耗散结构理论的组织创新的重点是通过企业内外部要素结构化和功能化的互动,促进市场强制力与组织强制力的有机融合,其路径是通过扩大企业的开放性,并通过结构性变革对组织成员施加足够的市场强制力,以产生低管理熵及其高效率状态的管理耗散结构。因此,基于管理熵和管理耗散结构理论的组织创新更加强调人的观念再造、企业家精神、个体学习和组织学习的互动、拓展信息的通道和完善协调机制。
评职称可以问 283917229
什么是熵权法
德国物理学家holtman和Clausius在1864年共同研究出热力学并合作编写了《热之唯动说》,一个与物理量有关的新术语是 “熵”,主要是用于描述系统状态。之后,美国数学家Shannon发现熵能够体现不确定性,对以往“熵”研究进行了拓展。熵理论不仅可以应用于力学,还被用于其他领域。目前信息熵已经是计算“不确定性”的最好方法。
熵权法是熵理论的一个组成部分,利用熵对制造企业转型和技术能力评价指标体系的所有定量信息中的随机变量进行度量。我们根据熵中的信息量获得每个度量的权重。熵值越大,信息量越小,指标对整体的影响越小。对比熵法和主观分配法,可以看出这种方法独立于个体意识,是一种更准确判断特定变量对整体影响程度的方法。研究人员可以根据指标影响程度的结果进一步优化指标体系。熵权法可以在任何需要确定权重的过程中单独使用,也可以与其他数学方法结合使用。因此,熵权加权法常用于对一个公司的能力或业绩进行综合评价。
熵权法的基本原理
根据信息论基本原理的解释,信息是系统有序度的度量,熵是系统扰动程度的度量。根据信息熵的定义,给定指标,熵值可以用来评价给定指标的方差程度。如果所有指标值都相同,则该指标对整体评价没有影响。因此,可以利用信息熵工具计算各个指标的权重,为综合评价多个指标提供依据。
熵权法的基本思路是根据指标变异性的大小来确定客观权重。一般来说,若某个指标的信息熵Ej越小,表明指标值得变异程度越大,提供的信息量越多,在综合评价中所能起到的作用也越大,其权重也就越大。相反,某个指标的信息熵越大,表明指标值得变异程度越小,提供的信息量也越少,在综合评价中所起到的作用也越小,其权重也就越小。
熵权法赋权步骤
1. 数据标准化
将各个指标的数据进行标准化处理。
假设给定了k个指标X1,X2,……,Xk,其中:
假设对各指标数据标准化后的值为Y1,Y2,Y3...YK:,那么
2. 求各指标的信息熵
根据信息论中信息熵的定义,一组数据的信息熵
其中:
如果:
则:
3. 确定各指标权重
根据信息熵的计算公式,计算出各个指标的信息熵为E1,E2,E3...EK,通过信息熵计算各指标的权重:
综上所述,熵值法的优点是可以为能力进行一种客观的权重赋能方法,它深刻地反映了一个指标的内在力量,比监督者的权重具有更高的可靠性和准确性。该算法虽然简单,但存在诸多不足,如不够智能,未考虑指标及其影响,像是相关性、层级关系等。在缺乏业务指导经验的情况下,权重依赖于失真的样本。如果样本不断变化,权重会有一定的波动。因此,在考虑选择熵权加权方法进行分析研究时,需要考虑方法的适用范围。反之,如果权重失真频繁发生,则需要结合专家评分和判断,以最大限度地发挥熵方法的优势。同时,在确定权重之前,需要了解指标对目标得分的影响方向,并对非线性指标进行预处理或去除。
摘要:香农于1948年10月发表于《贝尔系统技术学报》上的论文《A Mathematical Theory of Communication》(通信的数学理论)作为现代信息论研究的开端。1984年贝尔研究所的香农在题为《通讯的数学理论》的论文中系统地提出了关于信息的论述,创立了信息论。信息论主要研究信息的本质和度量方法。它是系统论和控制论的理论基础,也是信息科学的理论基础。
关键字:信息概念,熵,美国数学家香农
参考书目:1。《信息论》 南丰公益书院;
2.《安全科学技术百科全书》(中国劳动社会保障出版社,2003年6月出版);
3.《安全工程大辞典》(化学工业出版社,1995年11月出版)(安全文化网);
4.部分资料摘取自互联网。
(一)信息的内涵
1948—1949年,美国数学家香农(C.E.Shannon)发表了《通信的数学理论》和《在噪声中的通信》两篇论文,提出了度量信息的数学公式,标志着信息论这门学科的诞生。信息论主要研究信息的本质和度量方法。它是系统论和控制论的理论基础,也是信息科学的理论基础。它是关于事物运动状态的规律的表征,其特点是:
(1)信息源于物质运动,又不是物质和运动;(2)信息具有知识的秉性,是任何一个系统的组织程度和有序程度的标志;(3)只有变化着的事物和运动着的客体才会有信息,孤立静止的客体或永不改变的事物不会有信息;(4)信息不遵守物质和能量的“守恒与转化定律”, 同样的信息,大家可以共同使用,信息不会减少,相同的信息,能够用不同物质载体进行传播,同一种物质,也可以携带不同的信息,信息不会变化。
信息论是一门研究信息传输和信息处理系统中一般规律的学科。香农在他的《通讯的数学理论》中明确提出:“通讯的基本问题是在通讯的一端精确地或近似地复现另一端所挑选的消息。”
信息是“人们在选择一条消息时选择的自由度的量度”。消息所带的信息可以解释为负熵,即概率的负对数。威沃尔指出,‘信息’一词在此理论中只在一种专门的意义上加以使用,我们一定不要把它和其通常用法混淆起来”。也就是说,这里的信息不是我们通常使用的概念(各种消息、情报和资料的总称),而是一个变量,它表示信息量的大小。而信息量则是某种不确定性趋向确定的一种量度,消息的可能性越大,信息就越少。如果一个系统是有序的,它不具有很高的混乱度或选择度,其信息(或熵)是低的。
信息论是一门用数理统计方法来研究信息的度量、传递和变换规律的科学。它主要是研究通讯和控制系统中普遍存在着信息传递的共同规律以及研究最佳解决信息的获限、度量、变换、储存和传递等问题的基础理论。
信息论的研究范围极为广阔。一般把信息论分成三种不同类型:
(1)狭义信息论是一门应用数理统计方法来研究信息处理和信息传递的科学。它研究存在于通讯和控制系统中普遍存在着的信息传递的共同规律,以及如何提高各信息传输系统的有效性和可靠性的一门通讯理论。
(2)一般信息论主要是研究通讯问题,但还包括噪声理论、信号滤波与预测、调制与信息处理等问题。
(3)广义信息论不仅包括狭义信息论和一般信息论的问题,而且还包括所有与信息有关的领域,如心理学、语言学、神经心理学、语义学等。
信息有以下性质:客观性、广泛性、完整性、专一性。首先,信息是客观存在的,它不是由意志所决定的,但它与人类思想有着必然联系。同时,信息又是广泛存在的,四维空间被大量信息子所充斥。信息的一个重要性质是完整性,每个信息子不能决定任何事件,须有两个或两个以上的信息子规则排布为完整的信息,其释放的能量才足以使确定事件发生。信息还有专一性,每个信息决定一个确定事件,但相似事件的信息也有相似之处,其原因的解释需要信息子种类与排布密码理论的进一步发现。
信息论是一门具有高度概括性、综合性,应用广泛的边缘学科。信息论是信息科学的理论基础,它是一门应用数理统计方法研究信息传输和信息处理的科学,是利用数学方法来研究信息的计量、传递、交换和储存的科学。随着科学技术的发展,信息论研究范围远远超出了通信及类似的学科,已延伸到生物学、生理学、人类学、物理学、化学、电子学、语言学、经济学和管理学等学科。
(二)信息论发展历史
香农被称为是“信息论之父”。人们通常将香农于1948年10月发表于《贝尔系统技术学报》上的论文《A Mathematical Theory of Communication》(通信的数学理论)作为现代信息论研究的开端。1984年贝尔研究所的香农在题为《通讯的数学理论》的论文中系统地提出了关于信息的论述,创立了信息论。维纳提出的关于度量信息量的数学公式开辟了信息论的广泛应用前景。1951年美国无线电工程学会承认信息论这门学科,此后得到迅速发展。20世纪50年代是信息论向各门学科冲击的时期,60年代信息论不是重大的创新时期,而是一个消化、理解的时期,是在已有的基础上进行重大建设的时期。研究重点是信息和信源编码问题。到70年代,由于数字计算机的广泛应用,通讯系统的能力也有很大提高,如何更有效地利用和处理信息,成为日益迫切的问题。人们越来越认识到信息的重要性,认识到信息可以作为与材料和能源一样的资源而加以充分利用和共享。信息的概念和方法已广泛渗透到各个科学领域,它迫切要求突破香农信息论的狭隘范围,以便使它能成为人类各种活动中所碰到的信息问题的基础理论,从而推动其他许多新兴学科进一步发展。目前,人们已把早先建立的有关信息的规律与理论广泛应用于物理学、化学、生物学等学科中去。一门研究信息的产生、获取、变换、传输、存储、处理、显示、识别和利用的信息科学正在形成。
香农把“熵”这个概念引入信息的度量。1965年法国物理学家克劳修斯首次提出这一概念,后来这一概念由19世纪奥地利物理学家L.玻尔茨曼正式提出。信息论和控制论又赋予了“熵”更新更宽的含义。
熵是一个系统的不确定性或无序的程度,系统的紊乱程度越高,熵就越大;反之,系统越有序,熵就越小。控制论创始人维纳曾说:“一个系统的熵就是它的无组织程度的度量。”熵这个概念与信息联系在一起后,获得这样的思路:信息的获得永远意味着熵的减少,要使紊乱的系统(熵大的系统)有序化(减少熵)就需要有信息,当一个系统获得信息后,无序状态减少或消除(熵减少);而如果信息丢失了,则系统的紊乱程度增加。一个系统有序程度越高,则熵就越小,所含信息量就越大,反之无序程度越高,则熵越大,信息量就越小,信息与熵是互补的,信息就是负熵,两者互为负值。
信息量=系统状态原有的熵-系统状态确定后的熵
电讯系统不存在功能性因素,即人的主观能动因素,因此不能照搬,但对计算社会信息的量,仍有参考价值。如研究新闻的信息量时就非常有意义。一则新闻讯息中所含信息量的大小是不确定程度的大小决定的,能够最大限度地消除人们对新闻事件认识上的不确定性的讯息,信息量就大,而不能减少受众对新闻事件的认识的不确定的,信息量就小,这与讯息的长度、字数和篇幅无关,不是版面大小、字数多寡、“本报讯”多少就能说明信息的大小的。
信息科学是人们在对信息的认识与利用不断扩大的过程中,在信息论、电子学、计算机科学、人工智能、系统工程学、自动化技术等多学科基础上发展起来的一门边缘性新学科。它的任务主要是研究信息的性质,研究机器、生物和人类关于各种信息的获取、变换、传输、处理、利用和控制的一般规律,设计和研制各种信息机器和控制设备,实现操作自动化,以便尽可能地把人脑从自然力的束缚下解放出来,提高人类认识世界和改造世界的能力。信息科学在安全问题的研究中也有着重要应用。
1949年,香农和韦弗提出了有关传播的数学模式。
信源—>消息—>编码—>信号—>信道—>信号+噪声—>译码—>消息—>信宿
噪声—>信道
对上图的概念解释如下:
信源:信源就是信息的来源,可以是人、机器、自然界的物体等等。信源发出信息的时候,一般以某种讯息的方式表现出来,可以是符号,如文字、语言等,也可以是信号,如图像、声响等等。
编码:编码就是把信息变换成讯息的过程,这是按一定的符号、信号规则进行的。按规则将信息的意义用符码编排起来的过程就是编码过程,这种编码通常被认为是编码的第一部分。编码的第二部分则是针对传播的信道,把编制好的符码又变换成适于信道中传输的信号序列,以便于在信道中传递,如声音信号、电信号、光信号等等。如信息源产生的原始讯息是一篇文章,用电报传递的时候,就要经过编码,转换成电报密码的信号,然后才能经过信道传播。
信道:就是信息传递的通道,是将信号进行传输、存储和处理的媒介。信道的关键问题是它的容量大小,要求以最大的速率传送最大的信息量。
噪音:是指信息传递中的干扰,将对信息的发送与接受产生影响,使两者的信息意义发生改变。
译码:是对信息进行与编码过程相反的变换过程,就是把信号转换为讯息,如文字、语言等,这是第一步。第二步译码则是指将讯息还原为信息意义的过程。
信宿:是信息的接受者,可以是人也可以是机器,如收音机、电视机等。
作为方法论,香农的这一信息系统模式可以被适用于许多系统,如通信系统、管理系统、社会系统等。传播学学者对这一模式进行改造之后,成为表述人类信息传播的基本模式之一,成为传播学领域最基本的研究范式,而信源、编码、译码、信宿等概念也成为传播学研究的基本概念。
香农的信息论为传播学领域提供了基本的范式,它使以前模糊的信息概念变得在数学上可以操纵。香农的信息论与维纳的控制论是相互影响的,维纳也是最早认识信息论价值的学者,并与香农共同发明了有关信息的熵度量法则。