摘要:香农于1948年10月宣布于《贝尔零碎技术学报》上的论文《A Mathematical Theory of Communication》(通讯的数学实际)作为古代信息论研讨的末尾。1984年贝尔研讨所的香农在题为《通讯的数学实际》的论文中零碎地提出了关于信息的阐述,创建了信息论。信息论次要研讨信息的实质和度量办法。它是零碎论和控制论的实际根底,也是信息迷信的实际根底。关键字:信息概念,熵,美国数学家香农参考书目:1。《信息论》 南丰公益书院;2.《平安迷信技术百科全书》(中国休息社会保证出版社,2003年6月出版);3.《平安工程大辞典》(化学工业出版社,1995年11月出版)(平安文明网);4.局部材料摘取自互联网。(一)信息的外延1948—1949年,美国数学家香农(CEShannon)宣布了《通讯的数学实际》和《在噪声中的通讯》两篇论文,提出了度量信息的数学公式,标志着信息论这门学科的降生。信息论次要研讨信息的实质和度量办法。它是零碎论和控制论的实际根底,也是信息迷信的实际根底。它是关于事物运动形态的规律的表征,其特点是: (1)信息源于物质运动,又不是物质和运动;(2)信息具有知识的秉性,是任何一个零碎的组织水平和有序水平的标志;(3)只要变化着的事物和运动着的客体才会有信息,孤立运动的客体或永不改动的事物不会有信息;(4)信息不恪守物质和能量的“守恒与转化定律”, 异样的信息,大家可以共同运用,信息不会增加,相反的信息,可以用不同物质载体停止传达,同一种物质,也可以携带不同的信息,信息不会变化。信息论是一门研讨信息传输和信息处置零碎中普通规律的学科。香农在他的《通讯的数学实际》中明白提出:“通讯的根本成绩是在通讯的一端准确地或近似地复现另一端所挑选的音讯。”信息是“人们在选择一条音讯时选择的自在度的量度”。音讯所带的信息可以解释为负熵,即概率的负对数。威沃尔指出,‘信息’一词在此实际中只在一种专门的意义上加以运用,我们一定不要把它和其通常用法混杂起来”。也就是说,这里的信息不是我们通常运用的概念(各种音讯、情报和材料的总称),而是一个变量,它表示信息量的大小。而信息量则是某种不确定性趋向确定的一种量度,音讯的能够性越大,信息就越少。假如一个零碎是有序的,它不具有很高的混乱度或选择度,其信息(或熵)是低的。信息论是一门用数理统计办法来研讨信息的度量、传递和变换规律的迷信。它次要是研讨通讯和控制零碎中普遍存在着信息传递的共同规律以及研讨最佳处理信息的获限、度量、变换、贮存和传递等成绩的根底实际。 信息论的研讨范围极为宽广。普通把信息论分红三种不同类型: (1)广义信息论是一门使用数理统计办法来研讨信息处置和信息传递的迷信。它研讨存在于通讯和控制零碎中普遍存在着的信息传递的共同规律,以及如何进步各信息传输零碎的无效性和牢靠性的一门通讯实际。 (2)普通信息论次要是研讨通讯成绩,但还包括噪声实际、信号滤波与预测、调制与信息处置等成绩。(3)狭义信息论不只包括广义信息论和普通信息论的成绩,而且还包括一切与信息有关的范畴,如心思学、言语学、神经心思学、语义学等。信息有以下性质:客观性、普遍性、完好性、专注性。首先,信息是客观存在的,它不是由意志所决议的,但它与人类思想有着必定联络。同时,信息又是普遍存在的,四维空间被少量信息子所充满。信息的一个重要性质是完好性,每个信息子不能决议任何事情,须有两个或两个以上的信息子规则排布为完好的信息,其释放的能量才足以使确定事情发作。信息还有专注性,每个信息决议一个确定事情,但类似事情的信息也有类似之处,其缘由的解释需求信息子品种与排布密码实际的进一步发现。信息论是一门具有高度概括性、综合性,使用普遍的边缘学科。信息论是信息迷信的实际根底,它是一门使用数理统计办法研讨信息传输和信息处置的迷信,是应用数学办法来研讨信息的计量、传递、交流和贮存的迷信。随着迷信技术的开展,信息论研讨范围远远超出了通讯及相似的学科,已延伸到生物学、生理学、人类学、物理学、化学、电子学、言语学、经济学和管理学等学科。(二)信息论开展历史香农被称为是“信息论之父”。人们通常将香农于1948年10月宣布于《贝尔零碎技术学报》上的论文《A Mathematical Theory of Communication》(通讯的数学实际)作为古代信息论研讨的末尾。1984年贝尔研讨所的香农在题为《通讯的数学实际》的论文中零碎地提出了关于信息的阐述,创建了信息论。维纳提出的关于度量信息量的数学公式开拓了信息论的普遍使用前景。1951年美国无线电工程学会供认信息论这门学科,尔后失掉迅速开展。20世纪50年代是信息论向各门学科冲击的时期,60年代信息论不是严重的创新时期,而是一个消化、了解的时期,是在已有的根底上停止严重建立的时期。研讨重点是信息和信源编码成绩。到70年代,由于数字计算机的普遍使用,通讯零碎的才能也有很大进步,如何更无效天时用和处置信息,成为日益迫切的成绩。人们越来越看法到信息的重要性,看法到信息可以作为与资料和动力一样的资源而加以充沛应用和共享。信息的概念和办法已普遍浸透到各个迷信范畴,它迫切门槛打破香农信息论的狭窄范围,以便使它能成为人类各种活动中所碰到的信息成绩的根底实际,从而推进其他许多新兴学科进一步开展。目前,人们已把新近树立的有关信息的规律与实际普遍使用于物理学、化学、生物学等学科中去。一门研讨信息的发生、获取、变换、传输、存储、处置、显示、辨认和应用的信息迷信正在构成。香农把“熵”这个概念引入信息的度量。1965年法国物理学家克劳修斯初次提出这一概念,后来这一概念由19世纪奥天时物理学家L玻尔茨曼正式提出。信息论和控制论又赋予了“熵”更新更宽的含义。 熵是一个零碎的不确定性或无序的水平,零碎的紊乱水平越高,熵就越大;反之,零碎越有序,熵就越小。控制论开创人维纳曾说:“一个零碎的熵就是它的无组织水平的度量。”熵这个概念与信息联络在一同后,取得这样的思绪:信息的取得永远意味着熵的增加,要使紊乱的零碎(熵大的零碎)有序化(增加熵)就需求有信息,当一个零碎取得信息后,无序形态增加或消弭(熵增加);而假如信息丧失了,则零碎的紊乱水平添加。一个零碎有序水平越高,则熵就越小,所含信息量就越大,反之无序水平越高,则熵越大,信息量就越小,信息与熵是互补的,信息就是负熵,两者互为负值。 信息量=零碎形态原有的熵-零碎形态确定后的熵 电讯零碎不存在功用性要素,即人的客观能动要素,因而不能照搬,但对计算社会信息的量,仍有参考价值。如研讨旧事的信息量时就十分有意义。一则旧事讯息中所含信息量的大小是不确定水平的大小决议的,可以最大限制地消弭人们对旧事事情看法上的不确定性的讯息,信息量就大,而不能增加受众对旧事事情的看法的不确定的,信息量就小,这与讯息的长度、字数和篇幅有关,不是版面大小、字数多寡、“本报讯”多少就能阐明信息的大小的。信息迷信是人们在对信息的看法与应用不时扩展的进程中,在信息论、电子学、计算机迷信、人工智能、零碎工程学、自动化技术等多学科根底上开展起来的一门边缘性新学科。它的义务次要是研讨信息的性质,研讨机器、生物和人类关于各种信息的获取、变换、传输、处置、应用和控制的普通规律,设计和研制各种信息机器和控制设备,完成操作自动化,以便尽能够地把人脑从自然力的约束下束缚出来,进步人类看法世界和改造世界的才能。信息迷信在平安成绩的研讨中也有着重要使用。1949年,香农和韦弗提出了有关传达的数学形式。 信源—>音讯—>编码—>信号—>信道—>信号+噪声—>译码—>音讯—>信宿 噪声—>信道 对上图的概念解释如下: 信源:信源就是信息的来源,可以是人、机器、自然界的物体等等。信源收回信息的时分,普通以某种讯息的方式表现出来,可以是符号,如文字、言语等,也可以是信号,如图像、声响等等。 编码:编码就是把信息变换成讯息的进程,这是按一定的符号、信号规则停止的。按规则将信息的意义用符码编排起来的进程就是编码进程,这种编码通常被以为是编码的第一局部。编码的第二局部则是针对传达的信道,把编制好的符码又变换成适于信道中传输的信号序列,以便于在信道中传递,如声响信号、电信号、光信号等等。如信息源发生的原始讯息是一篇文章,用电报传递的时分,就要经过编码,转换成电报密码的信号,然后才干经过信道传达。 信道:就是信息传递的通道,是将信号停止传输、存储和处置的媒介。信道的关键成绩是它的容量大小,门槛以最大的速率传送最大的信息量。 乐音:是指信息传递中的搅扰,将对信息的发送与承受发生影响,使两者的信息意义发作改动。 译码:是对信息停止与编码进程相反的变换进程,就是把信号转换为讯息,如文字、言语等,这是第一步。第二步译码则是指将讯息复原为信息意义的进程。 信宿:是信息的承受者,可以是人也可以是机器,如收音机、电视机等。作为办法论,香农的这一信息零碎形式可以被适用于许多零碎,如通讯零碎、管理零碎、社会零碎等。传达学学者对这一形式停止改造之后,成为表述人类信息传达的根本形式之一,成为传达学范畴最根本的研讨范式,而信源、编码、译码、信宿等概念也成为传达学研讨的根本概念。 香农的信息论为传达学范畴提供了根本的范式,它使以前模糊的信息概念变得在数学上可以操纵。香农的信息论与维纳的控制论是互相影响的,维纳也是最早看法信息论价值的学者,并与香农共同创造了有关信息的熵度量规律。