信息论论文

我们所能想到的一个离散源发电讯息，是由象征符号。它会选择接二连三符号按照一定的概率会视乎，在一般情况，对前面的选择，以及为特殊符号的问题。物理系统，或者一个数学模型的一个制度产生这种序列的符号由一组的可能性较高，是众所周知的，作为一个随机我们可能考虑一个离散源，因此，要派一个随机过程。反过来说，任何随机过程中所产生的离散序列的符号选择从一个有限集合，可被视为一个离散源。这将包括这些案件为： 1 。自然语言文字的，如英语，德语，中文。 2 。连续的信息来源已变得离散的一些量化的过程。为举例来说，量化后的讲话，从一种中成药变送器，或一个量化的电视信号。 3 。数学的情况下，我们只是抽象地界定一个随机过程，其中会产生一个序列的符号。以下是这方面的例子去年类型的来源。 （一）假设我们有五封甲，乙，丙，丁，电子商务，这是每一个选择概率.2 ，历任选择独立。这将导致一个序列，其中以下是一个典型的例如。 bdcbcecccadcbddaaecee 1 abbdaeecaceebaeecbcea四这是建造与使用的一个表，随机

浅谈新形势下信息科学的发展与社会发展 进入21世纪，我们已经进入信息时代，谈起信息科学，对我们来说已经不再陌生了。 自20世纪40年代中期计算机问世以来，在全世界范围内兴起的第一次信息革命对人类社会产生了空前的影响，信息产业应运而生，人类迈向信息社会。以网络化、多媒体化为特征的“信息高速公路”掀起的第二次信息革命，将使人类进入信息时代。它是信息时代的必然产物，是一门新兴的跨多学科的科学，它以信息为主要研究对象。信息科学的研究内容包括：阐明信息的概念和本质(哲学信息论)；探讨信息的度量和变换(基本信息论)；研究信息的提取方法(识别信息论)；澄清信息的传递规律(通信理论)；探明信息的处理机制(智能理论)；探究信息的再生理论(决策理论)；阐明信息的调节原则(控制理论)；完善信息的组织理论(系统理论)。扩展人类的信息器官功能，提高人类对信息的接收和处理的能力，实质上就是扩展和增强人们认识世界和改造世界的能力。这既是信息科学的出发点，也是它的最终归宿。 这里我想先从信息说起，某种意义来讲，信息是指对我们有用的消息，它严格要求一定时间性，被称为即时信息，英文全称：Instant messaging，简称IM。 随着信息的发展，信息技术（IT是Internation Technology的缩写）也就应运而生了。信息技术是关于信息的产生、发送、传输、接收、变换、识别、控制等应用技术的总称，是在信息科学的基本原理和方法的指导下扩展人类信息处理功能的技术。 信息技术包括通信技术、计算机技术、多媒体技术、自动控制技术、视频技术、遥感技术等 。其主要支柱是通讯（Communication）技术、计算机（Computer）技术和控制（Control）技术，即“3C”技术。通信技术是现代信息技术的一个重要组成部分。通信技术的数字化、宽带化、高速化和智能化是现代通信技术的发展趋势。计算机技术是信息技术的另一个重要组成部分。计算机从其延生起就不停地为人们处理着大量的信息，而且随着计算机技术的不断发展，它处理信息的能力也在不断地加强。现在计算机已经渗入到人们的社会生活的每一个方面。计算机将朝着并行处理的方向发展。现代信息技术一刻也离不开计算机技术。多媒体技术是80年代才兴起的一门技术，它把文字、数据、图形、语音等信息通过计算机综合处理，使人们得到更完善、更直观的综合信息。在未来多媒体技术将扮演非常重要的角色。信息技术处理的很大一部分是图象和文字，因而视频技术也是信息技术的一个研究热点。 信息科学与技术的发展不仅促进信息产业的发展，而且大大地提高了生产效率。事实已经证明信息科学与技术的广泛应用已经是经济发展的巨大动力，因此，各国的信息技术的竞争也非常激烈，都在争夺信息技术的制高点。 信息科学、生命科学和材料科学一起构成了当代三种前沿科学，信息技术是当代世界范围内新技术革命的核心。信息科学和技术是现代科学技术的先导，是人类进行高效率、高效益、高速度社会活动的理论、方法与技术，是管理现代化的一个重要标志。 随着社会的发展，信息对我门的作用越来越大，我们在推动社会进步的同时对对科学，对信息的依赖就进一步加深，对技术的要求越来越高，技术的进步就越信息化。越信息化就越带动社会进步。两者相辅相成。由此可的信息技术对我们的贡献功不可没。 当前历史条件下，信息科学正在迅速发展和完善，人们对其研究内容的范围尚无统一的认识。现在主要的研究课题集中在以下六个方面： 1、信源理论和信息的获取，研究自然信息源和社会信息源，以及从信息源提取信息的方法和技术； 2、信息的传输、存储、检索、变换和处理； 3、信号的测量、分析、处理和显示； 4、模式信息处理，研究对文字、图像、声音等信息的处理、分类和识别研制机器视觉系统和语音识别装置； 5、知识信息处理，研究知识的表示、获取和利用，建立具有推理和自动解决问题能力的知识信息处理系统即专家系统； 6、决策和控制，在对信息的采集、分析、处理、识别和理解的基础上作出判断、决策或控制，从而建立各种控制系统、管理信息系统和决策支持系统。 信息过程普遍存在于生物、社会、工业、农业、国防、科学实验、日常生活和人类思维等各种领域，因此信息科学将对工程技术、社会经济和人类生活等方面产生巨大的影响。信息技术并科学技术，不仅仅是一种扩展人类信息器官的手段和工具体系，它还具有丰富的伦理和政治意义，信息技术体现着人类改造与控制自然的权利和体系。信息技术对人类社会发展的影响，并不能简单地一概论之。对社会的发展带来了巨大的影响，从两个方面来讲：一、信息技术的正面影响 信息技术扩展了人类器官功能。因此，信息技术的正面意义是毋庸置疑的。信息技术的正面影响深入到社会发展的各个领域、渗透到个人发展的各个角落。主要体现在以下方面。 (一) 信息技术增加了政治的开放性和透明度 其主要表现在以下几个方面： 1、信息化、网络化使得广大人民更加容易利用信息技术，通过互联网获取广泛的信息，并主动参与国家的政治生活。 2、政府纷纷在互联网上抢滩设点，将自己推向网络。各级政府部门不断深入开发电子政务工程。政务信息的公开增加了行政的透明度，加强了政府与民众的互动；各政府部门之间的资源共享增强了各部门的协调能力，从而提高了工作效率；政府通过其电子政务平台开展的各种信息服务，包括面向个人的各种申请服务以及面向企业的征税等服务，为广大人民提供了极大的方便。 (二)信息技术促进了世界经济的发展 其主要表现在以下几下方面： 1、表现在信息技术的产生和发展给传统行业造成的深远影响， 2、由它推出了一个新兴的行业——互联网行业。互联网直接“催生”的“互联网经济”(又称网络经济)与信息技术的关系是不言而喻的。 3、基于互联网的电子商务模式，一改传统的商务模式，使得企业产品的营销与销售以及售后服务等都可以通过网络进行，企业与上游供货商、零部件生产商以及分销商之间也可以通过电子商务实现各种交互。企业和消费者之间、企业和政府之间也可以通过互联网进行更多的互动。电子商务对企业研发、生产、营销、销售、管理、财务的各个方面都产生了巨大影响。 4、传统行业为了适应互联网发展的要求，也纷纷在网上提供各种服务。（三）信息技术的发展造就了多元文化并存的状态 其主要表现在以下几个方面： 1、信息技术使得文化产业迅猛地发展起来。 2、为信息技术重要组成部分的互联网技术的发展，使得网络媒体开始形成并逐渐成为“第四媒体”。 3、互联网更造就了一种新的文化模式——网络文化(cyberculture)。 (四)信息技术改善了人们的生活 其主要表现在以下几个方面： 1、从宏观角度而言，信息技术为整个社会的发展提供了很多有利因素，而作为社会中微小一分子的每一个普通个人也正享受着信息技术带来的各种便利。 2、信息技术使得远程教育也成了可能，从此异地教学逐渐风靡， 3、虚拟现实(virtual reality)技术，使得人们可以透过互联网尽情游览缤纷的世界。 (五)信息技术推动信息管理进入了崭新的阶段 其主要表现在以下几个方面： 1、信息作为一种资源，其各种功能并不能自然地发挥，而需要利用各种技术对其进行必要的搜集、处理、存储和传播。 2、信息技术作为扩展人类信息功能的技术集合，它对信息管理的作用十分重要，是信息管理的技术基础。现代信息技术的发展使得信息管理的手段发生了质的变化。二、信息技术的负面影响 任何事物都有其两面性。信息技术给人类带来各种利益的同时，也引发了一系列问题。主要体现在以下几个方面。 (一)知识产权侵权 1、信息技术给人类信息传播带来了质的飞跃，_尤其是互联网的出现为作品的发表、传播和使用带来了很大的便利，但是，网络的自由和共享也给知识产权，尤其是著作权的保护带来了极大的挑战。 2、通过网络媒体进行的知识产权侵权，尤其是著作权侵权现象非常严重。 3、互联网的发展和成熟还带来了其他的知识产权问题。 总之，信息技术引发的知识产权问题已经到了非常严峻的程度，各国的知识产权法律、法规都受到了前所未有的挑战。 (二)虚假信息泛滥 1、互联网为人们提供了一个空前自由的交流空间，使得人们的话语权和知情权得到了充分的重视。但是，正是由于互联网的自由和开放性，它也成了制造和传播虚假的重要工具。 2、目前，网络信息的社会公信力低下。究其原因，就是网络信息处理的诸多环节失控造成的。这些环节中，最主要的是信息源复杂，难以管理。 3、网络上的虚假新闻泛滥，尤其是娱乐新闻的捕风捉影，几成顽症。很多网络媒体不负责任地对待自己登载的假新闻的行为，从某种意义上讲，也是网络虚假信息泛滥的一个重要成因。 (三)信息污染成灾 1、随着信息技术日新月异的发展以及各种流通渠道的不断拓宽，人类社会知识信息的总量呈“爆炸式”增长，这其中，数以万计的信息中混入了大量干扰性、欺性、误导性甚至是破坏性的虚假伪劣等各种有害及无用信息，人们将其称之为信息“垃圾”，正是各种形形色色的信息“垃圾”造成了人类精神世界的信息污染。 2、互联网是一块自由的沃土，任何人都可以轻易地通过网络发布信息、传递信息，缺少“把关人”对信息内容的必要甄别，一些组织和个人趁机随心所欲，使得网络媒体上的垃圾信息甚至黄色信息日趋泛滥。 3、信息技术使得冗余信息大量产生，给信息的甄选与鉴别带来困难，使得人们虽然身处“信息的海洋”，却很难找到自己需要的有用信息。网络技术的发展为大量垃圾邮件的产生提供了条件。 (四)信息安全问题凸显 今天，计算机系统无时无刻不在经受着诸多安全问题的侵扰。很多计算机软件、系统本身漏洞百出，加上更新换代、层出不穷的网络病毒肆虐，技术精湛、危害严重的黑客横行，信息安全问题日渐凸显。 1、计算机技术、网络技术为代表的信息技术还处于发展的初级阶段，很多观点和想法都不甚成熟。 2、病毒肆虐是信息安全问题的又一巨大威胁。人们对计算机病毒可谓深恶痛绝，而计算机病毒却恰恰是屡见不鲜。 3、信息技术带来的问题还很多，诸如计算机、计算机偷窃、网络诽谤、网络恐怖主义等纷纷上演。 4、信息技术，尤其是互联网的发展引起的文化侵入问题、数字鸿沟问题、信息霸权主义等问题，也不得不引起人们的思考。 但是，尽管信息技术带来了种种负面效应，其正面价值还是不能否定的。信息技术只有被用于正当的场合，才能发挥最大的作用。而如何使信息技术被合法开发和利用，则有赖于各国政府、广大科学家以及世界上所有人民的共同努力。社会的发展，离不开信息科学技术的引导，只要从分发挥信息科学的优势，尽量避免起带来的不必要的冲击，就能较大限度的推动社会进步！！

摘要：香农于1948年10月发表于《贝尔系统技术学报》上的论文《A Mathematical Theory of Communication》（通信的数学理论）作为现代信息论研究的开端。1984年贝尔研究所的香农在题为《通讯的数学理论》的论文中系统地提出了关于信息的论述，创立了信息论。信息论主要研究信息的本质和度量方法。它是系统论和控制论的理论基础，也是信息科学的理论基础。关键字：信息概念，熵，美国数学家香农参考书目：1。《信息论》 南丰公益书院； 2．《安全科学技术百科全书》（中国劳动社会保障出版社，2003年6月出版）；3．《安全工程大辞典》（化学工业出版社，1995年11月出版）(安全文化网)；4．部分资料摘取自互联网。（一）信息的内涵1948—1949年，美国数学家香农（）发表了《通信的数学理论》和《在噪声中的通信》两篇论文，提出了度量信息的数学公式，标志着信息论这门学科的诞生。信息论主要研究信息的本质和度量方法。它是系统论和控制论的理论基础，也是信息科学的理论基础。它是关于事物运动状态的规律的表征，其特点是： （1）信息源于物质运动，又不是物质和运动；（2）信息具有知识的秉性，是任何一个系统的组织程度和有序程度的标志；（3）只有变化着的事物和运动着的客体才会有信息，孤立静止的客体或永不改变的事物不会有信息；（4）信息不遵守物质和能量的“守恒与转化定律”, 同样的信息，大家可以共同使用，信息不会减少，相同的信息，能够用不同物质载体进行传播，同一种物质，也可以携带不同的信息，信息不会变化。信息论是一门研究信息传输和信息处理系统中一般规律的学科。香农在他的《通讯的数学理论》中明确提出：“通讯的基本问题是在通讯的一端精确地或近似地复现另一端所挑选的消息。”信息是“人们在选择一条消息时选择的自由度的量度”。消息所带的信息可以解释为负熵，即概率的负对数。威沃尔指出，‘信息’一词在此理论中只在一种专门的意义上加以使用，我们一定不要把它和其通常用法混淆起来”。也就是说，这里的信息不是我们通常使用的概念（各种消息、情报和资料的总称），而是一个变量，它表示信息量的大小。而信息量则是某种不确定性趋向确定的一种量度，消息的可能性越大，信息就越少。如果一个系统是有序的，它不具有很高的混乱度或选择度，其信息（或熵）是低的。信息论是一门用数理统计方法来研究信息的度量、传递和变换规律的科学。它主要是研究通讯和控制系统中普遍存在着信息传递的共同规律以及研究最佳解决信息的获限、度量、变换、储存和传递等问题的基础理论。 信息论的研究范围极为广阔。一般把信息论分成三种不同类型： (1)狭义信息论是一门应用数理统计方法来研究信息处理和信息传递的科学。它研究存在于通讯和控制系统中普遍存在着的信息传递的共同规律，以及如何提高各信息传输系统的有效性和可靠性的一门通讯理论。 (2)一般信息论主要是研究通讯问题，但还包括噪声理论、信号滤波与预测、调制与信息处理等问题。(3)广义信息论不仅包括狭义信息论和一般信息论的问题，而且还包括所有与信息有关的领域，如心理学、语言学、神经心理学、语义学等。信息有以下性质：客观性、广泛性、完整性、专一性。首先，信息是客观存在的，它不是由意志所决定的，但它与人类思想有着必然联系。同时，信息又是广泛存在的，四维空间被大量信息子所充斥。信息的一个重要性质是完整性，每个信息子不能决定任何事件，须有两个或两个以上的信息子规则排布为完整的信息，其释放的能量才足以使确定事件发生。信息还有专一性,每个信息决定一个确定事件，但相似事件的信息也有相似之处，其原因的解释需要信息子种类与排布密码理论的进一步发现。信息论是一门具有高度概括性、综合性，应用广泛的边缘学科。信息论是信息科学的理论基础，它是一门应用数理统计方法研究信息传输和信息处理的科学，是利用数学方法来研究信息的计量、传递、交换和储存的科学。随着科学技术的发展，信息论研究范围远远超出了通信及类似的学科，已延伸到生物学、生理学、人类学、物理学、化学、电子学、语言学、经济学和管理学等学科。（二）信息论发展历史香农被称为是“信息论之父”。人们通常将香农于1948年10月发表于《贝尔系统技术学报》上的论文《A Mathematical Theory of Communication》（通信的数学理论）作为现代信息论研究的开端。1984年贝尔研究所的香农在题为《通讯的数学理论》的论文中系统地提出了关于信息的论述，创立了信息论。维纳提出的关于度量信息量的数学公式开辟了信息论的广泛应用前景。1951年美国无线电工程学会承认信息论这门学科，此后得到迅速发展。20世纪50年代是信息论向各门学科冲击的时期，60年代信息论不是重大的创新时期，而是一个消化、理解的时期，是在已有的基础上进行重大建设的时期。研究重点是信息和信源编码问题。到70年代，由于数字计算机的广泛应用，通讯系统的能力也有很大提高，如何更有效地利用和处理信息，成为日益迫切的问题。人们越来越认识到信息的重要性，认识到信息可以作为与材料和能源一样的资源而加以充分利用和共享。信息的概念和方法已广泛渗透到各个科学领域，它迫切要求突破香农信息论的狭隘范围，以便使它能成为人类各种活动中所碰到的信息问题的基础理论，从而推动其他许多新兴学科进一步发展。目前，人们已把早先建立的有关信息的规律与理论广泛应用于物理学、化学、生物学等学科中去。一门研究信息的产生、获取、变换、传输、存储、处理、显示、识别和利用的信息科学正在形成。香农把“熵”这个概念引入信息的度量。1965年法国物理学家克劳修斯首次提出这一概念，后来这一概念由19世纪奥地利物理学家L.玻尔茨曼正式提出。信息论和控制论又赋予了“熵”更新更宽的含义。 熵是一个系统的不确定性或无序的程度，系统的紊乱程度越高，熵就越大；反之，系统越有序，熵就越小。控制论创始人维纳曾说：“一个系统的熵就是它的无组织程度的度量。”熵这个概念与信息联系在一起后，获得这样的思路：信息的获得永远意味着熵的减少，要使紊乱的系统（熵大的系统）有序化（减少熵）就需要有信息，当一个系统获得信息后，无序状态减少或消除（熵减少）；而如果信息丢失了，则系统的紊乱程度增加。一个系统有序程度越高，则熵就越小，所含信息量就越大，反之无序程度越高，则熵越大，信息量就越小，信息与熵是互补的，信息就是负熵，两者互为负值。 信息量=系统状态原有的熵-系统状态确定后的熵 电讯系统不存在功能性因素，即人的主观能动因素，因此不能照搬，但对计算社会信息的量，仍有参考价值。如研究新闻的信息量时就非常有意义。一则新闻讯息中所含信息量的大小是不确定程度的大小决定的，能够最大限度地消除人们对新闻事件认识上的不确定性的讯息，信息量就大，而不能减少受众对新闻事件的认识的不确定的，信息量就小，这与讯息的长度、字数和篇幅无关，不是版面大小、字数多寡、“本报讯”多少就能说明信息的大小的。信息科学是人们在对信息的认识与利用不断扩大的过程中，在信息论、电子学、计算机科学、人工智能、系统工程学、自动化技术等多学科基础上发展起来的一门边缘性新学科。它的任务主要是研究信息的性质，研究机器、生物和人类关于各种信息的获取、变换、传输、处理、利用和控制的一般规律，设计和研制各种信息机器和控制设备，实现操作自动化，以便尽可能地把人脑从自然力的束缚下解放出来，提高人类认识世界和改造世界的能力。信息科学在安全问题的研究中也有着重要应用。1949年，香农和韦弗提出了有关传播的数学模式。 信源—>消息—>编码—>信号—>信道—>信号+噪声—>译码—>消息—>信宿 噪声—>信道 对上图的概念解释如下： 信源：信源就是信息的来源，可以是人、机器、自然界的物体等等。信源发出信息的时候，一般以某种讯息的方式表现出来，可以是符号，如文字、语言等，也可以是信号，如图像、声响等等。 编码：编码就是把信息变换成讯息的过程，这是按一定的符号、信号规则进行的。按规则将信息的意义用符码编排起来的过程就是编码过程，这种编码通常被认为是编码的第一部分。编码的第二部分则是针对传播的信道，把编制好的符码又变换成适于信道中传输的信号序列，以便于在信道中传递，如声音信号、电信号、光信号等等。如信息源产生的原始讯息是一篇文章，用电报传递的时候，就要经过编码，转换成电报密码的信号，然后才能经过信道传播。 信道：就是信息传递的通道，是将信号进行传输、存储和处理的媒介。信道的关键问题是它的容量大小，要求以最大的速率传送最大的信息量。 噪音：是指信息传递中的干扰，将对信息的发送与接受产生影响，使两者的信息意义发生改变。 译码：是对信息进行与编码过程相反的变换过程，就是把信号转换为讯息，如文字、语言等，这是第一步。第二步译码则是指将讯息还原为信息意义的过程。 信宿：是信息的接受者，可以是人也可以是机器，如收音机、电视机等。作为方法论，香农的这一信息系统模式可以被适用于许多系统，如通信系统、管理系统、社会系统等。传播学学者对这一模式进行改造之后，成为表述人类信息传播的基本模式之一，成为传播学领域最基本的研究范式，而信源、编码、译码、信宿等概念也成为传播学研究的基本概念。 香农的信息论为传播学领域提供了基本的范式，它使以前模糊的信息概念变得在数学上可以操纵。香农的信息论与维纳的控制论是相互影响的，维纳也是最早认识信息论价值的学者，并与香农共同发明了有关信息的熵度量法则。