香农22岁发表的硕士论文

这帖子里自己看

伯尔赫斯·弗雷德里克·斯金纳（Burrhus Frederic Skinner，1904—1990），美国心理学家，新行为主义学习理论的创始人，也是新行为主义的主要代表。1904年3月20日出生于美国宾夕法尼亚州萨斯奎汉纳，1990年8月18日逝世于马萨诸塞州坎布里奇。斯金纳引入了操作条件性刺激。著有《沃尔登第二》（Walden Two，也译《桃源二村》）、《超越自由与尊严》（Beyond Freedom and Dignity）等。斯金纳（B.F.Skinner.1904-1990)，美国行为主义心理学家，新行为主义的代表人物，操作性条件反射理论的奠基者。他创制了研究动物学习活动的仪器――斯金纳箱。1950年当选为国家科学院院士，1958年获美国心理学会颁发的杰出科学贡献奖，1968年获美国总统颁发的最高科学荣誉――国家科学奖。斯金纳1904年生于宾夕法尼亚州的一个小镇，父亲是当地的律师，他从小就爱制作各种小玩艺，成为行为主义心理学家后，又发明并改造了很多动物实验的装置。在中学和大学期间，他曾立志当一名作家，并曾获得希腊文特别奖，他曾经试图进行文学创作，但很快，他就发现无论是自己还是其他作家对人的行为的理解都少得可怜，为了更深入的理解人的行为，他转向了心理学。在哈佛大学攻读心理学硕士的时候，他受到了行为主义心理学的吸引，成为了一名彻头彻尾的行为主义者，从此开始了他一生的心理学家生涯。他在华生等人的基础上向前迈进了一大步，提出了有别于巴甫洛夫的条件反射的另一种条件反射行为，并将二者做了区分，在此基础上提出了自己的行为主义理论——操作性条件反射理论。他长期致力于研究鸽子和老鼠的操作性条件反射行为，提出了“及时强化”的概念以及强化的时间规律，形成了自己的一套理论。斯金纳的签名斯金纳在美国公众中的名声远比在心理学界的名声大得多，一位崇拜者写道：“（斯金纳）是一个神话中的著名人物......科学家英雄，普罗米修斯式的播火者，技艺高超的技术专家......敢于打破偶像的人，不畏权威的人，他解放了我们的思想，从而脱离了古代的局限。”这些话虽然有些夸张，但斯金纳在心理学界的贡献仍然是不可磨灭的。斯金纳（Burrhus Frederic Skinner，1904—1990）是新行为主义心理学的创始人之一。他1904年3月20日生于美国宾夕法尼亚州东北部的一个车站小镇。斯金纳从小喜爱发明创造，富有冒险精神。他15岁时曾与几个小伙伴驾独木舟沿河而下，漂流300英里。他还试制过简易滑翔机，曾把一台废锅炉改造成一门蒸汽炮，把土豆和萝卜当炮弹射到邻居的屋顶上。1922年斯金纳进入汉密尔顿学院主修英国文学并开始从事写作。由于他对动物和人类的行为深感兴趣，因此他曾选修过生物学、胚胎学和猫体解剖等学科。在生物学教师的指导下他阅读了洛布的《脑生理学和比较心理学》、巴甫洛夫的《条件反射》等科学著作，还阅读了罗素的《哲学原理》、华生的《行为主义》。这些著作对他日后的学术成就产生了巨大影响。1926年斯金纳从汉密尔顿学院毕业，转入哈佛大学心理系。在哈佛大学学习期间，他为自己制定了一张极严格的日程表，从早晨6点至晚上9点的分分秒秒几乎都用来钻研心理学和生理学。他不看电影不看戏，谢绝一切约会。功夫不负有心人，斯金纳于1930年获哈佛大学心理学硕士学位，1931年又获心理学博士学位。此后他在该校研究院任研究员。1937～1945年他在明尼苏达州立大学教心理学，1945～1947年任印第安那大学心理系主任。1947年他重返哈佛大学，担任心理学系的终身教授，从事行为及其控制的实验研究。伯尔赫斯·弗雷德里克·斯金纳斯金纳在纽约读中学，到1926伯尔赫斯·弗雷德里克·斯金纳年为止他在大学里学艺术和语言学。本来他想成为作家，但他只在报纸中发表了约十多篇文章。按他的女儿写的传记他是在这个时候读了伊万·巴甫洛夫和约翰·华生的著作的。因此他于1928年赴哈佛大学学心理学。当时哈佛大学刚刚建立了一个行为心理学的专业，这个专业的导师将动物看作是一个完整的整体，而不研究其内部。斯金纳被鼓励进行他自己的实验研究，他后来研制了一个非常简单而有效的研究动物行为的装置。直到今天心理学家依然使用这个装置来研究动物行为。斯金纳盒是一个笼子，笼子里有一个开关。试验动物需要学会一个技能，比如灯亮了就拨动开关。开关连到一支笔上，开关每被开一次，笔就向上方动一格，笔下是一个不断向前运动的纸，因此开关的位置决定纸上的曲线的倾斜度。假如纸上画的曲线的倾斜度非常大的话，则说明动物学得非常快。心理学研究伯尔赫斯·弗雷德里克·斯金纳斯金纳在心理学研究方面的成就卓著。他发展了巴甫洛夫和桑代克的研究，揭示了操作性条件反射的规律。他设计的用来研究操作性条件反射的实验装置 “斯金纳箱”，被世界各国心理学家和生物学家广泛采用。他在哈佛大学的鸽子实验室名垂青史。他根据对操作性条件反射和强化作用的研究发明了“教学机器”并设计 了“程序教学”方案，对美国教育产生过深刻影响，被誉为“教学机器之父”。为表彰斯金纳在心理科学方面作出的重大贡献，1958年美国心理学会授予他 “卓越科学贡献奖”，1968年他荣获美国国家科学奖章，这是美国最高级别的科学奖励。1971年美国心理学基金会授予他一枚金质奖章。1990年8月 10日美国心理学会授予他“心理学毕生贡献奖”荣誉证书。8天后，即8月18日斯金纳去世。主要著作斯金纳一生著作很多。自1930年以来发表了百余篇论文和12本专著。他的主要著作有：《有机体的行为：一种实验的分析》 《科学与人类行为》《言语行为》《学习的科学和教学的艺术》《教学机器》《强化时间表》。这些著作全面阐述了操作行为主义理论和这种理论在教学领域中的应用。他还用操作行为主义理论阐述社会生活问题，出版了小说《沃尔登第二》 以及《自由与人类的控制》《超越自由与尊严》。这些作品曾在美国社会中引起巨大反响和激烈争论。

这里的资料是我看下来比较全的香农克劳德·香农(Claude Elwood Shannon，1916-2001)1916年4月30日诞生于美国密西根州的Petoskey。在Gaylord小镇长大，当时镇里只有三千居民。父亲是该镇的法官，他们父子的姓名完全相同，都是Claude Elwood Shannon。母亲是镇里的中学校长，姓名是Mabel Wolf Shannon。他生长在一个有良好教育的环境，不过父母给他的科学影响好像还不如祖父的影响大。香农的祖父是一位农场主兼发明家，发明过洗衣机和许多农业机械，这对香农的影响比较直接。此外，香农的家庭与大发明家爱迪生(Thomas Alva Edison，1847-1931)还有远亲关系。香农的大部分时间是在贝尔实验室和MIT(麻省理工学院)度过的。在“功成名就”后，香农与玛丽(Mary Elizabeth Moore)1949年3月27日结婚，他们是在贝尔实验室相识的，玛丽当时是数据分析员。他们共有四个孩子：三个儿子Robert、James、Andrew Moore和一个女儿Margarita Catherine。后来身边还有两个可爱的孙女。2001年2月24日，香农在马萨诸塞州Medford辞世，享年85岁。贝尔实验室和MIT发表的讣告都尊崇香农为信息论及数字通信时代的奠基之父。1936年香农在密西根大学获得数学与电气工程学士学位，然后进入MIT念研究生。1938年香农在MIT获得电气工程硕士学位，硕士论文题目是《A Symbolic Analysis of Relay and Switching Circuits》(继电器与开关电路的符号分析)。当时他已经注意到电话交换电路与布尔代数之间的类似性，即把布尔代数的“真”与“假”和电路系统的“开”与“关”对应起来，并用1和0表示。于是他用布尔代数分析并优化开关电路，这就奠定了数字电路的理论基?9�鸫笱У馁さ悄?Howard Gardner)教授说，“这可能是本世纪最重要、最著名的一篇硕士论文。”1940年香农在MIT获得数学博士学位，而他的博士论文却是关于人类遗传学的，题目是《An Algebra for Theoretical Genetics》(理论遗传学的代数学)。这说明香农的科学兴趣十分广泛，后来他在不同的学科方面发表过许多有影响的文章。在读学位的同时，他还用部分时间跟温尼法·布什(Vannevar Bush)教授进行微分分析器的研究。这种分析器是早期的机械模拟计算机，用于获得常微分方程的数值解。1941年香农发表了《Mathematical theory of the differential analyzer》(微分分析器的数学理论)，他写道：“大多数结果通过证明的定理形式给出。最重要的是处理了一些条件，有些条件可以生成一个或多个变量的函数，有些条件可使常微分方程得到解。还给出了一些注意事项，给出求函数的近似值(不能产生精确值)、求调整率的近似值以及自动控制速率的方法。”1941年香农以数学研究员的身份进入新泽西州的AT&T贝尔电话公司，并在贝尔实验室工作到1972年，从24岁到55岁，整整31年。1956年他当了MIT的访问教授，1958年成为正式教授，1978年退休。人们描述香农的生活，白天他总是关起门来工作，晚上则骑着他的独轮车来到贝尔实验室。他的同事D. Slepian写到：“我们大家都带着午饭来上班，饭后在黑板上玩玩数学游戏，但克劳德很少过来。他总是关起门来工作。但是，如果你要找他，他会非常耐心地帮助你。他能立刻抓住问题的本质。他真是一位天才，在我认识的人中，我只对他一人使用这个词。”香农与John Riordan一起工作，1942年发表了一篇关于串并联网络的双终端数的论文。这篇论文扩展了麦克马洪(Percy A. MacMahon，1854-1929)1892年在Electrician上发表的论文理论。1948年则创立了信息论(information theory)。在漫长的岁月，他思考过许多问题。除在普林斯顿高等研究院工作过一年外，主要都在MIT和Bell Lab度过。需要说明的是，在二次世界大战时，香农博士也是一位著名的密码破译者(这使笔者想到比他大4岁的图灵博士)。他在Bell Lab的破译团队主要是追踪德国飞机和火箭，尤其是在德国火箭对英国进行闪电战时起了很大作用。1949年香农发表了另外一篇重要论文《Communication Theory of Secrecy Systems》(保密系统的通信理论)，正是基于这种工作实践，它的意义是使保密通信由艺术变成科学。1948年香农在Bell System Technical Journal上发表了《A Mathematical Theory of Communication 》。论文由香农和威沃共同署名。前辈威沃(Warren Weaver，1894-1978)当时是洛克菲勒基金会自然科学部的主任，他为文章写了序言。后来，香农仍然从事技术工作，而威沃则研究信息论的哲学问题。顺便提一句，该论文刚发表时，使用的是不定冠词A，收入论文集时改为定冠词The。熵的概念香农理论的重要特征是熵(entropy)的概念，他证明熵与信息内容的不确定程度有等价关系。熵曾经是波尔兹曼在热力学第二定律引入的概念，我们可以把它理解为分子运动的混乱度。信息熵也有类似意义，例如在中文信息处理时，汉字的静态平均信息熵比较大，中文是9.65比特，英文是4.03比特。这表明中文的复杂程度高于英文，反映了中文词义丰富、行文简练，但处理难度也大。信息熵大，意味着不确定性也大。因此我们应该深入研究，以寻求中文信息处理的深层突破。不能盲目认为汉字是世界上最优美的文字，从而引申出汉字最容易处理的错误结论。众所周知，质量、能量和信息量是三个非常重要的量。人们很早就知道用秤或者天平计量物质的质量大?H欢��颐枪赜谌取⑷剂稀⒐τ肽艿募屏课侍猓�僦?9世纪中叶，随着热功当量的明确和能量守恒定律的建立才逐渐清楚。能量一词就是它们的总称，而能量的计量则通过“卡、焦耳”等新单位的出现而得到解决。然而，关于文字、数字、图画、声音的知识已有几千年历史了。但是它们的总称是什么，它们如何统一地计量，直到19世纪末还没有被正确地提出来，更谈不上如何去解决了。20世纪初期，随着电报、电话、照片、电视、无线电、雷达等的发展，如何计量信号中信息量的问题被隐约地提上日程。1928年哈特利(R.V. H. Harley)考虑到从D个彼此不同的符号中取出N个符号并且组成一个“词”的问题。如果各个符号出现的概率相同，而且是完全随机选取的，就可以得到DN个不同的词。从这些词里取了特定的一个就对应一个信息量I。哈特利建议用N log D这个量表示信息量，即I=N log D 。这里的log表示以10为底的对数。后来，1949年控制论的创始人维纳也研究了度量信息的问题，还把它引向热力学第二定律。但是就信息传输给出基本数学模型的核心人物还是香农。1948年香农长达数十页的论文“通信的数学理论”成了信息论正式诞生的里程碑。在他的通信数学模型中，清楚地提出信息的度量问题，他把哈特利的公式扩大到概率pi不同的情况，得到了著名的计算信息熵H的公式：H=∑-pi log pi如果计算中的对数log是以2为底的，那么计算出来的信息熵就以比特(bit)为单位。今天在电脑和通信中广泛使用的字节(Byte)、KB、MB、GB等词都是从比特演化而来。“比特”的出现标志着人类知道了如何计量信息量。香农的信息论为明确什么是信息量概念作出决定性的贡献。事实上，香农最初的动机是把电话中的噪音除掉，他给出通信速率的上限，这个结论首先用在电话上，后来用到光纤，现在又用在无线通信上。我们今天能够清晰地打越洋电话或卫星电话，都与通信信道质量的改善密切相关。克劳德·香农在公众中并不特别知名，但他是使我们的世界能进行立即通信的少数科学家和思想家之一。他是美国科学院院士、美国工程院院士、英国皇家学会会员、美国哲学学会会员。他获得过许多荣誉和奖励。例如1949年Morris奖、1955年Ballantine奖、1962年Kelly奖、1966年的国家科学奖章、IEEE的荣誉奖章、1978年Jaquard奖、1983年Fritz奖、1985年基础科学京都奖。他接受的荣誉学位不胜枚举，不再赘述。今天，我们怀念香农，要熟悉他的两大贡献：一是信息理论、信息熵的概念；另一是符号逻辑和开关理论。我们更应该学习他好奇心强、重视实践、追求完美、永不满足的科学精神，这是他获得成功的重要经验。

科学在论创始人是美贝尔电话研究所的数学家香农（C.E.Shannon1916——），他为解决通讯技术中的信息编码问题，突破老框框，把发射信息和接收信息作为一个整体的通讯过程来研究，提出通讯系统的一般模型；同时建立了信息量的统计公式，奠定了信息论的理论基础。1948年申农发表的《通讯的数学理论》一文，成为信息论诞生的标志。 申农创立信息论，是在前人研究的基础上完成的。 在信息论的发展中，还有许多科学家对它做出了卓越的贡献。法国物理学家L.布里渊（L.Brillouin）1956年发表《科学与信息论》专著，从热力学和生命等许多方面探讨信息论，把热力学熵与信息熵直接联系起来，使热力学中争论了一个世纪之久的“麦克斯韦尔妖”的佯谬问题得到了满意的解释。英国神经生理学家（W.B.Ashby）1964年发表的《系统与信息》等文章，还把信息论推广应用于生物学和神经生理学领域，也成为信息论的重要著作。这些科学家们的研究，以及后来从经济、管理和社会的各个部门对信息论的研究，使信息论远远地超越了通讯的范围。因此，信息论可以分成两种：狭义信息论与广义信息论。 狭义信息论是关于通讯技术的理论，它是以数学方法研究通讯技术中关于信息的传输和变换规律的一门科学。广义信息论，则超出了通讯技术的范围来研究信息问题，它以各种系统、各门科学中的信息为对象，广泛地研究信息的本质和特点，以及信息的取得、计量、传输、储存、处理、控制和利用的一般规律。显然，广义信息论包括了狭义信息论的内容，但其研究范围却比通讯领域广泛得多，是狭义信息论在各个领域的应用和推广，因此，它的规律也更一般化，适用于各个领域，所以它是一门横断学科。广义信息论，人们也称它为信息科学。关于信息的本质和特点，是信息论研究的首要内容和解决其它问题的前提。信息是什么？迄今为止还没有一个公认的定义。 英文信息一词（Information）的含义是情报、资料、消息、报导、知识的意思。所以长期以来人们就把信息看作是消息的同义语，简单地把信息定义为能够带来新内容、新知识的消息。但是后来发现信息的含义要比消息、情报的含义广泛得多，不仅消息、情报是信息，指令、代码、符号语言、文字等，一切含有内容的信号都是信息。哈特莱第一次把消息、情报、信号、语言等等都是信息的载体，而信息则是它们荷载着的内容。但是信息到底是什么呢？申农的狭义信息论第一个给予信息以科学定义：信息是人们对事物了解的不确定性的消除或减少。这是从通讯角度上下的定义，即信源发出了某种情况的不了解的状态，即消除了不定性。并且用概率统计数学方法，来度量为定性被消除的量的大小：H（x）为信息熵，是信源整体的平均不定度。而信息I（p）是从信宿角度代表收到信息后消除不定性的程度，也就是获得新知识的量，所以它只不在信源发出的信息熵被信宿收到后才有意义。在排除干扰的理想情况下，信源发出的信号与信宿接收的信号一一对应，H（x）与I（p）二者相等。所以信息熵的公式也就是信息量的分式。式中的k是一个选择单位的常数，当对数以2为底时，单位称比特（bit）,信息熵是l0g2=1比特。 在申农寻信息量定名称时，数学家冯.诺依曼建议称为熵，理由是不定性函数在统计力学中已经用在熵下面了。在热力学中熵是物质系统状态的一个函数，它表示微观粒子之间无规则的排列程度，即表示系统的紊乱度，维纳说：“信息量的概念非常自然地从属于统计学的一个古典概念——熵。正如一个系统中的信息量是它的组织化程度的度量，一个系统的熵就是它的无组织程度的度量；这一个正好是那一个的负数。”这说明信息与熵是一个相反的量，信息是负熵，所以在信息熵的公式中有负号，它表示系统获得后无序状态的减少或消除，即消除不定性的大小。 信息一般具有如下一些特征：1可识别；2可转换；3可传递；4可加工处理；5可多次利用（无损耗性）；6在流通中扩充；7主客体二重性。信息是物质相互作用的一种属性，涉及主客体双方；信息表征信源客体存在方式和运动状态的特性，所以它具有客体性，绝对性；但接收者所获得的信息量和价值的大小，与信宿主体的背景有关表现了信息的主体性和相对性。8信息的能动性。信息的产生、存在和流通，依赖于物质和能量，没有物质和能量就没有能动作用。信息可以控制和支配物质与能量的流动。 信息论还研究信道的容量、消息的编码与调制的问题以及噪声与滤波的理论等方面的内容。信息论还研究语义信息、有效信息和模糊信息等方面的问题。广义信息论则把信息定义为物质在相互作用中表征外部情况的一种普遍属性，它是一种物质系统的特性以一定形式在另一种物质系统中的再现。信息概念具有普遍意义，它已经广泛地渗透到各个领域，信息科学是具有方法论性质的一门科学。信息方法具有普适性。 所谓信息方法就是运用信息观点，把事物看做是一个信息流动的系统，通过对信息流程的分析和处理，达到对事物复杂运动规律认识的一种科学方法。它的特点是撇开对象的具体运动形态，把它作为一个信息流通过程加以分析。信息方法着眼于信息，揭露了事物之间普遍存在的信息联系，对过去难于理解的现象从信息观点作出了科学的说明。信息论为控制论、自动化技术和现代化通讯技术奠定了理论基础，为研究大脑结构、遗传密码、生命系统和神经病理象开辟了新的途径，为管理的科学化和决策的科学批提供了思想武器。信息方法为认识当代以电子计算机和现代通讯技术为中心的新技术革命的浪潮，为认识论的研究和发展，将进一步提高人类认识与改造自然界的能力。