谁是美国科学在论的创始人


谁是美国科学在论的创始人
科学在论创始人是美贝尔电话研究所的数学家香农(C.E.Shannon1916——),他为解决通讯技术中的信息编码问题,突破老框框,把发射信息和接收信息作为一个整体的通讯过程来研究,提出通讯系统的一般模型;同时建立了信息量的扮羡统计公式,奠定了信息论的理论基础。1948年申农发腔慧表的《通讯的数学理论》一文,成为信息论诞生的标志。 申农创立信息论,是在前人研究的基础上完成的。
在信息论的发展中,还有许多科学家对它做出了卓越的贡献。法国物理学家L.布里渊(L.Brillouin)1956年发表《科学与信息论》专著,从热力学和生命等许多方面探讨信息论,把热力学熵与信息熵直接联系起来,使热力学中争论了一个世纪之久的“麦克斯韦尔妖”的佯谬问题得到了满意的解释。英国神经生理学家(W.B.Ashby)1964年发表的《系统与信息》等文章,还把信息论推广应用于生物学和神经生理学领域,也成为信息论的重要著作。这些科学家们的研究,以及后来从经济管理社会的各个部门对信息论的研究,使信息论远远地超越了通讯的范围。因此,信息论可以分成两种:狭义信息论与广义信息论。 狭义信息论是关于通讯技术的理论,它是以数学方法研究通讯技术中关于信息的传输和变换规律的一门科学。广义信息论,则超出了通讯技术的范围来研究信息问题,它以各种系统、各门科学中的信息为对象,广泛地研究信息的本质和特点,以及信息的取得、计量、传输、储存、处理、控制和利用的一般规律。显然,广义信息论包括了狭义信息论的内容,但其研究范围却比通讯领域广泛得多,是狭义信息论在各个领域的应用和推广,因此,它的规律也更一般化,适用于各个领域,所以它是一门横断学科。广义信息论,人们也称它为信息科学。关于信息的本质和特点,是信息论研究的首要内容和解决其它问题的前提。信息是什么?迄今为止还没有一个公认的定义。 英文信息一词(Information)的含义是情报、资料、消息、报导、知识的意思。所以长期以来人们就把信息看作是消息的同义语,简单地把信息定义为能够带来新内容、新知识的消息。但是后来发现信息的含义要比消息、情报的含义广泛得多,不仅消息、情厅圆拍报是信息,指令、代码、符号语言、文字等,一切含有内容的信号都是信息。哈特莱第一次把消息、情报、信号、语言等等都是信息的载体,而信息则是它们荷载着的内容。但是信息到底是什么呢?申农的狭义信息论第一个给予信息以科学定义:信息是人们对事物了解的不确定性的消除或减少。这是从通讯角度上下的定义,即信源发出了某种情况的不了解的状态,即消除了不定性。并且用概率统计数学方法,来度量为定性被消除的量的大小:H(x)为信息熵,是信源整体的平均不定度。而信息I(p)是从信宿角度代表收到信息后消除不定性的程度,也就是获得新知识的量,所以它只不在信源发出的信息熵被信宿收到后才有意义。在排除干扰的理想情况下,信源发出的信号与信宿接收的信号一一对应,H(x)与I(p)二者相等。所以信息熵的公式也就是信息量的分式。式中的k是一个选择单位的常数,当对数以2为底时,单位称比特(bit),信息熵是l0g2=1比特。 在申农寻信息量定名称时,数学家冯.诺依曼建议称为熵,理由是不定性函数在统计力学中已经用在熵下面了。在热力学中熵是物质系统状态的一个函数,它表示微观粒子之间无规则的排列程度,即表示系统的紊乱度,维纳说:“信息量的概念非常自然地从属于统计学的一个古典概念——熵。正如一个系统中的信息量是它的组织化程度的度量,一个系统的熵就是它的无组织程度的度量;这一个正好是那一个的负数。”这说明信息与熵是一个相反的量,信息是负熵,所以在信息熵的公式中有负号,它表示系统获得后无序状态的减少或消除,即消除不定性的大小。
信息一般具有如下一些特征:
1可识别;
2可转换;
3可传递;
4可加工处理;
5可多次利用(无损耗性);
6在流通中扩充;
7主客体二重性。信息是物质相互作用的一种属性,涉及主客体双方;信息表征信源客体存在方式和运动状态的特性,所以它具有客体性,绝对性;但接收者所获得的信息量和价值的大小,与信宿主体的背景有关表现了信息的主体性和相对性。8信息的能动性。信息的产生、存在和流通,依赖于物质和能量,没有物质和能量就没有能动作用。信息可以控制和支配物质与能量的流动。 信息论还研究信道的容量、消息的编码与调制的问题以及噪声与滤波的理论等方面的内容。信息论还研究语义信息、有效信息和模糊信息等方面的问题。广义信息论则把信息定义为物质在相互作用中表征外部情况的一种普遍属性,它是一种物质系统的特性以一定形式在另一种物质系统中的再现。信息概念具有普遍意义,它已经广泛地渗透到各个领域,信息科学是具有方法论性质的一门科学。信息方法具有普适性。 所谓信息方法就是运用信息观点,把事物看做是一个信息流动的系统,通过对信息流程的分析和处理,达到对事物复杂运动规律认识的一种科学方法。它的特点是撇开对象的具体运动形态,把它作为一个信息流通过程加以分析。信息方法着眼于信息,揭露了事物之间普遍存在的信息联系,对过去难于理解的现象从信息观点作出了科学的说明。信息论为控制论、自动化技术和现代化通讯技术奠定了理论基础,为研究大脑结构、遗传密码、生命系统和神经病理象开辟了新的途径,为管理的科学化和决策的科学批提供了思想武器。信息方法为认识当代以电子计算机和现代通讯技术为中心的新技术革命的浪潮,为认识论的研究和发展,将进一步提高人类认识与改造自然界的能力。
克劳德·艾尔伍德·香农(Claude Elwood Shannon,1916年4月30日-2001年2月26日),美国数学家、电子工程师和密码学家,被誉为信息论的创始人。1937年21岁的香农是麻省理工学院的硕士研究生,他在其硕士论文中提出,将布尔代数应用于电子领域,能够构建并解决任何逻辑和数值关系,被誉为有史以来最具水平的硕士论文之一。1948年香农发表了划时代的论文——通信的数学原理,奠定了现代信息理论的基础。二战期间,香农为军事领域的密码分析——密码破译和保密通信——做出了很大贡献。2001年2月26日去世,享年84岁。

香农出生于密键皮歇根州的Petoskey。父亲克劳德(1862–1934)与他的姓名完全相同,是新泽西州早期移民的后裔,曾自主创业经商,也担任过审核遗嘱的法官。母亲玛贝尔·沃夫·香农(1890–1945)是德国移民的女儿,职业是语言学教师,曾长期担任密歇根州Gaylord高中的校长。香农人生的前16年都是在Gaylord度过的,他在那儿接受了公立学校教育,并于1932年从Gaylord高中毕业。香农对机械和电气电子表现出了极大爱好。他最优秀的学科就是科学和数学,并在家中制作了模型飞机、无线电控制的模型船和一个可与半英里内的朋友家联系的无线电报系统。大一点的时候,他做过西联汇款的投递员。
  香农孩提时期仰慕的英雄是托马斯·爱迪生,后来他才知道自己是托马斯·爱迪生的远房亲戚。他们都是约翰·欧格登(John Ogden)的后裔。约翰·欧格登是一个殖民领袖,也是许多杰出人物的先祖。

布尔理论和二战前研究

  1932香农进入密歇根大学学习,在大学的一门课程中接触到了乔治·布尔的理论。1936年大学毕业时,香农获得了两个学士学位:电子工程学士和数学学士。不久,香农进入麻省理工学院开始研究生学习,参与了万尼瓦尔·布什的微分分析机(Differential Analyzer)的相关工作。微分分析机是一种模拟计算机,是现代电脑的鼻祖。

  在研究微分分析机的自组织(ad hoc)电路时,香农发现引入布尔理论的概念会带有很大的好处。在1937年硕士论文的基础上,香农在稿亮差1938年发行的Transactions of the American Institute of Electrical Engineers上发表了著名论文“A Symbolic Analysis of Relay and Switching Circuits”。由于这篇论文,香农于1940年被授予美国Alfred Noble协会美国工程师奖。哈佛大学的哈沃德·加德纳称香农的硕士论文“可能是本世纪最重要、最著名的硕士学位论文”。
  在这篇论文键稿中,香农证明了布尔代数和二进制算术可以简化当时在电话交换系统中广泛应用的机电继电器的设计。然后,香农扩展了这个概念,证明了基于机电继电器的电路能用于模拟和解决布尔代数问题。
  用电子开关模拟布尔逻辑运算是现代电子计算机的基本思路,香农的工作成为数字电路设计的理论基石,完全取代了之前盛行的ad hoc方法。Vannevar Bush建议香农将类似的数学方法应用于孟德尔遗传学,香农接受了这个建议,写出了An Algebra for Theoretical Genetics。凭此论文,香农于1940年获得麻省理工学院博士学位。
  1940年,香农成为普林斯顿高等研究院的研究员。在那里香农有很多机会与当时有影响力的科学家和数学家交流,比如阿尔伯特·爱因斯坦、赫尔曼·外尔和约翰·冯·诺伊曼,现代信息理论的思想逐渐在他脑海中成型。

二战期间的研究
  二战期间,香农加入贝尔实验室,研究火力控制系统和密码学,相关课题直属国防研究委员会领导。

  在贝尔实验室,香农遇到了担任数值分析员的Betty。两人于1949年结婚。
  1943年,香农有机会和英国数学家和密码学家艾伦·图灵合作。图灵被派到华盛顿和美国海军交流破译德国的北大西洋潜艇舰队密码的成果,并在贝尔实验室呆了一段时间。香农和图灵在一个自助餐厅见面。图灵向香农介绍了现在被称为“通用图灵机”的概念。香农对此很感兴趣,因为图灵机的概念和香农自己的很多想法相吻合。
  1945年,战争进入尾声,国防研究委员会NDRC的使命即将结束。在正式解散之间,NDRC决定将重要研究成果整理成册,其中有一篇论文“火力控制系统的数据平滑和数据预测”是香农和Ralph Beebe Blackman、Hendrik Wade Bode一起写的,它的思路和“通信系统中将信号和噪声相分离”是类似的,也就是说,香农在火力控制系统研究中已经发现了后来成为信息理论的基本概念和框架体系。
  战时香农在密码学领域的研究与通信领域的关系更加密切。1945年,香农向贝尔实验室提交了一份备忘录,题目是“密码学的一个数学理论”,之后在1949年以“保密系统的通信理论”的标题在Bell System Technical Journal正式发表,包含了很多在“通信的一个数学理论”出现的概念和数学公式。香农说,战时对通信理论和密码学的研究使他认识到“两者密不可分”。
  还是在贝尔实验室,香农证明了一次性密钥(cryptographic one-time pad)是无法被破译的。香农同时证明了一个无法被破译的密码系统的密钥必须有以下特征:完全随机;不能重复使用;保密;和明文一样长。
战后的贡献
  1948年,划时代的“通信的一个数学理论”分成两部分,在7月和10月的Bell System Technical Journal发表。文章系统论述了信息的定义,怎样数量化信息,怎样更好地对信息进行编码。在这些研究中,概率理论是香农使用的重要工具。香农同时提出了信息熵的概念,用于衡量消息的不确定性。

  1949年,香农和Warren Weaver合著了“通信的数学理论”,包含了香农1948年的论文“通信的一个数学理论”和Warren Weaver为非专业人士写的介绍通信理论的内容。Warren Weaver指出,在信息理论中"information"这个词不是指“你说了什么”,而是指“你能够说什么”,也就是说,信息表示人们可有多少选择。之后,John Robinson Pierce在“Symbols, Signals, and Noise”这本书中也对香农的概念作了通俗的介绍。
  1951年,香农写了"Prediction and Entropy of Printed English",说明信息基础理论能够应用于自然语言和计算机语言,计算了英语这门语言的熵,从而为从统计的角度分析语言打下了基础。而且,香农认为如果把空格当作英语字母表上的第27个字母,能够降低提取英语处理的不确定性。
  数学通信的基础理论——抽样分析理论——的提出也有香农的贡献。抽样分析理论将连续的模拟信号抽样成离散的数字信号,为20世纪60年代之后数字通信的兴起奠定了基础。
  1956年,香农返回MIT

爱好和发明
  除了学术研究,香农爱好杂耍、骑独轮脚踏车和下棋。香农发明了很多用于科学展览的设备,比如火箭动力飞行光盘、一个电动弹簧高跷和一个喷射小号。香农的办公桌上放着一个他称之为“终极机器”的盒子,这是香农众多好玩的发明之一,是根据人工智能研究的先驱、数学家马文·闵斯基提出的想法而做出来的。这个盒子外表平淡无奇,只是在一侧有一个开关,弹一下开关,盒盖就会打开,一个机械手会伸出来;将开关复原,机械手就缩回盒子。香农还做了一个设备能够复原魔方。

  香农还被认为和爱德华·索普一起发明了第一个佩戴式计算机,这个佩戴式计算机用于提高轮盘赌的获胜几率。
伯尔赫斯·弗雷德里克·斯金纳(Burrhus Frederic Skinner,1904—1990),美国心理学家,新行为主义学习理论的创始人,也是新行为主义的主要代表。1904年3月20日出生于美国宾夕法尼亚州萨斯奎汉纳,1990年8月18日逝世于马萨诸塞州坎布里奇。斯金纳引入了操作条件性刺激。著有《沃尔登第二》(Walden Two,也译《桃源二村》)、《超越自由与尊严》(Beyond Freedom and Dignity)等。
斯金纳(B.F.Skinner.1904-1990),美国行为主义心理学家,新行为主义的代表人物,操作性条件反射理论的奠基者。他创制了研究动物学习活动的仪器――斯金纳箱。1950年当选为国家科学院院士,1958年获美国心理学会颁发的杰出科学贡献奖,1968年获美国总统颁发的最高科学荣誉――国家科学奖。
斯金纳1904年生于宾夕法帆橡陪尼亚州的一个小镇,父亲是当地的律师,他从小就爱制作各种小玩艺,成为行为主义心理学家后,又发明并改造了很多动物实验的装置。在中学和大学期间,他曾立志当一名作家,并曾获得希腊文特别奖,他曾经试图进行文学创作,但很快,他就发现无论是自己还是其他作家对人的行为的理解都少得可怜,为了更深入的理解人的行为,他转向了心理学。在哈佛大学攻读心理学硕士的时候,他受到了行为主义心理学的吸引,成为了一名彻头彻尾的行为主义者,从此开始了他一生的心理学家生涯。他在华生等人的基础上向前迈进了一大步,提出了有别于巴甫洛夫的条件反射的另一种条件反射行为,并将二者做了区分,在此基础上提出了自己的行为主义理论——操作性条件反射理论。他长期致力于研究鸽子和老鼠的操作性条件反射行为,提如滑出了“及时强化”的概念以及强化的时间规律,形成了自己的一套理论。
斯金纳的签名
斯金纳在美国公众中的名声远比在心理学界的名声大得多,一位崇拜者写道:“(斯金纳)是一个神话中的著名人物......科学家英雄,普罗米修斯式的播火者,技艺高超的技术专家......敢于打破偶像的人,不畏权威的人,他解放了我们的思想,从而脱离了古代的局限。”这些话虽然有些夸张,但斯金纳在心理学界的贡献仍然是不可磨灭的。
斯金纳(Burrhus Frederic Skinner,1904—1990)是新行为主义心理学的创始人之一。他1904年3月20日生于美国宾夕法尼亚州东北部的一个车站小镇。斯金纳从小喜爱发明创造,富有冒险精神。他15岁时曾与几个小伙伴驾独木舟沿河而下,漂流300英里。他还试制过简易滑翔机,曾把一台废锅炉改造成一门蒸汽炮,把土豆和萝卜当炮弹射到邻居的屋顶上。1922年斯金纳进入汉密尔顿学院主修英国文学并开始从事写作。由于他对动物和人类的行为深感兴趣,因此他曾选修过生物学、胚胎学和猫体解剖等学科。在生物学教师的指导下他阅读了洛布的《脑生理学和比较心理学》、巴甫洛夫的《条件反射》等科学著作,还阅读了罗素的《哲学原理》、华生的《行为主义》。这些著作对他日后的学术成就产生了巨大影响。
1926年斯金纳从汉密尔顿学院毕业,转入哈佛大学心理系。在哈佛大学学习期间,他为自己制定了一张极严格的日程表,从早晨6点至晚上9点的分分秒秒几乎都用来钻研心理学和生理学。他不看电影不看戏,谢绝一切约会。功夫不负有心人,斯金纳于1930年获哈佛大学心理学硕士学位,1931年又获心理学博士学位。此后他在该校研究院任研究员。1937~1945年他在明尼苏达州立大学教心理学,1945~1947年任印第安那大学心理系主任。1947年他重返哈佛大学,担任心理学系的终身教授,从事行为及其控制的实验研究。
伯尔赫斯·弗雷德里克·斯金纳斯金纳在纽约读中学,到1926
伯尔赫斯·弗雷德里克·斯金纳
年为止他在大学里学艺术和语言学。本来他想成为作家,但他只在报纸中发表了约十多篇文章。按他的女儿写的传记他是在这个时候读了伊万·巴甫洛夫和约翰·华生的著作的。因此他于1928年赴哈佛大学学心理学。当时哈佛大学刚刚建立了一个行为心理学的专业,这个专业的导师将动物看作是一个完整的整体,而不研究其内部。斯金纳被鼓励进行他自己的实验研究,他后来研制了一个非常简单而有效的研究动物行为的装置。直到今天心理学家依然使用这个装置来研究动物行为。
斯金态蠢纳盒是一个笼子,笼子里有一个开关。试验动物需要学会一个技能,比如灯亮了就拨动开关。开关连到一支笔上,开关每被开一次,笔就向上方动一格,笔下是一个不断向前运动的纸,因此开关的位置决定纸上的曲线的倾斜度。假如纸上画的曲线的倾斜度非常大的话,则说明动物学得非常快。
心理学研究
伯尔赫斯·弗雷德里克·斯金纳
斯金纳在心理学研究方面的成就卓著。他发展了巴甫洛夫和桑代克的研究,揭示了操作性条件反射的规律。他设计的用来研究操作性条件反射的实验装置 “斯金纳箱”,被世界各国心理学家和生物学家广泛采用。他在哈佛大学的鸽子实验室名垂青史。他根据对操作性条件反射和强化作用的研究发明了“教学机器”并设计 了“程序教学”方案,对美国教育产生过深刻影响,被誉为“教学机器之父”。为表彰斯金纳在心理科学方面作出的重大贡献,1958年美国心理学会授予他 “卓越科学贡献奖”,1968年他荣获美国国家科学奖章,这是美国最高级别的科学奖励。1971年美国心理学基金会授予他一枚金质奖章。1990年8月 10日美国心理学会授予他“心理学毕生贡献奖”荣誉证书。8天后,即8月18日斯金纳去世。

主要著作
斯金纳一生著作很多。自1930年以来发表了百余篇论文和12本专著。他的主要著作有:《有机体的行为:一种实验的分析》 《科学与人类行为》《言语行为》《学习的科学和教学的艺术》《教学机器》《强化时间表》。这些著作全面阐述了操作行为主义理论和这种理论在教学领域中的应用。他还用操作行为主义理论阐述社会生活问题,出版了小说《沃尔登第二》 以及《自由与人类的控制》《超越自由与尊严》。这些作品曾在美国社会中引起巨大反响和激烈争论。