史蒂芬·霍金最近发出警告：“一旦人工智能发展到完整的程度，人类的终结也就到了。”伊隆·马斯克则担心人工智能的研发有可能是人类存亡的最大威胁。连比尔·盖茨也敦促大家要小心。
人一手创造的怪物，会不会反过来奴役人？这种畏惧很早就有了。但就在微软、谷歌竞相投入巨资研发人工智能之时，名气响当当的宇宙学家、硅谷创业家和微软创始人却分别说出这样的忧虑，这份忧虑就有不同的份量——要注意，他们三位可不是反对或排斥工业化、新技术的人。今天，一个人的口袋里装着的可能就是一部超级计算机，战场上杀出来的可能是机器人，如果把那份忧虑简单地当是异想天开，也是有些自欺欺人。问题在于，如何避免过犹不及？
首先，我们要搞清楚，计算机现在已经具备了哪些能力，而在将来又会增加哪些能力。凭借处理能力的增强以及数据资料的增多，人工智能正处于快速发展的阶段。今天，深度学习（deep learning）系统能模仿人脑的神经元层，处理海量的数据，自己教自己如何去执行一些任务，譬如识别和翻译，做得几乎跟人一样好。结果，一些一直需要人脑参与的事情，大到解读图象，小到玩街机经典《青蛙过河》，现在也属于电脑程序能做的范围里了。Facebook在2014年发布了名为DeepFace的算法。这个算法可以识别相片里的人脸，准确率达到97%。
但必须注意的是，这些都是应用于某一具体领域狭隘的能力。目前的人工智能是通过“残暴”的数据处理能力，来达到与人脑智力的“形似”，但至于如何模仿人的自主性、喜恶和欲求，成果则很少。电脑还做不到随心所欲地思辨、判断以及选择，而这些都是人类智力的特征。
但与此同时，人工智能已经可以给人类生活带来巨大的改变。人工智能现在已经能辅助人类，为人做的事带来助益。国际象棋便是一例。现在电脑可以下赢任何一个人。不过，当今世界上最强的棋手并不是电脑，而是人与算法一起合力的团队。这样的团队组合将延伸至人类其它的活动：医生有了人工智能的支持，从医疗图像中查出癌症的能力将大大增强；有了智能手机上装的语音识别软件，发展中国家读写能力欠佳的人便能更好地使用互联网；做学术研究时，数字助理可以建议你哪条假设更有机会成立；有了图像分类算法，可佩戴设备对着肉眼看到的真实世界“加上”有用的标注。
但也不是每个方面的效益都是正面的。譬如，无论是对民主国家还是专制国家而言，人工智能都是监管人民的利器。有了人工智能，政府便可以监听数以亿计的对话，在人山人海中根据声音或样貌特征轻而易举地找出它要找的人。这就对自由造成了严峻的威胁。
尽管整个社会可以获得很多益处，但很多人会因为人工智能而处于劣势。在计算机诞生以前，给老板计算数字的苦活常是由妇女来做，后来这些职位就让晶体管占据了。同样，人工智能将来很有可能会让整个白领阶层捡包袱走人。虽说教育和培训有助打工者适应这个变化，且人工智能带来的新财富会进入新的行业从而产生新的工种，但打工者依然难免经历颠簸。
但霍金、马斯克、盖茨他们担心的并不是监控和颠簸的问题。他们担心的是近期好莱坞电影里的场景：自动化机器拥有了比人类更灵敏的认知能力，拥有了与肉身的人冲突的利益观。
这样的人工智能产品离我们还遥远得很，甚至可能永远也造不出来。无论是心理学家、神经学家、社会学家还是哲学家，在对着人脑东敲敲西敲敲地研究了一个世纪后，依然没搞清楚人的思维是怎么回事，更不要说仿造出一颗人脑。假如机器拥有自己的利益观和自主能力，即使这机器的智能不完整，只能用于某个用途，也绝非代表我们就可以放心使用：无人车跑起来比人开还好，这听起来挺赞的，但要是车有自己想去的地方，听起来可就不太妙。
虽然我们离霍金所说的“完整的”人工智能还很远，但现在就开始思考如何应对到时的情况，也是谨慎之举。“超人”又“自治”的东西，人类不早就创造过了吗？官僚体制、市场、军队，这些都是，这些都帮助人类做到没有辅助、组织时做不到的事情；这些都能自主运作，而且如果不加法规管理，都会造成巨大的祸害。
这些相似的事物或许可以令人工智能的持疑派放心一些。这些事物也喻示了人类社会如何可以安全地研发人工智能。军队需要文官管理，市场需要监管，官僚需要问责、透明；同理，人工智能系统也必须接受监督。由于系统的设计者无法预见所有的情形，还必须要有危急时刻拉闸中断的设置。加入这些限制并不会妨碍进步。大到核弹，小到交通规则，这些都证明人类曾成功运用技术和法律手段去管理威力强大的创新。
［摘要］ 本文认为，计算机科学和人工智能将是21世纪逻辑学发展的主要动力源泉，并且在很大程度上将决定21世纪逻辑学的面貌。至少在21世纪早期，逻辑学将重点关注下列论题：（1）如何在逻辑中处理常识推理的弗协调、非单调和容错性因素？（2）如何使机器人具有人的创造性智能，如从经验证据中建立用于指导以后行动的可错的归纳判断？（3）如何进行知识表示和知识推理，特别是基于已有的知识库以及各认知主体相互之间的知识而进行的推理？（4）如何结合各种语境因素进行自然语言理解和推理，使智能机器人能够用人的自然语言与人进行成功的交际？等等。 ［关键词］ 人工智能，常识推理，归纳逻辑，广义内涵逻辑，认知逻辑，自然语言逻辑 现代逻辑创始于19世纪末叶和20世纪早期，其发展动力主要来自于数学中的公理化运动。当时的数学家们试图即从少数公理根据明确给出的演绎规则推导出其他的数学定理，从而把整个数学构造成为一个严格的演绎大厦，然后用某种程序和方法一劳永逸地证明数学体系的可靠性。为此需要发明和锻造严格、精确、适用的逻辑工具。这是现代逻辑诞生的主要动力。由此造成的后果就是20世纪逻辑研究的严重数学化，其表现在于：一是逻辑专注于在数学的形式化过程中提出的问题；二是逻辑采纳了数学的方法论，从事逻辑研究就意味着象数学那样用严格的形式证明去解决问题。由此发展出来的逻辑被恰当地称为“数理逻辑”，它增强了逻辑研究的深度，使逻辑学的发展继古希腊逻辑、欧洲中世纪逻辑之后进入第三个高峰期，并且对整个现代科学特别是数学、哲学、语言学和计算机科学产生了非常重要的影响。 本文所要探讨的问题是：21世纪逻辑发展的主要动力将来自何处？大致说来将如何发展？我个人的看法是：计算机科学和人工智能将至少是21世纪早期逻辑学发展的主要动力源泉，并将由此决定21世纪逻辑学的另一幅面貌。由于人工智能要模拟人的智能，它的难点不在于人脑所进行的各种必然性推理（这一点在20世纪基本上已经做到了，如用计算机去进行高难度和高强度的数学证明，“深蓝”通过高速、大量的计算去与世界冠军下棋），而是最能体现人的智能特征的能动性、创造性思维，这种思维活动中包括学习、抉择、尝试、修正、推理诸因素，例如选择性地搜集相关的经验证据，在不充分信息的基础上作出尝试性的判断或抉择，不断根据环境反馈调整、修正自己的行为，……由此达到实践的成功。于是，逻辑学将不得不比较全面地研究人的思维活动，并着重研究人的思维中最能体现其能动性特征的各种不确定性推理，由此发展出的逻辑理论也将具有更强的可应用性。 实际上，在20世纪中后期，就已经开始了现代逻辑与人工智能（记为AI）之间的相互融合和渗透。例如，哲学逻辑所研究的许多课题在理论计算机和人工智能中具有重要的应用价值。AI从认知心理学、社会科学以及决策科学中获得了许多资源，但逻辑（包括哲学逻辑）在AI中发挥了特别突出的作用。某些原因促使哲学逻辑家去发展关于非数学推理的理论；基于几乎同样的理由，AI研究者也在进行类似的探索，这两方面的研究正在相互接近、相互借鉴，甚至在逐渐融合在一起。例如，AI特别关心下述课题： ·效率和资源有限的推理； ·感知； ·做计划和计划再认； ·关于他人的知识和信念的推理； ·各认知主体之间相互的知识； ·自然语言理解； ·知识表示； ·常识的精确处理； ·对不确定性的处理，容错推理； ·关于时间和因果性的推理； ·解释或说明；21世纪的逻辑学也应该关注这些问题，并对之进行研究。为了做到这一点，逻辑学家们有必要熟悉AI的要求及其相关进展，使其研究成果在AI中具有可应用性. 我认为，至少是21世纪早期，逻辑学将会重点关注下述几个领域，并且有可能在这些领域出现具有重大意义的成果：（1）如何在逻辑中处理常识推理中的弗协调、非单调和容错性因素？（2）如何使机器人具有人的创造性智能，如从经验证据中建立用于指导以后行动的归纳判断？（3）如何进行知识表示和知识推理，特别是基于已有的知识库以及各认知主体相互之间的知识而进行的推理？（4）如何结合各种语境因素进行自然语言理解和推理，使智能机器人能够用人的自然语言与人进行成功的交际？等等。
人工智能的发展（智能算法的辅助与协调）让创业更加容易，生产力提高，做事更容易，3D打印机等出现跟意味着材料学等基础科学将会得到更多的社会资源的倾斜，假如往后看二十年，手工店与工艺坊、工作室、再拓展到智能化工厂，可能会出现以设计师为主导的，以用户受众为中心的品牌创业，人们的创新理念在得到普遍认可的情况下更容易获得成就；
人工智能的发展让创业更加难，资源的整合往往容易出现垄断，资源整合虽然更加容易调控，但是随着而来的是个体或者团体对于资源整合把控带来的垄断风险，创业创新的人们与之更容易产生不可调和的矛盾。（例如作者与平台等、创作可以看做创业，而平台则决定了创业的受众等）如果没有制度以及政策的帮助，那么未来的人工智能将会进一步改变社会形态，从而大规模大范围影响创业人士。
