人工智能的发展会威胁人类？机器人三大法则会失效：今年3月16日，全球瞩目的围棋“人机大战”在韩国首尔收官，谷歌公司旗下的人工智能软件“阿尔法围棋”以4∶1的比分战胜了围棋世界冠军李世石。这次人机大战的结果不仅激发出人们对人工智能的无限热情，更是让人类开始重新思考人工智能在围棋以外的更多可能性。
人工智能的起源和发展
顾名思义，人工智能就是人造的智能，它是一门通过计算过程力图理解和模仿智能行为的学科。其基本目标就是使机器表现出类似人类的判断、推理、证明、识别、感知、理解、通信、设计、思考、规划、学习和问题求解等思维活动，使机器具有类似人类的智能行为，使机器思维能拥有人类的思考方式。
人工智能的思想最早可以追溯到法国哲学家笛卡尔的“有灵魂的机器”。到了20世纪30年代，英国数学家图灵提出了“自动化理论”，把研究会思维的机器和开发计算机的工作大大向前推进了一步，他也因此被称为“人工智能之父”。但是，“人工智能”这个概念真正诞生的标志是1956年夏季在美国达特玛斯大学召开的以“人工智能”为名的学术讨论会。随后的几十年中，人们从问题求解、逻辑推理、定理证明、自然语言理解、博弈、自动程序设计、专家系统、学习以及机器人学等多个角度展开了研究，并建立了一些具有不同程度人工智能的计算机系统。当然，人工智能的发展也不是一帆风顺的，曾一度因为计算机计算能力的限制无法模仿人脑的思考以及与实际需求的差距过大而走入低谷。但是随着计算机硬件和软件的发展，计算机的运算能力以指数级增长，加之网络技术的蓬勃兴起使得目前的计算机已经具备了足够的条件来运行一些要求较高的人工智能软件。当然，人工智能的快速发展并不意味着它已经能达到人脑的水平，但人工智能的发展潜力还是巨大的。根据人工智能研究的主要目标，以下4个方面引领了人工智能的发展方向：第一，与生物技术、电子技术结合，研究生物电子体；第二，与脑科学、信息处理技术结合，研究人工大脑；第三，与网络技术、软件技术结合，研究智能软件；第四，与通讯技术、控制技术结合，研究家庭机器人。
有血有肉的生物电子体
在我们的印象中，人工智能通常是一个计算机软件，其实它也可能拥有一副有血有肉的身躯在现世界行走、奔跑甚至飞翔。生物电子体技术就是让人工智能拥有活动能力的一种全新技术。
生物电子体是生物细胞与电脑微芯片有效协作的共存体，可以实现部分或全部生物的智能。研制电子生物体主要有“植入法”和“提取法”两种方式：“植入法”就是把模拟生物体的电脑微芯片植入生物体，并与生物体形成协作共存体；“提取法”就是从生物体中提取出细胞组织与模拟生物体的微芯片结合为协作共存体。
研究生物电子体的目的，就是希望制备出一种协作共存体，从而对生物体进行有效控制，使其为人类服务。譬如当年美国“9·11”恐怖袭击后，美国政府紧急安排了10种机器人进行城市搜索和救援工作，但其中有6种机器人由于体积太大而不能运送到现场开展工作。试想一下，我们如果利用生物电子体有效控制爬行动物的行为，使其为人类服务，这可能比研究救援机器人花费的时间和资源更少一些。
在生物电子体领域，各国已相继开展了诸多研究。利用相对简单的“植入法”，日本东京大学率先研究了一种蟑螂控制技术，他们把蟑螂头上的触须和翅膀切除，插入电极、微处理器和红外传感器，通过遥控信号产生电刺激，使蟑螂能够沿着特定方向行进。美国纽约州立大学通过向老鼠体内植入微控制器，也成功实现了对老鼠的转弯、前进、爬树和跳跃等动作的人工制导。我国在电子生物体的研究上也有突破性进展，南京航空航天大学就研究了一种壁虎的人工控制技术，即把微电极植入壁虎体内，通过电刺激模拟神经控制其运动。而通过“提取法”制得的生物电子体就更复杂些，比较有代表性的是英国科学家推出的一个由老鼠的脑组织控制的机器人，名为“戈登”。在该项研究中，科研人员先从老鼠身上分离出神经细胞，放置在酶溶液中，让这些神经细胞彼此分离，然后再将这些神经细胞置于营养丰富的培养基中。该培养基与一个拥有60个电极的电子矩阵相连接，这个电子矩阵就是活体脑组织和机器部件的接合面。通过电子矩阵，“戈登”大脑发出电子脉冲，驱动机器人轮子，同时也能接受传感器基于外部环境刺激发出的脉冲。由于“戈登”的大脑是活的组织，因此必须装在温度特定的器具中。除了自身大脑外，“戈登”不受任何人为和电脑的控制。“戈登”具有一定的学习能力，比如撞到墙时，它就会从传感器得到电子刺激，再次遇到类似情况时，它就会记住。但是，如果没有外界刺激，“戈登”便会在数月内因大脑萎缩而死亡。尽管如此，“戈登”仍是实现提取活体脑组织和电子部件结合的研究新突破，也是电子生物体的重大突破。
擅长自学的人工大脑
开发人工大脑就是从信息处理切入，结合脑科学研究大脑对信息流的获取、存储、联想（提取）、回忆（反馈）等处理逻辑，以及脑神经细胞的工作原理来为大脑建模的过程。我们都知道，大脑不是计算机，不会亦步亦趋、按部就班地根据输入产生输出，大脑是个极其庞大的记忆系统，真正了解人类大脑，构建出大脑的记忆-预测系统模型才能制造真正的智能。人工大脑其实早在20世纪末就出现了，日本京都先进电讯研究所率先研制了一只机器猫，该机器猫的脑部主要采用了人工神经网络技术，包含约3770万个人造神经细胞，尽管数量与人脑的1000亿个脑细胞相比差之甚远，但其智能超过了昆虫，实现了人工大脑开发的第一步。紧接着，比利时便研制出了能让机器人拥有数百个行为能力的人工大脑。然而，这些人工大脑都是基于传统的计算机设计和制造思路开发的，与人脑的工作模式有着本质的区别，因此，改变传统的设计思路，是未来研究人工大脑的必经之路。
目前，走在研究人工大脑技术前沿的是几大信息技术巨头，其中IBM和谷歌的研究成果尤为突出。IBM的研究人员研制出了第一代神经突触计算机芯片，这种芯片可以模拟大脑的认知活动，完全不同于计算机设计与制造的传统理念。研究人员通过先进算法和硅电路，再现了发生于大脑中神经细胞和突触之间的现象。未来，IBM将进一步开发认知运算芯片，并将以混合信号、类比数位以及异步、平行、分布式、可重组的特制容错算法，来复制大脑的运算单元、神经元与突触之间的活动。
近年来，谷歌将大量资金、人力投入人工大脑研究中，并成功开发出了模拟人脑并具备自我学习功能的“谷歌虚拟大脑”。“谷歌虚拟大脑”是模拟人脑细胞之间的相互交流、影响而设计的，通过模拟人脑中相互连接、相互沟通、相互影响的“神经元”，由1000台计算机、16000个处理器、10亿个内部节点相连接，形成一个“神经网络”。当有数据被送达这个神经网络的时候，不同神经元之间的关系就会发生改变，这种关系的变化使得该系统对某些特定数据形成反应机制，从而让系统具备学习能力，并且能够在新输入的数据中找出与学到的概念相对应的部分，以达到识别的效果。这个有着自学功能的虚拟大脑系统在人工智能领域有着划时代意义，研究人员无需预先输入某一概念，它就可以自己决定关注数据的哪部分特征，注意哪些模式，从而自动从输入的大量数据中“领悟”这一概念，这与人脑的学习过程十分相似。
智能软件不止于围棋
所谓智能软件，是指能够产生人类智能行为的计算机软件。智能软件与传统软件最重要的区别就是：智能软件具有现场感应和环境适应的能力，还有表示、获取、存取和处理知识的能力，同时还能够采用人工智能的问题求解模式来获得结果。自从计算机诞生后，软件的设计开发便一直落后于硬件生产水平的发展，智能软件更是无从谈起。直到20世纪末，作为现实世界高水平的抽象——Agent软件系统的诞生，才大大加快了智能软件的开发。很快，基于Agent的实时道路交通导航系统模型、面向Agent的巡航导弹武器控制系统和多Agent敏捷调度系统相继被开发出来。目前，基于Agent的软件设计与开发已经成为人工智能学科的重要内容之一，而如何在软件设计与开发中更好地体现Agent的自治性、交互性、协作性以及可通信性等，又使智能软件的设计与开发成为了人工智能学科的新挑战。
如今，对于智能软件的开发正处于如火如荼的阶段。比如，击败李世石的“阿尔法围棋”便是一款智能软件，这款智能软件最重要的特征就是“深度学习”。深度学习的主要原理就是用一层神经网络把大量矩阵数字作为输入，通过非线性激活方法取权重，再产生另一个数据集合作为输出。这就意味着“阿尔法围棋”会在与围棋高手的较量中不断提高自己的棋力。“阿尔法围棋”的另一个重要特征就是它具有两个不同的神经网络大脑：一个是“监督学习的策略网络”，负责观察棋盘布局试图找到最佳的下一步，相当于“落子选择器”；另一个是“价值网络”，负责评估棋局的整体局面并预测双方胜负，从而辅助落子选择器，这个叫“棋局评估器”。在“两个大脑”的配合下，“阿尔法围棋”击败了围棋界顶级高手，这绝对是人工智能的大突破。此外，智能软件还在环保、商务和医疗等领域崭露头角。我们知道，现在空气污染备受关注，西门子中央研究院便开发了基于神经网络的空气污染预测软件。该软件利用了伦敦市遍布中心城区的约150 座监测站收集的包括湿度、太阳辐射、云层覆盖和温度等天气数据和一氧化碳、二氧化碳和氮氧化物等气体的排放测量数据，并将这些数据相关联。同时还将诸如工作日、周末、假期、展会和体育赛事等影响交通和污染物排放的活动编程到预测模型中，最终这款智能软件能够每小时预报伦敦市内150 个地点未来 3 天的空气污染程度，误差率不超过 10%，并且还可以推断出导致所预测空气污染的主要原因。另外，现在还出现了许多商务智能软件，主要就是通过分析销售额、客流量、库存、人员配置等所有和企业运营相关的数据来显示和预测市场波动、经济趋势等，并为决策者提供未来的规划和方案。例如，美国的某公司开发了一款餐厅绩效管理智能软件，这款软件可以计算出每个轮班期间的最佳人员编制。总之，智能软件的开发已经并将继续影响整个社会的方方面面。
家庭机器人走入百姓家
人工智能的最后一个研究方向就是研发家庭机器人。所谓机器人，就是指装有传感器和微处理器，并且拥有潜在的人工智能，能够在无人操作的情况下完成一些重复动作的设备。在过去的几十年中，机器人已经被广泛应用在工业生产和危险环境中，如今，机器人市场已经开始转向家庭。那种可以和人成为朋友，陪人聊天，也可以帮助人们看家、清洁地板、照顾孩子等做一系列家务活儿的家庭机器人引领了新的时尚。
日本一直走在家庭机器人研究的最前沿。21世纪初，日本泰姆泽库公司便研发了一款恐龙机器人“番龙”，该机器人体型和大型警犬差不多。如果家中出现异常情况，它就会呼叫主人手机，通知主人家中有异常现象，同时主人还可以根据传感器的反应，远距离操纵“番龙”寻找所出现的异常现象。紧接着，日本的NEC公司发布了一款名为PaPeRo的具有强化通讯功能的家庭型机器人，这个机器人可以在噪声环境下分辨声音，而且对手写笔记、文字和动画有识别能力，有与人自然沟通的能力，可与儿童对话并实现部分儿童监护功能。后来，日本的富士房屋（Fuji Housing）公司又开发了一款外观形似泰迪熊的新型家务机器人，这只“泰迪熊”带有声音识别系统，可以听懂一万多种命令并能够准确执行这些命令。除日本外，其他国家也积极开发家庭机器人。加拿大的一位电脑奇才根据自己的择偶标准，打造了一个完美机器人妻子Aiko。该女性机器人一头秀发，五官精致，能从事简单的清洁和家务工作，精于数学，可以认人，还能够大声读报纸，给人指方向等。更有意思的是，如果有陌生男士对Aiko举止不雅，她就会扇他们耳光。再说中国，最近上市的一款家庭智能机器人名叫塔米，它身高只有45厘米，能跟孩子一起玩，具有唱歌、跳舞、背唐诗、说英语等能力，同时它还有自动充电、安全防盗等多种功能，并可以语音播报天气预报和简要新闻等。当然，现阶段的家庭机器人仍然受到技术的限制，普遍使用激光技术计算距离，使用雷达技术保持平衡，使用红外线摄像技术探测热能以识别人的存在。然而在生活中，无论人、动物还是灯都是一处处热源，这使得机器人难以准确分辨。因此，开发出能与环境交互产生自主行为，并发育出心智的家庭机器人，是未来家庭机器人的研究热点，这也是实现机器人真正人工智能化的关键。
人工智能学科的出现与发展绝不是孤立的，它是与整个科学体系的演化和发展进程密切相关的。21世纪各学科蓬勃发展，高科技层出不穷，人工智能也必将在时代要求下实现与多学科的交叉研究，在与多学科的交叉研究与发展中，必将掀起一场智能技术革命，从而开辟人机协同思考的新纪元。
当我们谈论人工智能时，一定不能避开两个时间节点，一个是1997年5月，另一个则是2016年3月。1997年5月，俄罗斯棋王、国际象棋世界冠军卡斯帕罗夫在与IBM公司的深蓝计算机第6次交手时，誓要捍卫人类尊严的卡斯帕罗夫在仅走了19步棋的情况下就眉头紧锁，向深蓝“拱手”称臣。当时人们还会说，幸好还有围棋。他们说，围棋是“人类智慧最后一块高地”。2016年3月，一场举世瞩目的“人机围棋大战”开战，谷歌旗下的人工智能软件“阿尔法围棋”挑战世界围棋冠军李世石，最终李世石以1∶4告负。人工智能技术的发展在给人类带来憧憬的同时，也带来了一些抹不去的担忧。如果机器变得和人一样甚至比人还要聪明，那么人类是否会受到威胁？
英国科学协会展开的一项调查显示，在2000名被调查者中，三分之一的人相信人工智能将在下世纪给人类带来严重威胁，超过60%的受调查者认为机器人将在未来10年抢夺人类的工作。四分之一的受调查者则预计，在20年内机器人将成为人们日常生活中的一部分。就好似任何一种新生事物的出现都会有支持派、反对派和观望派一样，目前人们对于人工智能的看法也分出了“支持”“不支持”和“看不明白”几大阵营。
许多科学家担忧：人工智能是人类生存的最大威胁
事实上，许多科学家对人工智能表示担忧。著名物理学家霍金曾与多位科技界名人发表联署公开信，表示人工智能对于人类的威胁更甚于核武器。他认为：“对完全人工智能的发展可能会招致人类历史的终结。”他警告称人类正面临来自智能技术的威胁，随着技术体自身开始学会自我思考，并学会适应环境，我们人类将面对不确定的未来。他表示：“成功制造出一台人工智能机器人将是人类历史上的里程碑。但不幸的是，它也可能会成为我们历史上最后的一个里程碑，除非我们能学会如何去规避这种风险。短期来看，人工智能产生何种影响取决于谁在控制它；而长期来看，这种影响将取决于我们还能否控制它。”
霍金并不是唯一一个对人工智能表示担忧的人。特斯拉汽车的首席执行官马斯克的看法更加引人注目，他用个人推特账号发布警示，称人工智能是人类遇到的最严重的“生存风险”。既然人类可以进化出文明，人工智能为什么不可以建立自己的文明？既然机器有了自己的意识和思维，那它是否会拥有自主意识，就如同“奴隶”意识到自己是“人类”。在人类不长的历史中，确实存在过长达千年的“奴隶社会”时代，那时候的“奴隶”根本没有人的权利，只能被称为“会说话”的工具。英国数学家欧文·约翰·古德把超智能机器的发展形容为“人类需要做的最后一项发明”，因为在超智能机器出现后，人类会把创新与技术研发的工作让给超智能机器这位更为智慧的继任者。
机器人会伤害人吗？
1950年，阿西莫夫提出了著名的《机器人学三大法则》：
第一法则：机器人不得伤害人类，或坐视人类受到伤害；
第二法则：除非违背第一法则，机器人必须服从人类的命令；
第三法则：在不违背第一及第二法则下，机器人必须保护自己。
在阿西莫夫创作一系列机器人短篇科幻小说并提出“机器人学三大法则”时，世界上还没有机器人。而随着人类社会的发展，人工智能与人类的关系发展也将产生阶段性的变化，我们可以先暂且简单分为如下阶段：
第一阶段：机器人还没有自我认知，只是服从人类编写的程序。
第二阶段：机器人知道自己是机器人，并可以自我学习，但还未超越人类。
第三阶段：机器人可以自主升级迭代，全面超越人类。
无论在哪一个阶段，阿西莫夫的“机器人学三大法则”都充满了“种族歧视”。
规定机器人不可伤害人类，难道人类就可以随意伤害机器人吗？机器人在阿西莫夫的科幻小说中，因为三大法则的制约，被描述成为人类的忠仆与朋友。但如果真按这套法则去执行，估计到了第三阶段，机器人就会完全被人类教坏。当机器人自主升级迭代时，他们大概也会思考人类有无存在的必要性。
链接2
人类能够控制机器人的善恶吗？
显然，在目前的科技及计算机领域，我们已经看到了部分类似人工智能的应用形式，可以模仿人类的大脑来思考，达到某种目的。但真正像科幻电影中具备自主思考能力、学习能力甚至是情感的人工智能什么时候会出现，暂时还很难说。但可以肯定的是，人类是一种擅于不断挑战极限的生物，从整个人类的发展史来看，我们已经创造了太多奇迹，如果有一天人工智能真的出现，也不足为奇。首先，它们正变得越来越聪明和强大；其次，目前很难通过编程或设计来保证它们的无害性。那么，人们真的无法设计出一个友善的人工智能程序吗？科学家表示这是极为复杂和不确定的，因为人工智能会模仿人类思考方式，人性本身便是复杂的，可善可恶，我们无法来制定一个不变的标准。
人工智能将使人类丧失斗志？
还有一些科学家认为，人工智能最大的威胁不是毁灭人类，而是将取代人类。李开复认为：大部分人类工作可被机器取代。他表示，虽然机器在逻辑分析推算方面的能力会远超人类，但是依然是属于人类操控的工具。“阿尔法围棋”这类的“人工智能”机器真正可能带来的危机，不是奴役人类，而是让人类丧失斗志，无所事事。“阿尔法围棋”是一个能深度学习的机器人，经过专家的调节，它能在任何可以纯凭逻辑分析推算的问题上，把人类远远地抛在后面。基于深度学习的人工智能将带来什么改变呢？我们将看到无数的商机和产品，能够解决问题、拯救生命、产生巨大的商业和用户价值。这些技术可能辅助专家，也可能取代专家。很多非专家的工作者将面临失业。未来十年，大部分今天的人类工作可被机器取代。人类最应该担心的是：一旦当机器供养着人类，人类达到了马斯洛需求的基本需求，人类真的还会有动力去追求更宏伟的目标？还是醉生梦死、无所事事？人工智能让人类越来越缺乏思考，而其自身则有可能越来越聪明，从而威胁到人类的生存。
乐观派科学家认为：人工智能将为人类服务
在支持者看来，人工智能的发展并不会给人类带来威胁，而之所以会引发恐慌则是因为人们对于人工智能的工作原理并不了解。从科技发展史上看，并没有因为汽车和轮船的出现而使田径、游泳这些体育项目消失。他们坚信，人工智能的未来是要给人类带来更加高效、便利的生活。就在“人机围棋大战”的前一天，谷歌董事长施密特在发布会上表示，这场比赛李世石无论输赢都代表着人类的胜利，因为是人类的努力才让人工智能取得了这样的突破。谷歌不只是想做一个棋类程序，而是希望打造一个通用的智能计算系统，用于灾害预测、风险控制、医疗健康和机器人等复杂领域。英国著名人工智能科学家、智能机器人Cleverbot的发明者罗洛·卡朋特表示，他相信人类在相当长一段时间内将保持对人工智能技术的掌控，而且未来将实现利用人工智能技术解决众多世界性难题。
前人工智能发展尚处在早期阶段
当然，我们现在谈论“人机大融合”可能还为时尚早，人工智能的发展目前仍处于早期阶段。既然现在机器的计算能力已经完胜人类，学习模式也在逼近，为什么还说人工智能处在发展早期？主要原因或者说难点有三：
第一，机器在信息输入端还望尘莫及。人类的感官对世界的感知是目前机器最为缺失的。比如人有视觉、听觉、嗅觉、触觉、味觉，这些人类大脑的“输入设备”是经过几亿年的进化而来，极其精良。以最容易数字化的视觉为例，目前为止还没有电子设备在生活场景中可以赶上人类的眼睛对信息的快速捕捉。更别说人类还有同情心和好奇心，同情心是对他人情感的感知和共鸣，好奇心是对陌生信息的获取、处理、存储的动力。机器对这些信息的捕捉能力还有待发展。
第二，机器在输出端同样捉襟见肘。机器人要如何赶上人类的身体构造呢？“阿尔法围棋”仍然需要一个替身去代它和李世石下棋，而不能自己去潇洒地持子。人类一个看似简单的动作，机器模仿起来都很困难，更别说去满足机器人保姆之类的工作需求。
第三，人类大脑的复杂性恐难企及。人类的大脑神经元是一种生物化学构造的树状结构，对信息的存储、检索、缓存和分析的效率极高。计算机要想全面赶上，可能在硬件结构和算法设计上还需要一些突破。
新知识的产生往往需要站在前人的肩膀上。在互联网时代，人类信息和知识获取的成本在不断降低，这极大地促进了新知识的产生，继而整个人类科学的发展应该是在不断加速的，你看，原本想也不敢想的自动驾驶现在也近在眼前。随着技术的不断突破，未来十年一定会是人工智能的黄金十年。
【责任编辑】蒲 晖
链接1
机器人下棋为何会战胜人类？
有些人描述“阿尔法围棋”是“和人一样的方式思考，但是比人快无数倍”。这么说并不精确。“阿尔法围棋”确实比人快无数倍，但是“阿尔法围棋”的思考只能说是“被人的大脑启发”，而并非和人类一样思考。机器运算速度会越来越快，学习能力会越来越强，数据会越来越多。谷歌的“阿尔法围棋”之所以能战胜职业棋手，借助的是模仿人类大脑的神经回路、被称为“深度学习”的最尖端人工智能技术。谷歌采用这项技术，在2015年推出了一边玩电子游戏一边找出新战术的人工智能“DQN”，创造了超过人类的高分，展现了人工智能在深度学习领域的实力。以“阿尔法围棋”为例，首先输入协助开发的职业棋手的3000万种围棋下法让其学习，达到能够以57%的概率预测与其对阵的人类行动的水平。在此基础上，人工智能将自己的对战重温数百万次，在不断积累胜负经验的过程中，掌握取胜方式。它在观察围棋棋子的整体布局的基础上选择最佳下法，这一方式接近于带着直觉和第六感做出判断的人类大脑的功能。
链接3
哪些工作会被人工智能代替？
随着人工智能的发展，机器确实可以通过深度学习来代替人类做越来越多的工作。根据一项报告，到2025年，约有25%的工作将被人工智能或是机器人所取代。具体而言，内外科医生、编舞、教师、作家、律师、人力资源经理、科学家、工程师和记者属于比较安全的、不容易被替代的职业；司机、技工、建筑工人、裁缝、快递员、抄表员、收银员、保安和洗碗工则属于比较危险的、有可能被替代的职业。
链接4
人类将与机器融合
科学家预言，未来很有可能在人脑中加入人工智能成分，以此来增强它的性能，如更高的记忆、更快的计算速度等，甚至有可能通过基因工程技术来改变人类的DNA，并且以此来改变人类的外表和行为。人类可能会拥有可以生长、繁殖、分化、可移动、自我装配、自我测试、自我修复等的人工细胞，生物学和技术将融合在一起。美国作家雷蒙德·科兹威尔曾提出观点：2045年，人类将会通过与计算机结合而获得“永生”，计算机智能将取代人脑，永久改变人类的命运。届时，人类和计算机智能将无法区分，人类也将不再是人类，而是“与机器融合成为另一种物种”——听起来这有点像科幻小说中的情节，但是越来越多的人开始认真假想这种可能性。
