人工智能不会毁灭人类

huangdao007

人工智能不会毁灭人类  

          谷歌人工智能研究专家认为，相比起担心超级智能机器可能会毁灭人类，现在还有很多更迫切的事情要做，大谈特谈人工智能将如何毁灭人类是荒谬的。 Google DeepMind负责人穆斯塔法·苏莱曼说，人们...
        谷歌人工智能研究专家认为，相比起担心超级智能机器可能会毁灭人类，现在还有很多更迫切的事情要做，大谈特谈人工智能将如何毁灭人类是“荒谬的”。
        Google DeepMind负责人穆斯塔法·苏莱曼说，人们讨论的都是电影中的情景，比如《终结者》电影中想要毁灭人类的机器人，还有疯狂的科学家造出变态女机器人。他说这些担心不切实际。
        DeepMind是谷歌在去年以4亿美元收购的一家位于伦敦的人工智能研发公司，苏莱曼是这家公司的创始人之一。
        他说：“人们对人工智能的讨论从过去的‘人工智能研究这么失败，不可悲吗？’变成了现在的‘人工智能研究这么成功，不可怕吗？’”
        DeepMind因去年在《自然》杂志上发表了一篇论文而成为公众瞩目的焦点。这篇论文讲的是如何在预先给计算机设定程序让其自学Atari游戏，而且玩得比大部分人要好。DeepMind的人工智能能够把从上一次游戏中学到的知识用于下一次游戏。苏莱曼称这是人工智能研究很长时间以来的一次重大突破。
        而正是这一突破重新引起了人们对人工智能潜在威胁的忧虑。在过去的一年里，斯蒂芬·霍金、比尔·盖茨和伊隆·马斯克都表示担心人工智能对人类的潜在威胁。

huangdao007

        苏莱曼说：“我们认为，对人工智能的过分担心分散了对伦理和安全等核心问题的关注，完全盖过了对这些问题的辩论。我们认为，人工智能将是一个非常强大的工具，我们可以控制和指挥，我们可以限制它们的能力，就像我们对待其他任何工具一样，比如洗衣机或者拖拉机什么的。我们制造人工智能的目的是为了让人类拥有更强的能力，而不是为了毁灭我们。”

        Google DeepMind在伦敦国王十字的一栋新大楼里设立了实验室，目前雇用了来自全球各地的140名研究专家。机器学习被应用于谷歌的各个部门和领域，比如图片搜索、机器人技术、生物技术和Google X实验室。举个例子来说，谷歌上月公布了其照片产品的一个新功能——用户可以输入文字搜索他们的照片，即使用户没有给这些照片加上标签。

        苏莱曼称，对人工智能威胁的“大肆宣传”让人工智能的进展和解决人类真正问题的潜能蒙上了阴影。苏莱曼认为人工智能可以解决粮食安全、全球气候变暖等问题。
        他说：“想到我们花时间在这里讨论机器人的意识和权利，我觉得很荒唐。”
        然而，苏莱曼却在认真对待这些宣传所提出的问题。DeepMind把建立伦理和安全委员会作为谷歌收购的条件。谷歌不能允许把DeepMind的人工智能研究成果用于军事和情报目的。

        但是，尽管学术界和媒体一再要求，谷歌在收购DeepMind一年之后仍未公布更多的关于这个伦理委员会的信息。
        苏莱曼不肯透露人工智能伦理委员会的构成、其成员如何挑选、以何种机制运作以及拥有哪些权利。他只是说谷歌建立一支由学者、政策研究者，经济学家，哲学家和律师构成的团队处理伦理问题，但目前只有三四名成员在关注这些问题。

        苏莱曼说：“我们会在适当的时机公布这些信息。”

huangdao007

这是人类丝毫“大意”不得的事情...

huangdao007

它们会服从“阿西莫夫三原则"?

huangdao007

毫不怀疑：能自我复制，自我纠错、自我自我开发的机器人..