首页> 关注此文用户还关注:

人类与机器人将会怎样?人工智能可能是最大灭绝风险

产出机构: 科技日报
提交机构: 中国科学技术信息研究所
产出日期: 2015-07-09   
发布日期: 2015-07-09   
作者: 尹传红;

 

摘要: 近日,大众汽车新生产线上的安装机器人将一名技师抓住并按压致死事件,触动了公众的神经。尽管专家称目前机器人尚未发展到主动攻击人类的水平,人为操作失误的可能性更大。但人类面对机器人,会不会面临一场控制危机的话题?引发人们关注。
关键字: 人类;机器人;人工智能;灭绝风险

  近日,大众汽车新生产线上的安装机器人将一名技师抓住并按压致死事件,触动了公众的神经。尽管专家称目前机器人尚未发展到主动攻击人类的水平,人为操作失误的可能性更大。但人类面对机器人,会不会面临一场控制危机的话题?引发人们关注。
  “传统”看法认为,如果我们能够做到谨慎地监控、管制和引导机器人技术的发展,那么机器人将是可控制的。
  然而,近几十年来,在不少科幻小说或电影中,都出现了人工智能机器拒绝服从人的命令,甚至杀死或控制人的场景。设若科幻小说或电影场景变成现实的话,人类与机器人的关系将会怎样?
  在学术界,关于人工智能可能性的探讨,或者说机器(非生物系统)是否能够跟人类媲美乃至超越人类的智慧,一直也有着很多激烈的争论。比如:我们有理由相信无机生命(机器)会发展出与有机体类似的生存和竞争意志吗?有朝一日机器会不会自己设计、制造并操作不遵循人类准则的新型机器?而届时我们很可能没有任何办法来避免这一可能性的发生。
  2014年,包括斯蒂芬·霍金、比尔·盖茨、埃隆·马斯克在内的一些着名人士都提出:如果智能机器缺乏监管,人类将迎来一个黑暗的未来;人工智能可能是我们面临的最大灭绝风险。
  为什么会有这样的担忧?
  有学者认为,一旦机器拥有了像人类一样的设计和架构技能,仅仅更快的速度和更大的容量就可以使它们对自己的设计(源码)进行操控。机器智能在反馈循环中不断提高自己的能力,出现“智能爆发”,并将远远超出无机器辅助的人类智能。到了那个时候,人类对情感的理解能力,以及作出适当反应的能力(所谓的情商)??这些人类智慧的重要表现,也将被未来的机器智能理解并掌握;人类的世界终将被人工智能的世界代替,人类将会面临一场控制危机。
  当然,也有人认为这一切都是危言耸听、杞人忧天,机器人永远也不可能超越人的智能。我们现在连理解一个老鼠的神经行为,从而来模拟老鼠的行为都做不到,何谈通过计算机来模拟人类的行为,进而完全理解人类行为的一切原理?
  真正的问题或许是:当科技加速发展,使机器具有更多的智能时,我们并不知道哪里是危险的边缘。更重要的一点在于,我们再不能以看待过去的视野,去理解必将超越它的事物了。