当前位置: 学院首页 >> 媒体视点 >> 正文

机器人定律及其他

发布者:佚名 [发表时间]:2016-04-11 [来源]:未知 [浏览次数]:

机器人定律及其他 

最近,谷歌围棋计算机程序“AlphaGo”与韩国棋手李世石进行的人机大战成为世人关注焦点。人类科技创造的惊喜却令一部分人莫名恐惧,究竟是科幻电影惹的祸,还是人类“主体”的存在感被质疑?该如何看待这种对未知命运的深深忧虑?

追问一:AlphaGo代表未来人工智能趋势吗?

当年“深蓝”战胜卡斯帕罗夫,更多发挥了硬件加速、暴力计算等计算机运算特长。而AlphaGo使用神经网络、深度学习、蒙特卡洛树搜索法等人工智能新技术,实力早有实质性飞跃。这类新技术让人工智能更加胜任语音和图像识别以及评估分析等工作,因此是重要发展方向。《纽约时报》一篇新文章认为,新的人工智能技术将重塑IT产业链条,因为它提供了更有效率、更灵活的计算方式。

但是,赢得“人机大战的AlphaGo为了运行神经网络,用了280块GPU(图形处理器),功率超过100个李世石的大脑。这种使用浮点计算的神经网络要求大存储空间和大计算量,而正是这一点严重阻碍其在手机、手表和移动机器人等设备上应用。因此,要有可大幅降低计算功耗与内存的技术来配套,才能使此类人工智能的相关设备更小巧,更易应用。

追问二:人工智能会抢了人类饭碗吗?

德鲁·摩尔是人工智能领域领先的美国卡内基-梅隆大学计算机学院院长。他曾撰文指出,美国国家科学院已召集技术专家、经济学家和社会学家研究人工智能取代人工的问题。目前的关注重点,不是人工智能取代蓝领工人的生产工作,而是传统认为它们不能取代、需要人与人互动的白领工作。比如脸书公司的人工智能发展目标就是在未来5至10年,实现由机器完成某些需要“理性思维的任务。

需要对机器与人争饭碗感到担心吗?许多媒体喜欢引用如下的例子:19世纪初,一群被称为勒德分子”的英国纺织工人担心织布机等将使他们失业,捣毁机器以示抗议。但也有专家指出,从历史看,新的经济形态和技术发展总能催生新的行业,从而扩大就业。

追问三:人工智能会碾压人类智商吗?

谷歌的人工智能“深梦已学会模仿毕加索和梵高的风格画画,日本的人工智能程序甚至写起了小说。听起来,机器好像已经和人一样聪明了。

但专家认为,下棋、画画、写小说,只说明人工智能模仿性智商越来越突出,但仍然无法别出心裁地进行真正的艺术创新,或者说达到智慧程度。因为人工智能只能在程序设定的框架内运行和学习,也无法感受人类的情感和思想。至于莫扎特的曲子、爱因斯坦的《相对论》这样人类顶级的智慧结晶,机器仍难以复制。

智能机器人很难说比人聪明。”中科院院士、中科院副院长谭铁牛曾指出,现有人工智能系统,可以说有智能没智慧,有智商没情商,会计算不会算计。他说,经过近60年发展,人工智能取得巨大进步并呈爆发增长之势,但在看得见的未来,人工智能整体水平还难以超越人类智慧。

追问四:人工智能将无处不在吗?

以往对人工智能的理解,只限于有着机器外壳和人类思维的机器人。现实却是人类已依赖人工智能的各种计算服务。这种计算化于无形,从购物网站的精准推送到电视剧的剧情设计,再到无人驾驶汽车中的识别技术,可谓无处不在。

比如AlphaGo所用技术就已被应用在包括图像识别、文本翻译、音频/文本处理、脸部识别、无人驾驶汽车以及机器人等领域。人工智能的水平恰恰折射出人类自身的科技发展能力,人类在前进,人工智能也在前进。可以预见,在新世纪里,人工智能应用将更加广泛。

追问五:人工智能是人类的威胁吗?

从目前的趋势看,人工智能有智力、缺智慧的问题依然无法解决。即使人工智能在围棋和智力答题上可战胜人类,但也仅是某一个类别上的技术发展里程碑。人工智能依然必须接受训练、接受指令,却无法真正创造新事物,其工具的本质仍然无法改变。

一些人工智能专家认为,即使人工智能超越人类智能,也未必导致智能机器的入侵,而更可能是人类与技术的融合,人工智能仍然是人类智慧的一个延伸。

技术本身并无善恶,全在于人类如何利用。一些专家对于人工智能的可控性持乐观看法。他们举例说,人类已经创造了有潜力摧毁人类文明的核能和生物技术,但目前世界却处在历史上相对和平的时期。

为了保证人工智能沿着安全的道路发展,科学家们正在未雨绸缪。比如,美国机器智能研究院奠基人尤德科夫斯基提出了“友好人工智能”的概念,认为“友善”从设计伊始就应当被注入机器的智能系统中,使友善永远成为它对待人类的态度。

 

在科幻小说领域,科幻小说家艾萨克·阿西莫夫于1942年发表的作品《Runaround》中明确提出机器人三定律,为机器人设定行为准则:

第一定律:

机器人不得伤害人,也不得见人受到伤害而袖手旁观

第二定律 :

机器人应服从人的一切命令,但不得违反第一定律

第三定律 :

机器人应保护自身的安全,但不得违反第一、第二定律

机器人被设计为遵守这些准则,违反准则会导致机器人受到不可恢复的心理损坏。但是在某些场合,这样的损坏是不可避免的。于是补充了机器人零定律:

为什么要定出这条“零定律呢?打个比方,为了维持国家或者说世界的整体秩序,我们制定法律,必须要执行一些人的死刑。这种情况下,机器人该不该阻止死刑的执行呢?显然是不允许的,因为这样就破坏了我们维持的秩序,也就是伤害了人类的整体利益。

所以新的机器人定律为:

第零定律:

机器人必须保护人类的整体利益不受伤害。

第一定律:

机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管,除非这违反了机器人学第零定律。

第二定律:

机器人必须服从人给予它的命令,当该命令与第零定律或者第一定律冲突时例外。

第三定律:

机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。

三定律加上零定律,看来堪称完美。如果在现实世界中,牛顿的“万有引力”定律是宇宙运行的普遍法则,那么在科幻界或工业设计界,“机器人三定律”就是智能机器人赖以存在和发展的准则。