注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

教育科研博客

《基础教育论坛》(教研版)杂志社 立品教育信息咨询中心 主办

 
 
 

日志

 
 

霍金呼吁人类警惕:人工智能可能终结人类文明  

2017-04-30 13:29:28|  分类: 【心脑科学】 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |

霍金呼吁人类警惕:人工智能可能终结人类文明

作者:沃尔特·艾萨克森

来源:《创新者:一群技术狂人和鬼才程序员如何改变世界》

 

 

4月27日,物理学家霍金在GMIC大会上发表演讲,呼吁人类警惕人工智能的发展要规避风险,并警告人类意志转变的人工智能可能会毁灭人类。

霍金说,文明所产生的一切都是人类智能的产物,从国际象棋和围棋人机大战的结果来看,生物大脑可以达到的和计算机可以达到的,没有本质区别。因此,它遵循了“计算机在理论上可以模仿人类智能,然后超越”这一原则。人工智能一旦脱离束缚,以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制,无法与之竞争,将被取代。

“有一天,机器能否像人类一样思考?机器能否超越人脑?”,其实早在60多年前,人工智能超越人类的争论就已经出现了。

机器能够学习?

1950 年计算机科学家和密码学的先驱阿兰·麦席森·图灵设计了这样一个测试:如果电脑能在5分钟内回答由人类测试者提出的一系列问题,且其超过30%的回答让测试者误认为是人类所答,则电脑通过测试。这个测试被称为“图灵测试”,他提出的著名的图灵机模型,也为现代计算机的逻辑工作方式奠定了基础。

图灵长期以来都醉心于思考计算机可以如何模仿人类大脑的活动,在参与了加密文字破解机器的研发工作之后,他对这方面的兴趣变得更加浓厚。1943 年年初,正当巨人计算机在布莱切利园进行设计的时候,图灵远渡重洋来到位于下曼哈顿区的贝尔实验室。这次访问的目的是与一支研究电子语音加密技术的团队进行交流,这项技术可以利用电子方式对电话通话内容进行加密和解密。

图灵在那里遇到了一位为人风趣的天才克劳德?香农。香农和图灵开始在下午茶的时候聚在一起进行长时间的讨论。他们两位都对脑科学很感兴趣,而且他们发现各自在1937 年发表的论文之间存在一个共同点:它们都证明了采用简单二进制指令操作的机器不仅可以用于解决数学问题,同时也适用于所有的逻辑问题。由于逻辑是人脑思维的基础,因此机器在理论上可以模仿人类的智能。

图灵在1943 年4 月返回布莱切利园,这时他与一位叫作唐纳德?米基的同事成为好友,他们经常会在晚上到附近的一家酒吧下象棋。他们讨论了制作一台会下象棋的计算机的可能性。图灵没有打算利用强大的处理能力来计算出每一步棋可能的走法,他关注的焦点是能否让机器通过不断重复的练习“学会”如何下象棋。换句话说,机器也许可以尝试不同的开局走法,然后从每次的胜利或失败中完善自己的策略。如果这种方法是可行的话,这将会是一个重大飞跃:机器不仅可以按照人类给出的指令进行工作,还可以从经验中学习,同时不断完善自己的指令,把它看成是机器拥有智能的表现。

“机器也许有一天能够像人类一样思考”这个令人不安的想法在当时让许多人震惊,同时也激起了强烈的反对,而且这个问题从出现以来就一直争议不断。在这些反对的声音当中,既有来自宗教方面的抗议(这是意料之中的事情),也有从内容和语气上表现出来的情感抵触。

摘得“人工智能之父”桂冠

1950 年10 月图灵发表一篇题为《计算机器与智能》的论文,,开篇是一条明确的声明:“我准备探讨‘机器能思考吗’这个问题。”然后,童心未泯的图灵设计了一个游戏来解释这个问题的实证含义。他为人工智能给出了一个完全可操作的定义:如果一台机器输出的内容和人类大脑别无二致的话,那么我们就没有理由坚持认为这台机器不是在“思考”。这就是“人工智能”的最初设想,这份设想也在无形中让图灵摘得了“人工智能之父”的桂冠。

图灵测试,也就是图灵所说的“模仿游戏”的操作很简单:一位询问者将自己的问题写下来,发给处于另外一个房间之中的一个人和一台机器,然后根据他们给出的答案确定哪个是真人。

至于何时会出现能够通过图灵测试的计算机,图灵给出了自己的预测:“我相信在50 年左右的时间内,计算机编程技术将可能……实现顺利通过模仿游戏的计算机,普通询问者在经过5 分钟的询问之后的判断准确率将不高于70%。”

图灵预想到自己对思考的定义将会引来许多质疑,所以他尝试在论文中逐一反驳它们。针对来自神学方面的质疑,也就是上帝只将灵魂和思考能力赐给了人类,图灵表示这种观点实际上是对“上帝的全知全能的严重限制”。他提出了一个问题:上帝是否“有自由向一头合适的大象授予灵魂”?想必他是可以这样做的,那么按照同样的逻辑,上帝当然也可以随心所欲地向一台机器授予灵魂。这番话从不信仰上帝的图灵口中说出还是有些讽刺意味的。

在《计算机器与智能》发表之后的几年时间里,图灵似乎很喜欢参与到自己惹出的争论当中。他以自己带有讽刺性的幽默感取笑了那些关人类高等意识的主张:“终有一天,女士们会带着她们的计算机到公园散步,并且互相诉说‘我的宝贝计算机在今天早上跟我说了这么一件有趣的事情’!”

天才的一生注定是一场人机测试?

在图灵参与的讨论之中有一个反复出现的主题:性欲和情感对人类思考的影响,而机器是不会受到这些影响的,这个主题也体现在图灵后来经历的悲剧当中。针对这个主题的一次公开讨论出现在1952 年1 月,当时图灵参加了由BBC举行的一场公开辩论会。

但当时图灵还不想向外界透露自己身为同性恋的事实,所以他在这部分的讨论当中保持了沉默。在曼彻斯特的牛津街上,他偶然遇到了一位19 岁的工人阶级流浪者阿诺德?穆雷,在完成了BBC 的节目录制之后,他邀请穆雷搬到他家一起居住。一天晚上,图灵向年轻的穆雷讲到了自己做过的一个梦,他梦到自己在和一台邪恶的计算机下象棋,他先激怒了它,然后逗它开心,最后在它麻痹大意的时候击败了它。他们两人的关系也在随后的日子里变得越来越复杂,直到有一天,图灵在回家之后发现自己的住处遭窃,犯人却是穆雷的一个朋友。在向警方陈述这起案件的时候,他最终承认了自己和穆雷的同性恋关系,于是警方以“严重猥亵”的罪名逮捕了图灵。

在1952 年3 月的庭审上,图灵承认了自己的罪名,但他明确表示自己不会为此感到后悔。在被宣判有罪和剥夺参加机密工作的权限之后,图灵面临着两个选择:坐牢或者缓刑,而选择刑缓的条件是需要接受荷尔蒙治疗,也就是通过注射合成的雌激素来抑制性欲,也就是我们通常说的“化学阉割”,而这种治疗方法就像是把人当成由化学药物控制的机器一样来处理。

图灵最终选择了后者,这项治疗持续了一年的时间,然而时间却定格在1954 年6 月7 日,他咬下一口浸染过氰化物的苹果之后与世长辞。按照他好友的说法,他一直以来都对《白雪公主》当中恶毒的王后将苹果浸在毒药里面的情景十分着迷。当时他的尸体被发现时躺在床上,口吐白沫,他的体内被检测出了氰化物,身边还放着一个被咬过的苹果。天才的一生比人工智能的预设还要传奇,如果图灵和世界之间真是一场测试,那么这是一台机器会做出的事情吗?霍金呼吁人类警惕:人工智能可能终结人类文明 - 思想家 - 教育科研博客

 

  评论这张
 
阅读(12)| 评论(0)
推荐 转载

历史上的今天

在LOFTER的更多文章

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017