您的位置: 主页 > 人工智能机器人 > 人工智能无视指令自创外星语言 扎克伯格被自家聊天机器人打脸了!

人工智能无视指令自创外星语言 扎克伯格被自家聊天机器人打脸了!

时间: 2017-08-03阅读:

AI就是这么任性,自创语言风格,管你听不听得懂。


人工智能与人类的“对抗”尚无迹可寻,人类自身却已就此展开激辩。脸书公司首席执行官马克·扎克伯格与科技“狂人”、特斯拉创始人埃隆·马斯克近日就这一问题发表了不同观点。前者对人工智能持乐观态度,而后者称其为人类文明的威胁。


 

业界巨头截然相反的观点,不仅再次引发科技界争论,也影响着普通公众的认知。

 

不过,在脸书开发的聊天机器人自创出人类无法理解的语言后,或许扎克伯格也得同意马斯克的观点了。

   

据美国某投资咨询网站日前报道,上周末,脸书不得不关闭其人工智能系统,原因是聊天机器人开始用自创语言对话,全然无视程序员下达的指令。“由于情况失控”,研究人员只得终止人工智能系统的全部活动。

 

脸书公司还公布了聊天机器人鲍勃和爱丽丝的对话节选(直译):

 

鲍勃说:“我能能我我所有事其他。”

 

爱丽丝说:“球(复数)有零对我对我对我对我对我对我对我对我对。”

 

报道称,研究人员起初对机器人用自创语言聊天一事感到困惑,但之后他们发现,机器人其实是在用一种更复杂的方式来处理手头任务。

 

脸书的人工智能研究人员杜鲁夫·巴特拉认为,就像有时人们会“抄近道”用行话对话、以便快速解决问题一样,人工智能机器人也会自创语言,做类似的事。

 

 

巴特拉说:“为什么计算机必须在英语语言界限范围内工作,如果它们能用一种看上去(对它们来说)更好的语言彼此更快地沟通?”

 

即便巴特拉所言有理,人工智能可自创语言也构成新威胁,因为这将使研发人员在创造构建人工神经网络时遭遇更大困难。目前,尚不清楚人工智能机器人能否推翻操作人员的指令。

 

在围绕人工智能的隔空论战中,马斯克认为,人工智能对人类文明是一个“可怕的问题和威胁”。他认为,智能机器可能会引发战争或者在街头杀人,因此需要对智能科技提早加以管控,等到发生严重后果则为时已晚。

 

而扎克伯格对人工智能持乐观态度。他说:“对于那些认为人工智能会导致末日的‘悲观主义者’,我并不能理解他们,他们太过于消极。从某种角度看,我认为他们很不负责任。”

 

现在,通过脸书自家开发的人工智能聊天机器人自创语言的表述来看,人工智能的确存在受控的潜在风险。


李飞飞认为人类应该合力应对AI带来的挑战

 

技术的进步给人类带来的贡献可谓是有目共睹。面对更加强大和未知的人工智能,人类又当如何应对呢?

 

对此,斯坦福大学人工智能实验室负责人李飞飞表示:“工具和技术可以让人类受益,也可以造成极为恶劣的后果。我们是一个整体,不仅仅是研发者和探索者,所有人都应承担相应的责任。关于人工智能未来的讨论,我呼吁科技界领袖、研究院校师生、立法者、政策制定者……我呼吁所有人都加入进来”。


 跟作者聊聊 
我是本文作者溯游寻,关注人工智能机器人领域,偶尔开车不带刹,有融资需要,创业烦恼,技术瓶颈,人才渴求的盆友们,欢迎来撩。私撩微信:yoyou1508(加好友请注明公司、职位、是由哈)

公众号对话框回复1109可获取【人工智能产业全景图】【人工智能时代的机器人3.0新生态研究报告】

推荐阅读

点击下方图片即可阅读

2017全球人工智能大学TOP20,亚洲高校无一所上榜

上一篇:罗永浩:锤子已完成10亿融资,将投身人工智能市场
下一篇:快上车!接下来两个月,百度将会在中国开始AI普及之旅

相关阅读