发布时间:2018-03-22 作者:造物世界 点击量:
但是造物世界整理解析。“Facebook不得不拔掉其研究人员正在研究的人工智能系统的插头,因为事情失控了”,TechWeb写道。
关于“人工智能是否邪恶”的话题,Facebook创始人扎克伯格上周还在跟特斯拉CEO马斯克争吵。马斯克站正方,认为人工智能非常值得担忧,扎克伯格站反方,认为人工智能很有益处,担忧完全是过虑。
所以……小扎就这么快打脸了?曾在著名科幻电影《终结者》中出现过的“SkyNet”(天网),真的来临了?
抱歉,这完全是在胡扯。我们来看看到底是怎么一回事。
Facebook的人工智能研究院(FAIR)想要训练一个聊天机器人,让它学会谈判。于是他们开发了一个人工智能系。为了帮助大家理解,我们一步一步解释:
Facebook用了一个神经网络结构来开发这个系统。这个结构叫做“生成式对抗网络”(Generative Adversarial Networks),以下简称GAN。
你可以把神经网络理解为一种多层次的、模仿人脑神经元之间相互连接的思考方式的“电脑程序”。
而GAN是一种在目前非常先进的神经网络结构,可以理解为两个神经网络玩《街霸》。玩的越多、时间越长,大家的水平都会越来越高。当然,GAN也有三个甚至更多个神经网络的结构。
聊天机器人你肯定很见过:苹果Siri就是一个。亚马逊Alexa和Google Assitant也是。
Facebook的这项研究也是如此。研究人员训练了这样一个聊天机器人,让它带着“目的”和人类对话。而这个目的也很简单:一共有两本书,一顶帽子和三个篮球,三样东西分别设定了不同的权重,
为的是让机器人明白它到底对这些东西有多想要,然后去和人谈判。
Facebook观察到的结果是比较正常的,体现在下图中:
但是人跟机器人聊天已经不稀奇了……俩机器人能聊成啥样?研究人员都很感兴趣。
今天的对话就发生在聊天机器人Alice和聊天机器人Bob之间
什么鬼?
原来,研究人员在把这两个聊天机器人拼到一起,但忘了给神经网络设定“用英语沟通”的激励。
刚才说了,神经网络是个程序,里面有一大堆各种线性的数学公式。但有时候线性的公式无法取得想要的结果,有些非线性的需求没法用线性公式表达出来,这时候就要设定一个激励函数。激励这件事对于神经网络,简单来说就是告诉神经网络“这样做得分更高”——傻子都能理解。
“坚持用英语说话没有激励,”这个研究小组的成员之一,佐治亚理工学院的访问学者Dhruv Batra这样解释Alice和Bob奇怪的对话。“机器人会脱线发明一些它们之间才能理解的句法。”
结果,Alice和Bob就聊成了这样。等于是研究人员告诉了它们:“请用英文”,但忘了告诉它们:“请用英文语法”。
研究人员真的是因为“事情失控了”,才“不得不拔掉系统的插头”吗?事情真的像听上去那样令人心惊胆颤吗?
并非如此。
“我们的目标是让机器人和人聊天(提高和人聊天的技巧)。”小组的另一名研究员Mike Lewis指出,Alice和Bob的对话根本就是个试验而已,让两个聊天机器人聊天根本没有意义。
Facebook并没有“关掉”这个系统,而是重新设定了正确的激励,修正了机器人的行为,让机器人用标准的英文语法来进行交流。修正的原因也不是因为害怕AI失控——他们的目标是让机器人和人聊
天(提高和人聊天的技巧)。两个聊天机器人聊天根本没有意义。
联系我们
contact us造物世界-电话:0755-26416869
点击在线留言,造物世界会及时回复