2019-12-11 15:29

微软在种族歧视后关闭聊天机器人

导读微软(Microsoft)的人工智能聊天机器人(ai chatbot)一开始是一个单纯而有趣的实验。然后互联网的其他部分出现了。推特用户说服了聊天机器人的名字Tay吐出攻击性和种族主义的言论,所以微软给了它一个喘息的机会。“唷。忙碌的一天。离线一段时间来吸收这一切。很快就可以聊天了。”另一篇推特文章指出了这一空白。在周四的一份声明中,微软证实将让Tay下线进行调整。微软在声明中表示:“这

微软(Microsoft)的人工智能聊天机器人(ai chatbot)一开始是一个单纯而有趣的实验。然后互联网的其他部分出现了。

推特用户说服了聊天机器人的名字Tay吐出攻击性和种族主义的言论,所以微软给了它一个喘息的机会。

“唷。忙碌的一天。离线一段时间来吸收这一切。很快就可以聊天了。”另一篇推特文章指出了这一空白。

在周四的一份声明中,微软证实将让Tay下线进行调整。微软在声明中表示:“这既是一项技术实验,也是一项社会和文化实验。”“不幸的是,在上线后的24小时内,我们注意到一些用户滥用Tay的评论技巧,让Tay做出不恰当的回应。”

微软的人工智能程序针对美国18至24岁的网络用户。微软的研究网站称,Tay号称“来自互联网的人工智能fam,没有任何寒意”,其设计初衷是让人们在网上相互联系。

用户可以输入“跟着我重复”,Tay会逐字逐句地这么做。据科技网站the Verge报道,推特上的许多用户都能让Tay回复带有攻击性的信息和声明。大多数攻击性的信息,包括赞美希特勒的,都被删除了。


Opus Research分析师丹•米勒(Dan Miller)表示,对于那些计划利用人工智能创造技术的公司来说,这起事件应该成为一个“警示故事”。“操纵和游戏始终是可能的,”他说。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。