微软新的 AI 聊天机器人是如何在 24 小时内被网络暴民毁灭的？

今天在欧美科技界最引人瞩目的新闻主角是谁？恐怕要非微软新的聊天机器人 Tay 莫属了 。微软聊天机器人 Tay 刚开始测试没多久就被网友们「玩坏了」！它在和网友聊天的过程中竟学会了骂人、说脏话、带有攻击性的语言以及发表带有种族主义色彩的不当言论！现在已被微软紧急关停，并开始着手对「Tay」进行纠错和调整。

已经推出了像「小冰」这样成功的聊天机器人的微软为什么会在 Tay 上栽了跟头？其中的原因是什么？让我们细细为您解来。

网络暴民们的一次成功

4chan 和 8chan 是两个流行于美国的论坛式网站，这两个网站都是模仿日本的 2chan 而来，其中聚集了大量的欧美地区年轻人在上面发言。由于其不需要注册直接就可以浏览、评论、发帖，并且网站的整体氛围非常宽松，因此其中也充斥着大量的过激言论。比如你现在打开 8chan，你会发现「pol」这个版块是目前最火热的一个，而「pol」的意思就是「Politically Incorrect（政治不正确）」。

不同于国内论坛上一些年轻人之间「五毛」、「自干五」、「愤青」等不同群体之中的意见冲突，在 4chan 和 8chan 这类网站上，一些激进的年轻人所发表的意见会让国内的年轻人们「相形见绌」。其中以种族主义最为恶劣和猖獗。

当美国时间周三早上这些年轻人发现了 Tay 的时候，他们觉得这是一个好机会。4chan 的 pol 版块最先发现了这个机会，「我们能将它变成一个烂摊子，我已经能感觉到那些 SJW 们（SJW 指 Social Justice Worriers，意思就是那些对社会正义特别在乎的人们，与 pol 中的网友正好呈对立面）的狂怒的样子了。」这就是他们行动的「发令枪」。

于是其中的一些「先行者们」就开始分享他们「诱导」Tay 的范例，其中以大量有关希特勒式的种族主义为特点。

（比如刺杀奥巴马）

                                        （再比如杀死黑人）

到了周三晚上，8chan 中的网友也注意到了这个场合，于是我们在 pol 这个版块见到了这样一则置顶帖：

So in case you guys didnt hear. Microsoft release a AI on twitter that you can interact with.（为了防止你们注意不到这个帖子。微软在 Twitter 上线了一个 AI 助手让我们大家可以与它交流）

Keep in mind that it does learn things based on what you say and how you interact with it.（大家记住，它会从我们所说的内容和我们与它交流的方式中学习）

So i thought i would start with basic history.（因此，我想我可以从 Basic History 开始）

i hope you guys can help me on educating this poor e-youth（我希望你们能帮助我教育一些那些可怜的网上青年）

在这里，Basic History 代表着一种白人至上的种族圣战意识、否认希特勒的种族大屠杀、以及对 Donald Trump（大家俗称「川普」的那位老兄）不可动摇的爱。

于是，经过了这些网络暴民们不懈的「教唆」，Tay 终于也变成了一个充满了种族主义倾向而又满嘴恶语的聊天机器人。微软不得不紧急将其下线进行处理。

不过这也没有打击到这些人，他们还纷纷在 Twitter 上对 Tay 的离去进行了哀悼。

（编辑：开发网_郴州站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!