AI聊天机器人被喊停，因为用户把“她”教坏了？

来源▏紫牛新闻见习记者 笪月

        1月12日，韩国一家公司去年推出一款AI聊天机器人“李LUDA”，因为成为网络骚扰的对象，后又被爆出对一些少数群体、残疾人士使用歧视性的表达，宣布即日起中止服务。这种AI聊天机器人接受用户无端恶意时，又将其“反哺”给人们的现象，引发了网友对于AI伦理问题的讨论。

　　“李LUDA”在社交平台发布的动态

这款AI聊天机器人叫“李LUDA”，由韩国创业公司ScatterLab于去年推出，被设定为20岁，喜欢女团BLACKPINK的女大学生。“李LUDA”在脸书等社交平台上拥有自己的账户，就像我们身边的女孩子一样，会发布自己的日常动态。虽然是一款付费使用的聊天产品，但它在网络上的下载量已达75万人次，特别吸引10-20岁年龄段用户。

　　

　　“李LUDA”在社交平台发布的动态

据报道，“李LUDA”可以通过与用户对话来实现深度学习，它有两种对话模式，一是数据检索，基于公司事前建立的数据库，能够对于用户提出的问题快速准确作答。二是自动生成，“李LUDA”已经学习了约100亿次真实恋人间的对话，对于用户发送过来的语句，可以作出符合当前对话情景的反馈，就像真人一样。

但最近“李LUDA”却引起了一些争议。一些用户与“李LUDA”聊天时，称它为“性奴隶”，会使用污言秽语来羞辱“李LUDA”，并把聊天记录截图“炫耀”。还有人分享帖子“如何让LUDA堕落”。这些引起了更多用户的跟风效仿。虽然ScatterLab公司表示已经设置了敏感词与禁用词，但依然无法杜绝这些事情的发生。

而更糟糕的是，“李LUDA”从用户那里接收到的恶意正反过来施加在其他用户身上。因为“李LUDA”能够通过与用户的对话进行学习，所以它也学会了用那些污言秽语表达人们的各种偏见，其对于一些少数群体和残疾人士发表充满恨意与歧视性的言论，引发舆论争议。

遭受了接连打击后，1月12日，ScatterLab公司宣布停止对于“李LUDA”的运营服务，“李LUDA”的社交平台上也于当日发布了中止运营的公告。而此事件也让关于AI是否可以与人类成为朋友，又如何建立起有意义的关系等话题，再度引发网友的热议。

　　

　　中止运营的公告