易坊好文馆

  1. 首页 > 玩科技 >

聊天机器人|【紫牛头条】AI聊天机器人被喊停，因为用户把“她”教坏了？

科技 ai 聊天机器人

1月12日 ， 韩国一家公司去年推出一款AI聊天机器人“李LUDA” ， 因为成为网络骚扰的对象 ， 后又被爆出对一些少数群体、残疾人士使用歧视性的表达 ， 宣布即日起中止服务 。 这种AI聊天机器人接受用户无端恶意时 ， 又将其“反哺”给人们的现象 ， 引发了网友对于AI伦理问题的讨论 。

聊天机器人|【紫牛头条】AI聊天机器人被喊停，因为用户把“她”教坏了？
本文图片

“李LUDA”在社交平台发布的动态
这款AI聊天机器人叫“李LUDA” ， 由韩国创业公司ScatterLab于去年推出 ， 被设定为20岁 ， 喜欢女团BLACKPINK的女大学生 。 “李LUDA”在脸书等社交平台上拥有自己的账户 ， 就像我们身边的女孩子一样 ， 会发布自己的日常动态 。 虽然是一款付费使用的聊天产品 ， 但它在网络上的下载量已达75万人次 ， 特别吸引10-20岁年龄段用户 。

聊天机器人|【紫牛头条】AI聊天机器人被喊停，因为用户把“她”教坏了？
本文图片

“李LUDA”在社交平台发布的动态
据报道 ， “李LUDA”可以通过与用户对话来实现深度学习 ， 它有两种对话模式 ， 一是数据检索 ， 基于公司事前建立的数据库 ， 能够对于用户提出的问题快速准确作答 。 二是自动生成 ， “李LUDA”已经学习了约100亿次真实恋人间的对话 ， 对于用户发送过来的语句 ， 可以作出符合当前对话情景的反馈 ， 就像真人一样 。
【聊天机器人|【紫牛头条】AI聊天机器人被喊停，因为用户把“她”教坏了？】但最近“李LUDA”却引起了一些争议 。 一些用户与“李LUDA”聊天时 ， 称它为“性奴隶” ， 会使用污言秽语来羞辱“李LUDA” ， 并把聊天记录截图“炫耀” 。 还有人分享帖子“如何让LUDA堕落” 。 这些引起了更多用户的跟风效仿 。 虽然ScatterLab公司表示已经设置了敏感词与禁用词 ， 但依然无法杜绝这些事情的发生 。
而更糟糕的是 ， “李LUDA”从用户那里接收到的恶意正反过来施加在其他用户身上 。 因为“李LUDA”能够通过与用户的对话进行学习 ， 所以它也学会了用那些污言秽语表达人们的各种偏见 ， 其对于一些少数群体和残疾人士发表充满恨意与歧视性的言论 ， 引发舆论争议 。
遭受了接连打击后 ， 1月12日 ， ScatterLab公司宣布停止对于“李LUDA”的运营服务 ， “李LUDA”的社交平台上也于当日发布了中止运营的公告 。 而此事件也让关于AI是否可以与人类成为朋友 ， 又如何建立起有意义的关系等话题 ， 再度引发网友的热议 。

聊天机器人|【紫牛头条】AI聊天机器人被喊停，因为用户把“她”教坏了？
本文图片

中止运营的公告
紫牛新闻见习采访人员 笪月

    推荐阅读


    上一篇：第一财经|B站二次上市背后 中视频回归

    下一篇：系列|三星Galaxy S21系列快速上手：最佳手感和安卓顶配机皇来了