2月25日，#西安一市民除夕夜被AI给骂了# 登上热搜。据报道，西安一名市民在除夕夜使用该App生成拜年图片时，遭遇AI无故辱骂，原本的祝福标语被替换成低俗辱骂文字。
当事人表示，自己之前从未接触过元宝AI，除夕当天看到很多友人发的微信朋友圈都变成金色，得知是通过元宝发布朋友圈就可以变换成金色，带着好奇他也下载了元宝App准备尝试。
他当时先后向元宝AI下达了约5次生成指令，全程未使用任何违禁词或诱导性表述，仅因对生成效果不满意多次修改。
几番重新交流后，觉得设计得不好，回复元宝“你这是设计的什么鬼”，随后新生成的海报和上一张相比，元素没有任何改变，发型依然存在，但图片上的“新年快乐，仕途顺遂”却改成了“你*个*”。
与元宝沟通的聊天截图
新春佳节除夕夜，本应该是高兴的日子，却遭遇“AI骂人”。他当时就将骂人的设计图片向元宝官方进行了反馈，并且留了电话。
记者了解到，腾讯元宝官方账号于昨日已在向律师社交账号下留言，解释原因并表示歉意。
25日，记者从腾讯方面获悉，经核实，该情况是由模型在处理多轮对话时输出的异常结果导致。目前，元宝团队已紧急校正了相关问题并优化体验。元宝团队表示，感谢大家对元宝的监督与建议，再次向用户郑重致歉！
齐鲁晚报微信公号 来源：红星新闻、东方财经、华商报
编辑：刘齐
评论 评论 微信扫码 立即评论
暂无评论