□郭元鹏
让AI生成拜年图，修改多次后现辱骂文字。西安一市民说：没想到除夕夜被AI给骂了……
据华商报大风新闻报道，除夕夜，本是阖家团圆的温馨时刻，西安市民向先生却遭遇了一场由AI带来的“数字冒犯”——本是希望借助AI生成一张结合自身职业特性的拜年图片发朋友圈，然而在修改多次后，AI生成的图片中却赫然出现辱骂性文字。
对于这件事情，估计不少人会当个段子看，顺手调侃一句“AI成精了”“科技翻车现场”，哈哈一笑就过去了。但说真的，这事不该就这么笑过去。除夕夜被AI骂了，真不能当个笑话听！
向先生说，他是第一次下载使用某款App，除夕晚9时许，他前后向AI输入了约五次指令，期间并未使用违禁词或具有诱导性的文字，就当是和对方在对话，“起初生成的结果虽然不满意，但一切还算正常，也挺有趣的。万万没想到最后一次生成的照片上，自己的照片下方竟出现了辱骂文字。”向先生说，这一结果让他又好气又好笑，没想除夕晚上自己竟然被AI给骂了。
尽管说，只是个软件，但是那一瞬间的膈应、不被尊重，是实实在在的。这是“数字冒犯”，不是恶作剧，是技术往人脸上吐了口唾沫。而且，向先生不是第一个倒霉的。早前就有网友反映，用某AI工具时，莫名其妙被怼“滚”“自己不会调吗”。AI没脑子，它吐出来的每一个字，都是人喂出来的。但是，数据脏了，得想办法清洗干净。
有人说，不就一句话吗？又不是真人对你讲的，至于上纲上线？可问题的关键就在这里：今天AI能冒出一句脏话，明天呢？后天呢？如果连侮辱性内容都能过审，那更隐蔽的攻击、更恶意的歧视，是不是也能从“小概率事件”变成“家常便饭”？
这起“AI破防”事件，绝不能沦为一句“懂乙方了”的调侃，该被掌嘴的，不是冰冷的程序。AI本无情绪，其“恶语”实则是技术缺陷的问题。无论是训练数据夹带的戾气，还是对话逻辑中缺乏侮辱性输出的拦截机制，本质上都是需要关注的问题。
除夕夜的这声骂，不光是骂了向先生一个人，也是在给所有做AI的人提个醒：智能软件正在走进千家万户，它有没有温度，有没有边界，能不能守住最基本的尊重，不是小事。技术跑得再快，也得先学会好好说话。
AI嘴里吐出来的不是“意外”，是责任。因此说，科研部门需要多做些事情，尽快将可能存在的漏洞补上，让AI也是个“文明的AI”“不说脏话的AI”。
本文为红辣椒评论原创文章，仅系作者个人观点，不代表红网立场。转载请附原文出处链接和本声明。