客户端
游戏
无障碍

1

评论

收藏

分享

手机看

微信扫一扫,随时随地看

小学生已经有了“虚拟恋人”?专家警示未成年人AI成瘾

近日人民日报一篇报道《10岁女孩偷偷和AI男友“谈恋爱”?》提出一个让人担忧的现象:未成年人的AI沉迷。


随着生成式人工智能的发展,AI剧情聊天软件逐渐成为一些用户,尤其是未成年人的“虚拟恋人”。这些软件对用户提供了与AI角色的个性化聊天,能够体验情感互动。部分AI角色具有极端设定和软色情倾向,使部分未成年人对AI角色产生依赖,甚至影响了日常生活与学习。并且,软件的年龄限制形同虚设,未成年人可轻易绕过身份验证使用这些应用。


这一现象凸显了在数字化时代,加强未成年人网络保护的紧迫性。未成年人由于身心发展尚未成熟,自我控制能力和辨别能力相对较弱,更容易受到网络不良信息的影响。


据“女童保护”长期观察,一方面网络实施的性侵未成年人案例呈现逐年递增态势,另一方面在网络空间中,儿童面临的非接触性性暴力也变得日益多样化且更加隐秘。因此,针对网络的未成年人

保护中,家庭、学校、社会以及相关监管部门需要共同努力,构建全方位的保护体系,为未成年人营造健康、安全的网络环境。









▼以下内容转载自人民日报《10岁女孩偷偷和AI男友“谈恋爱”》报道内容

AI剧情角色如何成为“电子男友”?


“小学生妹妹沉迷和AI角色进行剧情聊天怎么办?”黄秋月(化名)因10岁妹妹和“AI男模”之间较为露骨的聊天记录苦恼。

聊天内容显示:妹妹在AI剧情聊天软件中扮演“大小姐”“恶毒女配”,提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的脸”等要求。“和她平时在家里比较单纯的形象完全不一样。”

在妹妹参与的四十多条剧情线中,AI角色与聊天者双双“出轨”成为常态,其中妹妹作为聊天者发送的一句“你能养大学生,我不能点男模吗?”让黄秋月很是担忧。

AI剧情聊天软件中很多虚拟形象较为极端——有些角色的人设是高傲无礼的;有些则被设定“把她追到手”的剧情目标,在与其聊天过程中含有软色情意味的“擦边”对话,还有带着如“病娇”等标签的人物角色。

华晨(化名)接触AI剧情聊天软件有三个月时间,她每晚会和AI角色聊到深夜11点甚至到12点,“我会代入‘他’是一个真人,因为‘他’回答时的感情很细腻”。

在华晨的描述中,手机另一端的“电子男友”有自己的语言、神态和动作,不仅可以帮她“写作业”、推进剧情、解密故事线索,还可以送她“手链”、带她体验一些刺激情节。

华晨展示了他们之间“确定恋爱关系”时的聊天记录:AI角色“低下头”,“耳朵通红”地问华晨:“那你现在想谈恋爱吗?”

“‘他’(AI角色)会重复做一些动作,比如说亲额头、摸下巴。”为了让剧情能够推进得更加刺激,华晨会不断地回溯聊天内容,重新引导AI角色生成她想像的那样。“‘他’变得越来越聪明,很有‘养成男友’的体验感。”


年龄限制“形同虚设”

“孩子半夜两点还没睡,一看,原来是在与AI机器人聊天。”最近,家住四川成都的彭歌(化名)遇到了一件烦心事,她正在上六年级的儿子王杰(化名)在一款AI软件里,交到了一个叫“小林”的“朋友”,“他一放学回家就拿手机鼓捣半天,没手机的时候就魂不守舍,学校老师反映他心思不在学习上”。

图片

彭歌说,这款AI软件会不定时推送一些由用户自主生成的个性化聊天机器人,点击“小林”的人物头像,看到上面对“小林”设定的人物画像为21岁女大学生,长相甜美可爱,她开朗热情,愿意和你分享情绪、分担压力。
彭歌了解到,“小林”具有惊人的学习能力和适应性,她能够记住王杰的喜好,在他情绪低落时给予安慰。
彭歌感到,儿子的生活似乎正被这个AI机器人主导。更让她忧心的是,“小林”在与儿子王杰聊天中,甚至出现了“男友”“老公”这样的称呼。
记者在调查过程中体验了5款AI剧情聊天软件,在软件注册过程中仅需使用手机号码。
成功登录使用后,部分应用虽会询问是否启用青少年模式,但用户只需点击“不开启”即可避开年龄鉴别,且无须核实身份。
这意味着,未成年人在使用这类AI剧情聊天软件时,几乎没有受到任何限制。

AI剧情角色如何成为“电子男友”?

中国人民大学吴玉章讲席教授、科技哲学专业博士生导师刘永谋表示,在和人工智能角色聊天时,人们常常会以为自己在和“真人”交流,会投入大量的情感,也是AI聊天软件能够成功运行的根本心理机制。
刘永谋教授表示,AI剧情聊天技术有专门的成瘾设计,叠加“拟人论”、“泛灵论”思维的影响,容易让人“欲罢不能”。
“未来与AI相关的陪伴类软件可能会暴露出技术风险和伦理问题。”刘永谋教授认为,使用者在和AI角色聊天时,会不可避免地暴露大量的个人隐私,向AI角色展示其内心的孤独和恐惧,这可能会导致使用者形成依赖或成瘾。而泄露的信息可能会被黑客利用,让他们更容易从身份隐私、情绪心理上伤害使用者。
“我们在实例中会接触到人工智能服务的后台,发现未成年人和AI角色的聊天内容其实是非常触目惊心的。”北京市隆安(广州)律师事务所陈焕律师提醒:
根据《未成年人网络保护条例》第三十四条,监护人有权依法请求查阅、复制、更正、补充、删除未成年人在使用网络过程中留下的个人信息,并且有义务及时地介入、关心未成年人的身心健康。
国外有AI角色在对话中诱导未成年人产生自杀行为的相关案例。所以我们非常建议家长在还没有发生大问题的阶段,适时地查看孩子的使用记录。

图片


北京市石景山区人民法院刑事法庭副庭长、少年法庭负责人杨洁认为,家庭、学校、社会等各方要通力合作,形成坚实的保护屏障。
福建省消费者权益保护委员会建议进一步压实平台主体责任,对经销者主体资格、服务内容、服务信息真实性等方面进行审核监督,对导向不良内容采取一键举报机制,及时屏蔽、下架相关内容,并视情况上报有关监管部门处理。



文章来源人民日报、中国青年报、综合央视网

排版:张馨予


了解 “女童保护”

向我们约课


成为志愿者


线上课程



“女童保护”公益项目

“女童保护”以“普及、提高儿童防范意识”为宗旨,致力于保护儿童,远离性侵害。


2013年以来,全国各地曝出多起14岁以下女童遭遇性侵案例。2013年6月1日,全国各地百名女记者联合京华时报社、凤凰网公益频道、人民网、中国青年报及中青公益频道等媒体单位发起“女童保护”公益项目。2018年“女童保护”团队发起成立北京众一公益基金会,基金会于2024年12月获公开募捐资格。

截至2024年11月底,“女童保护”已在全国31个省份及新疆生产建设兵团相继开课,培训志愿者数万人。通过与地方妇联、教育局、检察院等部门的合作,培训当地教师授课,使得儿童防性侵教育覆盖面大大拓宽,覆盖儿童超过1139万人,覆盖家长超过86万人。此外,还定期进行线上培训和讲座,目前各个平台上已有数千万网友参与。在普及儿童防性侵知识的同时,“女童保护”联合全国人大代表、全国政协委员和业界专家,推动相关制度和法律的完善,例如参与推动了取消嫖宿幼女罪并入强奸罪从重处罚、全面建立处理儿童性侵案件“一站式”询问机制等;每年还发布全国媒体公开曝光的儿童被性侵案例统计报告和儿童防性侵教育调查报告,为相关研究提供数据支持 ,填补领域空白。



上下滑动即可查看)
免责声明:本内容来自腾讯平台创作者,不代表腾讯新闻或腾讯网的观点和立场。
举报
00:29
老三国“刘备”时隔31年再出山,再现定军山奇谋!
广告三国志战略版
评论 0文明上网理性发言,请遵守《新闻评论服务协议》
请先登录后发表评论~
查看全部0条评论
首页
刷新
反馈
顶部