近日，用AI制作“流浪汉闯入家中”图片来整蛊家人的帖子在社交平台泛滥成灾。有人用高度逼真的ai图片发给亲人或配偶，导致对方惊慌报警，物业逐层排查，派出所紧急响应。
AI生成技术的普及让虚假信息制造变得轻而易举。输入关键词即可生成逼真图片的便利性，使以假乱真的ai假图横行。但这场ai整蛊闹剧不应归咎于技术，AI作为工具，其价值取决于使用者的伦理选择。
警惕ai整蛊被过度娱乐化，成年人要对网络信息有一定判断力，不要跟风玩梗，ai整蛊本质是传播虚假图片，美其名曰“测试”实则在消耗亲密关系，“狼来了”的故事讲多了，信任也就崩塌了。法律方面，虽然这个“玩笑”本意不是让亲人报警，但明知家人可能误判报警仍故意制作AI内容，已构成“间接故意”。此前某地AI假寻人启事引发的行政拘留案例，正是前车之鉴，不要以玩梗的名义挑战法律红线。
现在，各类ai工具都会在生成图片是打上水印，方便公众甄别真伪，但用户可以轻松地将其裁掉。技术层面能不能再加一道“安全锁”，容易引起恐慌的图片文字等，显示ai生成的水印可以再明显一些，或者平台在传播相关图片时可以提示由ai生成。
平台需思考强化AI生成内容的标识管理，法律应提高技术滥用的违法成本，而每个技术使用者更需明白：当AI从赋能真实沦为制造虚假时，我们失去的不仅是公共资源，更是文明社会最珍贵的信任基石。