这两天，“刘晓庆接受采访”等视频从网上流传，刘晓庆本人紧急辟谣：“画面是我，声音很像我，但不是我！这是怎么做到的？” 原来，这是AI生成的假视频。
除了“AI刘晓庆”，此前还有“AI张文宏”“AI靳东”“AI雷军”……“假人”频频出现在社交网络。全国两会开幕在即，全国人大代表陈达在接受新民晚报记者采访时表示，应加强对AI技术的立法监管，防止它被用于违法犯罪活动，特别是针对老年人和未成年人的网络诈骗。
AI技术日新月异的今天，技术带来的便利与变革有目共睹，但与此同时，AI技术的滥用也为不法分子提供了可乘之机。
陈达指出，前段时间社会上闹得沸沸扬扬的“张文宏医生被AI换脸直播带货”事件，就是AI技术被不法分子滥用的一个典型例证。他们利用AI换脸技术，冒充知名人士开展直播带货，诱骗老年人购买一些并不需要的商品，严重侵害了老年人的合法权益。而除了“AI张文宏”直播带货，还有“AI靳东”实施诈骗、“AI雷军”连环追骂……
陈达表示：“AI技术的迅猛发展，无疑给我们的生活带来了翻天覆地的变化，但与此同时，也为一些心怀恶意之人提供了违法的契机。尽管国家已经多次组织治理行动，但仍需在立法层面上进一步完善监管措施。”
针对这些问题，她建议在立法层面应加强对AI技术的监管。立法监管不仅是对AI技术的约束，更是对它健康发展的一种保障。通过立法明确AI技术的使用范围和条件，可以引导企业和社会各界在合法合规的框架内发展AI技术，推动“科技向善”，让技术更好地服务于社会。
陈达计划继续跟进调研，推动相关立法工作尽快落到实处。