AI要聪明,更要善良

全文2531字,阅读约需8分钟,帮我划重点

划重点

01人工智能发展面临诸多风险,如广告的“野蛮推送”、虚假低质信息泛滥、AI“偷声”“换脸”现象频发等。

02为引导人工智能以人为本、向善而行,需在治理层面用好国际合作力量,建立人工智能安全监管制度。

03同时,提高公众“AI素养”,对疑似AI生成的内容谨慎甄别,保持独立思考。

04此外,企业应加强数据出境安全评估制度,防范窃取、侵占、滥用他国数据等行为。

以上内容由腾讯混元大模型生成,仅供参考

近年来,随着ChatGPT、Sora等大模型的横空出世,人工智能受到前所未有的关注。曾有主流媒体做过一项问卷调查,约三分之二受访者认为人工智能在改善个人工作生活方面成效显著,如AI创作、人脸识别、智能家居等,但同时也呼吁“加强潜在风险研判和防范”。

可见,“人工智能是一把双刃剑”已经成为普遍共识,它将“向善”还是“向恶”,取决于人类如何使用、如何规范、如何兼顾聪明与善良。

2024年世界互联网大会乌镇峰会以“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”为主题,从展会、赛事、活动等方面展示人工智能前沿技术、最新成果,积极回应各方对人工智能发展与治理的关切。

那么,当前人工智能发展面临哪些突出风险?如何引导人工智能以人为本、向善而行?

图片

2024年“互联网之光”博览会现场,智能机器狗现场表演吸引了参展观众关注 图源:潮新闻客户端

所谓人工智能,指的是一种模拟人类智能的技术,使机器能够像人一样学习、思考、决策,从而自主执行各种任务。在科技快速迭代的今天,人工智能的触角已经伸入人们的生产生活,而有关它的争议和隐忧也日益凸显。

比如,广告的“野蛮推送”。现实中不少人可能都有过这样的经历,在某个平台上搜索、浏览,或是和朋友提及某个产品后,其他平台便会“心有灵犀”地推送相关广告。而这些精准推送背后,离不开人工智能的“默默操盘”。它们利用追踪定位等技术手段,使消费者俨然成为“透明人”,其购买记录、浏览历史、观点言论甚至姓名、人脸、家庭住址等隐私信息都处于AI“监控”之下。当人们毫不知情个人信息何时何地被采集、共享、使用时,就会产生恐慌,很多人逐渐意识到,人工智能正在对我们的人身财产、安全、社会关系等造成威胁。

比如,虚假低质信息泛滥。随着人工智能技术飞速发展,AI生成内容比例逐步攀升。有研究显示,仅仅从2023年到2024年一年间,包含AI生成内容的网页数量就激增了2848%。这其中,很多内容都缺乏真实性,且流于浅表。而在当下,各大平台主要依托算法进行内容推荐,识别AI生成内容的技术手段还不够成熟,这就导致大量粗制滥造、低俗、虚假、过度娱乐等内容在互联网上广泛传播,误导公众、影响舆论,严重时甚至扰乱社会秩序。去年5月,美国社交平台疯传一张五角大楼附近地区发生爆炸的图片,事后被证实为AI生成。今年4月,我国公安部公布10起打击整治网络谣言违法犯罪典型案例,其中4起均为使用人工智能工具批量生成不实文章进行引流牟利。

再如,AI“偷声”“换脸”现象频发。AI语音合成技术已经得到广泛应用,利用AI模仿、伪造他人面孔和声音的行为屡见不鲜。前段时间,社交平台上出现大量公众人物吐槽调侃公共话题的AI音频,其中不乏骂人、恶搞等不雅词汇,引发社会各界对人工智能“玩过界”的担忧和质疑。另据媒体报道,有诈骗集团利用AI“深度伪造”技术向一家跨国公司的香港分公司实施诈骗,并成功骗走2亿港元。去年发生于内蒙古的“10分钟骗走430万”事件,也是借助“AI换脸”技术佯装熟人进行的。

图片

湖北黄石警方破获一起用AI换脸技术解锁社交账号并倒卖获利的诈骗案 图源:“央视新闻”微信公众号

有观点认为,当某项技术足够成熟、应用成本足够低、使用起来又比较简单的时候,难免会走向泛滥。人工智能也是如此,一旦滥用,将有可能给人类进步、社会治理、公众权利带来威胁。

弱化思考决策能力。有人说,人工智能对人类的最大威胁莫过于让人变懒,“一键生成”带来的便捷与快感,让越来越多的人陷入“技术依赖”,主动探索和独立思考的意愿减弱,最终很容易被AI“牵着鼻子走”。比如,有学生在撰写论文时求助人工智能,为此今年春季开始,不少国内高校就“AI代写”问题作出规范。某研究论文发表仅3天就被撤稿,主要原因是插图为AI生成。再比如,一些小说作者依靠AI“创作”,大量故事情节逻辑不通,文字空洞、思想浅薄。

“拉低”整体信息质量。当AI生成的虚假、低质量信息大量涌入网络空间,而这些“垃圾”信息又反过来成为AI的训练数据,形成恶性循环,就会降低互联网内容的整体水平。置身于这样的信息海洋中,人们通常需要耗费大量时间和精力辨别真伪,长此以往,不利于人工智能行业的健康发展。在一些突发事件中,不法分子利用AI编造虚假新闻,极易扰乱公众认知。在经济领域,受众可能因听信AI批量生成文章的注水分析,作出错误的投资决策。在商业领域,利用AI炮制虚假评论和评分的做法,不仅损害消费者信任,而且影响企业声誉。

侵害公众合法权益。人工智能的学习和决策过程依赖于大量的数据,这也就决定了人工智能的侵权风险无处不在。比如,创作者利用AI工具生成的文字或图片,可能侵犯他人的著作权。采用AI换脸技术实施诈骗,或者顶着“明星脸”进行直播、发布视频,可能侵犯他人的肖像权、财产权、名誉权等。平台或APP对个人信息的过度收集、冒用、篡改,则涉及对他人隐私权的侵犯和破坏。近年来类似案件时有发生。今年4月,北京互联网法院对“全国首例AI生成声音人格权侵权案”进行一审宣判,原告因声音被AI化出售获赔25万元。

图片

漫画 图源:新华社

党的二十届三中全会《决定》提出“建立人工智能安全监管制度”“完善生成式人工智能发展和管理机制”。人工智能的未来将往何处去?答案只有一个,那便是“以人为本、智能向善”。从人的视角重新审视人工智能技术及其影响,推动人工智能更好地为人类服务。如何做到这一点,笔者有几点想法。

在治理层面用好国际合作力量。人工智能治理是当今世界各国面临的共同课题,如果解决不好,将会伤害人类社会,这大抵也是今年世界互联网大会乌镇峰会聚焦“人工智能”的用意所在。去年11月,包括我国在内的28个国家共同达成《布莱切利宣言》,同意通过国际合作,建立人工智能监管方法。今年5月,中法发表关于人工智能和全球治理的联合声明时指出,“人工智能的机遇、风险和挑战本质上是全球性的”。不仅如此,随着全球数字经济加速发展、数据跨境流动日益频繁,各国还应建立数据出境安全评估制度,加强对重要数据出境的安全管理,重拳打击窃取、侵占、滥用他国数据等行为,坚决捍卫国家数据主权。

在应用层面提高公众“AI素养”。科技进步是不可阻挡的潮流,我们每一个人都是这场变革的见证者、参与者。作为普通大众,应该做的是提高AI时代的个人信息素养,驾驭新技术的同时保持独立思考,对疑似AI生成的内容谨慎甄别。如果没有强大的判断和纠错能力,人只会被机器玩得“团团转”。

聪明是一种能力,而善良是一种选择,技术用得好造福人类,用得不好危害自身。在人工智能发展呈“燎原之势”的今天,看似“高冷”的AI终将“飞入寻常百姓家”。当风险与机遇共舞,唯有保持开放包容的姿态、慎思明辨的头脑、适度合理的规范,才能推动人工智能以人为本、向善而行。

各位读者:关注公号后可点击右上角“…”,设为星标,以免错过最新推文。评论区留言在本文发布24小时内得到点赞数最高者,将获赠一套《浙江宣传》书籍。您觉得AI有哪些风险?又该如何更善良?

图片

来源:浙江宣传

图片