人工智能和印度尼西亚选举

刊物介绍

《人工智能资讯周报》探讨人工智能对公共政策、治理和政策建议的影响，探索人工智能对商业、政治和社会的影响，以确定潜在的研究领域，探讨可能的合作研究和机构伙伴关系。本刊着重提供中国人工智能发展动态和对人工智能的思考，同时关注全球范围内人工智能相关研究动态。本刊旨在通过可靠的研究，来帮助企业、研究机构和公民预测和适应技术引领的变化。和成就。自2017年起，每年的5月30日被设立为“全国科技工作者日”，以鼓励和支持科技工作者的创新和贡献。

摘要

在2024年印度尼西亚总统大选中，三位主要总统候选人积极使用人工智能技术来吸引选民。普拉博沃和甘加尔的竞选团队通过AI生成的互动平台、艺术作品和聊天机器人吸引年轻选民，而阿尼斯及其支持者则通过数字平台和粉丝文化来推广其竞选理念。人工智能技术在选举过程中的使用也引发了争议，其 深度伪造技术使用和虚假信息传播问题已经成为监管的焦点。包括Midjourney和OpenAI在内的一些人工智能公司已经明确禁止在政治竞选中使用其技术。印度尼西亚政府也承诺打击虚假信息、确保政治广告的透明度。尽管如此，印度尼西亚尚未建立完善的法律框架来规范大数据和人工智能在政治选举中的使用。

印度尼西亚选举委员会于当地时间3月20日公布2024总统选举最终计票结果，普拉博沃以58.58％的得票率获胜。大选期间，普拉博沃团队积极应用AI技术，借助Midjourney生成的卡通形象塑造亲和的公众形象。这一策略被认为是其赢得大选的关键因素之一，帮助其吸引了占登记选民一半以上的千禧一代和Z世代选民，Indikator Politik 2024年5月发布的民调结果分析显示，普拉博沃获得了超过70%的Z世代选票，在千禧一代选民中也拥有近60%的支持率。除了普拉博沃以外，本届大选的另外两位候选人甘加尔和阿尼斯也采用了人工智能技术。2024年印度尼西亚总统大选为我们了解AI如何可能改变大规模政治竞选的面貌提供了直观的观察窗口。

随着互联网普及率的提高，超过66%的印度尼西亚成为互联网用户，数字空间比过去更加深刻地影响选举。Statista数据显示，该国近一半的互联网用户处于25-46岁的关键投票年龄之间，而精通技术的千禧一代和Z世代占登记选民的50%以上。印尼人每天在互联网上花费7小时42分钟——其中3小时18分钟花在社交媒体上。随着社交媒体曝光率的提高和人工智能越来越受欢迎，印度尼西亚总统候选人也纷纷涉足人工智能领域，试图利用人工智能来赢得印度尼西亚2亿选民。2024年印度尼西亚总统大选展示了AI如何可能改变大规模政治竞选的面貌。

（1）吸引选民

印尼前国防部长普拉博沃·苏比安托（Prabowo Subianto）的竞选团队于2023年12月推出了PrabowoGibran.ai生成式AI平台，帮助其15,000名“网络部队”志愿者跟踪在线舆论，并在社交媒体上分享AI生成的艺术作品。支持者可以使用普拉博沃的竞选应用程序，将自己置于AI生成的场景中，比如与穿着野外服装的普拉博沃一起在丛林中徒步，然后将这些场景分享到社交媒体上。普拉博沃的竞选团队还在美国公司Midjourney的技术支持下制作了普拉博沃的卡通形象，这一形象被印在卫衣和贴纸上，并在TikTok上#Prabowo标签下广泛传播，相关视频的播放量达到190亿次。普拉博沃曾于2014年和2019年参加总统竞选。与前两次失败的总统竞选中展现的强硬民族主义者形象不同，普拉博沃如今的口号是“gemoy”（在印尼俚语中意为“可爱和萌”）。在社交媒体上，他的圆脸的人工智能形象向选民们做出韩国式的“手指心”，还抱着他心爱的猫Bobby。这个AI生成的卡通形象在普拉博沃的竞选形象重塑中起到了关键作用，受到Z世代选民的支持。Indikator Politik 5月发布的民调结果分析显示，普拉博沃获得了超过70%的Z世代选票。此外，他在千禧一代选民中也是最受欢迎的候选人，拥有60%的支持率。

印尼前中爪哇省省长甘加尔·普拉诺沃（Ganjar Pranowo）团队也在竞选期间积极使用AI技术。甘加尔的支持者一直在使用人工智能为其生成身着时尚服装的照片，让这位总统候选人看起来更加年轻和时尚。甘加尔的团队已经将其中一些人工智能生成的图像用作竞选材料。此外，普拉博沃和甘加尔团队还启用了互动式人工智能聊天机器人，让用户看起来像是在与各自的候选人聊天。

尽管另一位总统候选人阿尼斯·巴斯维丹 (Anies Baswedan) 的团队表示并未在竞选中使用人工智能，但阿尼斯于2023年12月30日在TikTok上上线并与他的年轻粉丝互动，此举促使他的追随者在TikTok上发布大量内容来为他集会。Aniesbubble现象是一群通过粉丝风格的内容支持阿尼斯的K-Poppers现象。阿尼斯的支持者自发推出了人工智能（或数字）平台Haveaniesday.com，在这个网站上，用户点击几张图片后，会出现阿尼斯的简介，包括Anies Baswedan-Muhaimin Iskandar（AMIN）夫妇的愿景和使命，阿尼斯的业绩和成就，以及阿尼斯的猫咪系列。墨尔本大学印度尼西亚研究论坛指出Haveaniesday.com的出现有助于阿尼斯对抗Prabowo的“gemoy”策略。它还代表了一种创新的竞选模式，即利用在线关注，粉丝账户可以制造轰动效应，让候选人看起来更亲和，而不是依赖传统竞选的单向信息。

（2）简化选举过程

人工智能也可以帮助简化选举过程。亚洲新闻频道（CNA）报道指出，印尼普选委员会（KPU）位于中爪哇苏柯哈若县的办公室计划使用人工智能来加快计票过程，并表示，尽管总统和议会选举的官方结果仍将依靠人工计算每张选票上的选票，但通过该技术处理的数据将有助于识别是否存在错误和异常。KPU 的其他办事处（包括位于雅加达的总部）尚未表示将遵循苏科哈乔办事处的计划。

除了选举下一任总统外，2024年2月14日，2.04亿多印尼人还将投票选举国家、地区和城市各级议会的议员。总共有2万多个职位有待投票。企业家何塞-里扎尔（Jose Rizal）在回答CAN采访时指出，“有30多万人希望成为议员，但不是每个人都能获得数据和信息；即使有，也不是每个人都有能力分析这些数据和信息，并将其转化为竞选策略”。这也是他于2023年4月创办Pemilu.AI公司的原因之一。该公司利用人工智能分析公开信息，如中央统计局提供的信息，以及面对面访谈获得的定性数据，以便立法候选人能够找出与选民相关的问题，制定竞选战略，并提出详细的执行计划。截至目前，约有700名印尼议员候选人正在使用Pemilu.AI 的服务，每名市级和县级候选人花费2,900万印尼盾（1,838美元），省级议员候选人花费9,900万印尼盾，国家级议员候选人花费1.49亿印尼盾。虽然这笔费用只是候选人聘请传统政治顾问的一小部分，但人工智能技术仍有其局限性。何塞指出人工智能无法取代传统政治顾问的角色，人工智能可以构思战略，但战略的执行仍然取决于候选人，取决于他们如何传达信息以及如何与选民互动。

（1） 存在有意或无意误导公众的可能性

两位总统候选人普拉博沃和甘加尔竞选团队开发的聊天机器人有可能提供虚假信息。社交媒体分析师Ismail Fahmi表示，他曾尝试向其中一个聊天机器人询问，尽管印度尼西亚的国家哲学只有五项原则，“聊天机器人错误地提出了第六和第七个原则，这样的事情会毁掉候选人的信誉”。 Ismail表示，人工智能还意味着仇恨言论发帖人能更加轻易地通过社交媒体和新闻网站生成内容来传播政治影响，从而获得报酬，因为“在人工智能出现之前，发帖人需要手动撰写自己的帖子或评论。有了人工智能，你只需输入提示，它就能在几秒钟内生成数百条回复”，此举可能助长互联网虚假信息甚至仇恨言论大范围传播的速度和烈度。

（2） 人工智能可能增加虚假信息的监管难度

非营利组织选举与民主协会（Perludem）执行董事 Khoirunnisa Nur Agustyati 表示，即使没有使用人工智能，在2019年大选期间，当佐科与普拉博沃对决时，虚假信息泛滥导致了严重的政治分裂，即使在佐科以11%的优势赢得大选后，这种分裂仍然持续存在。现在，人工智能为传播虚假信息和政治分裂提供了可用的工具，分析人士担心情况可能会变得更糟。尽管2017 年印尼选举法禁止候选人攻击对手，但除非官员能够证明这些人工智能生成的黑料是由与竞选团队有直接联系的个人创建和传播的，否则该法律无法适用。

竞选期间，一个有争议的AI使用案例出现在2024年1月，戈尔卡尔党（Golkar party）副主席 Erwin Aksa发布了已故强人统治者苏哈托的深度伪造视频，视频中苏哈托呼吁选民支持该党的候选人。这些带有竞选信息的片段被标记为由AI生成。苏哈托的图像是用Midjourney和图像应用Leonardo AI创建的，而他的声音是使用美国的语音克隆初创公司ElevenLabs的软件合成的。印度尼西亚大学选举法专家蒂蒂·安格拉尼 (Titi Anggraeni) 表示，对于此类虚假信息，法律规定得很模糊，“法律只禁止诽谤其他候选人、煽动内乱、（或）包含暴力威胁等的材料……这些内容确实是虚假信息。但它们并没有诽谤或攻击任何人。我们必须承认，法律还没有能力处理它们”。印尼选举监督委员会 (Bawaslu) 主席拉赫马特·巴加 (Rahmat Bagja) 表示，他的办公室正在与印尼通信和信息技术部以及各种社交媒体和消息平台合作，确保迅速删除与即将举行的选举有关的所有形式的虚假信息。2023年12月22日，印尼通信部向在该国从事人工智能工具开发的科技公司发出通告，要求其注意所开发产品可能带来的负面影响。 

（1） AI科技公司自我监管

路透社报道指出，许多用于印尼选举的AI工具由OpenAI提供支持，包括普拉博沃的平台，这些工具被用于创作竞选艺术作品、追踪社交媒体情绪、构建交互式聊天机器人和瞄准选民。Midjourney 禁止将其工具用于政治竞选，其服务条款规定“您不得使用Midjourney服务为政治竞选生成图像，或试图影响选举结果”。OpenAI在1月份宣布了类似的禁令，称“我们仍在努力了解我们的工具在个性化说服方面的效果如何。在我们了解更多信息之前，我们不允许人们开发用于政治竞选和游说的应用程序”。

（2） 政府临时监管举措

选举监督机构（Bawaslu）启动多维选举脆弱性指数（IKP），对社会政治风险进行精细映射，从而预先保障选举的完整性。Meta和TikTok等主要平台也作出了回应，实施了特殊的选举指定内容审核政策，但持续识别和解决仇恨言论和骚扰仍然是一个挑战。为此，印度尼西亚的民间社会团体、多边组织以及选举管理机构（EMB）一直在敦促技术平台在其内容审核政策和实践中提高透明度和问责制，以保护选举的完整性，并于2024年1月取得进展——参加选举的全国性政党、总统和副总统候选人竞选团队、主要社交媒体平台以及和平联盟（Koalisi Damai）签署了2024年印尼大选社交媒体诚信竞选活动承诺（Komitmen Bersama Kampanye Pemilu Berintegritas di Media Sosial Pemilu 2024），以打击虚假信息、身份歧视和仇恨言论，保护儿童，确保政治广告的透明度，并保证可以访问平台数据以进行独立研究和监测。目前，印度尼西亚尚未建立完善的法律框架来规范在政治选举中使用大数据和人工智能，并应对可能误导公众的虚假信息传播和深度伪造技术的使用问题。