人工智能和美国选举：立法监管成果与困境

刊物介绍

《人工智能资讯周报》探讨人工智能对公共政策、治理和政策建议的影响，探索人工智能对商业、政治和社会的影响，以确定潜在的研究领域，探讨可能的合作研究和机构伙伴关系。本刊着重提供中国人工智能发展动态和对人工智能的思考，同时关注全球范围内人工智能相关研究动态。本刊旨在通过可靠的研究，来帮助企业、研究机构和公民预测和适应技术引领的变化。和成就。自2017年起，每年的5月30日被设立为“全国科技工作者日”，以鼓励和支持科技工作者的创新和贡献。

摘要

自2023年以来，美国选举活动中出现越来越多的人工智能深度伪造问题，美国联邦及各州不断提出相关法案，涉及内容广、对象不尽相同，其中关于要求声明人工智能生成的内容占据主要部分，并且各州根据实际状况规定诸如时间限制等具体条款。然而，联邦立法进程缓慢、可能造成的联邦立法对于各州立法的干涉、对言论自由的影响使得美国人工智能选举立法陷入困局，2024年立法进程目前难有实质成果。

2023年4月，美国共和党全国委员会发布了一则完全由人工智能生成的广告，展示了民主党拜登总统连任后美国的未来。广告小字披露了该广告是由人工智能制作的，其中的图片虚假但逼真，包括了用木板封闭的店面、街道上装甲军人巡逻以及移民人数大幅增加引发的恐慌。7月，美国共和党超级政治行动委员会使用人工智能语音克隆工具模仿前总统特朗普的声音，使其看起来像是在叙述他发表的社交媒体帖子，尽管他从未说过这句话。2023年以来，美国各州和联邦机构针对人工智能应用于政治选举提出了一系列法案，致力于监管技术对于选举的影响。

联邦层面立法

2023年7月27日，参议员布莱恩·沙茨 (D-HI)提出了《2023年人工智能标签法案》，要求生成式人工智能开发者在声明中注明人工智能系统（包括聊天机器人）生成的内容，帮助确保人们知道他们何时正在查看人工智能制作的内容或与人工智能聊天机器人互动。该法案适用领域不仅包含选举活动，更涵盖各种政治交流。2023年，法案被提交给商务、科学和运输委员会，此后一直没有进展。

此后，参议院提出多项关于在选举中规范使用人工智能的立法，《保护选举免受欺骗性人工智能法案》旨在禁止媒体发布与联邦候选人有关的具有实质性欺骗性的人工智能生成内容，尤其是政治广告。《选举中的人工智能透明度法案》第3875条规定，包含人工智能生成内容的政治广告必须包含免责声明，表明使用了人工智能。《为人工智能准备选举管理员法案》要求美国选举援助委员会制定指导方针，帮助选举官员管理人工智能在选举中的风险和应用。法案包括培训计划、资源分配和制定效果最佳实践的规定。这几项法案都在交给规则和管理委员会后修订了两次，并在2024年5月15日列入参议院立法日程。

2023年7月13日提出的HR.4611法案，即《候选人语音欺诈禁令》，禁止发布包含由人工智能生成的具有实质性欺骗性的音频的政治通讯。该法案规定，最高可判处两年监禁、罚款或两者并罚。该法案已于提出日提交众议院。2024年1月10日提出的《联邦人工智能风险管理法案》（HR.6936 ）侧重于管理人工智能风险，包括其在选举过程中的使用。该法案要求制定标准化的风险管理协议、定期审计和透明度措施，以确保负责任地使用人工智能技术。此外，它还要求联邦机构向国会报告其对人工智能的使用情况以及遵守风险管理实践的情况。同日，该法案已提交给参议院国土安全和政府事务委员会/众议院监督和问责委员会以及众议院科学、空间和技术委员会。

密西西比州

2024年4月30日，密西西比州州长通过了SB 2577号法案，将选举前90天内蓄意传播意图伤害选举人以及影响选举结果的“数字化”的行为定为犯罪。法案认为数字化行为包括以逼真的方式改变、创造图像或音频的深度伪造”。对此类行为，可以判处最高一年监禁及5000美元罚款。

加利福尼亚州

2024年9月17日，加州州长加文·纽瑟姆 (Gavin Newsom) 签署法令，颁布了三项新法案来遏制虚假信息和欺骗性选举内容的传播。新法规以加州 2019 年立法 (AB 730) 为基础，禁止在选举前 60 天内传播经过操纵的政治候选人视频、图像或音频。2024 年《保护民主免受深度伪造欺骗法案》（AB 2655 ）规定，在选举前 120 天内，大型在线平台必须履行某些删除义务，并且必须在该期限之后提出披露要求。《选举：广告中的欺骗性媒体）（AB 2839 ）更广泛地禁止分发包含某些重大欺骗内容的选举通讯。《1974 年政治改革法案：政治广告：人工智能）（AB 2355 ）要求政治委员会制作的人工智能广告必须附上免责声明。

佛罗里达州

2024年4月26日，佛罗里达州州长签署了众议院第919号法案，该法案涉及政治广告中使用人工智能。该法案规定，若政治广告、竞选宣传或其他杂项政治广告包含全部或部分使用生成人工智能（AI）创建的图像、视频、音频、图形或其他数字内容包含造假内容，且是为了中伤候选人或在选票问题上造假，则该广告或宣传必须显著标明由人工智能生成。

密歇根州

2023年12月1日，密歇根州成为第五个要求披露政治广告中人工智能使用情况的州。州长格雷琴·惠特默签署的密歇根州法案HB 5141适用于政治广告，配套法案 HB 5143 将“人工智能”定义为“一种基于机器的系统，它可以针对给定的一组人类定义的目标，做出影响现实或虚拟环境的预测、建议或决策”。HB 5141要求使用人工智能的政治广告商必须“声明合格的政治广告全部或大部分由人工智能生成”。对于音频，声明必须清晰可听，包含在广告的开头或结尾，并持续至少3秒。对于视频，声明必须在广告的开头或结尾清晰地说出至少3秒，并以普通观众可读的文本形式出现至少4秒。

纽约州

2023年5月10日，纽约州州长签署《政治人工智能免责声明（PAID）法案》，要求使用合成媒体的政治交流声明其通过人工智能生成，并要求使用合成媒体的相关主体保存此类使用记录。

2024 年 4 月中旬，纽约州议会法案 A9028修改了《选举法》中有关“政治通讯”的规定，加强了与非法或未经授权传播虚假材料相关的保护。修订后的《选举法》第 14-106 条立即要求任何“分发或发布任何政治通讯的个人、企业协会、公司、竞选活动、委员会或组织”，如果知道或应该知道通讯已被人工智能技术修改，但看来仍然真实，则必须在通讯中标注其为人工智能生成。只有标明免责声明的政治通讯允许被发布。如果候选人的“声音或肖像”在没有适当免责声明的情况下被用于深度伪造政治传播，受影响的候选人可以寻求禁令救济，禁止媒体分发和出版，并支付诉讼费和律师费。

小结

从2024年1月1日到7月31日，美国有14个州颁布了新的法律或条款来规范政治传播中人工智能的使用。根据public citizen统计，截止2024年，21个州已经通过具有法律效力的法规来规范选举中的深度伪造，6个州仍在就法案进行辩论。

就主题而言，2024年迄今已有151项针对选举背景下的深度伪造和欺骗性媒体的法案被提出或通过。这约占所有关于人工智能一般主题的法律的四分之一。这些法案中的大多数（至少100项）专门针对向公众进行政治传播时出现的人工智能深度伪造以及其他欺骗性媒体行为。一般来说，这些法案涵盖了关于候选人的欺骗性沟通或为欺骗选民投票支持或反对候选人而制作的内容。

但这些法案所涵盖的内容和对象范围差异很大，其背后的理由、负责执法的实体或个人、所涵盖的主题以及违法行为的处罚也各不相同。最主要的区别在于，它们是完全禁止在政治传播中使用深度伪造和其他操纵媒体，还是只要声明其涵盖人工智能制作的内容就被允许使用。另外，在大多数州，禁令及声明有明确的时间限定，通常在选举日前90或120天，而在一些州，该要求没有时间限制。总的来说，各州主要要求披露和透明度，并没有完全禁止人工智能的使用。

联邦立法遭质疑干涉地方立法权

针对联邦立法的质疑分为两个方面。一方面，社会各界担心联邦立法会干涉各州的独立立法权，干涉选举公平性。内布拉斯加州共和党参议员、委员会资深成员德布·菲舍尔 (Deb Fischer) 表示：“他们‘联邦化’了本应属于各州管辖范围的选举问题。”菲舍尔说：“我支持各州努力规范自己的选举法律。”一般而言，联邦立法倾向给出方向，州立法则给出更加具体的规定，然而当联邦立法过于严苛时，州立法只能做出一定更改。目前，各州显然为了克服《第一修正案》带来的挑战，对法规的适用对象和适用时间设定了界限。例如，德克萨斯州、加利福尼亚州和明尼苏达州的法案限制仅适用于恶意传播的内容，例如伤害候选人、影响选举或欺骗选民的内容。另一些限制比如：法令仅适用于选举后的 30、60和90天内。一些州还豁免印刷出版物、广播电视公司等主体，在加利福尼亚州，则豁免讽刺或戏仿的相关媒体。

另一方面，议员担心联邦立法对于美国宪法关于言论自由规定的损害。菲舍尔表示，她也担心人工智能带来的风险。但她认为这些法案“过于笼统”，“他们卷入了之前不受监管的言论，这些言论超出了深度伪造的范围。”关于监管政治深度伪造是否会阻碍受保护的言论，以及诽谤法等现有保护措施是否足以掩盖滥用行为，引发了更多争论。

联邦立法停滞，维持技术中立的监管方法，今年选举期间不会制定新的法规

今年，多项人工智能和选举法案已通过参议院规则委员会审核，但尚未提交参议院审议。联邦选举委员会及通信委员会就是否确立新的法规持不同立场。联邦通信委员会争论试图要求广播节目披露人工智能信息，但遭到联邦选举委员会的否决。联邦选举委员会声称不愿干涉地方及其他立法机构的权力：“制定限制或禁止人工智能在竞选传播中的规则超越了委员会监管政治广告的有限法律权力。”联邦选举委员会以5比1的投票结果批准了由民主党委员 Dara Lindenbaum和Shana Broussard与共和党委员Trey Trainor和 Allen Dickerson 制定的妥协方案。

2024年9月10日星期二， 联邦选举委员会 (FEC) 宣布，在今年选举期间，联邦不会针对使用人工智能 (AI) 在联邦选举中生成欺骗性内容的行为制定新的法规。这并不意味着为深度伪造和其他形式的选举欺骗行为开绿灯，而是采取一种技术中立的监管方法，意味着他们无权起草专门适用于人工智能或任何其他技术的规则。FEC表示，禁止“欺诈性虚假陈述”的现有联邦法律仍然适用于人工智能生成的内容。联邦选举委员会缺乏技术专业知识来有效监管像人工智能这样强大而复杂的新兴技术。因此，针对人工智能的特定规则可能无法实现其预期目的，甚至扼杀创新性的政治言论，或在某种意义上限制政治言论。联邦选举委员会的行为意味着联邦将规范有害行为和活动，而不是规定具体工具和技术。这不仅有助于在不牺牲潜在利益的情况下应对挑战，还将提供一个灵活的框架，以有效适应下一轮颠覆性创新。但另一方面，联邦委员会之间的争议和国会的不作为可能会导致选民在2024年大选前基本上得不到有效人工智能法律保护。