俄罗斯、印度、美国等数十个国家的数十亿选民将在2024年参加选举投票，这或许将是全球有史以来参加选举投票人数最多的“超级大选年”。与此同时，人工智能技术迎来飞跃式发展，从生成文字、图片，到合成声音、视频。
当选举遇上人工智能，各国选举舞台上的竞选者们，手中增添了“新武器”。候选人使用人工智能工具分析选民偏好、撰写演讲稿、设计社交媒体形象等。更有甚者，人工智能技术被用于制造虚假录音、图片和视频，成为了抹黑、攻击或者操纵行为的帮凶。
类似的案例已经出现，在今年1月的美国民主党初选投票前，部分选民接到“美国总统拜登”来电，随后初步调查显示，这些来电中的声音是由人工智能生成的。在去年的斯洛伐克国民议会选举中，疑似一名候选人声音的音频被指有人工智能加工的痕迹。许多专家表示，各国的选举进程面临着被人工智能严重扰乱的风险。
2月16日，20家科技公司在德国慕尼黑签订协议，自愿采取措施，防止人工智能被用于扰乱世界各地的选举。不过，观察人士对科技行业“自律”协议的有效性产生怀疑。多国政府的人工智能监管举措被指跟不上技术发展的步伐。
假“拜登”给选民打电话阻止投票
今年1月，美国新罕布什尔州73岁的居民盖尔亨特利接到一通电话，听筒那头传来了似乎是拜登的沙哑嗓音。亨特利原本计划在1月23日的民主党新罕布什尔州初选中为拜登投出一票，但电话中的“拜登”却敦促她不要这样做。
“这样投票只会使得共和党让特朗普再次当选的计划得逞。”电话中的“拜登”说。
“真是一派胡言。”亨特利很快意识到这个电话是虚假的，但她起初以为这只是预先合成的音频。当她发现电话里的“拜登”可以与人进行对话时，她感到震惊和困惑。
在新罕布什尔州，亨特利并非唯一接到“拜登”电话的人。新罕布什尔州当局的初步调查认为，这些电话运用人工智能技术模仿拜登的声音，目的是阻止人们在该州的民主党初选中投票。该州仍在针对此事进行深入调查。
当地时间2024年1月23日，美国2024年总统选举共和党初选在东北部新罕布什尔州开始，民众参加投票。 图/IC photo
几周后，美国联邦政府宣布禁止使用人工智能生成的声音进行自动电话呼叫。当地时间2月8日，美国联邦通信委员会（FCC）通过一致裁定，根据美国1991年颁布的“限制使用人工和预先录制的语音消息进行骚扰电话”的《电话消费者保护法》，禁止使用人工智能语音克隆工具进行自动电话呼叫，违者可能面临高额罚款。
当地时间2月25日，受雇于美国民主党总统竞选人、国会众议员迪安菲利普斯的政治顾问史蒂夫克雷默承认，自己用低价以人工智能技术炮制出拜登声音打给新罕布什尔州民主党初选选民的电话。克雷默未承认伪造电话受菲利普斯指使，似乎有意把自己的行为描绘成旨在提醒民众防范人工智能遭误导性应用的“义举”。
美国媒体评论称，“拜登”是美国政府、科技公司以及民间社会遇到的首次人工智能大考。在人工智能时代，任何人都可以创造出能够以假乱真的图片，或以惊人的相似度克隆他人声音。接下来，俄罗斯、印度、美国等数十个国家将迎来选举，预计将有数十亿选民参加投票。专家担忧，选举面临着被人工智能严重扰乱的风险。
事实上，在去年的斯洛伐克国民议会选举和今年2月的印度尼西亚总统选举中，人工智能以不同方式参与选举进程的现象已然出现。
“这似乎是来自遥远未来的事情，但实际上这种威胁已经存在。”美国联邦通信委员会主席杰西卡罗森沃塞尔说，每个人都可能成为人工智能虚假信息的受害者。
美国媒体评论人士蒂莫西卡尔近日在一篇文章中写道，科技公司在塑造民主参与活动方面发挥着巨大的作用。“正如我们在2020年（美国）大选中看到的，社交媒体上的虚假信息可能会对现实世界产生危险的后果。”卡尔认为，随着人工智能工具越来越广泛地应用，社交媒体上的虚假信息将会增加。
印度已故政客被“复活”用于支持现任政客
在去年的斯洛伐克国民议会选举中，两名主要总理候选人菲佐和希梅奇卡之间的竞争受到关注。在投票日之前的媒体和候选人静默期间，一段似乎是希梅奇卡私下谈话的音频突然在社交媒体上流传。音频中，类似希梅奇卡的声音讲述了一个向边缘人群贿赂选票来操纵选举的计划。
希梅奇卡的竞选团队对上述音频的真实性予以否认。欧洲媒体报道则称，这段音频显示出经过人工智能加工的迹象。报道还称，相关社交媒体通常对人工智能生成的内容有所限制，但发布者显然在操作中找到了平台的漏洞。
在印度，已故名人、政客被人工智能“复活”，并被用在现任政治人物宣传活动中。穆图韦尔卡鲁南尼迪（Muthuvel Karunanidhi）是印度已故作家、政治家，他曾在1969年至2011年的五个任期内担任泰米尔纳德邦首席部长近二十年，于2018年逝世。
近半年来，由当地一家科技公司利用人工智能技术生成的卡鲁南尼迪的形象在不同场合频繁出现。在泰米尔纳德邦一场政治集会上，人工智能生成的卡鲁南尼迪形象出现在舞台大荧幕上，开口赞扬他的儿子、泰米尔纳德邦首席部长M. K. 斯大林的领导能力。
印度一名开发者Senthil Nayagam表示，他的公司已经使用开源软件生成了45名现任和前任印度政治领导人的形象和声音，包括“圣雄”甘地和印度总理莫迪。Nayagam认为，用人工智能“复活”已故政客只是出于怀旧。但当地观察人士担忧，印度各党派可能用人工智能推出各自党派受民众喜爱的前领导人，用以提升党派的支持率。
《麻省理工学院技术评论》近日刊文称，在人工智能可能威胁到选举的问题上，还有很多想象空间。“真正的危险或许不是我们已经看到的，而是我们还无法想象的。”文章称。
多国政府人工智能监管措施被指进展迟缓
面对人工智能的飞速发展，监管机构似乎一时难以跟上速度。据报道，美国参议员和代表已经提出了数十项有关人工智能监管的法案，但截至目前都没有进入投票环节。欧洲议会虽然通过了有史以来最全面的人工智能监管法案，但该法案预计要到2026年才会生效。
英国则因为在人工智能监管方面行动迟缓受到批评。2月6日，英国政府宣布，其人工智能监管迈出重要一步，即提出“与具有约束力的监管相关的初步想法”，并就此与技术、法律和社会专家进行讨论。英国媒体讽刺道，英国政府“迅速而果断”地迈出了重要一步那就是“原地踏步”。
美国科技政策专家凯蒂哈巴斯就美国政府在人工智能监管领域中的表现称，其行动还远远不够，政府可能是担忧监管会对创新起到一定抑制作用。她表示，在短期看来，监管人工智能生成内容的责任将落在开发这些工具的公司身上。
2月16日，包括OpenAI、谷歌、微软在内的20家科技公司在德国慕尼黑安全会议上签署一项协议，自愿采取“合理的预防措施”，防止人工智能被用于扰乱世界各地的选举。
当地时间2022年2月18日，德国慕尼黑，慕尼黑安全会议会常图/IC photo
协议称，各方同意采取更恰当的手段标记和限制在网上传播的人工智能生成的虚假信息，包括伪造候选人和其他关键利益相关者外观、声音或行为的音频、视频和图像。这些公司还承诺，将分享更多关于“选民如何保护自己不被操纵或欺骗”的信息。
不过，一些分析人士认为，签订协议固然是好事，但这些协议内容如何执行则是另一回事。还有部分人士称20家科技公司签订“自律”协议是一场“公关活动”。
美国媒体刊登的一篇评论文章称，由科技公司签署的这项协议并没有明确禁止使用人工智能伪造内容，而只是标记和限制。另外，即使过去在没有人工智能的情况下，科技公司也没能阻止有关选举的虚假信息的传播。因此，该文作者对协议有效性表示怀疑。
据美国一家非营利组织称，近年来，美国科技公司谷歌、Meta和X总共裁员约4万人，其中，内容审核类别的裁员力度很大。该组织警告说，随着科技公司的裁员，社交媒体特别容易受到使用人工智能工具的不良行为者的利用。
当地时间2023年10月30日，美国华盛顿，美国总统拜登签署了一项关于人工智能的行政命令，为AI建立安全和隐私保护标准，并要求开发人员对AI新模型进行安全测试。图/IC photo
候选人使用人工智能工具分析选民
不过，至少在部分人看来，人工智能的发展对这个全球“超级大选年”来说并非坏事。
在2月举行的印尼选举活动中，国会议员候选人法拉普特里纳莉亚在前往选区拉票时，都会求助于人工智能来了解她的选民。
据当地媒体报道，一款人工智能软件在印尼选举中得到了广泛应用，它通过筛选大数据从官方人口普查到当地社交媒体群组的情感分析以及商品价格和民调数据，生成有关一个地区选民生活的复杂场景。
纳莉亚说，她所在选区有300万选民，使用人工智能分析选民情况将是大势所趋。“（这里）有多少人完成了学业，有多少人营养不良，有哪些工作机会，他们在社交媒体上抱怨什么，以及每个投票站在以前的选举中的表现。人工智能真的帮助我们简化了一切。”她说。
此外，在这场选举中，印尼的候选人不仅用人工智能分析数据，还用它写演讲、生成社交媒体帖文，并为竞选纪念品设计模型。
印尼的政治顾问约塞里扎尔对当地媒体说，虽然人工智能技术可能会被滥用来传播假新闻，但它也有好处。人工智能就像“你的个人专属政治顾问”，以前需要一个团队才能完成的详细分析、战略规划和文案撰写等工作，现在交给人工智能工具就行了。
据里扎尔的不完全统计，约有700名各类别的候选人在此次印尼选举中使用了人工智能工具。该选举产生印尼新一届正副总统、国会议员、地方代表理事会成员和地方议会议员。
关于人工智能生成虚假信息破坏选举的担忧，一些专家则表示，过分夸大风险可能让选民对所有选举信息都变得不信任，反而对选举活动产生不利影响。
“相比人工智能的应用，我更担心围绕人工智能的叙述话语。”哈巴斯说，如果夸大叙事，人们会感觉人工智能生成虚假信息的现象比其实际情况更糟糕，仅凭这一点，人们就可能降低对信息环境仅存不多的信任度。
新京报记者 陈奕凯
编辑 张磊 校对 刘越
