近期，新加坡数字发展和信息部（MDDI）提出新立法，旨在遏制选举期间使用深度伪造和其他数字操纵内容，防止错误信息影响选民的决定。

Deepfake指深度伪造技术，由“深度学习”（deep learning）和“伪造”（fake）两个词组合而成。指由人工智能生成的、看上去很逼真但现实生活中不存在的人或物体。Deepfake的最常见形式是人类图像、声音、视频等的生成和操控。随着生成式人工智能（Gen AI）技术的快速发展，深度伪造内容的风险也在增加。Deepfake技术可以生成逼真的虚假视频或图像，冒充他人，散播虚假信息，篡改信息等。深度伪造技术的风险不仅限于诈骗和敲诈，还可能涉及侵犯隐私、名誉损害、社会信任危机等多个方面。

近年来全球范围内的Deepfake技术滥用现象屡见不鲜，新加坡境内相关案件也频发。新加坡演员陈泂江和李铭顺的脸部被人用深度伪造技术，移植到色情视频中并在网上散布，对两位演员的个人名誉和职业生涯造成了严重影响。新加坡当局也深受其害，不法分子利用深度伪造来复制新加坡时任总理李显龙和时任副总理黄循财的声音和面部表情宣传投资平台；新加坡国防部长吴作栋也曾被人利用深度伪造技术，制作了一段宣传加密货币的视频，并在社交媒体上发布。此类视频对当事人个人名誉和国家相关部门的公信力造成了损害。

新加坡总理李显龙（左），新加坡副总理兼财政部长黄循财

据报道，最近在美国，哈里斯和特朗普竞选期间的虚假视频广泛流传，正式打响“首届AI驱动的选举”。此类造假视频对选举的公正性和候选人的形象造成严重影响。同时，世界各国也在出台法规来打击选举期间的深度伪造，比如韩国政府在今年1月至2月中旬期间发现了129起被认为违反公职人员选举法的深度伪造，在今年4月选举前对政治AI生成的内容实施了为期90天的禁令。

为了保障选举过程中信息的真实性和完整性，新加坡政府决定立法禁止选举中使用Deepfake技术。新立法将特别针对可能影响选举结果的逼真仿冒音频、自动电话、伪造图像视频和人工智能生成的竞选材料。禁止在选举期间使用深度伪deepfake技术和其他数字技术制作有关候选人的广告内容；禁止发布由数字技术生成或操纵的涉及候选人的“逼真”内容，特别是那些描绘了候选人没有说过或做过的事情的内容。

新加坡政府还计划制定一项行业规范，要求特定的社交媒体平台采取措施，防止和打击虚假内容的传播。违反相关规定的社交媒体平台可能面临最高100万新元的罚款，而个人可能面临最高1,000新元的罚款、最高一年的监禁，或两者兼施。

该项立法将在下一次议会提交审议，如果该法案获得通过，它将修改《议会选举法》和《总统选举法》，增加新的保障措施来保护选举的公正性。并补充现有的《防止在线虚假和操纵法》（POFMA），以加强选举期间的在线内容监管。此前新加坡数字发展和信息部长兼智能国家和网络安全部部长JosephineTeo女士也透露将会开启一项价值5000万新元的计划，旨在开发检测和打击错误信息和深度伪造的工具。

选举是民主国家政治生活中的重要组成部分，其公正性和透明度直接关系到社会的稳定和谐。通过立法遏制深度伪造技术在选举中的应用，确保选民能够基于真实的信息做出投票决策，提升公众对媒体、政府和选举制度的信任度。有助于维护社会稳定，防止因虚假信息引发的社会动荡。