印度大选,各个政党纷纷利用强大的人工智能(AI)工具来制作深伪宣传品,以看似真实的方式复制名人的面孔和声音,包括去世的名人(即所谓的“幽灵现身”)。印度当局和相关人士都警告,这些AI工具产生的深伪乱象,对于印度选举公正性构成危险且日益严重的威胁。
▲AI生成照片不实描述反对党泰卢固之乡党主席纳依度“被捕入狱”。
对选举公正构成威胁
印度各政党使用AI发送讯息、创造数码化身、即时翻译演讲、从演讲生成歌曲等。南部泰米尔纳德邦的政党利用深伪技术做宣传,以拟真方式复制名人的面孔和声音,让两位过世的政治领袖似乎从坟墓中复活,在选前呼吁支持者团结。
所谓的“幽灵现身”就是在影片中出现已故政治领袖,这已成为泰米尔纳德邦的一种流行竞选手法。女演员出身的印度政治人物贾雅拉莉妲于2016年去世,但她却在一段语音讯息中现声,这段讯息强烈批评坦泰米尔纳德邦的执政党,该政党曾由贾雅拉莉妲的宿敌卡鲁纳尼迪领导。
卡鲁纳尼迪于2018年去世,但如今也出现在AI生成的影片中,戴着招牌黑色墨镜,称赞他的儿子、泰米尔纳德邦现任首长史塔林。跟传统的竞选造势相比,让已逝政治领袖复活也是一种划算的竞选手段,举办传统的竞选造势很费时,相关费用也很高昂。
但是,利用相关技术复制政治人物的声音,并制作看似真实的影片,让选民难以分辨真假,自然引发各界的忧虑。