Les médias trompeurs créés à l’aide de l’intelligence artificielle dans les 90 jours suivant une élection devraient inclure des informations claires en vertu d’un projet de loi en cours d’examen par l’Assemblée législative.
Si cela devient une loi, ce serait la première fois que l’État réglemente l’IA dans une loi, a déclaré le député Matt Birong (Démocrate de Vergennes).
« Il s’agit de maintenir, dans le paysage médiatique et social, l’intégrité des informations diffusées et mises à la disposition du public », a déclaré Birong.
Le projet de loi a gagné du terrain lors de la dernière session en réponse à une campagne d’appels automatisés illégaux utilisée avant la primaire de 2024 dans le New Hampshire. Les appels utilisaient une voix « deepfake » générée par l’IA, qui ressemblait à celle du président de l’époque, Joe Biden, qui exhortait les électeurs à sauter la primaire.
La possibilité que les fichiers audio, images et vidéos générés par l’IA puissent être utilisés pour influencer les élections constitue une préoccupation majeure pour ceux qui s’intéressent à la sécurité et à l’intégrité des élections. Le président Donald Trump et son administration ont partagé du contenu généré par l’IA, renforçant les craintes que cela ne devienne monnaie courante.
Ces dernières semaines, la Maison Blanche a partagé une image modifiée numériquement de l’arrestation à Minneapolis de l’avocate et militante Nekima Levy Armstrong. L’image originale la montrait calme alors qu’elle était emmenée par un agent fédéral. La Maison Blanche a publié une image manipulée montrant Armstrong en train de pleurer hystériquement et avec la peau plus foncée.
Une vidéo raciste publiée la semaine dernière sur le compte Truth Social de Trump dépeint Barack et Michelle Obama comme des singes. La Maison Blanche a initialement défendu le clip en le qualifiant de « mème Internet », mais il a été supprimé après que même les Républicains aient exprimé leur indignation.
Le défi lors de la rédaction du projet de loi était de trouver un moyen de protéger l’intégrité des informations électorales sans violer les droits à la liberté d’expression des citoyens, a déclaré Birong. Cela a été accompli en grande partie non pas en restreignant la liberté d’expression des gens, mais en exigeant la divulgation de la méthode utilisée pour créer le contenu, a-t-il déclaré.
Le projet de loi stipule que les gens ne peuvent pas, dans les 90 jours suivant une élection, « publier, communiquer ou distribuer de toute autre manière » tout « média synthétique » qu’ils savent être « trompeur ou frauduleux », à moins que le matériel ne contienne une divulgation indiquant clairement : « Ce média a été manipulé ou généré par la technologie numérique et décrit un discours ou une conduite qui n’a pas eu lieu. »
Pour les enregistrements audio, tels que les publicités radiophoniques, la même information doit être lue d’une voix claire au début et à la fin de l’enregistrement et au milieu des enregistrements de plus de deux minutes.
Le projet de loi exempte les médias « constituant une satire ou une parodie ». Sont également exemptés les médias tels que les journaux et les magazines qui publient ou rendent compte de ces médias « si la publication indique clairement que les médias synthétiques trompeurs et frauduleux ne représentent pas avec précision le discours ou la conduite de la personne représentée ».
Le projet de loi comprend des pénalités de 1 000 $ pour une première infraction ou jusqu’à 15 000 $ pour des infractions multiples et les messages ou mèmes incitent à la violence. Le bureau du procureur général ou le procureur de l’État pourrait enquêter sur les violations, et une personne lésée par de tels médias pourrait demander réparation devant les tribunaux civils.
