Une mère et sa fille adolescente sont engagées dans une lutte pour obtenir une meilleure protection suite à la diffusion d’images de nudité, fabriquées par l’intelligence artificielle (IA), de la jeune fille et de ses camarades de classe dans un lycée du New Jersey. L’incident, survenu cet été mais signalé à l’école le 20 octobre, a vu des images IA de jeunes filles diffusées via Snapchat. Les familles affectées pressent les législateurs d’adopter des mesures robustes contre l’abus d’images par IA.
Parallèlement, un incident semblable est sous enquête de l’autre côté des États-Unis où un adolescent a utilisé l’IA pour produire et partager des images explicites d’étudiants près de Seattle. Cela souligne l’urgence de mesures protectrices face à l’augmentation des contenus explicites créés par IA, visant spécifiquement les femmes et les enfants. La multiplication de ces contenus est très importante, avec plus de 143’000 nouvelles vidéos deepfake en ligne cette année.
Les poursuites civiles
Au-delà du New Jersey, un adolescent de la région de Seattle aurait créé des images explicites de camarades via l’IA, motivant des demandes de réglementation fédérale pour des protections uniformes à travers le pays, visant à protéger les victimes et à dissuader les auteurs potentiels.
Concernant les recours juridiques, des États comme le Texas, le Minnesota et New York ont criminalisé la pornographie deepfake non consensuelle, mais leur efficacité varie. En Californie et Illinois, les victimes peuvent intenter des poursuites civiles. Le New Jersey envisage sa propre législation pour interdire la pornographie deepfake, avec des sanctions sévères pour les diffuseurs.
Une loi contre les deepfakes pornographiques
La sénatrice du New Jersey, Kristin Corrado, a proposé une loi contre la pornographie deepfake, soulignant l’importance d’une loi fédérale pour des protections cohérentes. Il existe un mouvement en faveur d’une loi fédérale qui sanctionnerait les entreprises exploitant des applications de création de deepfakes, en ligne avec le décret du président Joe Biden pour combattre l’usage abusif de l’IA dans la création de contenus explicites.
Face à cette question pressante, reste à déterminer si la régulation fédérale est la solution contre l’essor des contenus explicites par IA. Avec certains législateurs favorisant la divulgation des contenus IA et l’interdiction du partage de deepfakes pornographiques, des préoccupations émergent sur une possible violation du premier amendement, exprimées par des organisations comme l’American Civil Liberties Union et l’Electronic Frontier Foundation. La lutte pour protéger les individus vulnérables dans un environnement numérique en évolution continue, cherchant un équilibre entre la protection des personnes et la liberté d’expression face à cette menace technologique.
