DOSSIER. Face aux cyberviolences, les timides progrès de l’AI Act

Deepfakes pornographiques, cyberharcèlement de masse automatisé, usurpation d’identité… L’intelligence artificielle traîne son lot d’abus, peu abordés lors des discussions européennes qui ont conduit à l'adoption de l'AI Act, officiellement entériné par le Conseil européen le 21 mai.

Des images dénudées aux visages de personnalités publiques ou d’anonymes, partagées à des millions d’internautes. Il y a quelques mois, c’était la chanteuse américaine Taylor Swift qui en était victime sur la plateforme X (ex-Twitter) : les deepfakes pornographiques prennent de l’ampleur sur les réseaux sociaux. 

Ces images créées de toutes pièces grâce à l’intelligence artificielle sont utilisées pour harceler et dénigrer des femmes. En creux, ces montages démontrent comment l’automatisation permise par l’intelligence artificielle sert aux acteurs malveillants à décupler les cyberviolences : bots créés par centaines pour cyberharceler, possibilité d’usurper l’identité ou d’imputer des paroles haineuses… Les exemples sont nombreux.

« Les enjeux éthiques de l’IA sont liés à son application étendue et à sa capacité à être mise à l’échelle très facilement, observe Giada Pistelli, éthicienne au sein de la start-up spécialisée en IA, Hugging Face. Son impact social, sur l’individu et la société, peut être positif ou négatif [en fonction de] plein de facteurs à prendre en considération. L’intérêt de l’éthique est très vaste en IA et nous oblige à nous remettre en question en tant qu’humains. » 

Vaste : le terme est faible. Le nombre de deepfakes a été multiplié par 10 entre 2022 et 2023 selon l’entreprise spécialisée dans la vérification de données Sumsub. Face aux utilisations hostiles de l’IA qui s’immiscent dans ce flux, l’arsenal législatif national et européen se développe depuis plusieurs années, essayant de rattraper des technologies toujours plus avancées.

Dernière tentative en date de réguler le secteur de l’intelligence artificielle, l’AI Act, officiellement adopté par le Conseil européen le 21 mai, présentait l’opportunité de s’emparer de l’enjeu des cyberviolences et de prévenir les risques d’atteintes à l’intégrité et à la dignité des personnes. Si le texte n’est pas entièrement silencieux à ce sujet, il a pourtant déçu certaines associations et juristes.

L'échelle des risques doit protéger des pires abus