L'IA, une arme inquiétante de la pédocriminalité : les associations sonnent l'alarme

Une menace croissante : la prolifération de contenus pédopornographiques en ligne grâce à l’intelligence artificielle

Les contenus pédopornographiques sur internet connaissent une augmentation alarmante avec le développement des outils d’intelligence artificielle (IA). Cette tendance inquiétante banalise les violences sexuelles contre les enfants et pose des défis majeurs aux autorités chargées de protéger les jeunes victimes réelles. Des fondations en Europe tirent la sonnette d’alarme quant à cette évolution préoccupante.

En septembre 2023, une étude menée par l’Internet Watch Foundation, une association européenne de lutte contre la diffusion de contenus illégaux en ligne, a révélé que plus de 20 000 images générées par intelligence artificielle ont été publiées sur un forum accessible via le dark web en l’espace d’un mois seulement. Cette situation met en lumière l’ampleur du phénomène et souligne la nécessité d’intensifier les mesures de lutte contre la cybercriminalité.

Cette montée en puissance des contenus pédopornographiques est directement liée à la généralisation des IA génératives entre 2022 et 2023. Alors que la plupart des logiciels grand public intègrent des restrictions empêchant la création de contenus à caractère illégal, certains outils accessibles via le dark web échappent à ces contraintes, facilitant ainsi la production de vidéos d’enfants virtuels subissant des violences sexuelles ou d’images d’adolescentes dénudées, avec leurs visages authentiques.

Cette évolution inquiétante a déjà suscité de vives réactions, notamment de la part de l’Internet Watch Foundation, qui a constaté une augmentation significative des signalements liés à ces contenus. Entre avril 2023 et mars 2024, l’association a reçu 70 rapports, puis 74 rapports supplémentaires en seulement six mois, de avril à fin septembre 2024. Cette progression rapide et continue est qualifiée de « glaçante » par l’organisation, soulignant l’urgence d’agir face à cette menace croissante.

Les projections alarmantes pour l’avenir : l’IA au cœur de la diffusion de contenus pédopornographiques

Selon Gabrielle Hazan, cheffe de l’Office des mineurs, un service de police judiciaire dédié à la protection des jeunes et à la lutte contre les violences qui leur sont infligées, la prévalence de l’intelligence artificielle dans la création de contenus pédopornographiques est une tendance préoccupante. En effet, elle a affirmé lors d’une intervention sur France Inter que « dans quelques années, 95% des images pédocriminelles diffusées sur internet seront issues de l’intelligence artificielle ».

Cette anticipation alarmante met en lumière la nécessité de renforcer la réglementation et les dispositifs de surveillance pour contrer l’utilisation abusive des IA dans la création et la distribution de contenus illicites. Les autorités et les organisations de lutte contre la cybercriminalité doivent s’adapter rapidement aux évolutions technologiques pour prévenir les abus et protéger les enfants contre toute forme d’exploitation en ligne.

Face à cette menace grandissante, il est impératif que les pouvoirs publics, les acteurs de l’ind