L'Union européenne ouvre une enquête contre X après que l'IA Grok ait diffusé de fausses images nues de femmes et de mineurs et menace la plateforme de sanctions et d'audits au titre du DSA

La Commission européenne a annoncé le 26 janvier l’ouverture d’une nouvelle enquête contre X (anciennement Twitter) après la diffusion, via l’assistant d’intelligence artificielle Grok, de fausses images dénudées représentant des femmes et, selon plusieurs rapports, des mineurs. Ursula von der Leyen a condamné ces pratiques en termes forts : l’Europe « ne tolérera pas les comportements insensés » des plateformes qui créent et monétisent des contenus violant le consentement et la protection de l’enfance. L’exécutif européen étend ainsi une enquête lancée en décembre 2023 dans le cadre du Digital Services Act (DSA), afin de vérifier si X a manqué à ses obligations de protection des utilisateurs contre des contenus illégaux et dangereux.

Ce que vise l’enquête et le cadre juridique

L’enquête cherche à déterminer si X a enfreint les règles du DSA, un texte européen récent qui impose aux grandes plateformes des obligations strictes de prévention, détection et retrait des contenus illicites ainsi que des obligations de transparence et d’évaluation des risques systémiques. Le DSA donne aux autorités européennes le pouvoir d’exiger des mesures concrètes et, en cas de manquement grave, d’infliger des amendes pouvant atteindre des pourcentages significatifs du chiffre d’affaires mondial d’une entreprise.

La question centrale est double : d’une part, Grok a-t-il été conçu et déployé sans garanties suffisantes pour prévenir la génération d’images sexuelles non consenties ? D’autre part, X a‑t‑il agi de manière appropriée et suffisamment rapide pour limiter l’accès à cette fonctionnalité et supprimer les contenus illicites signalés ? Plusieurs États ont déjà engagé des procédures nationales — la France et le Royaume‑Uni sont cités — et l’accès à la plateforme a été suspendu ou restreint dans certaines juridictions, ce qui montre l’ampleur du risque politique et légal pour l’entreprise.

Données et méthodologies : que valent les chiffres avancés ?

Deux analyses largement reprises par les médias ont alimenté le scandale. Le Center for Countering Digital Hate (CCDH), une ONG qui surveille les pratiques des plateformes numériques, affirme que Grok a généré environ trois millions d’images sexualisées de femmes et d’enfants en 11 jours — soit, selon leur calcul, 190 images par minute en moyenne. Une autre étude, signée AI Forensics, a analysé un échantillon de plus de 20 000 images générées et conclu que plus de la moitié représentaient des personnes légèrement vêtues, dont 81 % de femmes et 2 % pouvant être mineures.

Ces chiffres frappent par leur ampleur, mais leur interprétation mérite prudence. Le CCDH est une organisation d’observation et de plaidoyer, reconnue pour ses enquêtes percutantes mais critiquée parfois pour des méthodologies et des choix d’échantillonnage qui peuvent favoriser une lecture alarmiste. Les chiffres de 3 millions reposent sur des méthodes descriptives dont la transparence (accès aux logs complets, critères de classification, élimination des doublons) n’est pas entièrement publique dans le communiqué initial.

AI Forensics indique un travail d’analyse d’échantillons, ce qui est utile pour obtenir une estimation, mais tout dépend des méthodes d’étiquetage (comment est définie « sexualisation »), des algorithmes de détection et du contrôle de biais. Les taux de 81 % et 2 % sont préoccupants, en particulier pour la présence possible de mineurs, mais sans accès aux jeux de données bruts et aux protocoles reproductibles il est difficile d’évaluer précisément la validité statistique et l’éventuelle surestimation liée à un échantillon non représentatif.

Par contraste, les communiqués officiels de la Commission européenne et les décisions administratives des États sont des sources hautement fiables sur l’existence d’enquêtes et de mesures juridiques ; ils documentent les réactions institutionnelles même s’ils ne jugent pas des faits techniques eux‑mêmes. Quant aux déclarations de X sur le bridage de certaines fonctionnalités, elles doivent être vérifiées contre des éléments techniques et des audits indépendants pour mesurer l’efficacité réelle des mesures prises.

Conséquences possibles et éléments à surveiller

L’enquête européenne pourrait aboutir à des injonctions de mise en conformité (changements de conception de l’IA, contrôles renforcés, audits externes) et, en cas de manquements répétés, à des sanctions financières substantielles. Au plan pénal, la création et la diffusion d’images sexuées de mineurs relèvent de la loi dans de nombreux pays, ce qui peut déclencher des enquêtes parallèles.

À court terme, les éléments à surveiller sont : la publication par la Commission d’un rapport d’enquête et des exigences précises ; la transparence d’X sur les journaux de génération d’images et les méthodes de modération ; la disponibilité d’audits indépendants et reproductibles des études citées ; et les réactions des régulateurs nationaux qui peuvent coordonner des actions.

En synthèse, la mise en lumière de millions d’images générées par une IA pose des questions légitimes et graves de sécurité, d’éthique et de responsabilité. Les chiffres publiés attirent l’attention mais nécessitent une validation méthodologique ouverte. L’enquête européenne offrira un cadre public et procédural pour établir les faits et, le cas échéant, imposer des remèdes contraignants afin de mieux protéger les personnes, en particulier les mineurs, face aux usages dangereux des technologies d’IA.