Amnesty dénonce l'usage par les États-Unis d'outils d'intelligence artificielle comme Babel Street et Palantir pour surveiller migrants, étudiants étrangers et manifestants, entraînant détentions et expulsions et réclamant transparence et audits
Amnesty accuse les autorités US d'utiliser Palantir et Babel Street pour surveiller migrants et manifestants, entraînant détentions; réclame transparence.
Amnesty International a révélé le 21 août une accusation forte : selon l’ONG, les autorités américaines utiliseraient des outils d’intelligence artificielle pour surveiller de manière massive et automatisée des migrants et des manifestants étrangers pro-palestiniens, aboutissant à des détentions et expulsions qui violeraient les droits humains. Erika Guevara‑Rosas, directrice générale de la recherche à Amnesty, affirme que des technologies « intrusives » — notamment des logiciels commercialisés par Babel Street et Palantir — seraient déployées pour analyser en temps réel de très grands volumes de données et cibler des individus sur la base d’évaluations algorithmiques. Amnesty alerte sur les risques de biais, d’erreurs de classification et d’effet dissuasif sur la liberté d’expression des communautés concernées.
Les technologies et les acteurs évoqués
Les deux entreprises citées — Babel Street et Palantir — proposent des outils dédiés à l’analyse de données à grande échelle. Babel Street commercialise un produit nommé Babel X, présenté comme capable d’extraire et d’analyser rapidement des contenus en ligne, y compris sur les réseaux sociaux, souvent à des fins de renseignement open source (OSINT). Palantir est connue pour ses plateformes d’aide à la décision (dont des versions destinées à la sécurité et à l’administration publique) et entretient depuis des années des contrats avec des agences gouvernementales, notamment des secteurs de la défense et du renseignement, ainsi qu’avec des agences d’immigration.
Ces systèmes reposent généralement sur des méthodes probabilistes — apprentissage automatique, classifications automatiques, corrélations de signaux — qui peuvent produire des scores de risque ou des alertes automatiques. Leur efficacité dépend de la qualité des données d’entraînement, des règles de filtrage et des paramètres choisis par leurs opérateurs. Mais des marges d’erreur, des biais intégrés aux jeux de données et des difficultés à expliquer les décisions algorithmiques sont des limites connues et établies par la recherche en IA. Amnesty met en garde contre la possibilité que des contenus pro‑palestiniens soient interprétés incorrectement comme extrémistes ou antisémites par ces systèmes — un type d’erreur aux conséquences concrètes lorsqu’il déclenche des actions administratives ou pénales.
Relevé · Fiabilité des sources citées
Chaque article de Commons se termine par cet examen. Il porte sur les sources citées dans le texte et vous permet de juger sur pièce.
-
Amnesty International est une organisation de défense des droits humains de réputation mondiale, disposant d’équipes de recherche et d’investigation qui publient régulièrement des rapports détaillés. Sa crédibilité institutionnelle est élevée, mais son rôle d’alerte et de plaidoyer implique qu’il faut lire ses conclusions comme des demandes d’enquête et de transparence, et non comme des jugements judiciaires définitifs. Les affirmations d’Amnesty méritent d’être corroborées par des documents, des données matérielles ou des enquêtes indépendantes détaillant la méthodologie d’identification, les cas concrets et les liens directs entre une alerte algorithmique et une décision d’expulsion ou de détention.
-
Les entreprises citées sont des sources différentes : elles fournissent des outils et revendiquent des capacités techniques dans leur documentation commerciale, mais leurs descriptions marketing ne suffisent pas à prouver un usage concret et à large échelle dans des actions répressives. Palantir, en particulier, a fait l’objet de nombreux articles d’investigation et de débats publics concernant ses contrats avec des agences gouvernementales (par exemple ICE aux États‑Unis), ce qui renforce la vérifiabilité de son implication opérationnelle. Babel Street est moins souvent au centre d’enquêtes médiatiques grand public ; il est donc essentiel de demander des preuves documentées (contrats, appels d’offres, logs d’utilisation) pour établir son rôle effectif.
-
Enfin, l’article original ne cite pas de sources gouvernementales ni de documents administratifs : l’absence de ces pièces limite la vérification indépendante. Pour renforcer la démonstration, il faudrait des éléments tels que des contrats publiés, des notes internes, des décisions judiciaires ou administratives faisant référence explicite à des preuves algorithmiques, ainsi que des témoignages documentés de personnes ciblées. Des audits techniques indépendants et des statistiques sur le taux de faux positifs des outils seraient aussi déterminants.
-
En bref, Amnesty soulève des inquiétudes plausibles et fondées sur des risques techniques avérés, mais la démonstration de causalité — que ces outils ont directement provoqué des détentions et expulsions à grande échelle — exige des preuves documentaires et des enquêtes complémentaires.
-
Pour un débat public éclairé, il conviendrait que les autorités publient les contrats et évaluations d’impact, que les entreprises permettent des audits indépendants et que des mécanismes de recours et de transparence soient mis en place afin de concilier impératifs de sécurité et respect des droits fondamentaux.
L’évaluation porte sur les sources citées dans le texte, pas sur la véracité des faits rapportés. Là où les autres médias placent une bio d’auteur, Commons place sa méthode.
