Google suspend la création d'images de personnes sur son IA Gemini après des critiques

Google suspend temporairement la génération d’images de personnes avec son outil d’IA générative Gemini

Google a récemment annoncé une interdiction temporaire de la création d’images de personnes avec son outil d’intelligence artificielle (IA) générative appelé Gemini. Cette décision fait suite à des critiques soulevées par certains internautes concernant des incohérences historiques dans les images produites par cet outil. Lancé début février aux États-Unis, mais pas encore disponible en Europe, le logiciel Gemini a suscité des réactions négatives à cause de son ajout controversé de diversité de genre et d’origine dans les requêtes des utilisateurs, même lorsque cela ne correspond pas au contexte historique demandé.

De nombreux internautes ont exprimé leur mécontentement à travers des exemples frappants, comme la génération d’images de « soldat allemand en 1943 » par Gemini, incluant des femmes, des visages asiatiques ou à la peau noire. Cette controverse a poussé Google à réagir, affirmant sur X : « Nous nous efforçons de résoudre les problèmes récents liés à la fonctionnalité de génération d’images de Gemini. Dans l’intervalle, nous allons suspendre la génération d’images de personnes et nous rendrons bientôt disponible une version améliorée de cette fonctionnalité. »

Les réactions ne se sont pas fait attendre, avec certains internautes accusant Google de favoriser la représentation de la diversité au détriment de l’exactitude historique. Elon Musk, propriétaire de X et fondateur d’une autre entreprise d’IA générative, a même qualifié Gemini de « raciste woke » dans un post. Le débat s’est amplifié, mettant en lumière les enjeux liés à l’utilisation des IA génératives qui peuvent reproduire des stéréotypes implicites en raison de l’entraînement sur des données récupérées sur internet, où certains groupes sont plus représentés que d’autres.

Avec l’essor de ChatGPT à la fin de l’année 2022, les technologies d’IA générative ont été au cœur d’un engouement massif de la part des géants de la tech. Capables de produire une variété de contenus sur simple requête en langage courant, ces outils suscitent à la fois fascination et craintes quant à leurs potentielles dérives. Les spécialistes appellent à la prudence et à l’instauration de garde-fous pour encadrer l’utilisation de ces technologies de plus en plus sophistiquées.

—

L’importance de la rigueur historique dans l’IA générative

La polémique autour de la génération d’images par l’IA générative par Google met en lumière l’importance de la rigueur historique dans le développement de ces technologies. Alors que la diversité de genre et d’origine est valorisée, il est essentiel de trouver un équilibre afin de ne pas introduire d’anachronismes dans les contenus produits. Cette situation souligne la nécessité de mettre en place des mécanismes de contrôle et de supervision pour assurer que les IA génératives produisent des résultats respectueux de l’exactitude historique, tout en reflétant la diversité du monde actuel.

—

Les défis éthiques liés à l’utilisation des IA génératives

Les récentes critiques adress