OpenAI prend des mesures contre l'utilisation de ses IA pour la désinformation politique
La société californienne OpenAI, créatrice de logiciels d’intelligence artificielle générative tels que ChatGPT ou DALL-E, a pris des mesures pour éviter que ses programmes ne soient utilisés à des fins de désinformation politique. Dans un communiqué publié le lundi 15 janvier, OpenAI a déclaré vouloir s’assurer que sa technologie ne soit pas utilisée pour nuire au processus démocratique.
OpenAI a indiqué qu’elle était en train d’évaluer l’efficacité potentielle de ses outils en matière de persuasion individuelle. Jusqu’à ce que ces évaluations soient terminées, l’entreprise empêchera les individus de créer des applications pour des campagnes politiques ou militantes. Elle s’oppose également à la création de chatbots qui se font passer pour de vraies personnes, comme des candidats ou des institutions gouvernementales. De plus, l’utilisation de ses programmes pour dissuader les gens de voter est également proscrite.
En ce qui concerne ChatGPT, OpenAI veillera à ce qu’il renvoie plus souvent vers des contenus provenant de sources d’information reconnues afin d’éviter la propagation de fausses informations inventées par le logiciel.
La popularité de ChatGPT a permis de mettre en lumière l’intelligence artificielle générative, qui peut créer des textes ou des images similaires à ceux produits par un humain après avoir été entraînée sur des milliards d’exemples. Cependant, ces programmes ont également facilité la création de deepfakes, des contenus visuels très réalistes pouvant être utilisés pour nuire à des individus.
OpenAI tient à souligner les efforts déjà entrepris pour limiter ce risque, tel que le blocage de la création d’images contenant des personnes réelles dans les programmes de génération d’images DALL-E.
La société travaille également sur un logiciel permettant de déterminer si une image a été générée grâce à DALL-E, qui sera bientôt mis à disposition de testeurs. En attendant, OpenAI prévoit d’intégrer des « identifiants numériques » dans les images créées en début d’année. Ces identifiants sont conçus par la Coalition pour la provenance et l’authenticité des contenus (C2PA), qui regroupe des entreprises telles que Microsoft, Sony, Adobe, Nikon et Canon.
