OpenAI dévoile un outil de détection d'images générées par l'IA

OpenAI et la lutte contre la désinformation grâce à l’IA générative

Une technologie pour détecter les images générées par l’IA

OpenAI, la start-up renommée pour ses avancées dans le domaine de l’intelligence artificielle, propose désormais un outil innovant permettant de détecter si des images numériques ont été créées par des programmes d’IA. Cette technologie vise à lutter contre la désinformation en identifiant les contenus générés de manière artificielle. Selon des tests internes réalisés sur une version antérieure de l’outil, celui-ci parvient à identifier correctement environ 98% des images créées par Dall-E 3, un des produits phares d’OpenAI. De plus, moins de 0,5% des images non générées par de l’IA ont été erroneusement attribuées à Dall-E 3, soulignant ainsi l’efficacité de cet outil.

Cette avancée technologique s’avère prometteuse dans la lutte contre la propagation de contenus falsifiés sur internet. Cependant, OpenAI reconnaît que la performance de son programme peut être affectée lorsque les images créées avec Dall-E 3 sont modifiées par la suite ou lorsqu’elles proviennent d’autres modèles d’IA. Malgré ces limites, l’initiative d’OpenAI constitue une étape significative dans la protection de l’authenticité des contenus en ligne.

Des mesures pour garantir l’authenticité des contenus numériques

Afin de renforcer la traçabilité et l’authenticité des contenus numériques, OpenAI a décidé d’introduire des marques en filigrane sur les images générées par ses modèles d’IA. Cette démarche s’inscrit dans le cadre des normes établies par la Coalition for Content Provenance and Authenticity (C2PA), une initiative de l’industrie technologique visant à instaurer des standards techniques pour vérifier l’origine et l’authenticité des contenus en ligne.

Cette récente annonce d’OpenAI intervient alors que d’autres géants de la technologie, tels que Meta (regroupant Facebook et Instagram) et Google, ont également pris des mesures pour étiqueter les contenus générés par l’IA en conformité avec les directives de la C2PA. Meta a prévu de commencer à apposer des étiquettes sur ces contenus dès le mois de mai, tandis que Google a rejoint cette initiative en faveur de la transparence et de la qualité des informations partagées en ligne.

La question de l’authentification des contenus sur internet est devenue cruciale avec l’avènement de l’IA générative, qui permet de produire des contenus variés, tels que des images, des vidéos et des enregistrements audio, de manière automatisée. Cette technologie, bien que porteuse de nombreuses possibilités, soulève également des préoccupations quant à l’utilisation malveillante des contenus générés artificiellement à des fins de désinformation ou de manipulation.

En conclusion, les avancées technologiques d’OpenAI et d’autres acteurs majeurs de l’industrie visent à garantir la crédibilité et l’authenticité des contenus numériques, tout en sensibilisant le public aux enjeux liés à la propagation de