OpenAI, Anthropic et Google DeepMind préparent un organe de supervision des risques liés à l’intelligence artificielle

Un projet d’autorégulation pour encadrer les modèles les plus avancés

OpenAI, Anthropic et Google DeepMind travaillent à la création d’un organe chargé de superviser les risques liés à l’intelligence artificielle, a indiqué OpenAI à l’Agence France-Presse le 15 septembre 2026. Cette initiative intervient alors que les appels à renforcer le contrôle des systèmes d’IA se multiplient, notamment autour des modèles les plus puissants et de leurs conséquences potentielles.

Le projet s’inspire d’une proposition formulée en juillet par Demis Hassabis, dirigeant de Google DeepMind. Celui-ci avait évoqué la création d’une structure comparable à la Financial Industry Regulatory Authority, ou FINRA, l’organisme américain d’autorégulation du secteur financier. La FINRA encadre notamment les sociétés de courtage sous la supervision des autorités fédérales.

Dans le domaine de l’intelligence artificielle, l’objectif serait de mettre en place une instance spécialisée, financée par les entreprises du secteur mais dotée d’une gouvernance suffisamment indépendante. Son conseil pourrait réunir des experts extérieurs ainsi que des représentants de l’écosystème dit « ouvert », qui rassemble les développeurs de modèles accessibles, téléchargeables et modifiables.

Des évaluations avant la commercialisation

Selon le scénario présenté par Demis Hassabis, les entreprises développant les systèmes d’IA les plus avancés devraient soumettre leurs nouveaux modèles à un examen avant leur mise à disposition du public. Ces évaluations porteraient en priorité sur la sécurité et sur les risques susceptibles d’être associés aux capacités des modèles.

Une telle procédure viserait à compléter les contrôles internes déjà réalisés par les entreprises. Elle pourrait également contribuer à établir des méthodes communes pour tester les systèmes d’intelligence artificielle, comparer leurs performances et identifier d’éventuelles vulnérabilités avant leur commercialisation.

Le fonctionnement exact de cette instance reste toutefois à définir. Le texte d’origine ne précise ni son calendrier de création, ni ses moyens précis, ni la nature des sanctions qu’elle pourrait appliquer. Il ne permet pas non plus de savoir si les examens seraient obligatoires pour l’ensemble des acteurs du secteur ou seulement pour les entreprises développant les modèles les plus puissants.

Un cadre juridique nécessaire pour éviter les risques de concurrence

La création d’un organisme de surveillance directement porté par les entreprises d’intelligence artificielle soulèverait d’importantes questions juridiques. Une loi serait vraisemblablement nécessaire pour fixer ses compétences et protéger son fonctionnement, mais aussi pour éviter que les sociétés participantes ne soient accusées de s’entendre ou de fausser la concurrence.

Cette difficulté est liée à la position des entreprises concernées. OpenAI, Anthropic et Google DeepMind développent des technologies concurrentes et cherchent à progresser rapidement dans un secteur stratégique. Leur participation à une même structure pourrait faciliter l’élaboration de règles communes, mais elle nécessiterait aussi des garanties sur la transparence des décisions et sur l’indépendance des experts.

La place accordée aux acteurs de l’IA ouverte constitue un autre enjeu. Ces développeurs ne disposent pas toujours des mêmes ressources financières ou techniques que les grandes entreprises américaines. Leur présence au sein de la future organisation pourrait permettre de mieux prendre en compte leurs contraintes et d’éviter que les règles ne soient conçues uniquement par les principaux groupes commerciaux.

La possibilité d’un ralentissement coordonné

Demis Hassabis a également évoqué la possibilité que cette instance coordonne un ralentissement du développement de l’intelligence artificielle. Une telle mesure pourrait être envisagée si les dispositifs de sécurité ne progressaient pas au même rythme que les capacités des modèles.

Cette perspective témoigne des inquiétudes suscitées par l’évolution rapide de l’IA, mais elle reste présentée comme une hypothèse. Aucun mécanisme concret de suspension ou de réduction du rythme de développement n’est détaillé dans l’article d’origine. La mise en œuvre d’une telle décision supposerait en outre l’accord d’un grand nombre d’acteurs et un cadre légal clairement établi.

Une source principale identifiable, mais des informations encore limitées

La source principale citée est l’Agence France-Presse, à laquelle OpenAI a déclaré que des discussions étaient en cours. L’AFP est une agence de presse reconnue, dont les dépêches sont généralement soumises à des procédures de vérification et de recoupement. Toutefois, dans ce cas précis, l’information repose en partie sur la déclaration d’une entreprise directement concernée par le projet.

La proposition initiale est attribuée à Demis Hassabis et à un message publié en juillet. Cette source primaire est utile pour comprendre l’idée, mais elle présente nécessairement le point de vue de son auteur. La prudence s’impose donc : l’existence de discussions entre les entreprises ne signifie pas qu’un accord définitif a été conclu, ni que l’organisme verra effectivement le jour.

À ce stade, le projet apparaît ainsi comme une initiative en cours de discussion plutôt que comme une nouvelle autorité déjà opérationnelle. Sa crédibilité dépendra de son indépendance, de son encadrement légal et de sa capacité à imposer des évaluations réellement transparentes à l’ensemble des acteurs concernés.