À l’ONU, les dirigeants de l’intelligence artificielle appellent à la vigilance, à la sécurité et à une coopération internationale renforcée

À l’ONU, les dirigeants de l’IA appellent à la prudence

Les principaux dirigeants du secteur de l’intelligence artificielle ont appelé à la vigilance et à une coopération accrue entre les États lors d’une réunion du Conseil de sécurité des Nations unies, à New York. Mercredi 23 septembre, Sam Altman, directeur général d’OpenAI, Dario Amodei, dirigeant d’Anthropic, et le Français Clément Delangue, cofondateur de la plateforme Hugging Face, étaient invités à présenter leur analyse de l’évolution de l’intelligence artificielle et des risques associés à cette technologie.

Cette audition intervient alors que les progrès de l’IA suscitent des inquiétudes croissantes. Les systèmes développés par les entreprises spécialisées deviennent plus puissants et leur amélioration pourrait, selon les responsables entendus à l’ONU, s’accélérer. La question n’est donc plus seulement celle des performances techniques, mais aussi celle de la capacité des gouvernements et des entreprises à encadrer ces évolutions.

Sam Altman a estimé que la progression actuelle de l’intelligence artificielle « nécessite une attention extrême ». Le patron d’OpenAI a notamment insisté sur l’accélération possible du développement des modèles. Selon lui, à mesure que le processus de conception et d’amélioration de l’IA sera davantage automatisé, le rythme des progrès pourrait augmenter rapidement.

Ce scénario appelle, d’après le dirigeant, une attitude équilibrée. Sam Altman a mis en garde contre deux réactions opposées : l’optimisme excessif, qui conduirait à minimiser les risques, et le catastrophisme, qui empêcherait de considérer les bénéfices potentiels de la technologie. Il a ainsi plaidé pour une approche intermédiaire, fondée sur la prudence, l’évaluation des risques et la recherche de solutions concrètes.

Sam Altman plaide pour une coopération internationale

Comme il l’a déjà fait à plusieurs reprises, le dirigeant d’OpenAI a également appelé à renforcer la coopération entre les pays. Il a rappelé que, dans l’histoire, des États en concurrence ou entretenant des relations difficiles avaient parfois réussi à s’accorder lorsqu’ils étaient confrontés à une technologie nouvelle présentant des enjeux communs.

Pour Sam Altman, cette logique devrait de nouveau s’appliquer à l’intelligence artificielle. Le développement de cette technologie dépasse en effet les frontières nationales et concerne des domaines multiples. Dans le cadre de l’ONU, son message revient à considérer la régulation de l’IA comme un sujet nécessitant un dialogue entre puissances, y compris lorsque celles-ci ne partagent ni les mêmes intérêts ni les mêmes priorités.

Son intervention ne constitue toutefois pas une proposition détaillée de mécanisme international dans le texte rapporté. Elle traduit plutôt une position générale en faveur d’une coordination entre les gouvernements et les entreprises. La forme concrète que pourrait prendre cette coopération n’est pas précisée dans les éléments disponibles.

Anthropic promet de ralentir si nécessaire

Dario Amodei a, de son côté, adopté une position centrée sur la sécurité des modèles. Le dirigeant d’Anthropic a assuré que son entreprise ralentirait « autant que nécessaire » le rythme de développement de son intelligence artificielle afin de s’assurer que chaque nouveau modèle commercialisé soit réellement sûr.

Cette déclaration constitue, selon le récit fourni, un engagement unilatéral inédit de la part du responsable. Elle intervient dix jours après son appel à un ralentissement coordonné entre les principaux acteurs de l’IA. Cette initiative collective ne s’était pas concrétisée au moment de son intervention devant le Conseil de sécurité.

La distinction entre un engagement individuel et un accord commun est importante. Une entreprise peut décider de suspendre ou de ralentir certains développements, mais l’efficacité d’une telle démarche dépend aussi du comportement de ses concurrents. Sans coordination, un acteur qui ralentirait seul pourrait craindre de perdre du terrain dans une industrie particulièrement compétitive.

Une source à considérer avec prudence

Les informations reprises dans cet article proviennent du texte fourni, qui attribue les principales déclarations à Sam Altman et Dario Amodei. Leur statut de dirigeants d’entreprises directement engagées dans le développement de l’intelligence artificielle constitue une source de première main pour connaître leur position et leurs engagements publics.

Cette source doit néanmoins être lue avec prudence lorsqu’elle évoque les risques généraux de l’IA ou la portée future des engagements annoncés. Les déclarations rapportées relèvent en partie de prises de position publiques et ne permettent pas, à elles seules, d’évaluer la sécurité réelle des modèles ni de vérifier l’application concrète des promesses. Le texte disponible ne fournit par ailleurs pas le détail de l’intervention de Clément Delangue, pourtant cité parmi les participants. En l’absence d’autres documents ou de compte rendu officiel, les éléments concernant sa contribution restent donc limités.