IA à l’ONU, Sam Altman alerte sur les modèles autonomes et le code, ce que les États doivent encadrer d’urgence

Sam Altman a placé la progression de l’intelligence artificielle au centre d’un débat diplomatique rare devant les Nations unies. Le patron d’OpenAI estime que les modèles les plus avancés exigent une vigilance renforcée, en raison de leur capacité croissante à agir, écrire du code, automatiser des décisions et contribuer à la génération suivante de systèmes. Son intervention devant le Conseil de sécurité de l’ONU intervient au moment où plusieurs responsables publics et dirigeants technologiques réclament des garde-fous plus stricts pour limiter les risques de perte de contrôle, de concentration du pouvoir et d’atteintes aux droits fondamentaux.

Sam Altman alerte l’ONU sur la perte de contrôle

Sam Altman a présenté devant l’ONU une inquiétude désormais centrale dans le secteur technologique: la vitesse de progression des modèles dépasse la capacité des institutions à les encadrer. Le dirigeant d’OpenAI a insisté sur la nécessité de conserver des systèmes alignés sur les décisions humaines, sans déléguer aux machines des choix dont les conséquences politiques, économiques ou militaires seraient trop lourdes.

Le cadre du Conseil de sécurité donne un poids particulier à cet avertissement. Cette enceinte traite habituellement des conflits armés, des sanctions internationales et des crises menaçant la paix. L’arrivée de l’IA à ce niveau de discussion traduit un déplacement du sujet, longtemps cantonné à l’innovation et à la productivité, vers les questions de souveraineté, de sécurité collective et de stabilité des institutions.

Le patron d’OpenAI a identifié deux scénarios critiques. Le premier porte sur la perte de maîtrise des systèmes, si les techniques de sécurité progressent moins vite que les capacités des modèles. Le second concerne une concentration excessive du pouvoir entre les mains d’un État, d’une entreprise ou d’un nombre réduit de laboratoires capables d’imposer leurs choix à des millions d’utilisateurs.

La formule d’attention extrême retenue par Sam Altman s’inscrit dans une ligne prudente. OpenAI affirme renforcer ses examens internes avant les entraînements les plus sensibles, notamment lorsque des gains de capacité sont attendus. Ces procédures restent privées pour une large part, ce qui nourrit une demande de contrôle externe, portée par des chercheurs, des ONG et des responsables politiques.

L’IA agentique inquiète le Haut-Commissariat aux droits humains

Le Haut-Commissariat de l’ONU aux droits humains a décrit des risques sans précédent liés aux systèmes capables d’exécuter des tâches avec une autonomie croissante. L’IA agentique ne se limite pas à produire du texte ou des images. Elle peut planifier une séquence d’actions, interagir avec des outils numériques, prendre des décisions intermédiaires et intervenir dans des environnements professionnels complexes.

Selon le Haut-Commissariat, des défaillances de ces systèmes peuvent avoir des effets en chaîne. Un agent mal contrôlé dans un réseau hospitalier, une administration fiscale ou une plateforme logistique peut interrompre des services essentiels. Les risques ne relèvent pas seulement de la science-fiction: ils touchent des systèmes déjà connectés aux bases de données, aux messageries, aux logiciels de réservation ou aux outils de cybersécurité.

Les infrastructures critiques constituent le point d’alerte le plus sensible. Les réseaux électriques, les télécommunications, les transports, les services d’urgence et les organismes financiers reposent sur des logiciels interconnectés. L’introduction d’agents autonomes dans ces environnements peut accroître la rapidité opérationnelle, mais elle augmente aussi la surface d’erreur, de manipulation ou de sabotage.

La dimension démocratique occupe une place importante dans l’analyse onusienne. Les droits humains peuvent être fragilisés par des systèmes opaques, utilisés pour surveiller, trier, recommander ou influencer. Le droit à la vie privée, l’accès à la santé, la sécurité et même le droit à l’alimentation peuvent être concernés lorsque des décisions automatisées orientent l’accès aux ressources, aux aides publiques ou aux services de base.

Dario Amodei défend un ralentissement coordonné des modèles

Dario Amodei, dirigeant d’Anthropic, a pris position pour une décélération de certains développements afin de mieux comprendre les risques. Son message ne vise pas l’arrêt de la recherche, mais un rythme plus maîtrisé. Cette position a reçu un soutien public de Sam Altman, signe d’un accord ponctuel entre deux acteurs concurrents sur la nécessité de ralentir les phases les plus sensibles.

Le débat porte notamment sur l’amélioration récursive autonome, souvent résumée par le sigle RSI. Cette approche consiste à laisser un système contribuer à sa propre amélioration, par la conception de méthodes, de codes ou d’architectures plus performantes. Les partisans y voient un accélérateur scientifique majeur. Les critiques redoutent une progression difficile à comprendre, puis difficile à contenir.

Amodei estime que l’avancée rapide des modèles depuis l’été impose une vigilance technique accrue. Les systèmes deviennent plus efficaces pour aider à construire la génération suivante d’outils d’intelligence artificielle. Cette boucle réduit le délai entre deux sauts de capacité et rend les évaluations plus complexes, car chaque nouveau modèle peut modifier le cadre de risque du précédent.

Pour OpenAI comme pour Anthropic, l’enjeu consiste à préserver une avance commerciale sans donner l’impression d’une fuite en avant. Les entreprises veulent continuer à vendre des outils performants aux développeurs, aux administrations et aux grands groupes, tout en prouvant qu’elles disposent de méthodes d’évaluation robustes. Cette équation demeure fragile, car la compétition internationale récompense la vitesse autant que la prudence.

Les États cherchent des garde-fous face aux géants de l’IA

Les débats à l’ONU montrent la difficulté des États à encadrer une technologie développée principalement par des entreprises privées. Un petit nombre de laboratoires concentre les talents, les données, les puces spécialisées et les infrastructures de calcul. Cette concentration donne aux acteurs industriels une influence directe sur la trajectoire d’une technologie présentée comme stratégique pour l’économie et la défense.

L’autorégulation du secteur est souvent décrite comme une première étape, mais elle ne répond pas seule aux enjeux de transparence et de responsabilité. Les chartes internes, les tests avant lancement et les comités de sécurité peuvent réduire certains risques. Ils demeurent néanmoins soumis aux arbitrages commerciaux des entreprises, qui doivent satisfaire leurs investisseurs, leurs clients et leurs partenaires technologiques.

La question centrale porte sur la gouvernance internationale. Si un pays impose des règles strictes tandis qu’un autre favorise une approche plus souple, les entreprises peuvent déplacer leurs activités ou exploiter les écarts réglementaires. Les responsables onusiens plaident pour une harmonisation minimale, afin d’éviter une course où chaque acteur abaisse ses exigences pour garder une avance industrielle.

Les prochains mois seront marqués par des négociations entre gouvernements, agences spécialisées, chercheurs et laboratoires d’IA. Les sujets les plus concrets concernent l’audit indépendant des grands modèles, le contrôle des capacités dangereuses, la traçabilité des usages sensibles et la responsabilité en cas de dommage. Le Conseil de sécurité donne à ces discussions une portée nouvelle, en les reliant directement à la stabilité internationale.