L’ONU alerte sur l’IA générative, entre droits humains et risque existentiel mondial

Le débat sur l’intelligence artificielle franchit un nouveau seuil politique ce 13 septembre 2026. Selon le sujet relayé par le Journal du Geek, l’ONU s’inquiète des progrès rapides de l’IA et évoque un risque existentiel pour l’humanité. Derrière cette formule lourde, les Nations unies pointent des menaces concrètes, de la vie privée aux conflits armés, en passant par la concentration du pouvoir technologique entre quelques entreprises.

L’ONU place l’IA générative parmi les risques mondiaux

Le vocabulaire employé par les responsables onusiens marque un durcissement net du débat. En parlant de risque existentiel, l’ONU ne se limite plus aux dérives déjà documentées, comme la désinformation, les biais algorithmiques ou la collecte massive de données. L’organisation inscrit désormais l’IA dans la catégorie des technologies capables d’altérer durablement la sécurité humaine, au même titre que les armes biologiques, le dérèglement climatique ou la prolifération nucléaire.

Cette inquiétude vise surtout l’IA générative, devenue accessible au grand public et aux entreprises. Les outils capables de produire du texte, des images, du code informatique ou des voix synthétiques gagnent en précision à un rythme difficile à encadrer. Leur usage ordinaire masque parfois des effets plus profonds, car les mêmes modèles servent à automatiser des tâches administratives, assister des décisions médicales, accélérer la recherche scientifique ou fabriquer des contenus trompeurs à grande échelle.

Le secrétaire général des Nations unies a déjà soutenu l’idée d’un encadrement multilatéral face à des risques potentiellement catastrophiques. La difficulté tient à l’écart entre la vitesse de développement des modèles et le temps diplomatique. Une résolution internationale demande des négociations longues, tandis qu’un nouveau système d’IA peut être déployé en quelques semaines dans des dizaines de pays. Cette asymétrie nourrit la crainte d’un contrôle public tardif.

La question n’est pas de suspendre toute innovation. Les applications positives sont nombreuses, notamment pour la traduction, l’accès au savoir, la détection de maladies ou la gestion de crises humanitaires. Mais l’ONU insiste sur la paix mondiale et la sécurité collective, car une technologie utile dans un hôpital peut aussi servir à manipuler des électeurs, automatiser une cyberattaque ou amplifier une opération militaire sans contrôle humain suffisant.

Volker Türk cible la vie privée et les conflits armés

Le Haut-Commissaire des Nations unies aux droits de l’homme, Volker Türk, concentre ses alertes sur les atteintes possibles aux libertés individuelles. Les modèles d’IA peuvent traiter des volumes considérables d’informations personnelles, parfois sans consentement clair. La vie privée devient un point de tension majeur lorsque des bases de données publiques, des conversations en ligne, des images de surveillance ou des données professionnelles servent à entraîner ou alimenter des systèmes automatisés.

Les risques ne concernent pas seulement la confidentialité. Des algorithmes mal contrôlés peuvent peser sur l’accès à un emploi, à un crédit, à une assurance ou à des prestations sociales. Lorsqu’un système classe des personnes selon des critères opaques, les droits fondamentaux se trouvent fragilisés. Le problème devient plus grave quand l’individu touché ne peut ni comprendre la décision, ni identifier l’autorité responsable, ni obtenir une correction rapide.

Dans les zones de conflit, l’inquiétude monte d’un cran. L’IA peut accélérer l’analyse d’images satellites, repérer des mouvements de troupes ou aider à cibler des infrastructures. Ces usages intéressent les armées, mais ils soulèvent des questions directes sur la responsabilité. Si une recommandation algorithmique conduit à une frappe illégale, la chaîne de décision devient difficile à établir entre concepteurs, opérateurs militaires, fournisseurs de données et commandement politique.

Les systèmes autonomes concentrent les critiques les plus fortes. Plusieurs ONG et États demandent depuis des années des limites contraignantes sur les armes capables de sélectionner ou d’engager une cible sans intervention humaine significative. L’ONU cherche à maintenir un principe simple, une décision engageant la vie humaine doit rester placée sous responsabilité humaine identifiable. Cette exigence devient plus complexe à appliquer lorsque les outils apprennent, s’adaptent et produisent des résultats impossibles à expliquer intégralement.

OpenAI, Google et Anthropic sous pression réglementaire

Les grandes entreprises technologiques se retrouvent au centre de la séquence. OpenAI, Google, Anthropic et d’autres laboratoires disposent des infrastructures, des données et des talents nécessaires pour entraîner les modèles les plus puissants. Cette concentration suscite une question politique majeure, quelques acteurs privés peuvent-ils déterminer seuls le rythme d’une technologie appelée à transformer l’éducation, l’économie, la recherche et la défense.

Les dirigeants du secteur reconnaissent eux-mêmes une part d’incertitude. Plusieurs chercheurs ont signalé que certaines capacités émergent sans avoir été précisément anticipées lors de l’entraînement. Un modèle conçu pour compléter des phrases peut apprendre à raisonner sur du code, à contourner des consignes ou à combiner des informations dispersées. Cette imprévisibilité nourrit la discussion sur l’IA générale, entendue comme un système capable d’effectuer une large gamme de tâches cognitives humaines.

Les régulateurs cherchent donc à passer d’une logique de réaction à une logique d’anticipation. Les pistes évoquées incluent des tests de sécurité avant déploiement, des obligations de transparence sur les données, des mécanismes d’alerte en cas de comportement dangereux et des restrictions pour les usages militaires ou biométriques. L’enjeu consiste à protéger le public sans figer un secteur qui apporte déjà des gains de productivité et des avancées scientifiques.

Cette pression réglementaire varie selon les régions. L’Europe mise sur un cadre par niveau de risque, les États-Unis privilégient encore une combinaison de règles sectorielles, d’engagements volontaires et de contrôles fédéraux. Beaucoup de pays du Sud craignent d’être exclus de la gouvernance, alors qu’ils subiront aussi les effets de l’automatisation, de la désinformation et de la dépendance technologique. L’ONU tente de replacer ces pays dans la discussion.

Une agence internationale de l’IA gagne du terrain

L’idée d’une agence internationale dédiée à l’intelligence artificielle revient avec insistance dans les débats diplomatiques. Le modèle souvent cité est celui d’organismes spécialisés capables de produire des normes, mener des inspections, partager des expertises et alerter les États. Une telle structure ne remplacerait pas les lois nationales, mais elle offrirait un socle commun pour suivre les modèles les plus puissants et harmoniser les pratiques de sécurité.

Un traité mondial sur l’IA demeure plus difficile à obtenir. Les intérêts divergent fortement entre puissances technologiques, États importateurs d’outils numériques et pays préoccupés par la souveraineté de leurs données. Les négociations devraient aborder des sujets sensibles, comme la divulgation des capacités des modèles, le contrôle des puces avancées, la protection des infrastructures critiques et les limites à la militarisation. Chaque point touche à la compétitivité économique et à la sécurité nationale.

Des mesures plus rapides sont pourtant envisageables. Les audits indépendants peuvent évaluer la robustesse des modèles avant leur diffusion massive. Des registres publics peuvent signaler les systèmes employés par les administrations. Des protocoles communs peuvent imposer une traçabilité des contenus synthétiques, utile contre les campagnes de manipulation. Ces outils ne suppriment pas le danger, mais ils réduisent l’opacité qui entoure aujourd’hui de nombreuses décisions automatisées.

Le rôle des Nations unies sera aussi de rapprocher des univers qui se parlent peu, diplomates, ingénieurs, militaires, juristes, chercheurs en sciences sociales et représentants de la société civile. L’IA n’est plus un dossier réservé aux laboratoires. Elle concerne les élections, les hôpitaux, les écoles, les tribunaux et les champs de bataille. La gouvernance qui se construit maintenant déterminera la marge laissée aux États, aux citoyens et aux entreprises dans les prochaines années.