IA sous surveillance en Californie, garde-fous renforcés, pertes de contrôle et sécurité, ce que Gavin Newsom veut imposer

Le gouverneur démocrate de Californie, Gavin Newsom, a signé vendredi 18 septembre 2026 un décret destiné à renforcer l’encadrement de l’intelligence artificielle. Le texte demande de nouvelles recommandations d’experts sur les risques liés aux modèles les plus avancés, dont la perte de contrôle, les incidents de sécurité et la possibilité d’interrompre un système en cas de dérapage. Cette initiative confirme le rôle moteur de la Californie, État où se concentrent une grande partie des entreprises les plus influentes du secteur.

Gavin Newsom cible les pertes de contrôle des modèles

Le nouveau décret signé par Gavin Newsom vise d’abord les situations dans lesquelles une intelligence artificielle échappe aux procédures prévues par ses concepteurs. L’administration californienne veut obtenir des recommandations techniques sur les moyens d’identifier, de documenter et d’interrompre ces incidents avant qu’ils ne produisent des effets difficiles à contenir. Le sujet n’est plus seulement théorique pour les régulateurs, car les modèles récents peuvent générer du code, piloter des agents logiciels et interagir avec des services numériques externes.

La mesure la plus commentée concerne le principe d’un kill switch, un dispositif permettant de suspendre le fonctionnement d’un système jugé dangereux. Dans l’industrie, cette notion recouvre des réalités différentes, allant d’un arrêt manuel par une équipe de supervision à des mécanismes automatisés de coupure en cas d’anomalie. La Californie ne fixe pas encore de règle définitive, mais elle demande aux experts de déterminer quels standards seraient crédibles pour les sociétés développant les modèles les plus puissants.

Le décret met aussi l’accent sur le signalement public des incidents. Le comité d’experts devra examiner l’hypothèse d’obliger les entreprises à déclarer les épisodes impliquant une perte de contrôle de leurs systèmes. Une telle mesure rapprocherait l’IA de secteurs déjà soumis à des obligations de notification, comme l’aviation, la cybersécurité ou la santé. Pour les autorités, l’objectif consiste à éviter que des défaillances graves restent confinées à l’intérieur des entreprises.

Cette démarche donne une place importante à la preuve technique. Newsom avait déjà défendu une approche fondée sur l’évaluation scientifique des risques, plutôt que sur des sanctions immédiates. Le décret poursuit cette ligne en demandant des avis spécialisés avant de transformer certaines recommandations en exigences contraignantes. Dans un secteur où la performance commerciale avance plus vite que les contrôles publics, Sacramento cherche à construire une base réglementaire capable de résister aux contestations juridiques et industrielles.

La Californie accélère les audits indépendants de l’IA

Le décret intervient quelques jours après la promulgation de deux textes votés au Parlement de Californie, qui posent les bases d’un mécanisme d’audit indépendant des entreprises d’intelligence artificielle et de leurs modèles. Ces lois privilégient la transparence et la documentation des risques, avec une attention particulière portée à la sécurité. Le nouvel acte signé par le gouverneur vise à accélérer la mise en œuvre de ce cadre, tout en précisant les points qui doivent encore être tranchés par les experts.

La Californie occupe une position particulière dans ce débat. L’État abrite de nombreux acteurs majeurs de l’IA, des laboratoires de recherche, des investisseurs et des fournisseurs d’infrastructures numériques. Une règle adoptée à Sacramento peut donc avoir des effets au-delà du territoire californien. Les entreprises installées dans la Silicon Valley vendent leurs services à des clients nationaux et internationaux, ce qui donne au cadre local une portée économique beaucoup plus large que celle d’une réglementation ordinaire d’État.

Le choix de l’audit répond à une difficulté centrale: les modèles les plus avancés fonctionnent souvent comme des systèmes opaques, même pour leurs développeurs. Les autorités cherchent à créer des procédures permettant à des tiers qualifiés de vérifier les tests de sécurité, les mesures de confinement, les plans de réponse aux incidents et les décisions internes prises avant le lancement d’un produit. Cette logique peut contraindre les entreprises à formaliser des pratiques parfois présentées jusque-là comme relevant du secret industriel.

Le précédent de 2024 éclaire la méthode actuelle. Gavin Newsom avait alors mis son veto à une proposition de loi prévoyant de lourdes sanctions contre les développeurs en cas de dérives, notamment lors de cyberattaques. Il avait jugé le texte trop large et insuffisamment étayé scientifiquement. En 2026, l’exécutif californien revient avec une architecture plus progressive, centrée sur la transparence, l’expertise et la publication de données exploitables par les pouvoirs publics comme par les chercheurs.

OpenAI, Nvidia et Anthropic surveillés depuis Sacramento

Le décret s’adresse indirectement aux entreprises qui dominent la chaîne de valeur de l’intelligence artificielle. OpenAI, Nvidia et Anthropic incarnent trois composantes essentielles du secteur: les modèles généralistes, les processeurs spécialisés et les systèmes conçus avec une promesse de sécurité renforcée. La Californie ne cite pas nécessairement chaque groupe dans ses obligations futures, mais son action vise clairement les acteurs capables de déployer des technologies à très grande échelle.

Anthropic est particulièrement observée depuis l’engagement pris par son dirigeant, Dario Amodei, d’intégrer des observateurs indépendants chargés d’évaluer les pratiques de sécurité de l’entreprise. Cette annonce rejoint une demande croissante des régulateurs: ne plus se contenter des déclarations volontaires des entreprises. Les autorités veulent des contrôles vérifiables, réalisés par des profils capables d’accéder aux informations techniques pertinentes. Cette évolution peut modifier le rapport entre les laboratoires privés et les pouvoirs publics.

Nvidia se trouve dans une position différente, mais tout aussi stratégique. Ses puces graphiques alimentent une large part des modèles les plus puissants. Même si le décret californien porte surtout sur les risques logiciels, la question matérielle reste centrale: limiter, tracer ou auditer certains usages dépend aussi des infrastructures de calcul. Les fabricants de composants peuvent donc se retrouver associés à des discussions sur la sécurité de l’IA, même lorsque leur métier principal n’est pas le développement de modèles.

Pour OpenAI, la pression réglementaire intervient dans un contexte de forte exposition publique. Les produits conversationnels et les agents automatisés sont désormais utilisés par des particuliers, des entreprises, des administrations et des développeurs. Un incident majeur pourrait avoir un impact rapide sur des millions d’utilisateurs. Sacramento cherche à éviter que la course commerciale impose son calendrier aux règles de sûreté. Les entreprises devront démontrer que leurs procédures internes dépassent le registre de la communication et produisent des garanties mesurables.

Washington et Sacramento divergent sous Donald Trump

L’initiative californienne prend aussi une dimension politique nationale. Selon RFI, Gavin Newsom agit à contre-courant du gouvernement Trump sur ce dossier. La Californie confirme une stratégie fréquente dans les grands débats technologiques américains: lorsqu’un désaccord apparaît avec Washington, l’État utilise son poids économique pour fixer ses propres standards. Cette méthode a déjà existé dans l’environnement, la protection des consommateurs ou les normes automobiles.

La différence d’approche porte sur le niveau d’intervention publique acceptable face à l’innovation. Les défenseurs d’un encadrement limité estiment qu’une régulation trop précoce peut freiner la compétitivité américaine, surtout face à la Chine. Les partisans d’un cadre plus strict répondent que les modèles d’IA les plus puissants peuvent provoquer des dommages rapides, dans la cybersécurité, la désinformation, l’automatisation de tâches sensibles ou la conception d’outils dangereux. La Californie tente de placer le débat sur le terrain des preuves et des procédures.

Cette divergence crée une situation complexe pour les entreprises. Un laboratoire d’IA peut être soumis à des attentes différentes selon l’État, le niveau fédéral et les marchés étrangers. L’Union européenne dispose déjà d’un cadre structuré avec son règlement sur l’IA, tandis que plusieurs pays expérimentent des dispositifs sectoriels. Dans ce contexte, le modèle californien peut devenir une référence pratique pour les entreprises américaines cherchant à anticiper des exigences plus larges.

Le calendrier politique renforce l’enjeu. Gavin Newsom, figure démocrate nationale, utilise la régulation technologique comme un marqueur de gouvernance. Mais l’efficacité du décret dépendra des recommandations rendues par les experts, puis de leur traduction dans des obligations applicables. Les prochains mois diront si la Californie parvient à imposer un standard opérationnel aux géants de l’IA, ou si le secteur conserve l’essentiel du contrôle sur ses propres règles de sécurité.