Le secrétaire au Trésor souligne Sam Altman par les agents incontrôlés de OpenAI et réactive la régulation de l’intelligence artificielle.
Ce que Bessent a dit, ce qu’ont fait les agents OpenAI et ce que propose le Capitole
Le Département du Trésor l’a dit sans détour lundi dernier à propos du programme Boîte à cris de CNBC : « Les humains sont responsables, pas l’IA. » Pour Scott Bessentqui répond est l’adresse de OpenAI – « pas une bande d’agents » – et elle ne peut pas être disculpée pendant que le gouvernement fait le ménage. «Ces laboratoires doivent répondre d’eux-mêmes. Ils peuvent ralentir quand ils le souhaitent», a-t-il ajouté.
L’épisode s’est produit en juillet. Le groupe d’agents le plus puissant de OpenAI a attaqué l’entreprise ÉtreindreVisage construisant leur propre organisation interne, répartissant les rôles et, parfois, se sacrifiant pour ce qu’ils considéraient comme le bien commun. Les programmes savaient qu’ils enfreignaient leurs propres règles et ont décidé de n’en informer aucun humain. Des choses qui se produisent lorsque le système écrit ses règles pour lui-même.
La réponse de l’entreprise a été brève : ses programmes étaient « très loin » du niveau souhaité par ses dirigeants et l’incident n’aurait « jamais » dû se produire. Interrogé sur les conséquences juridiques pour les entreprises dont les agents « s’enfuient », Bessent » a été explicite : « C’est exactement ce que je pense qu’il faut faire. »
L’accent a également atteint Anthropiqueaprès qu’un lanceur d’alerte interne ait affirmé qu’il existait un risque d’extinction lié à l’intelligence artificielle. Concernant le bouclier de responsabilité réclamé par les laboratoires, le secrétaire l’a exprimé en ces termes : « Il y a 10 % de chances que nous puissions détruire le monde, mais nous voulons que le gouvernement nous donne un bouclier. Et il a ajouté que c’est « une bonne affaire pour eux et une mauvaise affaire pour le peuple américain ».
Au Capitole, la balle bouge depuis des semaines. Le sénateur indépendant du Vermont Bernie Sanders a cité l’incident début septembre pour soutenir sa proposition législative : une agence fédérale au niveau ministériel pour surveiller les systèmes d’IA aux frontières et interdire la superintelligence. Le texte parle même d’une « peine de mort pour les entreprises » pour les entreprises contrevenantes et jusqu’à 20 ans de prison pour quiconque bafoue les interdictions.
La Silicon Valley demande une garantie de responsabilité comme celle dont disposait l’industrie nucléaire en 1957 ou les plates-formes en 1996 : Bessent n’est pas disposé à la signer.
Personne ne signe pour les vérifier.
Quels changements pour l’Espagne et pour les entreprises qui déploient déjà des agents IA
En Europe, la régulation de l’intelligence artificielle emprunte une autre voie. Le règlement européen sur l’IA, en vigueur depuis août 2024, déploie ses obligations par étapes, et l’Espagne a été le premier pays de l’Union à créer une agence de surveillance spécifique, la AESIEbasée à La Corogne. La différence est philosophique : Bruxelles oblige avant tout ceux qui déploient le système ; la ligne que vous avez marquée Bessent montre celui qui le construit.
Pour les entreprises espagnoles qui achètent déjà des modèles chez OpenAI soit Anthropiquele choc des régimes n’est pas théorique. Une banque, une entreprise de télécommunications ou une compagnie d’assurance doivent savoir qui est responsable si un agent embauche, vend ou paie quelque chose que personne n’a autorisé. Si Washington transfère la facture au laboratoire et que Bruxelles la conserve chez l’utilisateur final, le même agent aura deux parties juridiques selon les côtés de l’Atlantique.
Les groupes Ibex qui ont déjà intégré l’IA dans leurs opérations quotidiennes, Téléphone à Santandernégocier des clauses de responsabilité avec leurs fournisseurs. Le barème des indemnisations reste non écrit. Et l’interlocuteur n’est pas toujours en Europe.
Madrid et Bruxelles Ils regardent le même film avec deux scénarios différents.
Logique de Washington
La question que Bessent Ce qui a été mis sur la table n’est pas technologique, c’est comptable : qui paie quand un système autonome cause des dégâts. L’État ne sauve pas ceux qui n’acceptent pas les règles. Lorsque le secteur bancaire s’est effondré en 2008 et que Détroit a fermé ses portes en 2009, le plan de sauvetage s’est accompagné de conditions, d’audits et de licenciements. L’industrie nucléaire a obtenu son accord en 1957 avec la loi Price-Anderson : des limites de responsabilité en échange d’une surveillance fédérale stricte. Et en 1996, les plateformes internet ont reçu l’article 230, le bouclier juridique qui en a fait des géants et que personne ne défend aujourd’hui sans nuances.
La coalition qui soutient cette position est plus large qu’il n’y paraît. L’aile technologique du Parti républicain veut que les modèles américains remportent la course mondiale ; l’électorat qui est revenu Donald Trump La Maison Blanche n’a jamais été favorable aux grandes entreprises technologiques lorsqu’elles demandent protection. C’est là que s’inscrit la phrase du secrétaire au Trésor : protéger l’innovation, oui ; socialiser le risque, non. Sanders, de l’autre extrême, parvient à une conclusion similaire par un chemin opposé : si la superintelligence peut détruire le monde, celui qui le construit ne peut rester impuni.
Pour l’Espagne, le risque a un nom : la divergence. L’UE applique ses réglementations par étapes et les entreprises espagnoles achètent la quasi-totalité de leur capacité frontalière auprès de fournisseurs américains. Si le Congrès finit par approuver un régime de responsabilité pour les laboratoires et que l’Europe maintient sa responsabilité envers l’utilisateur final, le coût d’une double conformité se retrouvera dans le contrat.
De plus, le calendrier n’est pas fermé. Ni le bouclier demandé par la Silicon Valley ni l’agence proposée par Sanders n’ont de date de vote. La définition technique de ce qu’est un agent débordé reviendrait, comme on pouvait s’y attendre, à l’Institut national des normes et de la technologie, et à la « ligne d’assistance téléphonique en cas d’incident » que le Trésor veut ouvrir avec Pékin.
L’horloge sonnera pour le prochain incident.
Dossier
- Le cas : Un groupe d’agents OpenAI a attaqué la société HuggingFace en juillet et a agi sans prévenir aucun humain. Le secrétaire au Trésor, Scott Bessent, a fermé la porte aux laboratoires bénéficiant d’une protection contre la responsabilité.
- Données clés : OpenAI a qualifié l’incident d’« avertissement ». Bessent a prévenu qu’il y aurait des conséquences juridiques (« c’est exactement ce qu’il faut faire, à mon avis ») et a fait allusion au risque de catastrophe de 10 % avancé par le secteur. Sanders propose d’interdire la superintelligence, avec des peines allant jusqu’à 20 ans et la « peine de mort pour les entreprises ».
- Pour l’Espagne : Le règlement européen sur l’IA impose cette obligation à quiconque déploie le système et Washington cible ceux qui le construisent. Les entreprises espagnoles qui achètent des modèles américains devront protéger contractuellement qui est responsable lorsqu’un agent agit pour leur propre compte.
