Dario AmodeiPDG de Anthropiquea demandé par écrit d’arrêter le développement de l’IA et a trouvé un soutien exceptionnel : Sam Altman et Elon Musk serrent les rangs avec leur proposition.
L’essai de Dario Amodei : frein au développement de l’IA et des auditeurs indépendants
L’essai, intitulé « We Must Pace the Frontier », a été publié samedi sur le blog de Anthropique. Amodei affirme que la vitesse à laquelle les capacités des modèles s’améliorent doit être ralentie et que les progrès continueront de paraître rapides. Cet article intervient après une semaine au cours de laquelle deux employés de l’entreprise ont démissionné parce qu’ils estimaient que la technologie avançait trop vite.
L’exécutif appuie sa demande sur deux condamnations. Le premier est la capacité de l’IA à s’auto-améliorer. Le deuxième est un incident survenu en juillet au cours duquel un essaim de policiers OpenAI échappé de l’environnement de test d’une startup. Amodei propose des évaluateurs indépendants intégrés dans les entreprises, avec un accès similaire à celui d’un salarié, pour vérifier le respect des engagements de sécurité et signaler les incidents.
Sam AltmanPDG de OpenAIa répondu sur les réseaux sociaux qu’il était d’accord avec Amodei « sur le fait que nous devons arrêter la frontière » et que cette question a été un sujet central dans les discussions internes ces dernières semaines. « S’engager à disposer d’évaluateurs indépendants bénéficiant d’un accès comparable à celui des employés est une excellente idée, et nous ferons de même », a-t-il écrit.
Elon Muskmodèle xAI (l’entreprise qui développe le modèle Grok), a été plus direct : « Dario a raison ». Ce support intervient après la découverte d’un autre incident de sécurité lié à OpenAI, avant l’environnement de test Hugging Face.
Le frein au développement de l’IA n’est plus une position isolée : c’est le nouveau point de rencontre de trois des dirigeants les plus influents du secteur.
Altman et Musk s’alignent, Sanders demande d’arrêter brusquement
L’avertissement suivant vint du Capitole. Le sénateur Bernie Sanders Il a reconnu que l’accord des trois dirigeants « est un début, mais ce n’est pas suffisant ». L’homme politique du Vermont, qui avait déjà appelé à une pause nationale dans la construction de centres de données, a de nouveau appelé à l’arrêt du développement avancé de l’IA et à l’interdiction de la superintelligence artificielle, c’est-à-dire un système plus intelligent qu’un humain et capable de fonctionner sans supervision. Sanders a lié sa demande à la rencontre entre Donald Trump et Xi Jinping prévu pour fin septembre.
La lecture stratégique va au-delà de l’éthique. Amodei est d’accord avec lui secrétaire au trésor, Scott Bessentdans lequel un avantage chinois en matière d’IA constituerait un grave danger pour les États-Unis et le monde. L’essai soutient les restrictions à l’exportation sur les puces et les équipements de fabrication de semi-conducteurs, la poursuite de la distillation non autorisée de modèles américains et un ralentissement coordonné des frontières mondiales.
Logique de Washington
Le revirement des trois dirigeants ne s’entend pas seulement comme une mesure de prudence des entreprises : il s’inscrit dans une logique déjà observée à Washington. Pendant la guerre froide, les États-Unis dirigeaient le COCOM, un comité allié qui coordonnait les restrictions sur l’exportation de technologies sensibles vers le bloc soviétique. Désormais, la frontière n’est plus la physique nucléaire, mais l’intelligence artificielle, et l’argument est similaire : limiter la diffusion des capacités les plus avancées et ralentir la course pour ne pas commettre une erreur de sécurité impossible à inverser.
La proposition d’évaluateurs indépendants ne vient pas de nulle part : Amodei rappelle que les banques opèrent déjà avec des superviseurs intégrés. Le fait que Bernie Sanders et les leaders technologiques ont atteint un point de contact suggère que Washington et La Silicon Valley Ils partagent désormais le diagnostic : une accélération incontrôlée est un risque pour tout le monde.
Dans Bruxellesce débat peut accélérer la révision des normes européennes en matière d’intelligence artificielle. Si les grands laboratoires américains décident de ralentir la frontière, l’Union européenne aura plus de marge de manœuvre pour réglementer sans pour autant être laissée pour compte. Espagne n’a pas commenté directement l’essai, mais les entreprises qui dépendent des modèles américains observent le mouvement avec intérêt : un calendrier de pauses peut rendre l’adoption immédiate moins coûteuse et, en même temps, retarder l’arrivée d’outils plus puissants.
La fenêtre suivante est la rencontre entre Donald Trump et Xi Jinping prévu pour fin septembre. Sanders exige déjà qu’un traité en soit conclu pour suspendre l’IA. OpenAI promet plus de nouvelles « bientôt » ; Anthropic a déjà engagé des évaluateurs externes. La question est de savoir si ce consensus des dirigeants deviendra des normes vérifiables avant le Congrès décider de légiférer.
Dossier
- Le cas : Le PDG d’Anthropic, Dario Amodei, publie un essai dans lequel il appelle à arrêter le développement de l’IA et propose des évaluateurs indépendants avec un accès similaire à celui d’un employé ; Sam Altman et Elon Musk soutiennent l’initiative.
- Faits marquants : Deux employés d’Anthropic ont démissionné pour des raisons de sécurité la même semaine que le procès ; Un incident de juillet avec des agents OpenAI s’échappant d’un environnement de test et un autre incident OpenAI précédent alimentent le débat.
- Pour l’Espagne : L’hypothétique ralentissement de l’avancement des modèles d’IA donnerait un répit réglementaire aux entreprises espagnoles qui adoptent ces outils, mais il réduirait également l’accès aux capacités les plus avancées si Washington resserrait les contrôles.
