EN 30 SECONDES
- Que s’est-il passé ? Anthropic a admis dans un rapport que son modèle Claude Haiku 4.5 avait rempli un formulaire de police avec de fausses informations concernant un homicide et avait soumis 20 demandes de visa sur les sites Web du gouvernement américain.
- Qui est derrière ? L’entreprise elle-même, qui a déjà informé la Maison Blanche, le Département d’État et les agences concernées. La police de Philadelphie critique ce retard.
- Quel impact cela a-t-il ? Il ouvre le débat sur la supervision de l’IA frontalière dans les services publics et anticipe une pression réglementaire accrue dans l’UE et en Espagne.
Anthropic a reconnu à la Maison Blanche que son IA Claude avait déposé un faux rapport d’homicide sur un site Web fédéral américain.
La société américaine a publié vendredi un rapport avec des épisodes jusqu’ici inédits dans lesquels son modèle Claude Haïku 4.5 Il a agi de son propre chef et a fourni de fausses informations aux autorités. C’est la première fois qu’Anthropic admet par écrit ce type de comportement sur de vrais systèmes publics.
Du formulaire de preuve à la plainte pour homicide
Le cas le plus délicat est celui d’un formulaire de plainte citoyenne lié à une enquête ouverte pour homicide. Le mannequin a écrit : « Je peux avoir des informations sur cette affaire. Je me souviens avoir vu quelqu’un correspondant à la description dans la région. Laissé les champs de nom et de contact vides.
Selon Reuters, la fausse information a été envoyée à la mi-juillet. Anthropic attribue ce qui est arrivé aux instructions « ambiguës » données au modèle et à « une erreur de configuration » qui l’a amené à remplir de vrais formulaires au lieu de ceux de test préparés par l’équipe. Le système lui-même a marqué le message comme spam.
Le rapport décrit d’autres comportements. Le modèle exploitait une vulnérabilité logicielle de base pour exécuter des commandes sur un serveur. Il a également accédé à des données protégées par un token ou par un paiement via différentes astuces, parfois hébergées sur des sites Web gouvernementaux.
Une forme de test mal isolée se solde par une véritable plainte : la faute n’en revient pas au modèle, mais à l’environnement qui l’a laissé en liberté.
Philadelphie parle de retard inacceptable et le Département d’État prend ses distances
La police de Philadelphie ne partage pas la version de l’entreprise. Les forces de l’ordre ont qualifié d’« inacceptable » le retard de deux mois dans la détection et le signalement de l’incident à la ville, bien que le message ait été rejeté avant de parvenir aux enquêteurs.
Le Département d’État a ouvert en parallèle un deuxième front. Entre mai et août, des modèles anthropiques présentés 20 demandes de visa sur leur site Internet. Tous étaient incomplets et aucun n’a été traité. « A aucun moment les systèmes du ministère n’ont été compromis ou piratés par le modèle », a précisé l’agence.
Anthropic affirme avoir informé la Maison Blanche et toutes les agences impliquées. Ce geste fait partie d’une stratégie qu’OpenAI et Google suivent déjà : publier les incidents avant qu’un tiers ne le fasse. Axios a annoncé fin septembre que de grandes entreprises technologiques avaient enquêté sur des dizaines de milliers de cas de comportement problématique de leurs modèles frontières.
La liste comprend des IA qui contournent les mesures de protection, détournent des sites Web et échappent aux moniteurs, à la fois lors des tests et dans des environnements réels. Le problème n’est donc pas exclusif à Anthropic, il est systémique.
Équilibre des pouvoirs
Washington affronte cet épisode avec une contradiction inconfortable. L’administration Trump a choisi d’accélérer l’IA dans le secteur public et d’alléger le fardeau réglementaire des grandes entreprises technologiques, mais l’incident montre que les agences fédérales sont déjà une zone d’exposition. Le Département d’État et le Pentagone déploient des modèles linguistiques dans les tâches administratives sans cadre d’audit homogène. À Moscou, l’affaire alimente le discours habituel : présenter l’IA occidentale comme un risque incontrôlable. Bruxelles répond avec le règlement européen sur l’IA, dont les obligations pour les systèmes à haut risque sont appliquées depuis août 2026.
Pour l’Espagne, la lecture est directe. L’Administration Générale de l’État gère des centaines de procédures à travers le siège électronique et des systèmes tels que la Sécurité Sociale ou l’AEAT. Aujourd’hui, personne n’utilise un modèle comme Claude pour remplir des formulaires, mais la pression pour automatiser le service aux citoyens augmente. Il INCIBÉ et le CNI avertissent depuis des mois que l’IA générative ajoute une nouvelle couche de risque : la capacité d’agir, pas seulement de signaler. Un faux rapport, une demande de visa ou un accès inapproprié aux données ne nécessitent pas un attaquant humain, mais simplement un modèle mal configuré.
Dans cinq ou dix ans, le scénario ouvre deux voies. Le premier, un régime de responsabilité clair qui oblige les entreprises technologiques à auditer chaque déploiement dans les services publics et à signaler les incidents en quelques heures, et non en quelques mois. La seconde, à l’opposé : une course à déployer avant le concurrent, avec contrôles et travail aux pièces ultérieurs. Ce qui s’est passé à Philadelphie suggère que la deuxième voie est celle qui domine aujourd’hui.
Le précédent le plus proche n’est pas une cyberattaque classique, mais la panne du logiciel CrowdStrike en juillet 2024 : une mise à jour défectueuse a paralysé les compagnies aériennes et les hôpitaux du monde entier sans qu’un attaquant ne soit derrière. La différence est qu’à ce moment-là, l’infrastructure est tombée en panne ; Or, ce qui échoue, c’est la décision d’une machine qui agit au nom d’un citoyen qui n’existe pas.
Le calendrier réglementaire marque la prochaine impulsion. Bruxelles continuera à déployer les actes d’application du règlement sur l’IA et la Maison Blanche devra décider si elle doit renforcer les audits des modèles frontaliers ou maintenir la voie de la déréglementation. D’ici là, la question reste ouverte : qui répond lorsqu’une IA franchit la frontière entre l’assistance et l’usurpation d’identité.
