L’avertissement de Bill Gates sur CNN, il a laissé une phrase inconfortable : la superintelligence est « plus dangereuse » que la drogue.
Le fondateur de Microsoft Il l’a dit dimanche dans l’émission État de l’Unioncompte tenu de Jake Tapper. Il ne parlait pas de science-fiction, mais des douze prochains mois.
Superintelligence : le terme Donald Trump et une bonne partie de l’industrie ont adopté le nom d’intelligence artificielle avancée – apportera, selon lui, « de nombreuses surprises négatives ». Le diagnostic pointe vers le court terme et non vers un avenir lointain.
Ce que Gates a dit, mot pour mot, et pourquoi cela met la Silicon Valley mal à l’aise
Tapper lui a demandé si ses thèses correspondaient à l’étiquette de « catastrophisme » que le PDG de OpenAI, Sam Altmans’applique à ceux qui anticipent les pires scénarios. Gates ne l’a pas catégoriquement rejeté : « Tous les dirigeants responsables de l’IA, y compris Sam Altman et Dario Amodei, disent au monde que c’est très préoccupant. »
Vint ensuite la comparaison qui circulera pendant des semaines. « La façon dont cela est présenté sous forme de scénarios négatifs peut être exagérée », a-t-il concédé. Quand les gens agissent comme si l’humanité entière était en danger imminent, cela va trop loin. Mais comparé aux voitures, aux avions ou aux drogues – des choses pour lesquelles je suis heureux que nous ayons la capacité réglementaire d’assurer la sécurité des personnes – c’est plus dangereux que n’importe lequel d’entre eux. Gates place la superintelligence au-dessus des voitures, des avions et de la drogue.
Le front qui l’inquiète le plus n’est pas celui qui se rebelle. C’est le crime. « Ce qui sera probablement le plus dramatique au cours de l’année prochaine, ce sont les cyberattaques », a-t-il déclaré, car il existe un modèle économique connu : vous menacez de provoquer une perturbation, vous déplacez le marché ou vous demandez une rançon. « Le véritable danger à l’heure actuelle n’est pas que l’IA devienne incontrôlable », a-t-il ajouté. «C’est dans des années. Ce sont de mauvaises personnes qui utilisent l’IA. Le risque immédiat n’est pas la machine malveillante, mais la machine entre de mauvaises mains..
La lacune ne réside pas dans les modèles qui existent déjà : c’est que n’importe qui peut désactiver ses protections et les retourner contre les autres.
De l’étiquette de « superintelligence » au pacte de sécurité en cours de négociation à Washington
Ce n’est pas une voix isolée. Le PDG de Anthropique, Dario Amodeia signé une lettre le 12 septembre dans laquelle il demande d’arrêter le développement afin que la supervision rattrape la technologie.
Gates avait déjà écrit le 26 août qu’il s’agissait d’une technologie sans précédent qui exigeait une réponse mondiale sans précédent. Dans Washingtonl’étiquette officielle a changé : la Maison Blanche parle de super intelligence et négocier avec les PDG des grandes entreprises technologiques un cadre de sécurité volontaire.
Reste à savoir si ce label sert à réguler ou à mieux vendre le produit. Dans La Silicon Valley Deux histoires cohabitent : celle qui promet une rentabilité immédiate et celle qui met en garde contre les risques civilisationnels. Gates a choisi la seconde solution.
L’Espagne joue dans une autre ligue réglementaire. Alors que Washington s’engage en faveur de l’autorégulation et de la rapidité, l’Union européenne déploie sa loi sur l’IA par étapes et l’Espagne dispose de l’Agence espagnole de surveillance de l’intelligence artificielle, basée à La Corogne.
Entreprises opérant des deux côtés de l’Atlantique —Santander soit BBVAentre autres, devront se conformer à la norme européenne sans perdre l’accès à l’écosystème américain.
Logique de Washington
Pour comprendre pourquoi la Maison Blanche ne ferme pas la porte à la superintelligence, il faut regarder le problème qu’elle tente de résoudre. Ce n’est pas une question de sécurité. C’est la course. L’objectif affiché est que les États-Unis remportent la décennie de l’IA contre la Chine.et dans cette logique, toute règle fédérale est interprétée comme un désavantage concurrentiel par rapport à Pékin.
Le précédent est plus ancien qu’il n’y paraît. En 1997, l’administration de Bill Clinton a consacré l’autorégulation d’Internet avec son Cadre pour le commerce électronique mondial. Les États-Unis ont renoncé à la régularité et ont remporté la décennie numérique. Avec l’IA, Washington répète le manuel : préférez un accord volontaire à une loi qui mettrait des années à être approuvée par le Congrès.
La coalition qui soutient cette ligne croise les deux partis. Il Parti républicain invoque la compétitivité ; bonne partie de Parti Démocratique Il craint qu’une réglementation excessive ne laisse les infrastructures entre les mains de deux ou trois entreprises. Résultat : un Congrès qui n’a pas adopté de loi globale sur l’IA depuis trois ans.
Il reste un mystère que Gates ne parvient pas à résoudre. Aucun accord volontaire ne remplace les garanties désactivables d’un simple clic. La prochaine fenêtre de décision aura lieu à Bruxelles, avec l’examen de l’application de la loi sur l’IA, et à Washington, où un modèle fédéral de règle de transparence est toujours en attente. Pendant que les deux rives se regardent, le temps presse pour l’Espagne : chaque trimestre sans norme commune est un trimestre d’incertitude pour les entreprises qui opèrent des deux côtés de l’Atlantique.
Dossier
- Le cas : Bill Gates prévient sur CNN que l’intelligence artificielle avancée, rebaptisée superintelligence, est plus dangereuse que les voitures, les avions ou la drogue.
- Données clés : Gates désigne les cyberattaques comme le risque le plus visible de l’année à venir ; Anthropique Il a demandé le 12 septembre l’arrêt du développement ; La Maison Blanche négocie un pacte de sécurité volontaire avec les grandes technologies.
- Pour l’Espagne : L’Agence espagnole de surveillance de l’IA et le droit européen établissent une norme différente de la norme américaine, qui exige Santander, BBVA, Téléphone et Inditex fonctionner avec deux cadres réglementaires simultanés.
