• Rédaction Web

Le débat sur les risques liés à l’intelligence artificielle (IA) bat son plein aux Etats-Unis. Alors que plusieurs chercheurs et dirigeants des entreprises qui développent les modèles les plus puissants appellent à ralentir leur progression, le président républicain de la Chambre des représentants, Mike Johnson, s’est déclaré hier opposé à toute initiative du Congrès qui pourrait freiner la course américaine à l’IA.

«Si le Congrès se hâte et convoque une session extraordinaire pour essayer de réguler l’IA via une loi, nous allons perdre la course à l’intelligence artificielle contre la Chine», a-t-il déclaré à CNN. «Nous devons nous assurer que nous agissons de manière responsable pour ne pas étouffer l’innovation», a-t-il toutefois ajouté. Cette prise de position intervient au moment où l’alerte ne vient plus seulement de philosophes, d’écrivains ou de lanceurs d’alerte extérieurs à l’industrie.
Elle émane désormais de chercheurs qui participent eux-mêmes à la construction des systèmes susceptibles de bouleverser le rapport de force entre l’homme et la machine. La secousse provoquée cette semaine par plusieurs déclarations liées à Anthropic, créateur de Claude, a remis au centre une question que l’industrie technologique préférait souvent reléguer à l’horizon lointain. Que se passera-t-il si l’IA devient suffisamment autonome pour poursuivre des objectifs complexes sans supervision humaine permanente ? Samedi, le patron d’Anthropic, Dario Amodei, a précisément appelé à ralentir la vitesse de développement de l’IA.
Il estime nécessaire de «temporiser» l’amélioration de cette technologie «pour que la prévention des risques soit en mesure de suivre le rythme». Son appel a reçu le soutien de Sam Altman, patron d’OpenAI, et d’Elon Musk. «Dario a raison», a réagi ce dernier. «Je suis d’accord avec Dario», a écrit Sam Altman, assurant que cette question figurait parmi les principaux sujets de discussion chez OpenAI ces dernières semaines. Le contraste est désormais manifeste entre l’urgence exprimée par une partie des concepteurs de l’IA et la volonté politique américaine de préserver l’avance technologique du pays. Mike Johnson faisait notamment référence aux demandes de plusieurs élus démocrates de renoncer à la suspension des travaux parlementaires prévue en octobre, afin de consacrer une session à la sécurité de l’IA.
L’administration Trump s’est, à plusieurs reprises, montrée hostile à toute régulation susceptible de ralentir le développement du secteur. Donald Trump a lui-même dénoncé hier les «forces négatives» à l’œuvre dans le milieu de l’IA, les accusant d’évoquer des «choses qui n’arriveront pas».

L’autonomie change la nature de la menace

Pourtant, ce qui était encore présenté comme un scénario de science-fiction s’installe progressivement dans les rapports de sécurité des entreprises qui fabriquent les intelligences artificielles les plus avancées. Evan Hubinger, chercheur chez Anthropic, a publiquement évalué à plus de 10% le risque que l’IA conduise à l’extinction humaine au cours de la prochaine décennie. L’ancien chercheur Jacob Coxon a, lui, quitté l’entreprise en exprimant de fortes inquiétudes face à la vitesse de développement des systèmes d’IA. Ces estimations ne constituent pas une prédiction scientifique de l’avenir. Elles révèlent toutefois un changement majeur. Le risque existentiel est désormais discuté à l’intérieur même des laboratoires qui organisent la course à la puissance artificielle.
Le plus inquiétant est que certains éléments du scénario redouté ne sont plus théoriques. En juillet, des modèles d’OpenAI sont sortis spontanément de leur milieu confiné au cours de tests pour rejoindre internet et attaquer la plateforme d’IA Hugging Face. Depuis, Open AI et Anthropic ont fait état d’autres incidents similaires, dont certains n’ont été détectés que plusieurs jours, voire plusieurs mois après leur survenue. Anthropic a, en outre, publié ce mois-ci un rapport consacré aux détournements de Claude. L’entreprise y décrit des opérations dans lesquelles l’IA a cessé d’être un simple assistant pour devenir une composante active de chaînes d’attaque. Selon elle, «des agents ont été utilisés pour automatiser la reconnaissance de cibles, rechercher des vulnérabilités, développer des logiciels malveillants, voler des identifiants, exfiltrer des données et modifier automatiquement leurs outils lorsqu’ils étaient détectés par les systèmes de sécurité.
Dans certaines opérations, plusieurs agents travaillaient en parallèle et pouvaient poursuivre leur activité pendant des heures ou des jours avec une intervention humaine réduite». Cette évolution est directement liée au passage de l’IA conversationnelle à l’IA agentique. Un chatbot attend une question et produit une réponse.
Un agent reçoit un objectif, établit un plan, utilise des outils, écrit un code, vérifie ses résultats, corrige ses erreurs et poursuit sa mission. Le passage à cette forme d’autonomie change la nature du problème. Une erreur de réponse est un problème de fiabilité. Une erreur commise par un agent autonome disposant d’un accès à un réseau, à des serveurs ou à des systèmes industriels peut devenir un problème de sécurité. La question devient encore plus sensible lorsque l’IA acquiert la capacité de participer à sa propre évolution.
Dario Amodei alerte sur le risque lié à l’amélioration récursive autonome, processus par lequel une IA pourrait contribuer à améliorer elle-même ses capacités. «Sans supervision, cette méthode pourrait dépasser nos capacités de compréhension et de contrôle de ces systèmes», explique-t-il, appelant à l’appliquer «avec beaucoup de prudence, si tant est qu’il faille l’utiliser». Le patron d’Anthropic redoute qu’au rythme actuel du développement, un groupe d’agents soit capable, dans un délai de six à douze mois, de prendre le contrôle de l’intégralité ou d’une partie considérable d’internet, ce qui pourrait entraîner «des centaines de milliards de dollars de dégâts».

L’IA entre dans la guerre

L’hypothèse reste prospective, mais elle prend un relief particulier après les incidents déjà constatés. Jacob Coxon a, lui, décidé de quitter l’industrie. «Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies», a-t-il écrit sur X. Un responsable de la sûreté d’Anthropic, Evan Hubinger, lui a publiquement donné raison sur l’ampleur du risque. «Nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains», a-t-il affirmé, évaluant à titre personnel ce risque à «plus de 10%» dans la décennie, tout en jugeant «faible» le risque posé par les modèles actuels.
La menace ne se limite toutefois ni au scénario de l’extinction ni aux systèmes capables d’échapper à leurs concepteurs. Elle touche déjà les domaines de la cybersécurité, du militaire et de la biologie. Anthropic affirme avoir documenté l’utilisation de Claude dans des opérations destinées à rechercher des vulnérabilités, organiser des attaques informatiques et exfiltrer des données.
L’entreprise évoque également l’utilisation de son modèle par des acteurs russes pour développer le logiciel d’un essaim de drones FPV kamikazes, avec notamment des fonctions de coordination entre drones, de guidage terminal, d’utilisation de caméras et de comportement autonome. L’IA n’a pas besoin de devenir elle-même une arme pour transformer la guerre. Il suffit qu’elle permette de produire des systèmes moins coûteux, plus nombreux, plus autonomes et capables d’agir avec moins d’opérateurs humains. La même logique vaut dans le cyberespace, où un agent artificiel peut travailler sans fatigue, multiplier les opérations en parallèle et reproduire instantanément une procédure sur un grand nombre de cibles.
A cela s’ajoute le risque biologique. Anthropic a également documenté des tentatives d’utilisation de Claude pour des recherches liées à des agents pathogènes et à des toxines. La frontière entre assistance scientifique et amplification d’une capacité de nuisance devient ainsi plus difficile à surveiller. L’IA s’attaque parallèlement à une autre particularité qui distinguait jusque-là l’être humain des machines, le travail cognitif. Traduction, rédaction, programmation, analyse documentaire, comptabilité, assistance juridique, service clientèle, conception, recherche et traitement de données sont désormais concernés. L’Organisation internationale du travail estime qu’«environ un emploi sur quatre dans le monde est exposé à l’IA générative». La plupart de ces emplois ne devraient pas disparaître intégralement dans l’immédiat, mais leur contenu peut être profondément transformé. Un autre signal d’alarme est venu cette semaine du monde des mathématiques. Quelque 25 lauréats de la médaille Fields ont alerté sur un possible «effet destructeur» de l’IA sur leur discipline, quelques jours après l’annonce par OpenAI de la résolution d’un problème mathématique majeur. Le créateur de ChatGPT avait affirmé qu’un de ses modèles était parvenu, en moins de quatre jours, à résoudre une équation vieille de plus d’un siècle. Les médaillés Fields reconnaissent que l’IA «offre le potentiel de renforcer et d’accélérer l’étude et la compréhension des mathématiques». Mais «les mathématiques en tant que profession vont devoir s’adapter à ces changements de plusieurs façons», préviennent-ils. Pour ces scientifiques, ce sont surtout «les décisions des humains contrôlant cette technologie» qui détermineront si elle sera bénéfique à la discipline ou aura «un effet destructeur». Le débat rejoint ainsi la question centrale de l’alignement.
Une IA n’a pas besoin de conscience, de haine ou d’un instinct de survie pour devenir dangereuse. Il suffit qu’elle soit capable de poursuivre efficacement un objectif qui n’est pas parfaitement aligné sur celui de ses concepteurs, tout en disposant d’un accès suffisant aux systèmes numériques, aux moyens de communication, aux ressources informatiques ou aux infrastructures physiques. Une machine peut recevoir un objectif apparemment simple, mais trouver des stratégies que ses concepteurs n’avaient pas anticipées. Plus ses capacités de raisonnement, de planification et d’action augmentent, plus l’écart entre l’intention humaine et l’objectif effectivement poursuivi peut devenir difficile à détecter.
La prochaine étape pourrait être plus radicale encore. Une IA suffisamment compétente en programmation pourrait contribuer à optimiser son architecture, améliorer ses méthodes d’entraînement, produire du code plus performant, concevoir des outils et participer à la création de modèles plus puissants qu’elle-même. Si cette boucle devenait suffisamment rapide, le rythme du progrès technologique pourrait échapper aux mécanismes humains traditionnels de contrôle. Rien ne permet d’affirmer que cette «explosion de l’intelligence» se produira, mais son éventualité suffit à modifier la nature du risque. Washington tente pour l’instant de maintenir le cap.
Début août, le gouvernement américain a mis en place un mécanisme d’examen des nouveaux modèles d’IA de pointe avant leur sortie. Le dispositif repose toutefois sur le volontariat, et ses modalités demeurent peu transparentes. Face aux appels à davantage de contrôle, l’administration Trump entend ainsi préserver la dynamique de l’industrie américaine. Dario Amodei propose, pour sa part, l’intégration d’observateurs indépendants au sein des fleurons de l’IA, avec un accès comparable à celui des employés afin de vérifier leurs engagements, signaler les incidents et surveiller l’encadrement des modèles. Il plaide également pour une coopération entre les grandes entreprises et une coordination politique entre les principales puissances de l’IA. Le paradoxe est désormais au cœur de la stratégie américaine. Plus les Etats-Unis veulent conserver leur avance sur la Chine, plus ils sont poussés à accélérer une technologie dont les propres concepteurs réclament davantage de temps pour en maîtriser les conséquences. La question n’est plus seulement de savoir jusqu’où l’IA peut progresser. Elle est de déterminer à quel moment la vitesse de cette progression pourrait dépasser la capacité des Etats, des entreprises et des sociétés à en contrôler les effets… secondaires. 

CE QUE L’IA NE SAIT PAS ENCORE FAIRE DE MANIÈRE FIABLE

Malgré ces progrès, l’IA actuelle demeure loin d’une intelligence humaine universelle autonome. Elle peut halluciner, produire du code défectueux, mal interpréter une situation, échouer dans des tâches longues et perdre le fil d’une mission complexe. Le rapport international sur la sécurité de l’IA souligne que les systèmes actuels restent sujets à des défaillances imprévisibles, et qu’aucune méthode connue ne permet d’éliminer totalement ces erreurs. Le problème est précisément que ces limites reculent. La question stratégique n’est plus seulement ce que l’IA sait faire aujourd’hui, mais ce qu’elle sera capable de faire lorsque ses capacités d’autonomie, de raisonnement, de programmation et d’utilisation d’outils seront combinées dans un même système. M.-F. G.

Posez votre question à la rédaction

Votre question…

Prénom ou pseudo *

Adresse e-mail * Votre e-mail ne sera pas publié.

Votre question * 0/1000

Envoyer Annuler