• Nadjia Bouaricha

L’évolution rapide et de plus en plus incontrôlée de l’intelligence artificielle fait peur même à ses propres créateurs. Plus de 1100 cadres du secteur IA ont appelé à temporiser le lancement des modèles IA les plus avancés.

Dans une pétition adressée au gouvernement américain, les employés des grandes entreprises de l’IA ont demandé à imposer un «frein» à certains programmes qui peuvent échapper au contrôle humain. La pétition a compté les noms de dirigeants des entreprises à la pointe de l’IA, à l’instar du directeur général d’Anthropic, Dario Amodei, le responsable de la recherche d’OpenAI, celui de Meta, ainsi que le référent stratégique de Google DeepMind, rapportent des médias.

L’initiative des cadres de l’IA fait suite au constat d’un tournant risqué dans l’évolution de cette technologie. En avril dernier, Anthropic avait pris la décision de ne permettre la diffusion de son nouveau modèle, Mythos, qu’à un groupe restreint d’organisations, car jugé «très dangereux pour être commercialisé à grande échelle».

La version bridée de Mythos a été mise en ligne avant d’être rapidement retirée sous injonction du gouvernement américain, en invoquant des «risques pour la sécurité nationale». La start-up californienne a dû opérer des modifications pour permettre la diffusion de la version de Mythos en juin dernier. En juillet, ce fut le tour de deux modèles d’OpenAI de se retrouver sur internet et de leur propre initiative, alors qu’ils étaient censés rester confinés. Ils se sont retrouvés sur une plateforme appelée Hugging Face, de la bibliothèque de modèles IA.

«Il existe un risque que le développement des aptitudes s’accélère rapidement et bien au-delà de nos capacités à comprendre ou contrôler ces systèmes», ont averti les employés dans leur lettre de pétition. Ceci et d’ajouter que «l’industrie, le gouvernement et la société toute entière pourraient nécessiter l’option de se donner du temps pour traiter les risques émergents, développer des mesures de sécurité et renforcer la supervision».

L’appel des signataires de la pétition peut-il être entendu dans un contexte de course entre puissances à l’acquisition des dernières technologies IA ? Rien n’est sûr. Les cadres du secteur reconnaissent que la concurrence exacerbée entre les pays rend difficile à un pays de décider seul de la limitation de l’évolution de la technologie.

Ce pourquoi, ils demandent au gouvernement américain d’initier une action internationale visant à créer les «outils techniques et de gouvernance nécessaires du développement automatisé de l’IA». L’augmentation de la cadence de développement des outils de l’intelligence artificielle a donné la capacité à ces outils de s’autodévelopper, sans attendre l’intervention humaine. Les spécialistes de la question sont unanimes à dire que nous avançons progressivement vers une étape «d’auto-amélioration récursive de l’IA».

Une phase où les outils IA concevront seuls leurs successeurs et à l’infini. «Les entreprises aux avant-postes de l’IA pensent qu’elles pourraient être proches d’une recherche IA automatisée», indiquent les pétitionnaires, en notant que cela compliquerait les «vérifications et l’appréhension des nouveaux modèles par les développeurs eux-mêmes, devenant désormais extérieurs au développement de l’IA». Sam Altman, patron d’OpenAI, a déclaré mardi dernier que «les fleurons de l’IA pourraient devoir ralentir volontairement l’allure de développement de leurs modèles pour laisser le temps à l’ensemble de l’écosystème informatique de se préparer», rapporte l’AFP.

Danger de l’informatique quantique sur la sécurité des systèmes financiers

Le même jour que le lancement de cette pétition américaine, la Banque centrale de Singapour a mis en garde «contre une menace pour l’économie mondiale si le boom de l’intelligence artificielle venait à s’essouffler». Ceci tout en reconnaissant tout de même que «les progrès réalisés dans les modèles IA et l’informatique quantique posaient des risques importants en matière de cybersécurité pour les institutions financières», rapporte le Financial Times. Le directeur général de l’Autorité monétaire de Singapour, et face à la chute des actions des plus grands fabricants de puces d’Asie, a alerté dans un rapport que «si les investissements dans l’IA subissent un repli important, cela pourrait fortement affaiblir la croissance mondiale, en raison d’une baisse des investissements des entreprises et de la demande de semi-conducteurs, ainsi que d’effets négatifs sur la richesse».

Ceci en reconnaissant toutefois la menace que représente pour les institutions financières l’utilisation accrue de l’IA par les cybercriminels et l’adoption future de l’informatique quantique. «Les criminels utilisent l’IA pour créer des attaques de phishing plus sophistiquées et des usurpations de type deepfake afin d’améliorer la force de persuasion des escroqueries», alerte la Banque singapourienne, en notant également que des pirates informatiques utilisaient des modèles d’IA de pointe pour identifier et exploiter les failles de sécurité des institutions financières.

«L’intelligence artificielle de pointe accroît la gravité, l’ampleur et la sophistication des cybermenaces. Le secteur financier doit réagir de toute urgence et en s’appuyant sur une collaboration étroite», a déclaré, au Financial Times, Vincent Loy, directeur de la technologie de la MAS. Nadjia Bouaricha

Posez votre question à la rédaction

Votre question…

Prénom ou pseudo *

Adresse e-mail * Votre e-mail ne sera pas publié.

Votre question * 0/1000

Envoyer Annuler