• Nadjia Bouaricha

L’évolution rapide et éventuellement incontrôlée de l’intelligence artificielle (IA) fait peur même à ses créateurs. Plus de 1100 cadres du secteur de l’IA ont plaidé pour la temporisation du lancement des modèles IA les plus avancés. Dans une pétition adressée au gouvernement américain, les employés des grandes entreprises de l’IA ont demandé à imposer un «frein» à certains programmes qui peuvent échapper au contrôle humain.

La pétition a compté les noms de dirigeants des entreprises à la pointe de l’IA, à l’instar du directeur général d’Anthropic, Dario Amodei, le responsable de la recherche d’OpenAI, celui de Meta, ainsi que le référent stratégique de Google DeepMind, rapportent des médias. L’initiative des cadres de l’IA fait suite au constat d’un tournant risqué dans l’évolution de l’IA. En avril, Anthropic avait pris la décision de ne permettre la diffusion de son nouveau modèle, Mythos, qu’à un groupe restreint d’organisations, car jugé «très dangereux pour être commercialisé à grande échelle».

La version bridée de Mythos a été rapidement mise en ligne avant d’être rapidement retirée sous obligation du gouvernement américain en invoquant des «risques pour la sécurité nationale». La start-up californienne a dû opérer des modifications pour permettre la diffusion de la version de Mythos en juin. En juillet, ce fut le tour à feus modèles d’OpenAI de se retrouver sur internet de leur propre initiative, alors qu’ils étaient censés rester confinés. Ils se sont retrouvés sur une plateforme Hgging Face, bibliothèque de modèles IA. «Il existe un risque que le développement des aptitudes accélère rapidement au-delà de nos capacités à comprendre ou contrôler ces systèmes», ont averti les employés dans leur lettre de pétition. Ceci et d’ajouter que «l’industrie, le gouvernement et la société toute entière pourraient nécessiter l’option de se donner du temps pour traiter les risques émergents, développer des mesures de sécurité et renforcer la supervision».

L’appel des signataires de la pétition peut-il être entendu dans un contexte de course entre puissances à l’acquisition des dernières technologies IA ? Rien n’est sûr. Les cadres du secteur reconnaissent que la concurrence exacerbée entre les pays rend difficile à un seul pays de décider de limiter l’évolution de la technologie.

Cadence

Ce pourquoi ils demandent au gouvernement américain d’initier une action internationale visant à créer les «outils techniques et de gouvernance nécessaires du développement automatisé de l’IA».
L’augmentation de la cadence de développement des outils de l’IA a donné la capacité à ces outils de d’auto-développer sans attendre l’intervention humaine. Les spécialistes de la question sont unanimes à dire que nous avançons progressivement vers une étape «d’auto-amélioration récursive de l’IA».

Une phase où les outils IA concevront seuls leurs successeurs et à l’infini. «Les entreprises aux avant-postes de l’IA pensent qu’elles pourraient être proches d’une recherche IA automatisée», indiquent les pétitionnaires en notant que cela compliquerait les «vérifications et l’appréhension des nouveaux modèles par les développeurs eux-mêmes, devenant désormais extérieurs au développement de l’IA».

Sam Altman, patron d’OpenAI, a déclaré mardi que «les fleurons de l’IA pourraient devoir ralentir volontairement l’allure de développement de leurs modèles pour laisser le temps à l’ensemble de l’écosystème informatique de se préparer», rapporte l’AFP.
Nadjia Bouaricha

Posez votre question à la rédaction

Votre question…

Prénom ou pseudo *

Adresse e-mail * Votre e-mail ne sera pas publié.

Votre question * 0/1000

Envoyer Annuler