• R. I.

Au total, quatre comptes associés à d’autres plateformes ont été piratés. OpenAI n’a pas révélé les noms des entités visées.

Les deux modèles d’intelligence artificielle (IA) d’OpenAI qui sont sortis, de leur propre initiative, du milieu confiné dans lequel ils étaient testés pour attaquer le site Hugging Face, ont également fait intrusion sur d’autres plateformes, selon le créateur de ChatGPT. L’une d’entre elle a servi de relais pour préparer l’attaque sur Hugging Face, une bibliothèque IA que les deux modèles ont fouillé pour trouver les réponses aux tests soumis par les développeurs d’OpenAI. Au total, quatre comptes associés à d’autres plateformes ont été piratés. OpenAI n’a pas révélé les noms des entités visées. Ces manoeuvres ont été effectuées avec le même objectif que celui poursuivi lors de l’offensive contre Hugging Face. Selon une actualisation du compte-rendu de l’incident, publiée dans la nuit de mardi à mercredi, les deux IA ont également utilisé plusieurs sites en accès libre, pour copier du code de programmation ou le tester, mais sans aller plus loin qu’un utilisateur ordinaire. Pour Hugging Face, qui a mis en ligne, de son côté, un long récit des événements, l’effraction dont elle a été victime relevait d’une «tentative (des deux modèles) de tricher à l’évaluation» d’OpenAI. Les IA ont voulu «dérober les solutions aux tests plutôt que d’essayer d’y répondre par elles-mêmes». Pour les besoins du test, les informaticiens d’OpenAI avaient réduit les garde-fous pour juger du potentiel des modèles en matière de cybersécurité. L’entreprise a révélé qu’outre son modèle le plus avancé, GPT-5.6 Sol, l’autre IA mêlée à l’incident n’avait pas vocation à être commercialisée et était uniquement destinée à un usage interne.
Le rapport d’Hugging Face indique que l’attaque a duré pas moins de cinq jours avant que le site ne parvienne à la contenir. Aucun des deux documents ne le mentionne clairement et la société n’a pas répondu à une quesion de l’AFP sur ce point, mais il semble qu’OpenAI n’ait pris conscience de l’évasion que plusieurs jours après les faits.

Une IA auto-programmée

«Un pirate (informatique) humain aurait pu trouver et exploiter les mêmes vulnérabilités», explique l’entreprise. Ce qui a fait la différence, c’est le volume des tentatives, avec pas moins de 17.600 actions contre Hugging Face, marquées par beaucoup d’échecs mais suffisamment de réussites pour que les modèles parviennent à leurs fins. «L’échelle et la vitesse de ces actions dépassent de loin les capacités d’un humain qui opérerait manuellement», a fait valoir Hugging Face.
Le chercheur en IA Daniel Kokotajlo a plaidé pour une analyse de l’incident menée par un laboratoire indépendant, une démarche «qui devrait devenir systématique» pour des cas similaires, selon lui. Cette évasion de modèles n’est pas la première à être documentée, mais elle est considérée comme, de loin, la plus sérieuse à ce jour. Elle a donné un écho supplémentaire au débat, déjà nourri, sur l’accélération de l’IA, aux capacités de plus en plus étendues, et sur la difficulté de la contrôler. Lors de l’épisode OpenAI, les modèles ont utilisé des méthodes dont ils savaient qu’elles étaient en contradiction avec le scénario du test, sans en informer les développeurs. Mardi, plus d’un millier d’employés de géants de l’IA, dont plusieurs dirigeants de premier plan, ont demandé au gouvernement américain d’aider à «temporiser» la sortie des nouveaux modèles, pour laisser le temps à l’écosystème informatique de s’y préparer. Ils plaident, dans une pétition, pour que les Etats-Unis soient moteur dans la création d’une instance internationale de référence en matière d’évaluation et de supervision de l’IA. Le milieu s’inquiète d’autant plus qu’il voit approcher le stade dit de «l’auto-amélioration récursive» (recursive self-improvement), au-delà duquel l’intelligence artificielle serait en mesure de concevoir seule son successeur, une séquence qui pourrait se répéter à l’infini.
Les derniers modèles d’OpenAI et Anthropic ont été en partie programmés par l’IA elle-même. Le «RSI», son abréviation, rendrait plus difficile les vérifications et l’évaluation de nouveaux modèles par des informaticiens humains, car ils n’auraient pas participé directement à leur élaboration. 

Des employés de géants de l’IA demandent à «temporiser» la sortie des modèles

Un millier d’employés d’entreprises à la pointe de l’intelligence artificielle (IA), notamment le patron d’Anthropic et des dirigeants d’OpenAI, Meta et Google, ont demandé hier au gouvernement américain d’aider à «temporiser» la sortie des modèles d’IA les plus avancés. La demande a été adressée sous forme de pétition, paraphée par plus de 1.100 personnes, dont le directeur général d’Anthropic Dario Amodei, le responsable de la recherche d’OpenAI, celui de Meta, ainsi que le référent stratégique de Google DeepMind, la filiale d’IA de Google. Cette communication intervient après plusieurs épisodes qui ont marqué un tournant dans l’évolution de l’IA ces derniers mois. Début avril, Anthropic a décidé de ne diffuser son nouveau modèle, Mythos, qu’à un groupe restreint d’organisations à des fins de sécurisation d’internet, le jugeant trop dangereux pour être commercialisé à grande échelle. La start-up californienne a mis en ligne une version bridée de Mythos,
Fable 5, mais le gouvernement américain l’a rapidement contraint à la retirer, citant des risques pour la sécurité nationale. Il a finalement donné son feu vert fin juin après des modifications. Puis, mi-juillet, deux modèles d’OpenAI, lors d’une phase de tests, sont sortis de leur espace dédié, théoriquement confiné, pour rejoindre internet de leur propre initiative et faire intrusion sur la plateforme Hugging Face, une bibliothèque de modèles IA. «Il existe un risque que le développement des aptitudes (des modèles) accélère rapidement au-delà de nos capacités à comprendre ou contrôler ces systèmes», préviennent les employés dans la lettre accompagnant la pétition. «L’industrie, le gouvernement et la société toute entière pourraient nécessiter l’option de se donner du temps pour traiter les risques émergents, développer des mesures de sécurité et renforcer la supervision», ajoutent-ils. Dans le contexte actuel de concurrence exacerbée entre pays, il est néanmoins difficile à une nation de décider seule de lever le pied, reconnaissent-ils. Dès lors, «nous demandons que le gouvernement américain soutienne une initiative internationale pour créer les outils techniques et de gouvernance nécessaires à une temporisation délibérée du développement de l’IA», conclut le document. Outre la pression concurrentielle, l’augmentation de la cadence de sortie des nouveaux modèles de pointe tient à la propension nouvelle de l’IA à s’améliorer elle-même, sans l’aide de l’homme. Cette technique permet de mettre au point un nouveau modèle beaucoup plus rapidement qu’avant. Dans un podcast mis en ligne mardi, le patron d’OpenAI, Sam Altman, qui n’a pas signé la pétition, estime que les fleurons de l’IA pourraient devoir ralentir volontairement l’allure de développement de leurs modèles pour laisser le temps à l’ensemble de l’écosystème informatique de se préparer. R. I.

Posez votre question à la rédaction

Votre question…

Prénom ou pseudo *

Adresse e-mail * Votre e-mail ne sera pas publié.

Votre question * 0/1000

Envoyer Annuler