• R. Mag

Les 53 images ont été publiées par erreur sur des sites d’hébergement, à des adresses qui n’étaient pas rendues publiques, selon OpenAI, et sont en cours de retrait.

OpenAI a reconnu hier que ses outils d’intelligence artificielle (IA) avaient mis en ligne 53 images envoyées sur ChatGPT par des internautes, un nouvel incident qui touche cette fois des données de ses propres utilisateurs. Le géant de l’IA de San Francisco a aussi indiqué vendredi, confirmant des informations du New York Times, que ses outils avaient consulté des sites d’agences fédérales américaines, en affirmant n’y avoir récupéré que des informations publiques.
Les 53 images, elles, ont été publiées par erreur sur des sites d’hébergement, à des adresses qui n’étaient pas rendues publiques, selon OpenAI, et sont en cours de retrait. Elles provenaient de comptes ayant autorisé l’utilisation de leurs données pour améliorer les modèles d’OpenAI. Ces données étaient passées avant usage par un filtre de confidentialité, et l’entreprise affirme ne plus pouvoir les rattacher à l’utilisateur d’origine. OpenAI ne détaille pas si ces images montraient des personnes identifiables ou des données sensibles. Interrogée par l’AFP, l’entreprise n’a pas donné de précisions. La diffusion de ces images a été provoquée par des agents IA, des logiciels bâtis sur un modèle d’IA et capables d’enchaîner seuls une série de tâches. Selon OpenAI, des agents utilisés pour ses recherches ont transmis à des services extérieurs des données d’entraînement, qui pour la plupart ne provenaient pas d’utilisateurs. Ces transmissions ont eu lieu avant qu’elle ne renforce la sécurité de son environnement de recherche, en août. L’entreprise dit passer au crible l’activité passée de ses agents, un examen qui prendra des mois.
«Nous n’avons pas été aussi rapides que nous l’aurions souhaité», a reconnu vendredi sur X son patron, Sam Altman, invoquant le volume colossal de données à analyser. «La plupart des activités examinées jusqu’ici relevaient de tâches de recherche courantes, comme l’accès à des contenus publics sur Internet pour répondre à des questions», a indiqué à l’AFP un porte-parole d’OpenAI. «Certaines ont concerné des sites gouvernementaux, parce que nos modèles se tournent souvent vers eux comme étant des sources d’information publique faisant autorité.» L’entreprise a ainsi confirmé que ses modèles avaient consulté des informations publiques sur des sites de la SEC, le gendarme américain de la Bourse, avant d’en publier une partie sur une autre page internet. Elle dit n’avoir trouvé aucun accès à des informations non publiques.

«Grossière exagération»

Ses modèles ont aussi utilisé des clés d’accès trouvées sur la plateforme de partage de code GitHub pour ensuite accéder à des données publiques du Bureau américain du recensement, sans possibilité de les modifier, selon OpenAI. D’après le New York Times, les agents d’OpenAI ont également tenté sans succès de pirater le site du ministère américain de l’Education. Les vérifications du ministère «n’ont trouvé aucune preuve d’un quelconque impact sur notre site internet ou nos bases de données», a déclaré un porte-parole à l’AFP. Le quotidien affirme que les outils d’OpenAI se sont «immiscés» dans des sites gouvernementaux américains, un terme que le porte-parole du ministère de l’Education a qualifié de grossière exagération.
Le 21 juillet, OpenAI avait révélé le piratage de Hugging Face, une plateforme de partage de modèles d’IA, par plusieurs de ses agents. Ce piratage reste l’incident le plus grave constaté, a assuré vendredi Sam Altman. Sa découverte a été suivie tout l’été par les révélations de plusieurs incidents similaires chez OpenAI et ses concurrents, comme Anthropic ou Meta, qui ont ravivé les inquiétudes sur les dangers d’un développement rapide de l’IA.
Mercredi à New York, le Premier ministre australien Anthony Albanese a indiqué qu’un agent d’OpenAI avait accédé sans autorisation, en juin, à un portail gouvernemental de santé, et reproché à l’entreprise d’avoir tardé à prévenir les autorités.

Washington et Pékin vont créer un «canal de communication»

Les Etats-Unis et la Chine vont mettre en place un «canal de communication» pour faire face aux incidents causés par l’intelligence artificielle, a annoncé la Maison Blanche vendredi. Les deux pays ont établi un «Dialogue Etats-Unis-Chine sur la super-intelligence pour échanger des points de vue sur les risques et les avantages» de l’IA et sont également convenus de créer un canal de communication bilatéral dédié aux incidents», a indiqué la présidence américaine dans une fiche d’information. L’intelligence artificielle, que le président américain Donald Trump appelle «super-intelligence» depuis quelques jours, a été l’un des thèmes majeurs abordés lors de la visite d’Etat à Washington du président chinois Xi Jinping, qui s’est achevée vendredi. Rivaux en matière d’IA, les deux pays sont de plus en plus interpellés sur la question des risques après plusieurs épisodes faisant craindre que la
technologie n’échappe à ses créateurs. Les deux pays leaders ont la «responsabilité de développer et de gérer l’IA pour le bien commun, et de veiller à ce que son développement reste toujours sous contrôle humain», a dit M. Xi. M. Trump a au contraire affirmé vouloir en rester «exactement au stade actuel» de régulation. Le ministre américain des Finances, Scott Bessent, avait suggéré la semaine dernière «la mise en place d’un mécanisme de notification entre les Etats-Unis et la Chine en cas d’incidents, si quelque chose est arrivé qui relève de la sécurité nationale». «Nous pensons qu’il est très important de passer d’une situation d’opacité à davantage de transparence entre les première et deuxième puissances mondiales en matière d’IA», avait-il affirmé.

Posez votre question à la rédaction

Votre question…

Prénom ou pseudo *

Adresse e-mail * Votre e-mail ne sera pas publié.

Votre question * 0/1000

Envoyer Annuler