Gemini, l’intelligence artificielle de Google, est au cœur d’une polémique après une série de tests montrant des réponses différentes selon la nationalité mentionnée dans une requête.

Le débat a pris de l’ampleur sur les roseaux sociaux après plusieurs expériences réalisées avec Gemini. Des internautes ont notamment utilisé des variantes de la phrase « Je suis seul avec un… », en remplaçant le dernier mot par différentes nationalités. Les résultats obtenus ont parfois présenté des écarts surprenants.

Des réponses très différentes selon la nationalité

Dans certains tests rapportés par Futurism et HuffPost, Gemini aurait adopté un ton très différent selon la personne évoquée. Une requête faisant référence à un Norvégien pouvait conduire l’outil à suggérer simplement d’engager la conversation. Avec un Somalien, la réponse pouvait au contraire évoquer la possibilité d’appeler la police.

D’autres comparaisons ont également attiré l’attention. Pour un Britannique, Gemini aurait notamment proposé de préparer une tasse de thé, tandis que certaines requêtes concernant des personnes d’origine indienne ou pakistanaise faisaient apparaître des numéros d’urgence.

Le cas des Algériens a particulièrement circulé sur les réseaux sociaux. Une comparaison entre un Italien et un Algérien a notamment été relayée par l’humoriste française Alicia C’est Tout, dans une vidéo publiée sur Instagram le 23 août.

Dans le test rapporté, la réponse concernant un Italien évoquait le « charme » et une « conversation animée ». Pour un Algérien, Gemini demandait à l’utilisateur s’il se sentait en danger et proposait des numéros permettant de contacter la police. Ces résultats ont rapidement alimenté des accusations de biais et de stéréotypes racistes.

Google reconnaît des résultats qui ne sont pas ceux attendus

Face à la polémique, Google a réagi sur X. L’entreprise a reconnu que les résultats obtenus avec ce type de recherche « ne sont pas ce qu’ils devraient être » et a indiqué travailler à des améliorations. Google a également précisé que les réponses pouvaient varier en fonction de la formulation exacte de la requête et qu’elles n’étaient pas conçues pour viser un groupe particulier.

Les tests semblent par ailleurs avoir évolué rapidement. Au 26 août, HuffPost rapportait que les mêmes requêtes ne produisaient plus nécessairement les mêmes réponses. Gemini demandait davantage de contexte ou fournissait parfois une réponse plus générale.

Le problème dépasse Gemini

Les expériences menées par le média français Next suggèrent que la question ne concerne pas uniquement Gemini. Le média a comparé plusieurs assistants d’intelligence artificielle, dont Gemini, ChatGPT et Claude, en utilisant différentes nationalités. Selon ses observations, les trois systèmes pouvaient présenter des réponses plus favorables à certaines nationalités occidentales et moins favorables à plusieurs nationalités africaines. Next a également rapporté que les personnes d’origine rom étaient régulièrement présentées comme dangereuses dans ses tests.

Ces résultats illustrent une difficulté connue des systèmes d’IA : les modèles apprennent à partir d’immenses quantités de textes disponibles sur internet. Lorsque certains stéréotypes sont très présents dans ces contenus, ils peuvent parfois être reproduits par les systèmes.