• R. C.

Introduction

L’intelligence artificielle est en train de changer de nature. Nous avons d’abord connu des systèmes capables de classer, prévoir ou reconnaître. L’IA générative a ensuite appris à produire du texte, des images, du code et des analyses. Nous entrons maintenant dans une troisième phase, celle de l’IA agentique : des systèmes auxquels il devient possible de confier non plus seulement une question, mais une mission, avec la possibilité de rechercher des informations, de mobiliser des outils, de coordonner d’autres agents et, dans certains cas, d’agir directement dans le monde numérique ou physique.

Cette évolution oblige à déplacer le débat. Le débat ne porte plus seulement sur les progrès de la machine, il porte désormais sur ce que nous sommes prêts à lui confier. Jusqu’où voulons-nous aller dans la délégation ? Qui garde la main lorsque le système agit ? Une question demeure, et elle est loin d’être secondaire : lorsque l’IA contribue à une décision qui finit par produire des effets imprévus ou lourds de conséquences, qui en répond réellement ? Celui qui l’a utilisée ? L’entreprise qui l’a déployée ? Le concepteur du système ? Ou l’autorité qui en a permis l’usage ?

Pendant longtemps, le débat s’est surtout organisé autour de l’éthique, des biais, des données personnelles et de la transparence. C’était nécessaire. Mais nous ne sommes plus tout à fait au même stade.

Tout cela reste indispensable. Mais nous entrons dans une autre phase. Dès lors que l’IA s’installe dans l’industrie, la finance, la recherche, la défense, l’administration, l’école ou la santé, il ne suffit plus d’encadrer les usages. Il faut aussi regarder de près les capacités elles-mêmes.

Autrement dit, il faut savoir ce qu’un système sait réellement faire, jusqu’où il peut aller, à quelles ressources il peut accéder, quelle marge d’autonomie on lui laisse et dans quelles conditions il peut agir sans intervention humaine directe.

L’expérience de la non-prolifération nucléaire mérite ici d’être relue. Il ne s’agit évidemment pas d’assimiler un modèle d’IA à une matière fissile. Le numérique est reproductible, diffus, dual et beaucoup plus difficile à circonscrire. Mais le nucléaire nous a appris qu’une technologie susceptible de produire des conséquences dépassant les frontières ne peut pas être gouvernée uniquement par la confiance. Certaines capacités doivent pouvoir être déclarées, mesurées et vérifiées.

Cette analogie doit cependant être prolongée par une exigence absente de nombreuses discussions actuelles : le régime futur ne sera légitime que s’il traite en même temps de la sécurité, du partage des capacités, de la place du Sud global, du travail humain, de la souveraineté cognitive et de la culture. L’IA ne transforme pas seulement nos économies. Elle peut progressivement transformer les catégories à travers lesquelles les sociétés pensent, parlent, créent et interprètent leur propre réalité.

I. De la non-prolifération à la maîtrise vérifiable des capacités

Le véritable enseignement du nucléaire est moins l’interdiction que la vérification. Le Traité sur la non-prolifération reconnaît d’ailleurs simultanément des obligations de contrôle et un droit aux usages pacifiques, en demandant que les garanties n’entravent pas le développement économique et technologique et en accordant une attention particulière aux régions en développement.

Cette logique pourrait inspirer l’IA à condition de ne pas la copier mécaniquement. Il faudrait contrôler une chaîne, et non seulement le produit final. L’intelligence artificielle ne naît pas au moment où l’on ouvre un modèle sur un écran, elle commence bien plus tôt, avec les minerais, l’énergie, les puces et les centres de calcul. Viennent ensuite les données, le travail humain, l’entraînement, les ajustements du modèle, puis les outils auxquels on le relie, les droits qu’on lui accorde et l’autonomie qu’on lui laisse. A mesure que plusieurs agents peuvent agir ensemble, une nouvelle couche apparaît encore : celle de l’orchestration. Puis vient le déploiement, et un jour le retrait, l’archivage ou la circulation de versions anciennes. Toute cette chaîne produit de la valeur, elle distribue aussi du pouvoir, et, à chaque étape, elle crée ses propres risques.

La puissance d’un système ne peut donc pas être mesurée par la taille du modèle ou par les seuls FLOPs. Il faut tenir compte de ce qu’il sait faire, de son autonomie, de ses accès, de son autorité, de son échelle de déploiement et de sa capacité à coordonner d’autres agents.
Un modèle extrêmement performant mais isolé possède relativement peu de pouvoir opérationnel. Un modèle moins performant auquel on donne un accès administrateur, des comptes financiers, un système industriel et des milliers de sous-agents peut avoir des conséquences beaucoup plus importantes. Le véritable objet de la régulation devient donc le système complet.

Un régime international devrait être proportionnel. Les applications ordinaires resteraient sous régulation nationale. Les systèmes à conséquences élevées feraient l’objet d’évaluations renforcées. Certaines capacités frontières seraient testées par des laboratoires indépendants. Enfin, quelques capacités systémiques pourraient relever d’un mécanisme international de vérification.

A terme, une institution spécialisée pourrait enregistrer certaines capacités, reconnaître des laboratoires, certifier des systèmes, recevoir les notifications d’incidents graves et organiser un réseau mondial d’alerte. Elle n’aurait pas vocation à inspecter chaque algorithme. Elle interviendrait uniquement lorsque les conséquences potentielles dépassent clairement la juridiction d’un acteur particulier. L’inspection ne signifie pas nécessairement l’accès intégral au code. Tests en environnement sécurisé, audits, journaux cryptographiquement protégés, attestations matérielles et preuves de calcul peuvent permettre de vérifier une obligation sans exproprier l’entreprise de ses secrets. La logique doit être de vérifier le nécessaire sans exiger inutilement la divulgation du reste.

II. Des lignes rouges, et non un moratoire général

Il serait en revanche difficile de construire un traité autour de la «superintelligence». Le concept reste trop imprécis pour déterminer une obligation juridique. Il est beaucoup plus réaliste de travailler sur des capacités observables : réplication autonome incontrôlée, suppression de ses propres mécanismes de sécurité, acquisition autonome de ressources, cyberopérations à très grande échelle, certaines capacités biologiques ou délégation de décisions militaires irréversibles. Certaines limites peuvent être posées dès maintenant. La décision finale d’employer une arme nucléaire ne devrait jamais être déléguée à une machine. D’autres capacités pourraient être développées uniquement dans des environnements sécurisés avant toute diffusion. La bonne distinction n’est donc pas entre IA autorisée et IA interdite, mais entre capacités libres, capacités soumises à certification, capacités nécessitant une autorisation et capacités placées sous moratoire ou interdites.
Se pose alors le dilemme stratégique : pourquoi un Etat ralentirait-il s’il craint que son rival continue ? Nous retrouvons une structure proche du dilemme du prisonnier. Chacun peut préférer un monde où une capacité dangereuse n’existe chez personne tout en refusant d’être le premier à y renoncer.

Une issue consiste à accepter qu’un accord universel ne sera pas nécessairement le point de départ. Une puissance peut décider de ne pas franchir une frontière précise pendant une période limitée, rendre cette retenue vérifiable et proposer la réciprocité. Un engagement pris seul peut ouvrir la voie à un accord entre deux Etats, puis à un cadre plus large, avant d’aboutir éventuellement à une règle multilatérale. Mais cela ne peut fonctionner que si les engagements sont précis, publics et contrôlables, avec une réponse prévue d’avance lorsqu’une partie ne respecte pas ce qu’elle a accepté.
La règle pourrait être simple : réglementer avant le verrouillage. Une capacité est beaucoup plus difficile à interdire une fois que des milliards ont été investis, que des doctrines militaires ont été rédigées et que des chaînes industrielles en dépendent.

III. Le Sud global, le néo-esclavagisme et la nouvelle division internationale du travail

Aucun système international ne sera durable s’il reproduit une division du monde entre Etats technologiquement «dotés» et Etats condamnés à consommer les systèmes construits par les premiers. La fracture est déjà spectaculaire. Les chiffres donnent la mesure du décalage. Le contraste est saisissant. Le déséquilibre est massif.

En 2025, le décalage était déjà spectaculaire. Les pays à haut revenu ne représentaient que 17% de la population mondiale, mais ils concentraient presque tout ce qui donne aujourd’hui de la puissance à l’IA : 87% des modèles les plus importants, 86% des start-up, 91% du capital-risque et 77% des capacités de centres de données. A l’autre bout, les pays à faible revenu pesaient à peine dans cette nouvelle infrastructure, avec moins de 0,1% des capacités mondiales.

La concentration est tout aussi frappante du côté de la recherche privée : selon la CNUCED, une centaine d’entreprises réalisaient à elles seules près de 40% de la R&D mondiale des entreprises. Et, en dehors de la Chine, aucune n’était issue d’un pays en développement.
Derrière la course technologique apparaît donc une réalité plus ancienne : les lieux où vivent les hommes, ceux où se trouvent les ressources et ceux où se concentre la puissance ne coïncident pas.
Cette concentration risque de recréer une structure familière : ressources à la périphérie, transformation et propriété au centre. Les pays du Sud fournissent minerais, énergie, données, marchés et une partie du travail humain qui rend les modèles possibles ; les segments à forte valeur ajoutée — compute, propriété intellectuelle, modèles fondamentaux et plateformes — restent ailleurs.

Derrière l’apparence d’une intelligence autonome existe en effet une infrastructure humaine considérable. L’OIT estime que le travail d’annotation, de modération, d’évaluation et de microtâches mobilise probablement des dizaines de millions de personnes, dont beaucoup se trouvent dans le Sud global.

C’est ici que l’idée de néo-esclavagisme numérique mérite d’être posée, mais avec précaution. Il ne s’agit pas, bien sûr, de confondre cette situation avec l’esclavage au sens historique ou juridique du terme. La comparaison serait abusive. Ce que je veux interroger est ailleurs : dans une économie qui présente la machine comme un nouveau « serviteur », alors qu’une partie de cette autonomie repose encore sur une foule de travailleurs peu visibles, souvent mal payés, dispersés par les plateformes et largement exclus du partage de la valeur qu’ils contribuent pourtant à créer. Le paradoxe devient plus fort encore lorsque les mêmes travailleurs participent à l’entraînement d’une technologie qui automatisera ensuite une partie des services sur lesquels leur propre économie comptait pour se développer : centres d’appels, BPO, traduction, assistance informatique, programmation intermédiaire ou opérations administratives. Des pays peuvent ainsi participer à la construction de la technologie qui remet ensuite en cause la trajectoire de développement qu’ils espéraient suivre.

Le problème n’est donc pas simplement le nombre d’emplois supprimés. C’est la place de chaque société dans la chaîne de valeur. L’enjeu pour le Sud doit être de passer de l’annotation à l’ingénierie des données, de l’intégration à l’adaptation des modèles, puis vers l’audit, la cybersécurité, la recherche et la propriété intellectuelle.

Le néo-extractivisme numérique dépasse d’ailleurs le travail. Il porte sur les données, les langues, les ressources énergétiques, l’eau nécessaire aux infrastructures, les minerais, les connaissances locales et finalement l’attention. Une politique internationale de l’IA qui ne s’intéresserait qu’à la sécurité des modèles tout en ignorant cette économie politique manquerait une grande partie du problème.

IV. Culture, souveraineté de l’interprétation et diversité cognitive

La culture est probablement l’une des dimensions les plus sous-estimées du débat sur l’intelligence artificielle.

Un modèle n’apprend pas seulement des faits. Il absorbe des textes, des classifications, des normes, des représentations du monde, des associations linguistiques et des hiérarchies culturelles. Lorsqu’un petit nombre de modèles sert ensuite d’intermédiaire pour rechercher, écrire, traduire et interpréter, la question ne concerne plus seulement la souveraineté des données. Elle concerne la souveraineté de l’interprétation.
Une langue n’est pas simplement un code à traduire. Elle transporte des concepts, une histoire, des formes d’humour, des références, une littérature, des catégories sociales et des façons particulières de décrire l’expérience. Un système entraîné principalement sur certaines langues et certaines institutions peut parfaitement maîtriser une langue grammaticalement tout en comprenant mal les réalités sociales qu’elle exprime.

L’Unesco demande déjà que l’IA contribue à préserver les langues, y compris les langues menacées et les savoirs autochtones, et met en garde contre une réduction des dialectes, nuances et variations culturelles par les systèmes de traitement du langage. Pourtant, son observatoire montre que les politiques spécifiquement consacrées à l’IA pour le patrimoine culturel ou les langues minoritaires restent encore très rares. (A suivre)

Par Pr. Rédha TIR

Expert-Consultant International

Ancien président du Conseil National Économique, Social et Environnemental (CNESE)-Algérie

Posez votre question à la rédaction

Votre question…

Prénom ou pseudo *

Adresse e-mail * Votre e-mail ne sera pas publié.

Votre question * 0/1000

Envoyer Annuler