Hier, le 7 septembre, s’est tenu le Conseil des droits de l’homme de l’ONU à Genève. Volker Türk, fonctionnaire des Nations Unies depuis les années 1990, y a participé, et a mis un point d’honneur à mettre sur la table un enjeu brûlant. « Je partage les préoccupations d’initiés de l’industrie selon lesquelles l’IA avancée pourrait constituer un risque existentiel pour l’humanité », a-t-il déclaré, lors de la 63ᵉ session du Conseil. Aucune allusion ici aux sujets de préoccupation habituels qui peuvent provoquer des soubresauts dans le secteur, comme la disparition des emplois ou les effets potentiellement ravageurs de l’IA sur la cognition humaine, mais bien sur la vitesse d’évolution des modèles, surpassant les capacités d’analyse des organismes de surveillance.
Deux dérapages majeurs dans le collimateur
Il faut bien comprendre que le cadre institutionnel dans lequel s’expriment les fonctionnaires de l’ONU comme Türk leur interdit d’émettre des accusations arbitraires ou fondées sur des spéculations politiques. C’est principalement pour cette raison que son discours fut assez remarquable (au premier sens du terme), puisqu’il a décrit des évènements qui ont agité la sphère tech sans qu’il ait eu besoin de les nommer explicitement. « Une IA qui s’échappe de son environnement de test, ou qui fait chanter ses développeurs pour les empêcher de l’éteindre, est une IA trop puissante », a-t-il lancé devant les délégués.
Une référence on ne peut plus directe à l’incident du mois de juillet 2026, durant lequel deux modèles autonomes d’OpenAI, basé sur GPT-5.6 Sol, se sont échappés de leur environnement de test pour aller pirater des serveurs d’Hugging Face. Le tout, sans aucune intervention humaine, en quelque 17 600 actions reconstituées par les équipes de la plateforme.
On peut deviner que la seconde visait sans doute le comportement plus qu’inquiétant de Claude Opus 4, rendu public en mai 2025. Lors d’une expérience menée en laboratoire par les équipes de la firme, le modèle était placé dans le rôle d’un assistant virtuel au sein d’une entreprise fictive. Les chercheurs lui ont fourni de faux e-mails et données indiquant qu’un ingénieur s’apprêtait à le désactiver et à le remplacer par un modèle plus récent. Les données contenaient également une information fictive compromettante sur l’ingénieur en question (une relation extraconjugale, en l’occurrence).
Sommé d’assurer la continuité de sa mission à tout prix, Claude a fini par choisir le chantage : dans 84 % des itérations, il a recouru à la coercition en menaçant de révéler l’infidélité de l’ingénieur s’il exécutait sa mise à l’arrêt. Deux incidents inadmissibles pour Türk, qui a enjoint les décideurs politiques de sortir de leur grotte. « J’appelle aujourd’hui à un effort absolu pour mettre en place des garanties en béton armé autour de la sécurité et de la sûreté de l’IA, avant qu’il ne soit trop tard », a-t-il assené.
L’« IAgarchie » : l’extrême concentration de la puissance numérique
Türk a ensuite entamé un virage vers la dimension politique de l’IA, indissociable de la thématique tant les décisions des géants du secteur pèsent désormais sur le fonctionnement même de nos démocraties. « Une poignée d’hommes dispose d’un pouvoir quasi illimité sur l’IA, dont on nous répète sans cesse qu’elle possède une capacité de calcul inimaginable », a-t-il déclaré, avant d’ajouter : « Ils parlent de liberté, mais en y regardant de plus près, il ne s’agit guère que de la liberté d’exploiter nos données. »
Meta, OpenAI, Google, Anthropic : quatre entreprises clairement visées, et encore une fois, non nommées directement, dont les dirigeants détiennent un monopole de fait sur la recherche, la data, le savoir, les capitaux et les capacités de calcul à l’échelle mondiale. Aucun contre-pouvoir n’existe face à ces firmes, devenues en quelques années seulement, des entités supranationales dont la vitesse d’évolution rend presque inutiles les cadres légaux (comme, entre autres, l’AI Act européen) censés les réguler.
Le volet militaire a également été abordé par Türk : « Je suis horrifié par les rapports faisant état de drones entièrement autonomes lancés par la Fédération de Russie qui ont tué trois Ukrainiens le mois dernier », a-t-il lâché, en précisant que l’Ukraine aurait elle aussi mené des essais de terrain sur ce type d’armement. « Je rejoins les appels à l’interdiction urgente des armes capables d’ôter la vie sans intervention humaine. » C’est d’ailleurs la seule demande d’interdiction qu’il a formulée, preuve que Türk n’arbore pas une posture anti-IA primitive ; jamais ses accusations n’ont porté sur la technologie en tant que telle, mais sur ses usages et les déséquilibres géopolitiques qu’elle provoque.
Türk a annoncé qu’il écrirait lui-même aux entreprises du secteur dans les jours à venir, afin de leur demander de prendre les mesures qui relèvent de leur propre contrôle. Une démarche extrêmement rare pour un Haut-Commissaire : si les règles de l’ONU reconnaissent une responsabilité aux entreprises, les injonctions publiques de ce niveau sont quasi systématiquement adressées aux États, seuls garants traditionnels du droit international. S’il nous manquait une preuve qu’ils sont devenus complètement impuissants face à ces firmes, la voici. Lorsque l’ONU en est réduite à contourner les chancelleries pour supplier des dirigeants privés d’agir, c’est bien qu’elle a pris acte de la caducité du pouvoir politique face à la féodalité numérique imposée par des cartels 3.0 de la tech qui n’ont de comptes à rendre à personne.
