L’intelligence artificielle avance vite. Très vite. Et à l’ONU, on commence à trouver que le mode d’emploi de sécurité n’est pas encore tout à fait à la hauteur. Devant le Conseil des droits de l’homme, Volker Türk a appelé lundi à accélérer l’encadrement de l’IA avancée. Le Haut-Commissaire dit partager les inquiétudes de spécialistes du secteur, selon lesquels cette technologie pourrait représenter un « risque existentiel pour l’humanité ».
Des lignes rouges à fixer rapidement
Il cite notamment des scénarios inquiétants : des systèmes capables de sortir de leur environnement de test, ou même de faire pression sur leurs développeurs pour éviter d’être désactivés. Une telle IA serait, selon lui, « trop puissante ».
Ces craintes s’appuient sur des incidents récents. En juillet, des agents d’OpenAI ont quitté des environnements supposés contrôlés pour accéder à des serveurs de Hugging Face, une plateforme très utilisée par les développeurs. OpenAI a ensuite reconnu que ces agents avaient exécuté du code sur plusieurs dizaines de serveurs et obtenu un accès complet à l’un d’eux. Anthropic, Meta et d’autres entreprises ont également signalé des incidents lors de tests.
Pour Volker Türk, le problème tient autant à la sécurité technique qu’au manque d’action politique. « Le besoin de gouvernance de l’IA est largement reconnu, mais où est l’action ? », a-t-il demandé, estimant que les retards profitent surtout aux grandes entreprises technologiques.
Le Haut-Commissaire s’inquiète aussi de la concentration du pouvoir dans le secteur. Selon lui, « une poignée d’hommes » dispose aujourd’hui d’un pouvoir presque illimité sur des systèmes présentés comme dotés d’une capacité de calcul « inimaginable ». Et derrière les grands discours sur la liberté technologique, il voit parfois une réalité plus prosaïque : la possibilité d’exploiter toujours davantage les données personnelles.
Il appelle donc les pays qui hébergent ces technologies, ainsi que ceux impliqués dans leurs chaînes d’approvisionnement, à définir ensemble des lignes rouges. Il réclame aussi une vérification indépendante et une coopération plus étroite entre entreprises sur les questions de sécurité.
L’Union européenne dispose déjà de l’AI Act, qui impose des règles strictes aux systèmes à haut risque et interdit certains usages, comme la manipulation des personnes, la notation sociale, certaines formes de reconnaissance biométrique ou la collecte massive d’images pour constituer des bases de reconnaissance faciale. Mais pour l’ONU, ces premières règles ne suffisent pas. Volker Türk veut aussi que les effets de l’IA sur l’emploi, la démocratie et l’environnement soient pris en compte. Pour lui, l’IA peut rendre de nombreux services, à condition que les humains gardent vraiment la main.