Vendredi 2 février, les 27 états membres de l’Union européenne ont enfin ratifié l’IA Act, ce vaste projet de loi qui vise à encadrer l’industrie de l’intelligence artificielle, après deux mois de délibérations concernant d’éventuels amendements du texte qui avait fait l’objet d’un accord provisoire en décembre. La France a finalement accepté de suivre la marche, au terme d’une lutte de plusieurs mois afin de préserver les intérêts des leaders français du secteur.
📝 Signed!
Coreper I Ambassadors confirmed the final compromise text found on the proposal on harmonised rules on artificial intelligence (#AIAct).
The AI Act is a milestone, marking the 1st rules for AI in the 🌍, aiming to make it safe & in respect of 🇪🇺 fundamental rights. pic.twitter.com/QUe2Sr89A5
— Belgian Presidency of the Council of the EU 2024 (@EU2024BE) February 2, 2024
L’Hexagone continuait en effet d’émettre quelques réserves. Cela fait déjà quelque temps qu’Emmanuel Macron affiche ouvertement ses ambitions de transformer le pays en une grande puissance mondiale de l’IA, dans le sillage de plusieurs startups et organisations à fort potentiel.
La France a freiné des quatre fers
Or, l’IA Act impose un certain nombre de garde-fous à ces dernières. Le Président s’inquiétait du fait que ces restrictions puissent brider la force de frappe de l’IA made-in-France. Nous l’avons par exemple constaté à l’automne dernier à l’inauguration de Kyutai, le grand laboratoire de recherche IA fondé par le patron de Free Xavier Niel. Il avait répété que si la régulation était indispensable, elle ne devait en aucun cas être « punitive » pour les chefs de file de cette niche technologique, et qu’il était plus important de limiter les usages que la technologie en elle-même.
Dans la continuité de ce positionnement, le contingent français a tenté jusqu’au dernier moment d’obtenir des concessions de la part de ses partenaires européens. Il voulait notamment assouplir les restrictions que le texte fait peser sur les modèles fondationnels, autour desquels sont notamment construits de puissants services d’IA générative comme ChatGPT.
Plus spécifiquement, l’IA Act impose à ces derniers d’être transparents sur la nature des données utilisées lors du processus d’entraînement dont ces modèles tirent leur puissance. La France, de son côté, souhaitait que ces données ne soient pas mises en accès libre. Elle préférait qu’elles soient seulement révélées à un tiers de confiance comme le Bureau européen de l’IA, un nouvel organe des institutions européennes créées par ce texte.
Un autre point de friction concernait l’échelle à trois niveaux qui classe les différents systèmes IA en fonction du risque qu’ils représentent. Le troisième échelon définit en effet des applications de l’IA qui présentent un risque « inacceptable », comme des outils qui pourraient alimenter un système de « crédit social ».
Transparence et sécurité contre innovation et compétitivité
Juste en dessous, on retrouve tout une famille d’outils tolérables, mais tout de même suffisamment puissants pour représenter un vrai risque. Ils seront donc surveillés de près dans le cadre de l’IA Act. Ces algorithmes seront soumis à des limitations supplémentaires, avec des obligations bien plus strictes en termes de transparence.
Leurs concepteurs devront fournir une documentation technique très complète aux régulateurs. Ils seront aussi contraints de montrer qu’ils travaillent en conformité avec la législation sur le droit d’auteur. Une manière de permettre aux ayants droit de se défendre contre les entreprises qui alimentent leurs algorithmes très rémunérateurs avec du contenu copyrighté pillé sans vergogne. Une problématique centrale dans la niche de l’IA générative. Par exemple, le patron d’Open AI Sam Altman avait récemment argué qu’il était « impossible » de faire progresser ces outils sans exploiter de contenu couvert par le droit d’auteur.
Il y a donc fort à parier que ce point précis aura des répercussions significatives. Il pourrait par exemple encourager d’autres médias à signer des accords avec OpenAI, comme l’entreprise l’a déjà fait avec le groupe Springer. Mais quoi qu’il en soit, les créateurs devront tout de même se soumettre à une évaluation continue. L’objectif sera de vérifier qu’ils œuvrent activement à la réduction des risques d’erreurs et de biais susceptibles d’alimenter une désinformation à grande échelle.
Le calendrier électoral en juge de paix
La France bataillait pour que ces critères soient largement assouplis. L’objectif était de laisser une marge de manœuvre plus importante à ses poulains, afin qu’ils puissent lutter à armes égales contre les titans émergents dont les États-Unis et la Chine sont en train d’accoucher.
À l’origine, la France s’était trouvé deux alliés de poids dans démarche : l’Italie et l’Allemagne. Les discussions semblaient donc parties pour durer encore un moment. Mais finalement, c’est la pression du calendrier qui a fait voler ce bloc réfractaire en éclats. Il était indispensable d’arriver à un accord avant le mois de juin, date des prochaines élections européennes, sous peine de voir ce travail de longue haleine tomber à l’eau. Une perspective inquiétante qui aurait représenté un échec cuisant pour toute la démocratie européenne.
Pour éviter d’assumer la responsabilité d’un tel fiasco, Rome et Berlin ont donc fait machine arrière dans la dernière ligne droite. Désormais seule dans son coin, la France a été forcée de se rendre à l’évidence et de ratifier l’IA Act à son tour. Mais elle a tout de même obtenu une petite concession. La nouvelle version du texte prévoit que ces critères soient révisés régulièrement. Cela permettra de continuer à faire évoluer la réglementation au contact de cette technologie qui progresse de jour en jour.
Mais le plus important, c’est que les 27 ont enfin trouvé un accord sur le fond et la forme du texte. Une étape charnière qui ouvre la voie à son intégration dans la Loi européenne. Il sera donc très intéressant de suivre les prochaines étapes du processus, ainsi que les conséquences de l’IA Act sur la protection des citoyens et la compétitivité des entreprises du Vieux continent.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
Quelle belle initiative que de brider l’IA !!
Toujours cette façon étroite de comprendre les sujets et de besoin irrépressible de les régler. Comment s’en vanter aussi ?
En même temps Thierry Breton est l’ex patron d’autos pour lequel il a fait tous les mauvais choix techniques qui la conduisent à la faillite en cours.
On parle d’un spécialiste qui enchaîne les désastres avec un bel entrain.