Depuis plusieurs semaines, les inquiétudes autour de l’intelligence artificielle s’accumulent aux Etats-Unis. Entre incidents de sécurité documentés et mises en garde répétées de responsables du secteur, comme Dario Amodei (PDG d’Anthropic) et Sam Altman (PDG d’OpenAI), l’IA telle que nous la connaissons évolue à une vitesse folle et gagne, mise à jour après mise à jour, en puissance.
Face à l’absence de réponse du gouvernement fédéral, la Californie a décidé d’agir seule avec un décret signé vendredi par le gouverneur démocrate et fervent opposant à Donald Trump, Gavin Newsom. Un décret exécutif qui a pour but d’accélérer la mise en œuvre de deux lois déjà votées destinées à créer des garde-fous sur l’intelligence artificielle. Depuis fin 2023, le gouverneur cherche à promouvoir l’expansion de l’intelligence artificielle tout en restant conscient des risques qu’elle peut engendrer, si on ne l’encadre pas, pour la sécurité nationale. Il avait alors établi une feuille de route, avec des lois bien précises édictées en collaboration avec des experts en la matière.
California is the global hub for artificial intelligence — the state procures more advanced technology than any sub-national government.
We’re laying out a series of principles and safeguards to develop safe, transparent, trustworthy AI.https://t.co/f3FsAZexLR
— Governor Gavin Newsom (@CAgovernor) November 22, 2023
“Alors que Donald Trump et le Congrès restent les bras croisés, le gouverneur Gavin Newsom prend une nouvelle fois les devants pour renforcer la sécurité de l’IA au profit de tous les Américains”, explique le site du Démocrate. “Aujourd’hui, le gouverneur a publié un décret visant à accélérer considérablement la mise en place d’un nouveau dispositif de contrôle par des tiers des risques liés à la sûreté et à la sécurité des systèmes d’IA, ainsi que la réalisation d’audits indépendants.”
Réagir avant qu’il ne soit trop tard
Concrètement, le décret signé le 18 février dernier par M. Newsom presse l’Agence des opérations gouvernementales de Californie, en coordination avec le bureau des services d’urgence du gouverneur, de réunir un panel d’experts internationaux et de fournir des recommandations d’ici au 16 novembre prochain. Parmi ces recommandations, on retrouve l’idée d’un “kill switch” pour les modèles de pointe.
Ce “kill switch” n’a actuellement pas pour vocation d’être créé et utilisable dans les prochains mois. Il fait surtout partie des réflexions sur lesquelles vont devoir se pencher les experts. Néanmoins, il pourrait permettre à l’Etat de mettre sur pause le développement d’un modèle dit “frontier” (parmi les plus avancés) en attendant que des véritables garde-fous soient mis en place. Les experts devront également se pencher sur la mise en œuvre d’un tel dispositif et sur sa faisabilité légale.
“L’idée que l’IA prenne le contrôle du monde, détruise l’humanité et tout le reste de mauvais est un canular. […] L’IA sera le plus grand moteur de développement économique de l’Histoire, plus grand que le pétrole, l’or, les diamants ou même Internet !” – Donald Trump
Des organismes de régulation au sein des entreprises concernées
La Californie veut également imposer la présence d’organismes de régulation indépendants destinés à surveiller les entreprises d’IA. Ces organismes de régulation seraient imposés aux entreprises de pointe du secteur, et présents au sein de chacune de celles-ci, alors que la Californie fait office de “terre de l’IA”, réunissant sur son territoire 32 des 50 plus grandes entreprises du secteur. Ces organismes seront enfin chargés de certifier les rapports de transparence et les évaluations de risques des Anthropic et autres OpenAI. Les premiers organismes ne seraient toutefois pas attendus avant décembre 2027.
“Nous n’attendons pas pour agir, nous allons accélérer notre travail sur une supervision de l’IA substantielle et responsable avant qu’il ne soit trop tard”, ajoute Gavin Newsom. “Nous allons le faire de manière réfléchie, mais avec une urgence pressante ; les enjeux sont trop élevés pour attendre ou tarder à agir.”
Avec cette série de dispositions, Gavin Newsom veut prendre le contrepied de la politique de Washington sur l’IA, qu’il estime “attentiste”. Donald Trump a d’ailleurs réagi sur les récentes préoccupations concernant les dangers que représentent l’intelligence artificielle … à sa manière, réduisant ces craintes à un “canular”.
