La lettre est acide. Si elle ne se veut pas aussi pessimiste que celle signée en mars 2023 par plus d’un millier de personnalités publiques (dont Elon Musk) appelant à l’arrêt des recherches en IA générative, elle dresse un portrait inquiétant des progrès d’Open AI en matière d’intelligence artificielle. Sans doute parce qu’elle émane des rangs mêmes de celles et ceux qui ont forgé l’algorithme de GPT-4o et de ses prédécesseurs.
“Nous croyons au potentiel de la technologie de l’IA”
Dès les premières lignes, le ton est donné. “Nous croyons au potentiel de la technologie de l’IA pour offrir des avantages sans précédent à l’humanité“. Il n’est donc pas question de fustiger les progrès considérables réalisés ces dernières années sur le marché, mais plutôt d’appeler à une régulation nécessaire des “risques sérieux posés par ces technologies“.
“Ces risques vont de l’aggravation des inégalités existantes à la manipulation et à la désinformation, en passant par la perte de contrôle des systèmes d’IA autonomes pouvant entraîner l’extinction de l’humanité. Les entreprises d’IA elles-mêmes ont reconnu ces risques, tout comme les gouvernements du monde entier et d’autres experts en IA”
Pour éviter le pire, la lettre, cosignée par sept anciens employés d’Open AI, et six salariés toujours en poste, restés anonymes, entend miser sur les conseils éclairés de la communauté scientifique, des décideurs politiques et du public. Reste que la pente est déjà glissante. “Les sociétés d’IA n’ont actuellement que de faibles obligations de partager certaines de ces informations avec les gouvernements, et aucune avec la société civile. Nous ne pensons pas qu’on puisse compter sur eux pour le partager volontairement“.
Un contrôle gouvernemental inutile ?
Faute de décision gouvernementale efficace, les employés et anciens employés d’Open AI estiment aujourd’hui faire partie “des rares personnes qui peuvent les tenir responsables devant le public“. “De larges accords de confidentialité nous empêchent d’exprimer nos préoccupations, sauf auprès des entreprises mêmes qui ne parviennent pas à résoudre ces problèmes. Les protections ordinaires des lanceurs d’alerte sont insuffisantes, car elles se concentrent sur les activités illégales, alors que bon nombre des risques qui nous préoccupent ne sont pas encore réglementés.”
Que réclament les employés d’Open AI ?
- Que l’entreprise ne conclura ni n’appliquera aucun accord interdisant à ses employés d’exprimer leurs critiques sur les risques liés à l’IA générative
- Que l’entreprise mette en place un processus de retour anonymisé permettant aux employés s’exprimer leurs préoccupations liées aux risques au conseil d’administration de l’entreprise
- Que l’entreprise soutienne une politique de critique ouverte et transparente, en permettant à ses employés de faire part de leurs préoccupations liées aux risques liés à ses technologies au public, au conseil d’administration de l’entreprise, aux régulateurs ou à une organisation indépendante appropriée, à condition que les secrets commerciaux et autres intérêts de propriété intellectuelle soient correctement protégés
- Que l’entreprise n’exerce aucune représailles contre les employés qui expriment publiquement leurs inquiétudes sur la question de l’IA générative.
