À partir de quel moment un modèle d’intelligence artificielle est-il suffisamment dangereux pour nécessiter un blocage de la part du gouvernement américain ? Dans un document publié au mois de juin, Anthropic, le créateur de Claude, recommande aux gouvernements de prendre l’exemple d’une loi californienne signée en 2025. Celle-ci estime qu’il y a un “risque catastrophique” associé à une IA, si le modèle en question peut contribuer (dans des cas précis définis par le texte) “de manière significative au décès ou à des blessures graves de plus de 50 personnes, ou à des dommages matériels ou pertes de biens d’un montant supérieur à un milliard de dollars”.
Par ailleurs, Anthropic ne s’est pas contenté d’émettre des recommandations. Via un article de Politico, on apprend que le créateur de Claude plaide déjà en faveur d’un projet de loi, qui reflète les recommandations du document publié en juin, auprès de membres du Congrès américain.
Ce projet permettrait au gouvernement de bloquer les IA jugées trop dangereuses
“Ce projet de loi reprend les propositions décrites dans le cadre de l’IA avancée d’Anthropic, que nous défendons auprès des législateurs fédéraux et étatiques depuis juin”, a confirmé un porte-parole de l’entreprise, cité par Politico. “Ce sont des politiques judicieuses sur lesquelles nous pensons que le Congrès devrait agir.”
Politico indique également avoir obtenu un accès au texte. Et, selon le média, parmi les mesures proposées, il y aurait un mécanisme qui permettrait au gouvernement américain de bloquer un modèle d’IA si celui-ci franchissait le niveau de risque évoqué plus haut. Ces risques devraient néanmoins provenir d’une menace biologique, d’une cyberattaque, ou d’une IA qui aurait échappé au contrôle de son créateur.