Chaque année, Anthropic fait le bilan et met à jour son règlement. Et, pour 2026, les changements que celui-ci apporte incluent l’interdiction explicite de certains cas de cruauté envers les modèles d’IA de Claude. “Nous avons ajouté une interdiction des comportements abusifs ou cruels, répétés et injustifiés, envers nos modèles”, annonce le laboratoire d’intelligence artificielle. Anthropic précise néanmoins que cette règle ne sera appliquée qu’aux cas extrêmes, “lorsque des utilisateurs agissent de manière cruelle et répétée”, sans raison apparente, contre les IA de Claude.
Une personne qui exprime sa frustration à cause de mauvais résultats ne devrait donc avoir rien à craindre. Par ailleurs, Anthropic ne prévoit pas de sanctions lourdes. La principale mesure qu’il peut prendre, en cas d’infraction, sera l’arrêt de la conversation en cours par le modèle d’IA. Mais, en tout cas, cette mise à jour du règlement de Claude remet le débat sur la conscience de l’intelligence artificielle au goût du jour.
Anthropic inscrit dans le règlement de Claude une mesure qu’il a déjà prise en 2025 et qui permet à ses modèles de mettre fin à une conversation “dans de rares cas extrêmes d’interactions persistantes et abusives des utilisateurs.” Le laboratoire d’intelligence artificielle avait pris cette mesure en indiquant qu’il est “très incertain du statut moral potentiel de Claude”. “Nous prenons néanmoins cette question au sérieux”, avait toutefois indiqué l’entreprise, en 2025.
Faut-il penser au “bien-être” des modèles d’IA ?
Alors que l’IA devient de plus en plus autonome dans la réalisation de tâches complexes, Anthropic se penche sur la question de son bien-être. Ces travaux ont débuté en 2025 et ils ont pour but de “déterminer quand, ou si, le bien-être des systèmes d’IA mérite une considération morale”. En développant Claude Opus 4, l’entreprise avait aussi fait une évaluation du bien-être de ce modèle et avait découvert une “forte aversion de la souffrance” de la part de l’IA.
Sinon, tout en ne reconnaissant pas officiellement que l’IA a une conscience, Anthropic évoque aussi ce sujet dans la Constitution de Claude. “Nous nous trouvons dans une situation délicate : nous ne voulons ni exagérer la probabilité que Claude soit un « patient moral », ni l’écarter d’emblée, mais plutôt essayer d’apporter une réponse raisonnable dans un contexte d’incertitude”, lit-on dans ce document.