Cette semaine, Anthropic a finalement lancé Claude Fable 5, une version pour le grand public de Claude Mythos 5, dont les puissantes capacités en cyber, en biologie et en chimie ont été bridées, pour des raisons de sécurité. En cyber, l’IA a été reprogrammée pour que les utilisateurs ne puissent pas s’en servir pour lancer des attaques informatiques. En biologie et en chimie, Claude Fable 5 renvoie automatiquement l’utilisateur sur un modèle d’IA moins performant, pour la plupart des requêtes. En effet, si ce modèle peut assister des recherches avancées dans ces deux domaines, ses capacités en biologie pourraient aussi, par exemple, être exploitées pour créer un virus.
Mais, ce n’est pas tout, puisqu’Anthropic a aussi décidé d’appliquer une politique de rétention de données spéciale pour Claude Fable 5, Claude Mythos 5, et pour tous les autres modèles de cette nouvelle catégorie. Pour le grand public (comme les utilisateurs de Claude Pro), rien ne change, puisqu’Anthropic conserve déjà les contenus des discussions avec son IA pendant une période limitée. En revanche, pour les entreprises, la politique d’Anthropic change. Celles-ci devront, en effet, accepter que leurs échanges avec Claude Fable 5 soient conservés pendant 30 jours, ou bien utiliser un modèle d’intelligence artificielle moins puissant.
Microsoft aurait déjà limité l’accès à Claude Fable 5 par ses employés
Il s’agit aussi d’une mesure de sécurité prise par Anthropic, pour s’assurer que ses puissantes IA ne soient pas utilisées à des fins malveillantes. “Nous exigerons une conservation de 30 jours pour l’ensemble du trafic sur les modèles de la classe Mythos, tant sur nos propres plateformes que sur celles de tiers. Nous n’utiliserons pas ces données pour entraîner de nouveaux modèles Claude, ni à aucune autre fin non liée à la sécurité, et nous avons mis en place de nouvelles mesures de protection de la vie privée, notamment l’enregistrement de tous les accès humains aux données et la garantie de leur suppression après 30 jours dans la quasi-totalité des cas”, explique Anthropic.
Mais, malgré ces explications, Microsoft (qui propose pourtant le modèle Claude Fable 5 sur certains de ses produits), aurait décidé de limiter l’utilisation de cette nouvelle IA par ses employés. D’après les sources de The Verge, Claude Fable 5 ne serait pas proposé sur le sélecteur de modèles que la firme de Redmond propose à ses employés. Microsoft aurait bloqué Claude Fable 5 au sein de ses équipes, le temps que ses équipes juridiques se penchent sur cette situation. En effet, la préoccupation de Microsoft serait qu’à cause de cette politique spéciale qui s’applique aux modèles Fable et Mythos, des informations confidentielles ou des données de clients soient conservées par Anthropic.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
