L’intelligence artificielle évolue tellement vite qu’elle pourrait bientôt se développer elle-même, en boucle fermée. D’après une nouvelle publication d’Anthropic, ce phénomène appelé “auto-amélioration récursive” n’existe pas encore et pourrait ne jamais exister. Mais le laboratoire d’IA indique aussi que ce type d’intelligence artificielle pourrait arriver plus tôt qu’on le pense, et avant que les institutions et les gouvernements ne soient préparés à une telle situation.
Et si l’existence d’un modèle d’IA capable de développer son propre successeur peut mener à de nouvelles percées, cela pourrait également augmenter les risques liés à l’intelligence artificielle, car les humains pourraient perdre le contrôle sur la façon dont la technologie est développée.
80 % de code généré par l’IA
“Si les systèmes sont capables de créer entièrement leurs propres successeurs, la manière dont nous les sécurisons, les surveillons et façonnons leur comportement prend alors une importance bien plus grande”, explique Anthropic. Le laboratoire d’IA base ses prédictions sur les tendances récentes, observées en interne. Avant 2023, Anthropic fonctionnait comme n’importe quelle autre startup, où les humains écrivaient le code et les documents, pour développer de nouvelles IA.
Puis, l’entreprise a commencé à utiliser des bouts de code générés par l’IA. Lorsque les agents sont arrivés, l’entreprise à commencé à confier plus de tâches. Et, aujourd’hui, les agents IA peuvent “exécuter eux-mêmes du code et déléguer des heures de travail à d’autres agents.” De ce fait, chez Anthropic, 80 % du nouveau code pour améliorer Claude est déjà écrit par Claude lui-même. De plus, la qualité du code rédigé par Claude se rapprocherait aussi de celle qu’écrivent les humains.
Pourquoi le créateur de Claude demande-t-il une pause ?
Pour le moment, Anthropic n’est pas certain de la manière dont l’IA évoluera dans un futur proche. Mais, en tout cas, celle-ci commence aussi à exceller dans certaines tâches liées à la recherche. Et l’un des scénarios possibles que “les systèmes d’IA deviennent eux-mêmes capables d’une auto-amélioration récursive complète et commencent à construire leurs successeurs.”
Dans ce cas-là, l’évolution de l’IA ne dépendrait plus que de la puissance de calcul qu’on peut la fournir. Et les humains seraient complètement relégués à un rôle de supervision, s’ils arrivent à suivre le rythme.
Un bouton “pause” pour gagner du temps
En tout cas, face aux risques que de tels systèmes pourraient poser, Anthropic estime que ce serait une bonne chose s’il était possible de ralentir l’évolution de la technologie. Mais l’entreprise explique également “si un ralentissement permet simplement aux acteurs les moins prudents de rattraper leur retard technologique, cela pourrait rendre tout le monde moins en sécurité.” En d’autres termes, Anthropic ne pourrait pas faire une pause, si c’est simplement pour permettre à d’autres acteurs de le rattraper.
“En l’absence d’un mécanisme de coordination mondial, les entreprises et les gouvernements devront prendre des décisions difficiles en matière de sécurité, tout en étant soumis à des pressions concurrentielles et géopolitiques”, explique l’entreprise. En tout cas, pour Anthropic, une pause temporaire sur le développement de ce type de système permettrait aux structures sociétales et aux chercheurs de rattraper l’évolution de la technologie.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
