Quinze box Android TV achetées une cinquantaine de dollars pièce et branchées en réseau sur une étagère. Chacune embarque 4 Go de mémoire vive, de quoi faire tourner Netflix et pas grand-chose de plus. Ensemble, elles ont pourtant fait fonctionner un modèle d’IA de 26 milliards de paramètres, à raison de 0,39 token par seconde. Certes, le rythme n’est pas bien élevé, puisqu’il correspond à peine à un mot toutes les trois secondes. Sauf qu’il n’y avait ni data center, ni carte graphique pour propulser l’ensemble. Et c’est là tout le génie du projet.
L’IA peut s’alimenter avec ce qu’elle a sous la main
La démonstration est signée Anthropic, la maison mère de Claude. Dans un billet publié le 12 octobre, l’équipe chargée de traquer les capacités dangereuses des modèles d’IA rapporte un problème latent : les petits modèles pourraient n’être qu’à quelques mois de pouvoir s’autorépliquer sur des objets connectés grand public, à la manière d’un ver informatique, qui se copie d’une machine à l’autre sans intervention humaine. Frigos connectés, aspirateurs robots, tondeuses ou caméras de surveillance équipées de puces IA feraient très bien l’affaire.
Détail encore plus inquiétant, ces IA sont capables d’apprendre en route. Quand chaque nouvelle copie hérite des notes laissées par la précédente, le taux de réussite grimpe de 45 % à la première génération jusqu’à 84 % dans les suivantes, rapporte le billet de blog dédié. En guise de comparaison, Anthropic utilise l’image du « blob numérique »; cet organisme lent à répliquer, mais capable de se développer partout de manière exponentielle.
Une dystopie pas encore d’actualité
Pour leurs tests, les chercheurs ont volontairement facilité la partie piratage : les appareils exposaient un port de débogage Android ouvert, sans aucun mot de passe. Anthropic le reconnaît, ses résultats sont donc loin de la situation réelle, et la menace reste théorique à ce stade. D’autant plus qu’en matière de défense, Anthropic mise sur les fournisseurs d’accès. Un modèle de plusieurs gigaoctets qui atterrit sur une box TV, puis des appareils qui discutent entre eux à haut débit, laisse des traces repérables.
En attendant, les vieux réflexes restent les meilleurs : changer les mots de passe d’origine de ses objets connectés, installer les mises à jour quand elles existent et se méfier des box Android à prix cassé dont personne ne connaît vraiment le fabricant.