Cette application expérimentale, disponible dès maintenant sur Android et bientôt sur iOS, permet d’exécuter des grands modèles de langage (LLM) directement sur votre smartphone, en mode hors ligne, garantissant ainsi une confidentialité accrue de vos échanges.
L’IA à portée de main, loin des serveurs
L’un des principaux attraits d’AI Edge Gallery réside dans sa capacité à libérer l’utilisateur des contraintes des serveurs distants. Fini le transit de vos requêtes par des plateformes en ligne, qui, par nature, soulèvent des questions sur la gestion de vos informations personnelles. Avec cette nouvelle application, le traitement des données est entièrement réalisé en local sur votre appareil, offrant une plus grande maîtrise sur la confidentialité de vos interactions avec l’IA.
Mise en ligne sur GitHub, AI Edge Gallery est bien plus qu’un simple chatbot hors ligne. Google a conçu une solution clé en main, permettant de télécharger et d’utiliser différents modèles de langage directement sur votre smartphone. L’application propose d’ores et déjà quatre modèles par défaut, dont trois déclinaisons du récent Gemma-3 de Google et un modèle Qwen d’Alibaba, avec la possibilité d’en importer d’autres depuis des plateformes comme Hugging Face.
Une application aux multiples facettes
L’interface de l’application se divise en trois fonctionnalités principales. Le premier mode, Ask Image, permet d’analyser une image et d’obtenir des informations pertinentes grâce à l’IA, sans que les informations quittent votre pareil. Il peut s’agir d’une plante, d’un monument ou encore d’un plat.
Avec le mode Prompt Lab, on trouve des solutions plus adaptées aux créatifs et aux développeurs, comme la possibilité de synthétiser ou de réécrire du texte, et même de générer du code informatique. Une sorte de boîte à outils pour ses projets textuels et de développement. Enfin, AI Chat se positionne dans la lignée de ChatGPT ou Gemini en proposant une expérience de chatbot traditionnelle. Ce mode vous permet de dialoguer avec l’IA, de poser des questions et d’obtenir des réponses instantanées, le tout sans connexion internet.
Des limitations à connaître
L’exécution de modèles de langage en local sur un smartphone présente des avantages évidents, mais il n’y a des inconvénients et limitations à prendre en compte. En effet, le temps de réponse à une requête dépendra fortement du modèle de smartphone utilisé, certains appareils étant plus rapides que d’autres selon leur configuration. Il est également important de considérer le poids de ces modèles, souvent chiffré en gigaoctets, ce qui nécessitera un espace de stockage suffisant sur votre appareil. D’après nos constations, le poids varie entre 554,7 Mo et 4,4 Go avec plusieurs modèles qui dépassent allégrement 1 Go.
Pour autant, Google a optimisé ces modèles pour une utilisation mobile. Contrairement aux versions colossales tournant dans les centres de données, ces modèles allégés comportent moins de paramètres, ce qui les rend compatibles avec les puces ARM de nos smartphones. Le compromis ? Des réponses parfois moins nuancées ou créatives que leurs homologues cloud, mais une portabilité et une confidentialité inégalées.
Une version alpha prometteuse et totalement gratuite
Actuellement en version « alpha » et disponible via un téléchargement APK sur GitHub, AI Edge Gallery n’est pas encore présente sur le Play Store. Cette approche permet à Google de recueillir les retours des « early adopters » avant une sortie grand public. Elle se destine plutôt à un public averti, même si l’installation manuelle sur un smartphone Android reste simple à effectuer.
Malgré quelques limitations actuelles, telles que l’absence d’interaction vocale en temps réel, le potentiel de cette application pour une expérimentation d’IA hors ligne axée sur la confidentialité est indéniable. Une version pour l’iPhone est également prévue, mais sa date de sortie reste inconnue.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
