Google lance l'application AI Edge Gallery, une IA fonctionnant entièrement hors ligne sur les téléphones.

Google a discrètement émis AI Edge Gallery depuis le 31/5, une application d'IA directement sur smartphone, sans besoin d'internet ni de partage de données avec les serveurs de Big Tech.

• L'application open source (Apache 2.0) est maintenant disponible sur GitHub, commençant par Android, iOS à venir.
• Exécutez des modèles d'IA comme Gemma 3n complètement hors ligne, traitant de l'analyse d'images à l'écriture de code en utilisant uniquement le matériel du téléphone.
• Les principales fonctionnalités incluent : AI Chat (conversation), Ask Image (analyse d'image), Prompt Lab (tâches uniques telles que la réécriture de texte).
• Les utilisateurs peuvent télécharger des modèles depuis Hugging Face, mais la limite est au format .task, il n'est pas aussi soutenu que ses concurrents.
• Performance : Modèle compact qui fonctionne rapidement et en douceur (~20 jetons/seconde CPU, plus de 100 jetons/seconde GPU), répond bien comme le GPT-3.5 de première génération.
• Avantage majeur : pas besoin de réseau, haute sécurité, adapté aux utilisateurs qui ont besoin de garder des données privées comme les médecins, les journalistes.
• Limites : grande mémoire ( modèle grand d'environ 4,4 Go ), limite de fenêtre de contexte 4096 jetons, modèle pas encore diversifié, GPU parfois moins précis que le CPU.
• Pas besoin de s'inquiéter d'une censure stricte comme avec les services centralisés, il est possible d'utiliser un jailbreak simple.
• Économiser des coûts car il n'y a pas de frais de cloud, uniquement utiliser les ressources du téléphone.

En résumé, l'application convient aux personnes ayant besoin d'une sécurité par IA, sans connexion réseau, ou pour tester des modèles d'IA hors ligne, même si la vitesse et l'expérience ne peuvent pas rivaliser avec les services d'IA cloud modernes.