Google lanza la app AI Edge Gallery, AI que funciona completamente offline en el teléfono.

Google ha lanzado silenciosamente la AI Edge Gallery desde el 31/5, una aplicación de IA que se coloca directamente en el smartphone, sin necesidad de internet ni compartir datos con el servidor de Big Tech.

• Aplicación de código abierto (Apache 2.0) disponible en GitHub, comenzando con Android, iOS pronto a ser lanzado.
• Ejecutar modelos de IA como Gemma 3n completamente offline, procesando desde el análisis de imágenes hasta la escritura de código solo utilizando hardware de teléfono.
• Las características principales incluyen: AI Chat (charlas), Ask Image (análisis de imágenes), Prompt Lab (tareas individuales como reescribir texto).
• Los usuarios pueden descargar modelos de Hugging Face, pero están limitados al formato .task, y no son tan compatibles como los de la competencia.
• Rendimiento: Modelo pequeño que funciona rápido y suave (~20 token/segundo CPU, más de 100 token/segundo GPU), responde bien como el GPT-3.5 de primera generación.
• Gran ventaja: no necesita red, alta seguridad, adecuado para usuarios que necesitan mantener datos privados como médicos, periodistas.
• Restricciones: gran memoria (modelo grande de aproximadamente 4,4 GB), límite de ventana de contexto de 4096 tokens, no es un modelo diverso, la GPU a veces es menos precisa que la CPU.
• No necesitas preocuparte por una censura estricta como en los servicios centralizados, puedes usar un jailbreak simple.
• Ahorra costos ya que no hay tarifas de nube, solo utiliza los recursos del teléfono.

En resumen, la app es adecuada para personas que necesitan seguridad de IA, que no están conectadas a la red, o que desean probar modelos de IA sin conexión, aunque la velocidad y la experiencia aún no pueden compararse con los servicios de IA en la nube modernos.