Google meluncurkan aplikasi AI Edge Gallery, AI yang berjalan sepenuhnya offline di ponsel.

Google baru-baru ini secara diam-diam menerbitkan AI Edge Gallery mulai tanggal 31/5, sebuah aplikasi AI yang ditempatkan langsung di smartphone, tanpa perlu internet atau berbagi data dengan server Big Tech.

• Aplikasi sumber terbuka (Apache 2.0) sekarang tersedia di GitHub, dimulai dengan Android, iOS akan segera hadir.
• Menjalankan model AI seperti Gemma 3n sepenuhnya offline, memproses mulai dari analisis gambar hingga penulisan kode hanya menggunakan perangkat keras ponsel.
• Fitur utama meliputi: AI Chat (obrolan), Ask Image (analisis gambar), Prompt Lab (tugas tunggal seperti menulis ulang teks).
• Pengguna dapat mengunduh model dari Hugging Face, tetapi dibatasi pada format .task, belum mendukung sebanyak pesaing.
• Kinerja: Model kecil berjalan cepat, mulus (~20 token/detik CPU, lebih dari 100 token/detik GPU), memenuhi dengan baik seperti GPT-3.5 generasi pertama.
• Keuntungan besar: tidak memerlukan jaringan, keamanan tinggi, cocok untuk pengguna yang perlu menjaga data pribadi seperti dokter, jurnalis.
• Pembatasan: memori besar (model besar sekitar 4,4 GB), batas jendela konteks 4096 token, model belum bervariasi, GPU terkadang kurang akurat dibandingkan CPU.
• Tidak perlu khawatir tentang sensor ketat seperti layanan pusat, dapat menggunakan jailbreak sederhana.
• Menghemat biaya karena tidak ada biaya cloud, hanya menggunakan sumber daya ponsel.

Singkatnya, aplikasi ini cocok untuk orang yang membutuhkan AI keamanan, tidak terhubung ke jaringan, atau mencoba model AI secara offline, meskipun kecepatan dan pengalaman belum dapat dibandingkan dengan layanan AI cloud modern.