Google, AI Edge Gallery adlı yeni bir uygulamayı GitHub’da yayınladı. Henüz Google Play Store’da bile yer almayan bu deneysel Android uygulaması, büyük dil modellerini (LLM) çevrimdışı çalıştırmak için geliştirildi. Uygulamanın yakında iOS cihazlara da gelmesi bekleniyor.
AI Edge Gallery nedir?
Google’ın diğer yapay zekâ uygulaması Gemini’den farklı olarak AI Edge Gallery, cihazınıza indirdiğiniz yapay zekâ modellerini yerel olarak çalıştırmaya odaklanıyor. Tüm işlemler yerel olarak gerçekleştiriliyor, bu da daha fazla gizlilik ve çevrimdışı kullanım anlamına geliyor. Gemini ve ChatGPT gibi uygulamalarda ise yanıt alabilmek için internet bağlantınızın olması gerekiyor ve tüm istekleriniz Google ya da OpenAI sunucularında işleniyor—bu da pek gizlilik dostu sayılmaz.
Uygulamayı kurduğunuzda “Görüntüye Sor”, “Komut Laboratuvarı” ve “Yapay Zekâ Sohbeti” seçeneklerinin yer aldığı bir ana ekranla karşılaşıyorsunuz. Bunlardan herhangi birine tıkladığınızda, sorgunuzu çalıştırmak üzere bir model seçebileceğiniz başka bir ekrana yönlendiriliyorsunuz. “Görüntüye Sor” modu, bir görsel ekleyip bu görsel hakkında bir soru yazmanıza olanak tanıyor. “Komut Laboratuvarı” ise Serbest Biçim, Tonu Yeniden Yaz, Metni Özetle ve Kod Parçası sekmelerine sahip. “Yapay Zekâ Sohbeti” seçeneği ile yapay zekâ modelleriyle karşılıklı yazışabilirsiniz.
Uygulamada varsayılan olarak dört model bulunuyor (her biri ayrı ayrı indirilmeli, ayrıca Hugging Face hesabı gerekiyor):
Gemma-3n-E2B-it-int4
Gemma-3n-E4B-it-int4
Gemma3-1B-IT q4
QWEN2.5-1.5B-Instruct q8
Ana ekranın sol alt köşesindeki + simgesine basarak yerel bir model içe aktararak ekstra modeller eklemek de mümkün. Kullanılan modele ve donanıma bağlı olarak uygulama sorgularınızı CPU (işlemci) ya da GPU (grafik işlemci) üzerinden işler; GPU kullanıldığında işlemler daha hızlı gerçekleşir.
Kimler için tasarlandı?
Yeni yapay zekâ modellerini özel bir ortamda çalıştırmak isteyen teknoloji meraklıları, AI Edge Gallery uygulamasını takdir edecektir. Android üzerinde denediğim tüm çevrimdışı yapay zekâ uygulamaları arasında en cilalı hissi veren bu uygulama, bir Google uygulaması gibi hissettiriyor. Geliştiriciler de LiteRT .task modellerini test etmek için bu aracı faydalı bulabilir. Modelleri çevrimdışı çalıştırabilmek çok havalı olsa da, yanıtların cihazınızda işlenmesi işlemciye yük bindireceğinden, uygulamayı çok kullandığınızda pilin daha hızlı tükendiğini görebilirsiniz.
AI Edge Gallery, LiteRT (Lite Runtime) adında Google tarafından geliştirilen özel bir motor sayesinde cihazınızda yüksek performans gösterebiliyor. Bu yazılım, yapay zekâ özelliklerinin buluta veri göndermeden, yerel olarak hızlı biçimde çalışmasını sağlıyor.
Dikkat edilmesi gerekenler
Yapay zekâ modellerini çevrimdışı çalıştırmak güzel bir avantaj sunsa da, bunu sınırlı donanım üzerinde yaptığınızda performans, Google’ın güçlü sunucularına kıyasla daha yavaş olabilir. Ayrıca indirilecek büyük dil modellerinin boyutuna da dikkat etmek gerek. Varsayılan modellerin boyutları 560 MB ile 4,4 GB arasında değişiyor ve silinene kadar telefonunuzun depolama alanında kalıyor—bu nedenle yeterli boş alanınız olduğundan emin olmalısınız.
Uygulamanın iOS sürümünün henüz kullanıma sunulmadığını da belirtelim. Android tarafında ise şimdilik uygulamayı Google Play Store yerine GitHub üzerinden APK dosyası olarak indirmeniz gerekiyor. Umuyoruz ki uygulama yakında her iki mağazada da yer alır ve daha fazla kullanıcıya ulaşır.
Google’ın çevrimdışı yapay zekâyı gelecekte hangi yöne taşıyacağı oldukça merak konusu. Ayarlarda, çevrimdışı modelleri yükleyebileceğimiz bir ekranın olması ve bu modellerin tıpkı Gemini gibi kolayca çağrılabilmesi güzel olurdu. Şimdilik, elimizde AI Edge Gallery var. Daha fazla bilgiye GitHub üzerinden ulaşabilirsiniz.
İlk yorum yapan olun