Google EmbeddingGemma 2’yi Tanıttı: Akıllı Telefonlarda Yapay Zeka İçin Yeni Dönem Başlıyor!

Google, geliştiricilerin güçlü arama sistemlerini doğrudan cihazlar üzerinde çalıştırabilmesini sağlayacak yeni açık kaynaklı EmbeddingGemma 2 modelini tanıttı. Veri gizliliğinden ve işlem hızından ödün vermeden yerel yapay zeka uygulamaları geliştirilmesini hedefleyen model; metin, kod, görüntü, video ve ses gibi farklı veri türlerini aynı yapı içerisinde işleyebilmesiyle öne çıkıyor. Toplam 740 milyon parametreli mimariye sahip olan modelin, performans testlerinde kendisinden iki kat daha büyük bazı rakip modelleri geride bıraktığı belirtiliyor.

EmbeddingGemma 2 Neler Sunuyor?

EmbeddingGemma 2, farklı veri türlerini sayısal vektörlere dönüştürerek aralarında anlamsal bağlantılar kurulmasını sağlıyor. Bu yapı sayesinde bir ses kaydındaki belirli bir ifadeyle ilişkili görüntünün bulunması veya metin üzerinden saatler süren ses kayıtları içerisinde arama yapılması mümkün hale geliyor.

Google’ın geçen yıl kullanıma sunduğu önceki EmbeddingGemma modeli yalnızca metin tabanlı işlemlere odaklanırken, yeni model kod, görüntü, video ve ses verilerini de aynı sistem içerisinde destekliyor. Böylece farklı veri türlerinin tek bir yapı üzerinden aranabilmesi ve birbirleriyle ilişkilendirilebilmesi amaçlanıyor.

Model İnternet Bağlantısı Olmadan Çalışabiliyor

EmbeddingGemma 2’nin önemli özelliklerinden biri, işlemler için internet bağlantısına ihtiyaç duymaması. Google’ın Gemma 4 mimarisini temel alan model, Apache 2.0 lisansıyla sunuluyor ve yerel cihazlarda çalıştırılabilecek şekilde tasarlanıyor.

Modelin toplam mimarisi 740 milyon parametreden oluşuyor ancak geliştiricilerin her kullanım senaryosunda modelin tamamını çalıştırması gerekmiyor. Metin işlemleri için 270 milyon, görüntü için 170 milyon ve ses için 300 milyon parametreli yapılar kullanılabiliyor.

Vektör Boyutu Küçültülerek Depolama Tasarrufu Sağlanıyor

EmbeddingGemma 2’nin öne çıkan özellikleri arasında depolama ve bellek kullanımını azaltmaya yönelik esnek yapısı da bulunuyor. Model, Matryoshka Representation Learning (MRL) sayesinde oluşturduğu 768 boyutlu vektörleri 512, 256 veya 128 boyuta kadar küçültebiliyor.

Bu özellik, özellikle cihaz üzerinde çalışan yerel vektör veritabanları açısından önem taşıyor. Google’ın verdiği bilgilere göre vektör boyutunun azaltılması, depolama alanı ve bellek kullanımında 6 kata kadar tasarruf sağlayabiliyor.

Bu yapı sayesinde geliştiriciler, kullanım senaryosuna göre daha küçük vektör boyutlarını tercih ederek cihaz üzerindeki depolama ve bellek ihtiyacını azaltabiliyor.

Daha Geniş Bağlam Penceresiyle Daha Fazla Veri İşlenebiliyor

Yeni model, önceki EmbeddingGemma sürümüne kıyasla daha geniş bir bağlam penceresi sunuyor. EmbeddingGemma 2’nin 8 bin tokenlık bağlam penceresi, önceki modelin sunduğu kapasitenin dört katına karşılık geliyor.

Bu kapasite sayesinde model, yerel donanım üzerinde yaklaşık 5,5 dakikalık ses, 29 görüntü veya 58 video karesini işleyebiliyor. Böylece farklı veri türleri üzerinde daha geniş kapsamlı arama ve ilişkilendirme işlemlerinin cihaz üzerinde gerçekleştirilmesi hedefleniyor.

EmbeddingGemma 2 Telefonda 191 MB RAM ile Çalışabiliyor

Google, modeli özellikle cihaz üzerinde çalışan yapay zeka uygulamaları için optimize ediyor. Şirketin verdiği bilgilere göre EmbeddingGemma 2, Google Pixel 11 Pro üzerinde yalnızca metin tabanlı işlemler gerçekleştirildiğinde yaklaşık 191 MB aktif RAM kullanıyor.

Diğer veri türlerinin de dahil edildiği kullanım senaryolarında modelin aktif RAM ihtiyacı yaklaşık 567 MB seviyesine çıkıyor. Bu değerler, modelin yerel cihazlarda çalıştırılabilmesi için düşük bellek tüketimine odaklanılarak geliştirildiğini gösteriyor.

WebGPU Üzerinden de Çalıştırılabiliyor

EmbeddingGemma 2’nin tarayıcı içerisinde WebGPU kullanılarak çalıştırılması da mümkün. Google, bu kullanım senaryosunda sorguların yaklaşık 20 ila 70 milisaniye içerisinde işlenebildiğini belirtiyor.

Böylece sorguların uzak bir sunucuya gönderilmesi veya modelin çalıştırılması için bir API anahtarı kullanılması gerekmiyor. İşlemin doğrudan cihaz üzerinde gerçekleştirilmesi, özellikle kişisel verilerin cihaz dışına çıkarılmasının istenmediği uygulamalar açısından önem taşıyor.

Yerel Yapay Zeka Gizlilik Ve Hız Sağlamayı Hedefliyor

EmbeddingGemma 2’nin cihaz üzerinde çalışabilmesi, verilerin uzak sunuculara gönderilmeden işlenmesine imkan tanıyor. Embedding işlemlerinin yerel olarak gerçekleştirilmesi, kişisel verilerin cihaz dışına çıkarılmasının istenmediği kullanım senaryolarında gizlilik açısından avantaj sağlayabiliyor.

Aynı zamanda işlemlerin uzak sunucular yerine cihaz üzerinde yapılması, ağ bağlantısından kaynaklanan gecikmeleri ortadan kaldırıyor. Bu yapı, tamamen çevrimdışı arama ve veri erişimi senaryolarının da önünü açıyor.

Model Açık Kaynak Ekosistemine Açılıyor

Google, EmbeddingGemma 2’nin model ağırlıklarını Hugging Face ve Kaggle üzerinden erişime açıyor. Böylece geliştiriciler modelden kendi yerel yapay zeka uygulamalarında yararlanabilecek.

Gemini Enterprise Agent Platform Model Garden desteğinin ise ilerleyen dönemde sunulması planlanıyor. Cihaz üzerinde kullanım için optimize edilen modeller de LiteRT Community’nin Hugging Face sayfasında yer alıyor.

EmbeddingGemma 2 Teknik Özellikleri

EmbeddingGemma 2 nedir?

EmbeddingGemma 2, Google tarafından geliştirilen ve farklı veri türlerini sayısal vektörlere dönüştürerek aralarında anlamsal bağlantılar kurulmasını sağlayan açık kaynaklı bir modeldir.

EmbeddingGemma 2 hangi veri türlerini destekliyor?

Model metin, kod, görüntü, video ve ses verilerini aynı sistem içerisinde destekliyor.

EmbeddingGemma 2 internetsiz çalışabilir mi?

Evet. Model, internet bağlantısına ihtiyaç duymadan yerel cihazlarda çalıştırılabilecek şekilde tasarlanıyor.

EmbeddingGemma 2 ne kadar RAM kullanıyor?

Google’ın verdiği bilgilere göre model, Pixel 11 Pro üzerinde yalnızca metin tabanlı işlemlerde yaklaşık 191 MB aktif RAM kullanıyor. Diğer veri türleri dahil edildiğinde bu değer yaklaşık 567 MB seviyesine çıkıyor.

EmbeddingGemma 2 nereden kullanılabilir?

Model ağırlıkları Hugging Face ve Kaggle üzerinden erişime açılıyor. Cihaz üzerinde kullanım için optimize edilen modeller de LiteRT Community’nin Hugging Face sayfasında yer alıyor.