Google, Yapay Zeka ile Üretilen Görseller İçin Özel Filigran Geliştirdi!

Google, yapay zeka görselleri için bir yeniliğe imza attı. Şirketin DeepMind ekibi, görüntülerin yapay zeka ile üretilip üretilmediğini ayırt etmeye yarayan "SynthID" adlı yeni bir filigran aracı geliştirdi. Bu araç, özellikle Google Cloud'un Vertex platformunda yer alan Imagen uygulaması kullanıcıları için tasarlandı.

Filigranın Önemi ve Kullanım Alanları

Imagen kullanıcıları, istedikleri görüntüyü oluşturduktan sonra bu yeni filigranı ekleyip eklememe hakkına sahip olacaklar. Bu, insanların yapay zeka üretimi olan içerikleri gerçek içeriklerden ayırt edebilmeleri için büyük bir kolaylık sağlayacak. Filigranların, sahte videoların ve fotoğrafların tespitinde büyük bir öneme sahip olduğunu geçen yılın verileri de ortaya koyuyor.

Beyaz Saray, geçtiğimiz aylarda yapay zeka şirketlerini bir araya getirdi. Bu toplantıda, OpenAI, Google ve Meta gibi devler, yapay zeka ile üretilen içeriklerin kötü amaçlar için kullanılmasını engellemek amacıyla geliştirilecek filigran teknolojileri üzerinde anlaşmaya vardılar.

Google'ın Filigran Stratejisi

Google'ın I/O konferansında konuşan CEO Sundar Pichai, filigran teknolojisinin şirketin stratejisinin ayrılmaz bir parçası olduğunu ifade etti. Google DeepMind, bu konudaki atılımlarıyla sektörde öncü bir konuma sahip oldu.

Geleneksel filigran teknolojileri, görüntülere belirgin kaplamalar veya meta veri eklemeleriyle çalışıyor. Ancak Google DeepMind'ın geliştirdiği SynthID, çok daha sofistike bir yaklaşıma sahip. Sinir ağı temelli bu sistem, orijinal bir görüntüyü alarak onunla benzer ancak bazı pikselleri değiştirilmiş yeni bir görüntü üretiyor. Bu değişiklikler, insan gözüyle tespit edilemezken, başka bir sinir ağı tarafından kolaylıkla algılanabiliyor.

Rekabette Filigran Teknolojileri

Yapay zeka dünyasında, benzer tekniklerle çalışan başka filigran teknolojileri de mevcut. Örneğin, açık kaynaklı yapay zeka görüntü üreticisi Stable Diffusion bu alanda çalışmalarını sürdürüyor. Meta'nın da bu konuda araştırmaları bulunuyor, ancak şirket henüz bir filigranlama aracını piyasaya sürmedi.

DeepMind'ın araştırma başkan yardımcısı Kohli, filigran teknolojilerinin her zaman kırılgan olduğunu belirtiyor. Ancak şirket, SynthID üzerindeki testlerini sürdürüyor ve potansiyel açıklarını tespit edip kapatacak stratejiler geliştiriyor.