Google yapay zeka için çok fazla mesai harcamaya başladı

Google bugün yapay zeka tarafından oluşturulan görsellerde şeffaflığa yönelik bir adım attı. Google DeepMind, üretken sanata yönelik bir filigran / tanımlama aracı olan SynthID'yi duyurdu.

Şirket, teknolojinin insan gözüyle görülemeyen dijital bir filigranı doğrudan görüntünün piksellerine yerleştirdiğini söylüyor. SynthID, Google'ın bulut tabanlı yapay zeka araçları paketinde bulunan sanat yaratıcısı Imagen'i kullanarak ilk olarak "sınırlı sayıda" müşteriye sunulacak.

Üretken sanatla ilgili pek çok sorundan biri (sanatçıların çalışmaları üzerindeki eğitimin etik sonuçları dışında) deepfake yaratma potansiyeli. Örneğin, papanın sosyal medyada viral hale gelen yeni ve popüler hip-hop kıyafeti (MidJourney ile oluşturulan bir yapay zeka görüntüsü), üretken araçlar geliştikçe neyin daha sıradan hale gelebileceğinin bir örneğiydi.

Google yapay zeka için çok fazla mesai harcamaya başladı

Yapay zeka tarafından üretilen sanatı kullanan siyasi reklamlar gibi bir şeyin, Twitter'da dolaşan komik bir görselden çok daha fazla zarar verebileceğini görmek çok fazla hayal gücü gerektirmiyor. "İçeriğin yapay zeka tarafından oluşturulduğunu açıkça belirtmek için görsel ve işitsel içeriğe filigran eklemek", yedi yapay zeka şirketinin temmuz ayında Beyaz Saray'da yapılan bir toplantı sonrasında geliştirmeyi kabul ettiği gönüllü taahhütlerden biriydi. Google böyle bir sistemi başlatan şirketlerden ilki.

Google, SynthID'nin teknik uygulamasıyla ilgili ayrıntılara çok fazla girmiyor (muhtemelen geçici çözümleri engelliyor), ancak filigranın basit düzenleme teknikleriyle kolayca kaldırılamayacağını söylüyor. Şirket, bugün yayınlanan DeepMind blog yazısında "Görüntü manipülasyonlarında algılanamazlık ve sağlamlık arasında doğru dengeyi bulmak zordur" diye yazdı. DeepMind'ın SynthID proje liderleri Sven Gowal ve Pushmeet Kohli "SynthID'yi, görüntü kalitesinden ödün vermeyecek ve filtre ekleme, renkleri değiştirme ve çeşitli kayıplı sıkıştırma şemalarıyla kaydetme gibi değişikliklerden sonra bile filigranın algılanabilir kalmasına izin verecek şekilde tasarladık (en yaygın olarak JPEG'ler için kullanılır)," dedi.