OpenAI kendi yazılımıyla üretilen görselleri çoğunlukla tespit edebiliyor

Yapay zeka tarafından oluşturulan görüntüleri tespit etme konusunda kendimizi oldukça iyi hissediyoruz genellikle. Arka planda görünen tuhaf, yabancı metinler, fizik kurallarını ihlal eden garip hatalar ve en çok da korkunç görünen eller ve parmaklar bu tespitlerimizde bize yardımcı oluyor. Ancak teknoloji sürekli gelişiyor ve yakın bir gelecekte gerçek ile yapayı ayırt etmekte zorlanacağımız günler geliyor. Sektör lideri OpenAI, kendi DALL-E 3 jeneratörü tarafından oluşturulan görüntüleri tespit edebilen bir araç seti geliştirerek bu soruna önceden müdahale etmeye çalışıyor.

Ancak sonuçlar karmaşık bir durumu işaret ediyor. Şirket, DALL-E 3 ile oluşturulan resimleri yüzde 98 oranında doğru bir şekilde tespit edebildiğini belirtiyor ki bu oldukça etkileyici. Ancak bu durumun önemli bazı sınırlamaları var. İlk olarak, görüntünün DALL-E tarafından oluşturulmuş olması gerekiyor ve piyasada DALL-E'den başka birçok görüntü jeneratörü bulunuyor. OpenAI tarafından sağlanan verilere göre, sistem diğer yapay zeka modelleri tarafından yapılan görüntüleri yalnızca yüzde beş ila on oranında başarıyla sınıflandırabiliyor.

OpenAI kendi yazılımıyla üretilen görselleri çoğunlukla tespit edebiliyor

Ayrıca görüntü herhangi bir şekilde değiştirildiğinde sistem sorunlarla karşılaşıyor. Küçük değişikliklerde, örneğin kırpma, sıkıştırma ve renk doygunluğu değişikliklerinde, başarı oranı biraz düşük olsa da kabul edilebilir aralıkta, yüzde 95 ila 97 arasında kalıyor. Ancak renk tonunun ayarlanması, başarı oranını yüzde 82'ye düşürüyor. Daha geniş çaplı değişiklikler yapılan görüntülerin sınıflandırılmasında ise araç seti zorlanıyor. OpenAI bu durumlarda başarı oranını bile yayımlamadı, sadece "diğer modifikasyonlar performansı düşürebilir" şeklinde bir açıklama yaptı.

Bu durum, özellikle bir seçim yılında olmamız nedeniyle hayal kırıklığı yaratıyor çünkü yapay zeka tarafından üretilen çoğu görüntü sonradan değiştirilerek insanları daha fazla kızdırmak için kullanılacak. Yani araç, Joe Biden'ın Oval Ofis'te uyurken etrafında beyaz toz paketleriyle çevrili olduğu bir görüntüyü tanıyabilir, ancak üzerine kızgın metinler eklenip, ağlayan bir kel kartal Photoshop'lanırsa bu durum değişebilir.

En azından OpenAI, algılama teknolojisinin sınırlamaları konusunda şeffaf bir tutum sergiliyor. Ayrıca, söz konusu araçlara dış test kullanıcılarının erişimine izin vererek bu sorunların çözülmesine yardımcı olmayı amaçlıyor. Şirket, Microsoft ile birlikte toplamda 2 milyon dolarlık bir yatırım yaparak "Toplumsal Direnç Fonu"nu kurdu. Bu fon, yapay zeka eğitimi ve okuryazarlığını genişletmeyi hedefliyor.