Yapay zeka ile çalışanlar dikkat: Artık yapay zeka ürünleri tespit edilebilecek
Son zamanların en popüler araçlarından biri haline gelen yapay zekaya ilk önemli kısıtlama yine OpenAI’den geliyor.
OpenAI’nin yapay zeka destekli görüntü üretim araçlarının ilerlemesiyle, oluşturulan görsellerin gerçek olup olmadığı konusunda kafa karışıklığı yaşanabiliyor. Bu durum, bu teknolojilerin kötüye kullanılabileceği endişesini beraberinde getiriyor.
OpenAI’nin DALL-E 3 tarafından oluşturulan görüntüler için şeffaflığı korumak adına su işaretleri ekleme adımını çoktan attı. Şirket, şimdi ise DALL-E’nin görüntüleri ile gerçek görüntüleri ayırt edebilecek yeni bir araç geliştiriyor. Bu araç, görsellerin sıkıştırılması, renk doygunluğunun değiştirilmesi veya kesilmesi durumunda bile görsellerin kaynağını tespit edebilecek.
OpenAI’nin yapay zeka araçları, C2PA metadata’sını içerecek OpenAI, blog yazısında, yapay zeka ile oluşturulan içerikleri tespit etmeye yönelik yeni yöntemler üzerinde çalıştıklarını duyurdu. Şirket, araştırmacıların içerik orijinalliğini incelemelerine yardımcı olmayı ve Dijital İçerik Sertifikasyonu için yaygın olarak kullanılan bir standart olan İçerik Kaynağı ve Doğruluk Koalisyonu Yürütme Komitesi’ne (C2PA) katılmayı hedefliyor. Bu sayede içerik üreticileri, içeriklerinin gerçek kaynağını doğrulamak için etiketleyip sertifikalandırabilecekler.
Yapay zeka ile çalışanlar dikkat: Artık yapay zeka ürünleri tespit edilebilecek
Sora, OpenAI’nin video üretim modeli için de C2PA metadata’sı entegre edilecek. Sora, DALL-E 3 gibi yalnızca ücretli abonelere sunulacak bir metinden videoya üretim aracı olacak. Önceki bir rapora göre, Sora’nın 2024 içinde kullanıma sunulması bekleniyor.
OpenAI, DALL-E 3 içeriklerini tespit edecek yeni bir araç geliştiriyor Daha önce belirtildiği gibi, OpenAI, DALL-E 3 tarafından oluşturulan görselleri tespit etmek için yapay zeka kullanacak yeni bir araç üzerinde çalışıyor. Bu araç, bir görüntünün DALL-E tarafından oluşturulma olasılığını tahmin ediyor. Şirkete göre, bu araç, görselin sıkıştırılması, doygunluk ayarlarının değiştirilmesi veya kesilmesi durumunda bile içeriğin kaynağını tespit edebiliyor.
Bu tespit aracı, DALL-E ile oluşturulan görüntüler için %98 doğruluk sağlıyor ve en önemlisi, yapay zeka tarafından üretilmeyen görüntüleri yanlışlıkla yapay zeka ürünü olarak işaretlemiyor.
Şirket, bu yeni görüntü tespit aracını ilk test grubuna açtı. Bu grupta araştırma laboratuvarları ve araştırma odaklı gazetecilik kuruluşları bulunuyor ve Geliştirici Erişim Programı aracılığıyla geri bildirim toplamayı hedefliyor.