Yapay zeka Şirketleri Deepfake ile mücadele kararı aldı!

Bu hamle, dijital platformlarda gerçek dışı içeriklerin yayılmasını önlemeyi ve özellikle seçim süreçlerinde halkı yanıltıcı bilgilerin dağıtılmasına karşı bir önlem olarak görülüyor. Bu iş birliği, yapay zeka teknolojilerinin gelişimiyle birlikte artan derin sahtecilik sorunlarına karşı atılmış önemli bir adım olarak kabul ediliyor. Şirketler, bu tür sahteciliklerin seçim süreçlerine zarar verme potansiyeline karşı dikkatli bir şekilde hareket etmeye ve gerekli önlemleri almaya kararlı.

2024 seçimlerinde 40’tan fazla ülkede yapay zekâ tarafından üretilen derin sahteciliklerin önlenmesi amacıyla 20 teknoloji şirketi bir araya geldi. OpenAI, Google, Meta, Amazon, Adobe ve X gibi şirketlerin katıldığı bu koalisyon, seçmenleri etkileyebilecek AI üretimi içeriklere karşı önlem almayı hedefliyor. Ancak anlaşmanın belirsiz dili ve bağlayıcı olmayan yaptırımları, bu çabanın yeterince ileri gidip gitmediği konusunda soru işaretleri yaratıyor.

“2024 Seçimlerinde AI’nin Aldatıcı Kullanımıyla Mücadele Teknoloji Anlaşması”na imza atan şirketler arasında AI modelleri üreten ve dağıtanlar, aynı zamanda derin sahteciliklerin en çok görülebileceği sosyal platformlar yer alıyor. Anlaşmaya imza atanlar arasında Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc., Stability AI, TikTok, Trend Micro, Truepic ve X (eski Twitter) bulunuyor.

Yapay zeka Şirketleri Deepfake ile mücadele kararı aldı!

Grup, anlaşmayı “seçmenleri aldatmayı amaçlayan zararlı AI üretilmiş içeriği engellemek için teknolojiyi devreye alma taahhütlerinin bir seti” olarak tanımlıyor. İmzacılar, aşağıdaki sekiz taahhüdü kabul etmişlerdir:

- Aldatıcı AI Seçim içeriği ile ilgili riskleri hafifletecek teknolojiyi geliştirme ve uygulama, uygun yerlerde açık kaynak araçlarını dahil etme

- Bu anlaşma kapsamındaki modelleri, Aldatıcı AI Seçim İçeriği ile ilgili olası riskleri anlamak üzere değerlendirme

- Platformlarında bu içeriğin dağıtımını tespit etmeye çalışma

- Platformlarında tespit edilen bu içeriği uygun şekilde ele alma

- Aldatıcı AI seçim içeriğine karşı sektörler arası direnci teşvik etme

- Şirketin bunu nasıl ele aldığına dair kamuoyuna şeffaflık sağlama

- Küresel sivil toplum kuruluşları, akademisyenler ile çeşitli bir diziyle etkileşime devam etme

- Kamuoyu bilincini, medya okuryazarlığını ve toplum genelinde direnci teşvik edecek çabaları destekleme

Anlaşma, AI tarafından üretilen ses, video ve görüntüleri kapsayacak. İçerik, siyasi adayların, seçim yetkililerinin ve demokratik bir seçimdeki diğer anahtar paydaşların görünümünü, sesini veya eylemlerini aldatıcı bir şekilde sahte yapma veya değiştirme veya seçmenlere yanlış bilgi verme içeriğini ele alıyor.

İmzacılar, derin sahteciliklerin çevrimiçi dağıtımını tespit etmek ve ele almak için araçlar oluşturup paylaşmak üzere birlikte çalışacaklarını söylüyor. Ayrıca, eğitim kampanyaları yürütme ve kullanıcılara “şeffaflık sağlama” planları var.