OpenAI, yapay zeka ile yürütülen gizli operasyonları durdurdu

OpenAI, 2023 ve 2024 yılları arasında, AI modellerini kullanarak internette gizli etki operasyonları yürüten beş operasyonu durdurduğunu açıkladı. Bu operasyonlar Rusya, Çin, İran ve İsrail'den kaynaklanarak kamuoyunu manipüle etmeyi ve siyasi sonuçları etkilemeyi amaçlıyordu. OpenAI, bu kampanyaların şirketin hizmetleri sayesinde anlamlı bir etkileşim veya erişim artışı sağlamadığını belirtti ve bu kötü aktörleri engellemek için teknoloji sektörü, sivil toplum ve hükümetlerle iş birliği yaptığını ekledi.

OpenAI'nin raporu, bu yıl dünya genelinde yapılacak birçok seçim üzerindeki generatif AI'nin etkisi konusundaki endişeler arasında geldi. OpenAI, bu operasyonlarda yer alan ağların generatif AI kullanarak metin ve görselleri daha önce hiç olmadığı kadar yüksek hacimlerde ürettiğini ve sosyal medya gönderilerine sahte yorumlar ekleyerek sahte etkileşim yarattığını ortaya koydu.

OpenAI'nin İstihbarat ve Soruşturma ekibinin baş araştırmacısı Ben Nimmo, Bloomberg'e yaptığı açıklamada, "Son bir buçuk yılda, etki operasyonlarının generatif AI kullanması durumunda ne olabileceği konusunda birçok soru ortaya çıktı," dedi. "Bu raporla bazı boşlukları doldurmak istiyoruz," diye ekledi.

Rusya'dan "Doppelganger" adlı operasyon, OpenAI'nin modellerini manşetler oluşturmak, haber makalelerini Facebook gönderilerine dönüştürmek ve Ukrayna'ya desteği zayıflatmak için çok dilli yorumlar oluşturmak amacıyla kullandı. Başka bir Rus grup, İngilizce ve Rusça olarak kısa siyasi yorumlar yayınlayan bir Telegram botunu hata ayıklamak için OpenAI modellerini kullandı ve Ukrayna, Moldova, ABD ve Baltık Devletlerini hedef aldı. Çin ağı "Spamouflage", Facebook ve Instagram'daki etki çabalarıyla bilinir ve OpenAI modellerini sosyal medya etkinliklerini araştırmak ve çeşitli platformlarda çok dilli metin tabanlı içerik üretmek için kullandı. İran'ın "Uluslararası Sanal Medya Birliği" de AI kullanarak çok dilli içerik üretti.

OpenAI'nin açıklaması, diğer teknoloji şirketlerinin zaman zaman yaptığı açıklamalara benziyor. Örneğin, Meta çarşamba günü, İsrailli bir pazarlama firmasının sahte Facebook hesapları kullanarak ABD ve Kanada'daki insanları hedef alan bir etki kampanyası yürüttüğünü detaylandıran son raporunu yayınladı.