Twitch'in Klip özelliği platformda çocuk istismarının artmasına neden oluyor

Twitch'in canlı yayın platformunu yönetme konusunda yaşadığı zorluklara dair Bloomberg tarafından yapılan araştırmalar içeren bir rapor, endişe verici bir tablo çiziyor. Özellikle, kullanıcıların kısa videoları kaydetmesine olanak tanıyan Klip özelliği, platformda ciddi bir sorun oluşturuyor. Bloomberg'in yaklaşık 1.100 klip analiz ettikten sonra, en az 83'ünde çocukların cinselleştirildiği içerikler bulduğu belirtiliyor. Twitch, durumdan haberdar edildikten sonra bu videoları kaldırdı ve şirket sözcüsü, Engadget e-posta yoluyla, uygulama araçlarına ve önleyici tedbirlere büyük yatırım yaptıklarını ve yapmaya devam edeceklerini belirtti.

Bloomberg, Klip özelliğinin kalıcı doğasının, geçici olarak tasarlanmış platformda yarattığı sorunları örneklendiren bir olayı vurguluyor. Geçen bahar, Twitch'te sandviç yiyip Fransız çalgısı çalan 12 yaşındaki bir çocuğun hikayesi anlatılıyor. Çocuk, izleyicilerden gelen isteklere yanıt vermeye başladığında maalesef bu durum, çocuğun pantolonunu indirmesine yol açıyor ve yayın kesiliyor.

Bloomberg, bu olayın "bir anda" bittiğini ancak Klip özelliğinin kayıt işlevi yüzünden, çocuklara ait yüzlerce hesabı takip eden bir izleyicinin bu anı kaydetmesine olanak tanıdığını belirtiyor. Bu durum, Twitch'e haberdar edilip Twitch tarafından kaldırılana kadar 20 saniyelik klibin 130'dan fazla kez izlenmesine yol açtı.

Klip özelliği, 2016 yılında platformdaki geçici anları korumak amacıyla başlatıldı. Bu özellik, kayıt butonuna basıldığında önceki 25 saniye ve sonraki 5 saniyeyi kaydediyor. Ne yazık ki, bu durum, rahatsız edici anların avcılar tarafından kaydedilip başka yerlere dağıtılmasına neden oluyor.

Twitch, bu yıl Klip özelliğini, platformda daha fazla TikTok benzeri içerik üretmek amacıyla genişletmeyi planlıyor. Kullanıcıların kısa videolarını yayınlayabilecekleri TikTok'a benzer bir keşif akışı başlatmayı planlıyor.

Bloomberg'in raporu, 83 istismarcı videoyu inceleyen Kanada Çocuk Koruma Merkezi'nin sonuçlarını aktarıyor. Merkez, bu videolardan 34'ünün kamera karşısında genital bölgelerini gösteren genç kullanıcıları içerdiği sonucuna varıyor. Çoğunlukla beş ile on iki yaş arası erkek çocuklarını içeren bu videolar, cinsel içerikli veya tacize maruz kalmış minörleri içeriyor.

Merkez, en ciddi 34 videonun 2.700 kez izlendiğini, geri kalanların ise 7.300 kez izlendiğini belirtiyor.

Twitch'in Yanıtı

"Herhangi bir yerde, çevrimiçi olarak yaşanan çocuk zararı kabul edilemez ve bu konuyu son derece ciddiye alıyoruz," diye bir Twitch sözcüsü Engadget'a yazdı. Çocuk cinsel istismar materyalleri (CSAM) konusunda uyarıldıktan sonra şirket, olası taciz davranışlarını tespit etmek için yeni modeller geliştirdiğini ve mevcut araçlarını yasaklı kullanıcıların yeni hesaplar oluşturmasını daha etkili bir şekilde tespit etmek ve kaldırmak için güncellediğini söylüyor.

Twitch ayrıca, Klip özelliğinin kaynağı olan canlı yayınların güvenlik ekipleri tarafından uygulanmasını artırdığını ekliyor. "Bu, zararlı içerik içeren bir canlı yayını devre dışı bırakıp kanalı askıya aldığımızda, klip oluşturulmasını ve zararlı kliplerin kaynağında yayılmasını engelliyoruz," diye şirket yazıyor. "Önemli olarak, topluluk kurallarımızı ihlal eden klipleri sildiğimizde ve devre dışı bıraktığımızda, bu kliplerin kamu alanları veya diğer doğrudan bağlantılar aracılığıyla erişilebilir olmadığını sağlamak için çalıştık."

"Ne yazık ki, çevrimiçi zararların evrimleştiğinin de farkındayız," diye sözcü devam ediyor. "İç güvenlik ekiplerimizin bazı evrimleşen çevrimiçi zararları, örneğin generatif AI destekli Çocuk Cinsel İstismar Materyali (CSAM) gibi tespit etmek için kullandığı yönergeleri geliştirdik." Twitch, benzer içeriği gelecekte engellemek ümidiyle çalıştığı dış kuruluşların listesini genişlettiğini ekledi.

Twitch'in Moderasyon Sorunları

Bloomberg, Klip özelliğinin Twitch'te en az yönetilen bölümlerden biri olduğunu bildiriyor. Ayrıca, şirketin Nisan 2023'te iç güvenlik ve güvenlik ekibinin yüzde 15'ini işten çıkardığını ve CSAM içeriğini bastırmak için dış ortaklara daha fazla bağımlı hale geldiğini belirtiyor.

Twitch'in canlı yayına odaklanan platformu, YouTube veya Instagram gibi daha geleneksel video sitelerinden daha zor bir moderasyon meydan okuması oluşturuyor. Bu platformlar, yüklenen videoları daha önce bilinen sorunlu dosyaları tespit edebilen dijital parmak izleri olan hash'lerle karşılaştırabilir. "Hash teknolojisi, daha önce görülen bir şeyle eşleşen bir şey arıyor," diye Lauren Coffren, ABD Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi'nden Bloomberg'e söyledi. "Canlı yayın demek, bu tamamen yeni bir şey demek."