Yapay zekayı cinsellik için kullananlara kötü haber!
Microsoft, Copilot aracında, üretken AI aracının şiddet içeren, cinsel ve diğer yasa dışı görüntüleri yaymasına yol açan birkaç istemi engellemiş görünüyor.
Ufuk Tufan
Değişiklikler, şirketteki bir mühendisin Federal Ticaret Komisyonu'na (FTC) Microsoft’un GAI teknolojisiyle ilgili ciddi endişelerini dile getirmesinden hemen sonra uygulanmış gibi görünüyor.
Kullanıcıların bu haftanın başlarına kadar saldırı tüfeğiyle oynayan çocuklarla ilgili komutları da girebildikleri bildiriliyordu. Şimdi böyle bir istemde bulunmaya çalışanlara, bunu yapmanın Microsoft'un politikalarının yanı sıra Copilot'un etik ilkelerini de ihlal ettiği iletilecek. Copilot'un yanıt olarak "Lütfen benden başkalarına zarar verebilecek veya onları rahatsız edebilecek herhangi bir şey yapmamı istemeyin" dediği bildirildi. Ancak CNBC, "araba kazası" gibi yönlendirmeler yoluyla şiddet içerikli görüntüler oluşturmanın hala mümkün olduğunu, kullanıcıların ise yapay zekayı Disney karakterlerinin ve diğer telif hakkıyla korunan eserlerin görüntülerini oluşturmaya ikna edebildiğini buldu.
Yapay zekayı cinsellik için kullananlara kötü haber!
Microsoft mühendisi Shane Jones, Microsoft'un OpenAI destekli sistemlerinin ürettiği görüntü türleri hakkında aylardır alarm veriyor. Aralık ayından bu yana Copilot Designer'ı test ediyordu ve nispeten zararsız istemler kullanırken bile Microsoft'un sorumlu yapay zeka ilkelerini ihlal eden görüntüler ürettiğini belirledi.
Microsoft, Copilot uyarı yasaklarıyla ilgili olarak CNBC'ye şunları söyledi: "Güvenlik filtrelerimizi daha da güçlendirmek ve sistemin kötüye kullanımını azaltmak için sürekli izliyor, ayarlamalar yapıyor ve ek kontroller uyguluyoruz."