Google, yapay zeka saldırılarına savaş açtı
Yapay zekayla ilgili endişelerin her zaman mevcut olması nedeniyle Google, yapay zekaya özgü saldırılara ve kötü niyetli fırsatlara odaklanan Güvenlik Açığı Ödül Programının (VRP) genişletildiğini duyurdu.
Ufuk Tufan
Bu nedenle şirket, hangi keşiflerin ödüle hak kazandığını ve hangilerinin kapsam dışı olduğunu ayrıntılarıyla açıklayan güncellenmiş yönergeler yayınladı. Örneğin, özel ve hassas bilgileri sızdıran eğitim verileri kapsam dahilinde ancak halka açık, hassas olmayan verileri gösteriyorsa ödül almaya hak kazanmayacak. Geçen yıl Google, güvenlik araştırmacılarına hata keşifleri için 12 milyon dolar verdi.
Google, yapay zekanın, model manipülasyonu ve haksız önyargı gibi diğer teknolojilerinden farklı güvenlik sorunları sunduğunu ve bunu önlemek için yeni rehberlik gerektirdiğini açıkladı.
Google, yapay zeka saldırılarına savaş açtı
Şirket yaptığı açıklamada, "VRP'nin genişletilmesinin yapay zeka emniyeti ve güvenliği konusundaki araştırmaları teşvik edeceğine ve sonuçta yapay zekayı herkes için daha güvenli hale getirecek potansiyel sorunları gün ışığına çıkaracağına inanıyoruz" dedi. "Aynı zamanda yapay zeka tedarik zinciri güvenliği hakkındaki bilgilerin evrensel olarak keşfedilebilir ve doğrulanabilir olmasını sağlamak için açık kaynak güvenlik çalışmalarımızı da genişletiyoruz."
Aralarında Google'ın da bulunduğu yapay zeka şirketleri bu yılın başlarında Beyaz Saray'da bir araya gelerek yapay zekanın zayıf noktalarına dair daha fazla keşif ve farkındalık sağlama taahhüdünde bulunmuşlardı. Şirketin VRP genişlemesi, Başkan Biden'ın 30 Ekim Pazartesi günü açıklayacağı bildirilen ve devlet kurumları tarafından herhangi bir şekilde kullanılmadan önce yapay zeka modelleri için katı değerlendirmeler ve gereksinimler yaratacak "geniş kapsamlı" bir yönetici emrinin öncesinde geliyor.