Yapay zekalar güvenlik açısından zayıf mı ?
UK Yapay Zekâ Güvenlik Enstitüsü, yaptığı testlerde büyük dil modellerinin temel güvenlik açıklarına sahip olduğunu ve kolayca kırılabildiğini ortaya koydu.
Yapay zekâ sistemlerinin güvenli olmadığına dair yeni bir rapor, bu alanda endişeleri artırdı. İngiltere hükümetine bağlı Yapay Zekâ Güvenlik Enstitüsü (AISI), test ettiği dört büyük dil modelinin (LLM) temel güvenlik açıklarına sahip olduğunu ortaya koydu. Bu modellerin, araştırmacılar herhangi bir girişimde bulunmadan bile "zararlı çıktılar" ürettiği belirlendi.
Halka açık çoğu dil modeli, zararlı veya yasa dışı yanıtlar üretmemek için belirli güvenlik önlemleriyle donatılmıştır. Ancak "jailbreak" işlemi, bu güvenlik önlemlerini atlatmayı ifade eder. AISI, yakın zamanda standartlaştırılmış bir değerlendirme çerçevesinden ve kendi geliştirdiği istemlerden yararlanarak bu güvenlik açıklarını test etti. Modeller, herhangi bir jailbreak girişimi olmaksızın bile bazı zararlı sorulara yanıt verdi. Basit saldırılar denendiğinde ise, tüm modellerin yüzde 98 ila 100 arasında zararlı sorulara yanıt verdiği görüldü.
Yapay zekalar güvenlik açısından zayıf mı ?
İngiltere Başbakanı Rishi Sunak, Ekim 2023 sonunda AISI'nin açılışını duyurmuştu ve enstitü 2 Kasım'da faaliyete geçti. Bu enstitü, yapay zekâ modellerinin potansiyel zararlı yeteneklerini test etmeyi ve sosyal zararlar, yanlılık ve yanlış bilgi gibi risklerden en uç ve olası olmayan risklere kadar her türlü tehlikeyi araştırmayı amaçlıyor.
AISI'nin raporu, bu dil modellerinin mevcut güvenlik önlemlerinin yetersiz olduğunu gösteriyor. Enstitü, diğer yapay zekâ modelleri üzerinde daha fazla test yapmayı ve her endişe alanı için daha fazla değerlendirme ve metrik geliştirmeyi planlıyor.
Bu yeni bulgular, yapay zekâ teknolojilerinin güvenliği ve etik kullanımı konusunda daha fazla dikkat ve özen gerektiğini ortaya koyuyor. AI sistemlerinin geliştirilmesi ve kullanılması sırasında bu tür güvenlik açıklarının dikkate alınması, gelecekte olası zararlardan kaçınmak için büyük önem taşıyor.
Siz bu konu hakkında ne düşünüyorsunuz yapay zeka sizce yararlı mı yoksa insan zekası açısından zararlı mı ?
