Google Bard’a güvenerek işlem yaparsanız yanılırsınız

Google, Bard adını verdikleri sohbet robotu ile ilgili kullanıcıları uyardı. İleri seviye yapay zeka sistemlerine dayalı olan Bard, kullanıcılarına genellikle doğru bilgiler verirken zaman zaman yanıltıcı veya yanlış bilgiler de üretebiliyor. Google bu durumu kullanıcıların bilgisine sunarak, Bard'ın verdiği yanıtları Google arama motoru üzerinden teyit etmelerini önerdi.

Bard'ın yaratıcısı olan Google'ın Birleşik Krallık bölge müdürü Debbie Weinstein, Bard'ın doğru bilgi almak için başvurulacak bir kaynak olmadığını belirtti. Weinstein, Bard'ın daha çok problem çözme ve yeni fikirler üretme konularında bir "deney" olarak kullanılmasını tavsiye etti. Google, kullanıcılarını Bard'ın sağladığı bilgileri teyit etmek amacıyla Google arama motorunu kullanmaya teşvik etti.

Yapay zeka savunucuları, oluşturucu yapay zekaların geleneksel arama motorlarına son verebileceğini savunuyor. Google, belki de bu durumu dikkate alarak kullanıcılarına Bard'ın yanıtlarını kontrol etmeleri gerektiğini hatırlatıyor. Bard ve ChatGPT gibi araçlar, yanlış "gerçekler" oluşturma eğilimleri konusunda kullanıcılarını uyarıyor. ChatGPT'nin anasayfasında bile insanlar, yerler veya gerçekler hakkında yanlış bilgi üretebileceğine dair bir uyarı yer alıyor. Bard da kullanıcılarına kendi sınırlamalarını ve her zaman doğruyu bulamayabileceğini hatırlatıyor.

Google Bard’a güvenerek işlem yaparsanız yanılırsınız

Google, daha önce de sohbet robotları hakkında uyarılarda bulunmuştu. Ana şirket Alphabet, çalışanlarına bu araçları kullanırken dikkatli olmalarını, hatta Bard'ı bile kullanırken gizli bilgilerini girmemelerini önermişti. Şirket, mühendislerine de bu hizmetler tarafından oluşturulan kodları direkt olarak kullanmamalarını tavsiye etmişti.

Bard'ın hayata geçtiği ilk demo gösteriminde yanlış bir cevap vermesiyle başladı. Birkaç ay sonra Google çalışanlarının, sohbet robotunu piyasaya sürmemeleri yönünde uyarıda bulunduğunu öğrendik. Bard'ı "patolojik yalancı", "gülünç" ve "tamamen yararsız" olarak nitelendirdiler.

AI algoritmalarının çarpıcı hatalarından biri, iki avukatın kişisel yaralanma davasında ChatGPT tarafından oluşturulan sahte hukuk araştırmasını sunmaları oldu. Avukatlardan biri, yapay zeka tarafından oluşturulan içeriklerin yanıltıcı olabileceğinden habersizdi ve belgelerin gerçekliğini doğrulama yöntemi olarak ChatGPT'ye dava bilgilerinin gerçek olup olmadığını sormaktı.