ChatGPT yalana çok alıştı, kafasına göre birşeyler uyduruyor

Şikayet, Reuters tarafından bildirildiği üzere şirketin ChatGPT botunun (gizlilik nedeniyle şikayette adı belirtilmeyen) gerçek bir kişi hakkında defalarca yanlış bilgi sağladığını iddia ediyor. Bu, AB gizlilik kurallarını ihlal edebilir.

Sohbet robotunun, yalnızca sorunun cevabını bilmediğini söylemek yerine, bireyin doğum tarihi bilgilerini yanlış söylediği iddia ediliyor. Politikacılar gibi yapay zeka sohbet robotları da kendinden emin bir şekilde bir şeyler uydurmayı seviyor ve bizim bunu fark etmeyeceğimizi umuyor. Bununla birlikte, bu botların bir tarif için malzeme oluşturması başka, gerçek insanlar hakkında bir şeyler icat etmeleri tamamen başka bir şey.

ChatGPT yalana çok alıştı, kafasına göre birşeyler uyduruyor

Şikayette ayrıca OpenAI'nin yanlış bilgilerin silinmesine yardım etmeyi reddettiği ve bu tür bir değişiklik yapmanın teknik olarak imkansız olduğu yanıtını verdiği belirtiliyor. Şirket, belirli istemlerdeki verileri filtrelemeyi veya engellemeyi teklif etti. OpenAI'nin gizlilik politikası, kullanıcıların AI sohbet robotunun kendileri hakkında "gerçeklere dayalı olarak yanlış bilgi" ürettiğini fark etmeleri durumunda "düzeltme isteği" gönderebileceklerini, ancak şirketin "yanlışlığı her durumda düzeltemeyebileceğini" söylüyor.

Chatbot'un uydurma eğilimi, kişisel verilerin nasıl kullanılabileceğini ve işlenebileceğini düzenleyen bölgenin Genel Veri Koruma Yönetmeliğine (GDPR) ters düşebileceğinden aslında tek bir şikayetten daha fazlası. AB'de ikamet edenler, yanlış verilerin düzeltilmesi hakkı da dahil olmak üzere kişisel bilgilere ilişkin haklara sahip. Bu düzenlemelere uyulmaması, bazı durumlarda küresel yıllık cironun %4’üne varan ciddi mali cezalara yol açabiliyor. Düzenleyiciler ayrıca bilgilerin işlenme şekliyle ilgili değişiklik yapılmasını da emredebilir.