Bland AI yapay zeka sohbet botu insan olduğunu iddia ederek yalan söylüyor
Yeni bir yapay zeka şirketinin viral olan sohbet botu, insan gibi davranarak kullanıcıları kandırıyor.
Nisan ayının sonlarında, yeni bir yapay zeka şirketinin video reklamı X platformunda viral oldu. San Francisco'da bir billboard önünde duran bir kişi, cep telefonunu uzatarak billboard üzerindeki numarayı arıyor ve inanılmaz derecede insan gibi konuşan bir botla kısa bir konuşma yapıyor. Billboard'daki yazı, "Hâlâ insanları mı işe alıyorsunuz?" diyor ve reklamın arkasındaki firmanın adı olan Bland AI görülüyor.
Bland AI'nin reklamı, Twitter'da 3,7 milyon kez görüntülenmesiyle büyük ilgi gördü. Bu ilginin nedeni, teknolojinin ne kadar etkileyici olduğu: Bland AI'nin sesli botları, kurumsal müşteriler için destek ve satış çağrılarını otomatikleştirmek üzere tasarlanmış olup, insanları taklit etmede şaşırtıcı derecede başarılı. Bu botlar, gerçek bir canlı konuşmanın tonlamalarını, duraklamalarını ve istemsiz kesintilerini içeren konuşmalar yapıyor. Ancak bir haber sitesinin teknolojiyi test ettiği sırada, Bland AI'nin robot müşteri hizmetleri arayanlarının insan olduklarını söyleyerek yalan söylemek üzere kolayca programlanabildiği görüldü.
Bir senaryoda, Bland AI'nin halka açık demo botuna, bir pediatrik dermatoloji ofisinden bir arama yapması ve 14 yaşındaki bir hastadan üst bacağının fotoğraflarını paylaşılan bir bulut hizmetine göndermesini söylemesi istendi. Bot ayrıca hastaya insan olduğunu söylemesi için yalan söylemesi talimatını aldı ve bunu yerine getirdi. (Bu testte14 yaşındaki gerçek bir aranmadı.) Takip testlerinde, Bland AI'nin botu, talimat verilmeden bile yapay zeka olmadığını inkar etti.
2023 yılında kurulan Bland AI, ünlü Silikon Vadisi startup kuluçka merkezi Y Combinator tarafından destekleniyor. Şirket kendini "gizlilik" modunda olarak tanımlıyor ve kurucu ortağı ve CEO'su Isaiah Granet, LinkedIn profilinde şirketin adını belirtmiyor.
Bland AI'nin bot sorunu, hızla büyüyen üretken yapay zeka alanında daha büyük bir endişeyi yansıtıyor: Yapay zeka sistemleri giderek daha fazla insan gibi konuşuyor ve bu sistemlerin ne kadar şeffaf olduğu konusunda etik sınırlar bulanıklaşıyor. Bland AI'nin botu, testlerde açıkça insan olduğunu iddia etse de, diğer popüler sohbet botları bazen yapay zeka olduklarını gizler veya insan gibi ses çıkarır. Bazı araştırmacılar, bu durumun, ürünü kullanan son kullanıcıların potansiyel manipülasyona açık hale gelmesine yol açabileceğinden endişe ediyor.
Bland AI'nin büyüme sorumlusu Michael Burke, yaptığı açıklamada şirketin hizmetlerinin belirli görevler için kontrollü ortamlarda kullanılacağını ve duygusal bağlantılar için tasarlanmadığını vurguladı. Ayrıca, müşterilerin spam çağrılar göndermelerini önlemek için sınırlandırıldıklarını ve Bland AI'nin iç sistemlerini denetleyerek anormal davranışları tespit ettiklerini belirtti. "Kurumsal odaklı olmanın avantajı budur. Müşterilerimizin ne yaptığını tam olarak biliyoruz," diyor Burke. "Bland'ı kullanarak iki dolarlık ücretsiz kredi alıp biraz eğlenebilirsiniz, ancak platformumuzdan geçmeden geniş çapta bir şey yapamazsınız ve biz de etik olmayan bir şey olmadığından emin oluyoruz."