Qualcomm, cihaz içi yapay zekayı mobil cihazlara ve PC'ye getiriyor
Qualcomm, yapay zeka ve makine öğrenimi sistemlerini cihaz üzerinde ve internet bağlantısı olmadan çalıştırma konusunda yabancı değil. Yıllardır bunu kamera çipsetleriyle yapıyorlar.
Ahmet Şen
Ancak salı günü yapılan Snapdragon Zirvesi 2023'te şirket, cihaz içi yapay zekanın nihayet yeni Snapdragon 8 Gen 3 ve X Elite yongalarının bir parçası olarak mobil cihazlara ve Windows 11 PC'lere geldiğini duyurdu.
Her iki yonga seti de sıfırdan üretken yapay zeka yetenekleri göz önünde bulundurularak oluşturuldu ve çeşitli büyük dil modellerini (LLM), dil görüş modellerini (LVM) ve transformatör ağ tabanlı otomatik konuşma tanıma (ASR) modellerini destekleyebiliyor.
Qualcomm, cihaz içi yapay zekayı mobil cihazlara ve PC'ye getiriyor
SD8 gen 3 için 10 milyara kadar parametre ve X Elite için 13 milyara kadar parametre tamamen cihazda. Bu, Baidu'nun ERNIE 3.5'inden OpenAI'nin Whisper'ına, Meta'nın Llama 2'sine veya Google'ın Gecko'suna kadar her şeyi telefonunuzda veya dizüstü bilgisayarınızda internet bağlantısı olmadan çalıştırabileceğiniz anlamına geliyor. Qualcomm'un çipleri ses, metin ve görüntü girişleri için optimize edilmiş.
Qualcomm AI Motoru, Oryon CPU, Adreno GPU ve Hexagon NPU'dan oluşuyor. Kombine olarak, 45 TOPS'a (saniyede trilyonlarca işlem) kadar işlem yapabiliyor ve dizüstü bilgisayarlarda saniyede 30 jeton, mobil cihazlarda ise saniyede 20 jeton işleyebiliyor; jetonlar LLM'lerin işleyebileceği/oluşturabileceği temel metin/veri birimi. Yonga setleri, bellek tahsisi için Samsung'un 4,8 GHz LP-DDR5x DRAM'ını kullanıyor.