Amazon, yeni nesil çiplerinin AI eğitimi için dört kat daha hızlı olduğunu söylüyor

Bir bütün olarak ele alındığında bu haberler, şirketin yapay zeka platformlarına yönelik uzun vadeli hedeflerine kısa bir bakış atmamızı sağlıyor.

Her şeyden önce AWS, model eğitimi ve eğitimli modelleri çalıştırmaya yönelik en yeni nesil yapay zeka çiplerini tanıttı. Model eğitimi için olduğu açık olan Trainium2, selefine kıyasla 4 kata kadar daha iyi performans ve 2 kata kadar enerji verimliliği sağlayacak şekilde tasarlandı. Amazon, bu çiplerin, enerji kullanımındaki azalma nedeniyle programcıların modelleri hızlı ve daha düşük bir maliyetle eğitmelerine olanak tanıyacağının sözünü veriyor. Amazon destekli OpenAI yarışmacısı Anthropic, Trainium2 çiplerini kullanarak modeller oluşturma planlarını zaten duyurmuştu.

Amazon, yeni nesil çiplerinin AI eğitimi için dört kat daha hızlı olduğunu söylüyor

Graviton4 ise daha çok genel kullanıma yönelik. Bu işlemciler Arm mimarisini temel alıyor ancak Intel veya AMD çiplerine göre daha az enerji tüketiyor. Amazon, Graviton4 işlemciye gömülü eğitimli bir yapay zeka modeli kullanıldığında genel performansta %30’luk bir artış vaat ediyor. Bu, düzenli olarak AI modellerini kullanan kuruluşlar için bulut bilişim maliyetlerini düşürecek ve bir partide Harry Potter'ın sahte fotoğraflarını çekmek isteyen sıradan kullanıcılar için hızda hafif bir artış sunacaktır.

Sonuç olarak Graviton’un, AWS müşterilerinin "daha büyük miktarlarda veri işlemesine, iş yüklerini ölçeklendirmesine, sonuç alma süresini iyileştirmesine ve toplam sahip olma maliyetlerini düşürmesine" olanak sağlaması bekleniyor. Önümüzdeki aylar için planlanan daha geniş bir sürümle birlikte bugün bir ön izleme de mevcut.