NVIDIA, üretken yapay zekalarda kullanılacak yeni çipini duyurdu

Nvidia, büyük yapay zeka modellerini çalıştırmaya yönelik artan talepler karşısında daha güçlü bir çip sunmaya hazırlanıyor. Şirket, en karmaşık yapay zeka iş yüklerini, geniş dil modellerinden öneri sistemlerine ve vektör veri tabanlarına kadar idare edebilecek GH200 süper çipi duyurdu.

NVIDIA GH200, şirketin paylaştığı duyuruya göre çip, şirketin şu anki en güçlü yapay zeka çipi H100 ile aynı grafik işlemcisini taşıyacak.

Çip, H100 grafik işlemcisiyle aynı işlemciyi taşıyacak olsa da bu birimden 3,5 kat daha fazla hafıza (282 GB) sunacak. Bu hafıza, H100’de bulunan dördüncü nesil Tensor çekirdekleri ve Transformer Engine ile sunulan performans ile birleştiğinde standart bir kullanıcının hayal edemeyeceği derecede yüksek işlem gücü sunacak.

Ayrıca değişen şey sadece hafıza miktarı olmayacak. GH200 ile yeni HBM3e bellek de kullanıma sunulacak. Bu bellek hakkında henüz veriler paylaşılmamış olsa da bir önceki nesile göre %50 daha hızlı olacak.

NVIDIA’nın H100 grafik birimi, saniyede 3,35 TB’a kadar veri aktarım hızı sunabiliyor. Bunu, standart tüketiciler için günümüzün en güçlü grafik işlemcisi karşılaştırmak gerekirse NVIDIA GeForce RTX 4090, saniyede 1 TB’a kadar aktarım destekliyor. GH200'de ise bu sayının saniyede 10 TB'a çıkacak.

Üstelik NVIDIA’nın yapay zeka çipleri tek başına kullanılan çipler de değil. Şirketin “NVLink Switch System” teknolojisi sayesinde aynı anda 256 adet işlemci birbiriyle bağlantılı bir şekilde kullanılabiliyor. Saniyede 850 TB’dan fazla veri aktarımı yapılabiliyor (H100 serisi verilerine göre). Böylece trilyonlarca parametreye sahip yapay zeka sistemleri çalıştırılıyor, eğitiliyor.