Çinli DeepSeek şaşırttı: Daha hızlı ve verimli yapay zekalar için kritik atılım

Çin merkezli yapay zeka şirketi DeepSeek, geçtiğimiz hafta beş farklı yazılım reposunu açık kaynak topluluğuna sundu. Bu atılım, batılı tertipler tarafından ” şaibeli” ve “güvenilmezlik” üzere tenkitlerle karşılaşan DeepSeek’in şeffaflık vurgusu yapma uğraşı olarak dikkat çekiyor. Açıklanan yazılımlar ortasında, bilhassa AI eğitimi ve çıkarım süreçleri için tasarlanmış olan Fire-Flyer Belge Sistemi (3FS) büyük ilgi topladı.

DeepSeek bir sefer daha şaşırttı

3FS, DeepSeek’in iç kullanımında AI iş yükleri için geliştirdiği Linux tabanlı bir evrak sistemi. Çağdaş katı hal şoförlerinin (SSD) ve RDMA ağlarının özelliklerini kullanan bu sistem, dağıtık uygulamaların dağıtımını basitleştiriyor. Yüksek performans standartlarıyla dikkat çeken 3FS, GPU’larda çalışan AI modellerinin daima data erişim gereksinimlerini karşılamak için optimize edilmiş. Bununla birlikte, DeepSeek’in tasarımı, rastgele okuma taleplerine öncelik veriyor ve okuma önbellekleme kullanmıyor.

Firmanın belge sistemi, 180 düğümden oluşan bir kümede kullanıldığında 6,6 TiB/s’lik bir toplam okuma bant genişliğine ulaşabiliyor. GraySort benchmark’ında ise, 25 düğümlü bir kümeyle 3,66 TiB/dakika okuma suratına ulaşarak dikkatleri üzerine çekti. Startup şirketi Perspective AI, DeepSeek’in bu performans sayılarını “bir sonraki seviye” olarak nitelendiriyor ve 3FS’in AI ve data yoğunluklu iş yükleri için devrim niteliğinde bir tahlil sunduğunu belirtiyor.

DeepSeek, geçtiğimiz yaz da Fire-Flyer 2 isimli yüksek performanslı AI mimarisinin özelliklerini açıklamıştı. Firma, 3FS, HaiScale ve yazılım yığınının öteki ögeleri sayesinde, Nvidia’nın DGX-A100 sunucularının performansının yüzde 80’ini yüzde 50 fiyatla ve yüzde 40 daha az güç kullanarak elde etmişti. Fire-Flyer 2, her biri 16TB SSD’ye sahip 180 depolama düğümü, iki adet 200Gbps NUC ve PCIe üzerinden 10.000 Nvidia A100 GPU kullanıyordu.