Tenstorrent, Galaxy Blackhole sunucularının DeepSeek-R1-0528 671B modelinde saniyede 350’den fazla token işleyebildiğini belirtiyor. Bu da yapay zeka uygulamalarında ciddi bir hız artışı anlamına geliyor. Sistem, 81 karelik 720p çözünürlüklü bir videoyu sadece 2,4 saniyede oluşturabiliyor. Bu hız, özellikle video düzenleme ve işleme alanında büyük bir avantaj sağlayabilir. Galaxy Blackhole sunucuları, 110.000 dolardan başlayan fiyatlarla pazara sunulacak. Donanım, 32 adet Blackhole çipiyle 23 PFLOP FP8 performans değerine ulaşabiliyor. Bu özellikleriyle, yüksek performanslı yapay zeka altyapısı arayan şirketler için cazip bir seçenek olabilir.
Tenstorrent Galaxy Blackhole Neler Sunuyor?
RISC-V mimarisi, performans sınırlarını zorlayarak dikkat çekiyor. Tenstorrent’in geliştirdiği Galaxy Blackhole sistemleri, özellikle “Blitz” modu sayesinde yüksek performanslı yapay zeka görevlerinde rakiplerine kıyasla daha düşük gecikme süreleri sunuyor. DeepSeek-R1-0528 671B modeli üzerinde yapılan testlerde, saniyede 350’den fazla token üretimi gerçekleştirilerek Groq ve Cerebras gibi sektördeki öncü sistemlerin performansı geride bırakıldı. Ayrıca, 100K bağlam uzunluğunda ilk token süresinin 4 saniyenin altında gerçekleşmesi, sistemin iş akışındaki verimliliğini kanıtlar nitelikte.
Tenstorrent’in yeni çözümleri, özellikle video üretken yapay zeka görevlerinde mevcut GPU tabanlı sistemlere kıyasla 10 kata kadar daha yüksek bir performans artışı sağlıyor. Bu, video prodüksiyon şirketleri ve içerik üreticileri için büyük bir avantaj anlamına gelebilir. Galaxy Blackhole sunucularının merkezinde bulunan Tensix çekirdekleri, beş adet özelleştirilmiş RISC-V işlemcisiyle donatılıyor. Bu işlemciler, matris çarpma üniteleri, vektör işleme blokları ve yüksek hızlı yerel SRAM bellekleri ile entegre bir yapı sunuyor. Her bir çekirdek, tamamen programlanabilir yapısı sayesinde farklı yapay zeka iş yüklerine göre optimize edilebiliyor. Donanımın sunduğu 56 adet 800G Ethernet portu ise, sistemin yüksek bant genişliği gerektiren veri merkezlerinde sorunsuz entegrasyonuna olanak tanıyor. 110.000 dolardan başlayan fiyat etiketi, yüksek performanslı yapay zeka altyapısı arayan şirketler için maliyet-performans dengesini yeniden tanımlamayı amaçlıyor.
Nvidia’nın pazar hakimiyetine karşı RISC-V tabanlı bir alternatifin bu denli yüksek performans rakamları sunması, donanım dünyasında yeni bir dönemin habercisi olarak değerlendiriliyor. Tenstorrent, sunduğu ölçeklenebilir mimari ile özellikle büyük dil modelleri (LLM) ve video üretim süreçlerine odaklanan işletmelerin maliyetlerini düşürmeyi hedefliyor. Donanımın sunduğu 16 TB/s bant genişliğine sahip 1 TB DRAM ve 2,9 PB/s hızında çalışan 6,2 GB SRAM kapasitesi, sistemin veri yoğunluklu hesaplamalardaki gücünü ortaya koyuyor. Bu özellikler, özellikle yapay zeka eğitim süreçlerinde ve büyük veri analizlerinde büyük avantajlar sağlayabilir.
Tenstorrent’in Galaxy Blackhole sunucuları, RISC-V mimarisinin potansiyelini gözler önüne seriyor. Nvidia’nın uzun süredir devam eden pazar liderliğine meydan okuyan bu yeni nesil sunucular, yapay zeka ve büyük veri alanlarında yeni bir rekabet ortamı yaratabilir. Özellikle maliyet-performans dengesi ve özelleştirilebilirlik açısından sunduğu avantajlarla, Tenstorrent Galaxy Blackhole, gelecekte adından sıkça söz ettirecek gibi duruyor.
