EVREN · Savunma sanayii yapay zekâ platformu

Savunma sanayiinin yapay zekâ EVREN'i.

Veri etiketleme, 72 H200 GPU'lu süper bilgisayarda model eğitimi ve modelleri çalıştırma tek platformda. Savunma Sanayii Başkanlığı bünyesinde geliştirildi, e-Devlet ile giriş yapılır.

Crudfab / Platformlar / EVREN
HPC

Kubernetes gerektirmeyen, bütün yapay zekâ iş yüklerini taşıyan tek HPC ortamı.

EVREN'in hesaplama katmanı süper bilgisayar merkezlerinin kurduğu gibi kuruludur: çıplak donanım, bir iş zamanlayıcı ve hızlı bir ağ, hepsi hiper bütünleşik tek bir sistem olarak çalışır.

01

Kubernetes gerekmez

İşler, Slurm altında konteynerlerde doğrudan donanım üzerinde çalışır. Modelle GPU arasında ayrı bir orkestrasyon katmanı yoktur.

02

NVLink ve InfiniBand birlikte

Aynı iş içinde, bir sunucudaki GPU'lar NVLink ve NVSwitch üzerinden, sunucular da birbirleriyle InfiniBand üzerinden konuşur.

03

Farklı GPU aileleri

Farklı nesil ve ailelerden GPU'larla kümeler kurulabilir. Zamanlayıcı her işi ona uygun donanıma gönderir.

04

Hiper bütünleşik

Hesaplama, depolama ve ağ tek bir sistem olarak kurulur ve işletilir. Yeni bir sunucu kümeye çalışmaya hazır katılır.

05

Büyük ölçekte ön eğitim

Dil, görüntü ve ses modelleri için bütün kümeye yayılan çok sunuculu dağıtık eğitim.

06

İnce ayar ve değerlendirme

İnce ayar, hizalama ve kıyaslama koşuları aynı kuyruğu ve aynı veriyi paylaşır.

07

Aynı donanımda çıkarım

Eğitilen modeller başka bir platforma taşınmadan OpenAI uyumlu bir API'nin arkasında sunulur.

08

Adil kuyruklar

Bölümler, öncelikler ve krediler sıradaki işi belirler, her işin kullanımı hesaba yazılır.

GPU'ları bölmek yerine tek havuzda toplayın.

Alışılmış yol

Her mühendise bir VM

GPU'lar hipervizör ve passthrough ile sanal makinelere bölünür. Bir VM yalnızca tek bir sunucunun GPU'larını, genellikle sekizini kullanabilir ve mesai bitince bu GPU'lar boşta kalır.

VM başına 8 GPU
EVREN ile

Bütün küme için tek kuyruk

Bütün GPU'lar InfiniBand üzerinden tek bir Slurm kümesinde birleşir. Mühendisler işlerini kuyruğa bırakır, tek bir iş birden çok düğüme yayılabilir ve kuyruk gece boyunca çalışmaya devam eder.

72 GPU, tek kuyruk

Ham veriden çalışan modele, tek platformda.

01

Veri

Veri setleri sürümlenir, kalite puanı alır ve otomatik olarak bölünür.

02

Etiketleme

SAM 3 ve YOLO ile ön etiketleme, ortak çalışma ve kalite kontrolü.

03

Eğitim

Görüntü, ses ve dil modelleri H200'ler üzerinde dağıtık olarak eğitilir.

04

Görüntü çıkarımı

Kamera, fotoğraf ve video üzerinde gerçek zamanlı nesne tespiti.

05

LLM çıkarımı

Türkiye'deki sunucularda çalışan açık ağırlıklı modeller, OpenAI uyumlu tek bir API ile kullanılır.

Etiketleme

Sektörün ihtiyaç duyduğu bütün etiket türleri.

Ekipler büyük veri setlerini hızla etiketler, birbirlerinin işini aynı platformda kontrol eder.

  • Sınırlayıcı kutu, poligon, yönlü kutu, anahtar nokta, metinde varlık (NER) etiketleme ve ses bölgesi etiketleme desteklenir.
  • SAM 3 ve YOLO ile otomatik ön etiketleme, elle çizime harcanan süreyi önemli ölçüde kısaltır.
  • Ekip halinde etiketleme, kalite kontrolü ve sürüm takibi aynı yerde yapılır.
Süper bilgisayar

InfiniBand ile bağlı 72 H200, sektörün kullanımında.

Eğitimler, süper bilgisayar merkezlerinde olduğu gibi iş zamanlayıcıyla yönetilen, sanallaştırmasız bir HPC kümesinde çalışır.

  • Dokuz sunucunun her birinde sekiz NVIDIA H200 GPU bulunur. Her GPU'da 141 GB HBM3e bellek vardır, sunucular 400 Gb/sn InfiniBand NDR ile birbirine bağlıdır.
  • İşler Slurm ile zamanlanır ve Apptainer konteynerlerinde çalışır. Eğitim metrikleri anlık olarak izlenir.
  • GPU kullanımı krediyle ödenir. Seviyeye göre GPU saati başına 10 ile 35 kredi harcanır.
Çıkarım

Eğittiğiniz modeli hemen kullanmaya başlayın.

Platformda iki ayrı çıkarım servisi var: biri görüntü ve video, diğeri dil modelleri için.

  • Sekiz A6000 GPU'lu ayrı bir sunucu YOLO, SAM 3 ve diğer görüntü modellerini çalıştırır. Kamera görüntüsü, tekli ya da toplu fotoğraf ve video 50 milisaniyenin altında bir gecikmeyle işlenir.
  • Sohbet, kodlama, akıl yürütme ve görsel anlama için açık ağırlıklı dil modelleri, Türkiye'deki H200 kümesinde çalışır. Tek bir OpenAI uyumlu uç noktadan erişilir; istek modele göre yönlendirilir, cevap akış halinde gelir.
  • Veriler yurt dışına çıkmaz. Kullanım, kurum bazında kredi kontrolüyle yönetilir.
Kredi sistemi

Veriyle katkı verin, işlem gücü kazanın.

Kullanıcılar veri yükleyip etiketleyerek ve model paylaşarak kredi kazanır, bu krediyi GPU kullanımında harcar. Bir ekip sektörün veri havuzuna ne kadar katkı verirse o kadar çok işlem gücü kullanabilir.

+2kredi: ilk 100 veri öğesiİlk adım
+15kredi: 1.000 veri öğesiKatkıcı
+40kredi: 10.000 veri öğesiUsta seviyesi; etiketli veri aktarımına ayrıca bonus

Kurumsal kullanım için tasarlandı.

01

e-Devlet ile giriş

Kullanıcılar e-Devlet ile giriş yapar ve başlangıç kredisi alır.

02

Roller ve tek oturum açma

Ekipler ve kurumlar için tek oturum açma (SSO) ve rol tabanlı erişim kontrolü.

03

Ayrılmış veri

Çalışma alanlarının verileri birbirinden tamamen ayrıdır, bütün işlemler kayıt altına alınır.

04

Baştan sona Türkçe

Etiketlemeden çıkarıma kadar her adım Türkçe arayüzle, yurt içindeki altyapıda yapılır.

EVREN, Savunma Sanayii Başkanlığı bünyesinde, Savunma Sanayii Yapay Zekâ Platformu (SSYZ) kapsamında geliştirilmektedir. Crudfab, SSYZ kapsamındaki portal, yazılım ve GPU altyapısı çalışmalarını yürütmektedir.

e-Devlet ile girin, başlangıç kredinizle hemen başlayın.

evren.ssyz.org.tr'ye gidin
Benzer bir platform mu kuruyorsunuz?
Kurumlar için yapay zekâ platformları ve GPU altyapıları tasarlıyor, kuruyor ve işletiyoruz.