Veri etiketleme, 72 H200 GPU'lu süper bilgisayarda model eğitimi ve modelleri çalıştırma tek platformda. Savunma Sanayii Başkanlığı bünyesinde geliştirildi, e-Devlet ile giriş yapılır.
EVREN'in hesaplama katmanı süper bilgisayar merkezlerinin kurduğu gibi kuruludur: çıplak donanım, bir iş zamanlayıcı ve hızlı bir ağ, hepsi hiper bütünleşik tek bir sistem olarak çalışır.
İşler, Slurm altında konteynerlerde doğrudan donanım üzerinde çalışır. Modelle GPU arasında ayrı bir orkestrasyon katmanı yoktur.
Aynı iş içinde, bir sunucudaki GPU'lar NVLink ve NVSwitch üzerinden, sunucular da birbirleriyle InfiniBand üzerinden konuşur.
Farklı nesil ve ailelerden GPU'larla kümeler kurulabilir. Zamanlayıcı her işi ona uygun donanıma gönderir.
Hesaplama, depolama ve ağ tek bir sistem olarak kurulur ve işletilir. Yeni bir sunucu kümeye çalışmaya hazır katılır.
Dil, görüntü ve ses modelleri için bütün kümeye yayılan çok sunuculu dağıtık eğitim.
İnce ayar, hizalama ve kıyaslama koşuları aynı kuyruğu ve aynı veriyi paylaşır.
Eğitilen modeller başka bir platforma taşınmadan OpenAI uyumlu bir API'nin arkasında sunulur.
Bölümler, öncelikler ve krediler sıradaki işi belirler, her işin kullanımı hesaba yazılır.
GPU'lar hipervizör ve passthrough ile sanal makinelere bölünür. Bir VM yalnızca tek bir sunucunun GPU'larını, genellikle sekizini kullanabilir ve mesai bitince bu GPU'lar boşta kalır.
VM başına 8 GPUBütün GPU'lar InfiniBand üzerinden tek bir Slurm kümesinde birleşir. Mühendisler işlerini kuyruğa bırakır, tek bir iş birden çok düğüme yayılabilir ve kuyruk gece boyunca çalışmaya devam eder.
72 GPU, tek kuyrukVeri setleri sürümlenir, kalite puanı alır ve otomatik olarak bölünür.
SAM 3 ve YOLO ile ön etiketleme, ortak çalışma ve kalite kontrolü.
Görüntü, ses ve dil modelleri H200'ler üzerinde dağıtık olarak eğitilir.
Kamera, fotoğraf ve video üzerinde gerçek zamanlı nesne tespiti.
Türkiye'deki sunucularda çalışan açık ağırlıklı modeller, OpenAI uyumlu tek bir API ile kullanılır.

Ekipler büyük veri setlerini hızla etiketler, birbirlerinin işini aynı platformda kontrol eder.

Eğitimler, süper bilgisayar merkezlerinde olduğu gibi iş zamanlayıcıyla yönetilen, sanallaştırmasız bir HPC kümesinde çalışır.

Platformda iki ayrı çıkarım servisi var: biri görüntü ve video, diğeri dil modelleri için.
Kullanıcılar veri yükleyip etiketleyerek ve model paylaşarak kredi kazanır, bu krediyi GPU kullanımında harcar. Bir ekip sektörün veri havuzuna ne kadar katkı verirse o kadar çok işlem gücü kullanabilir.
Kullanıcılar e-Devlet ile giriş yapar ve başlangıç kredisi alır.
Ekipler ve kurumlar için tek oturum açma (SSO) ve rol tabanlı erişim kontrolü.
Çalışma alanlarının verileri birbirinden tamamen ayrıdır, bütün işlemler kayıt altına alınır.
Etiketlemeden çıkarıma kadar her adım Türkçe arayüzle, yurt içindeki altyapıda yapılır.
EVREN, Savunma Sanayii Başkanlığı bünyesinde, Savunma Sanayii Yapay Zekâ Platformu (SSYZ) kapsamında geliştirilmektedir. Crudfab, SSYZ kapsamındaki portal, yazılım ve GPU altyapısı çalışmalarını yürütmektedir.