Verisini buluta göndermek istemeyen ya da artan API faturalarından yorulan şirketlerin sorusu hep aynı: "Kendi yapay zeka sunucumuzu kursak nereden başlamalıyız?" İşte onlarca kurulumdan damıttığımız yol haritası.
Adım 1: Kullanım senaryosunu netleştirin
"Yapay zeka kullanacağız" bir hedef değildir. Müşteri destek asistanı mı, doküman özetleme mi, kod asistanı mı, görüntü analizi mi? Senaryo netleşmeden donanım konuşmak, beden bilmeden elbise almaya benzer.
Adım 2: Modeli seçin, donanımı değil
Önce senaryonuzu karşılayan en küçük modeli bulun. Çoğu kurumsal ihtiyaç 8-70B aralığındaki açık modellerle çözülür. Model belli olunca gereken GPU belleği, oradan da donanım kendiliğinden belirlenir — tersi değil.
Adım 3: Başlangıç ölçeğini doğru seçin
Deneme aşamasındaysanız masaüstü bir DGX Spark veya tek GPU'lu iş istasyonu, ekip genelinde pilot için 2-4 GPU'lu bir sunucu, üretim yükü için 8 GPU'lu sistemler tipik başlangıç noktalarıdır. Küçük başlayıp veriyle büyümek, ilk gün dev yatırım yapmaktan neredeyse her zaman daha akıllıdır.
Adım 4: Kurulumu küçümsemeyin
Sürücüler, CUDA, konteyner ortamı, model servis katmanı (vLLM, TensorRT-LLM vb.) ve izleme... Donanım geldikten sonra ekiplerin haftalarını alan kısım burasıdır. Biz sistemleri bu katmanlar kurulu, "ilk gün çalışır" durumda teslim ediyoruz.
Adım 5: Ekibi hazırlayın
Altyapı, onu kullanacak ekip kadar değerlidir. Kimin model güncelleyeceği, kimin izleyeceği ve kapasite dolunca ne yapılacağı baştan netleşmelidir.
Senaryonuzu teklif formundan bize anlatın; size özel yol haritasını ve maliyet tablosunu birlikte çıkaralım.