Referans mimari ve planlama ekonomisi

Anlaşılabilir ve maliyeti hesaplanabilir lokal çalışma sistemi.

Güçlü açık-ağırlık dil modellerini kurumun kendi güven sınırı içinde çalıştırmak için mimari, kapasite ve maliyet varsayımlarını görünür kılan şeffaf bir başlangıç noktası.

Egemen sınırUyarlanan yönlendirmeİzin farkındalıklı bağlamİnsan yetkisi

01 / Referans mimari

Varsayılan olarak lokal. Model sınırında açık.

Kalıcı sistem yalnız GPU sunucusu değildir. Modellerin, verinin ve insan yetkisinin çevresindeki yönetişimli yoldur.

01

Erişim ve yönetişim

Kimlik, amaç, politika, kota ve onay model çalışmadan önce akışa girer.

02

PULSAR kontrol düzlemi

Gateway, router, model kaydı, değerlendirme kapıları ve sürüm politikası modellerden ayrılır.

03

İzinli veri düzlemi

Bilgi erişimi, nesne depolama ve araçlar kaynak yetkisini devralır; ağ sınırında kalır.

04

Çıkarım düzlemi

Açık-ağırlık modeller; izolasyon, nicemleme, batching ve görev odaklı yönlendirmeyle çalışır.

05

Kanıt ve işletme

İz kaydı, kalite değerlendirmesi, enerji telemetrisi ve insan incelemesi her sürümü şekillendirir.

02 / Kapasite senaryoları

Alışveriş listesiyle değil, iş yükü zarfıyla başla

Bellek uyumu; model mimarisi, hassasiyet, bağlam uzunluğu, eşzamanlılık ve servis yazılımına bağlıdır. Satın almadan önce benchmark yapın.

R01

Araştırma sunucusu

Değerlendirme, bilgi erişimi, ince ayar deneyleri ve kontrollü ekip kullanımı

Hesaplama
2 × 96 GB sunucu/iş istasyonu hızlandırıcısı
Bellek
192 GB hızlandırıcı · 512 GB ECC sistem
Depolama
8 TB NVMe · korumalı model kayıt alanı
25–100 GbE · izole yönetim ağı
Tesis
1,5–2,0 kW tasarım zarfı
Nicemlenmiş 70B sınıfı modeller, daha küçük yoğun modeller, embedding ve reranker
REFERANS CAPEX$50.000
R03

Paylaşımlı araştırma kümesi

Birden fazla model servisi, geniş bağlam araştırması ve kapasite büyütme

Hesaplama
8 × 96 GB sunucu hızlandırıcısı
Bellek
768 GB hızlandırıcı · 2 TB ECC sistem
Depolama
30 TB NVMe · dayanıklı paylaşımlı nesne depolama
Çift 100/200 GbE · ayrı depolama ağı
Tesis
7–9 kW tasarım zarfı
Daha büyük MoE deneyleri, eşzamanlı modeller ve sınırlı çok ekipli hizmet
REFERANS CAPEX$220.000

Referans fiyatlar; hızlandırıcı donanımı, sunucu platformu, ECC bellek, NVMe depolama, ağ/güvenlik bileşenleri ve entegrasyon payını içerir. Bunlar tedarikçi teklifi değil, planlama tahminidir.

03 / Türkiye ithalat maliyeti

Varsayımları görünür kıl

Hesap tarihi

Planlama hesaplayıcısı

Tedarik kararından önce her oranı güncelleyin.

Sistem bedeli$110.000
CIF$113.300
Gümrük vergisi$0
İthalat KDV$22.660
KDV hariç net ithalat maliyeti$115.000₺5.425.527
KDV dahil brüt nakit çıkışı$137.660₺6.494.596
GÜMRÜK

%0 bir planlama varsayımıdır; tarife kararı değildir

Siparişten önce GTİP sınıflandırmasını, menşei, ticaret rejimini, Incoterm'ü ve olası ilave vergiyi yetkili gümrük müşaviriyle doğrulayın.

KDV

Nakit çıkışı ile ekonomik maliyet farklı görünümlerdir

İthalat KDV'si brüt nakit çıkışında gösterilir. İndirilebilirliği mükellef ve kullanım durumuna bağlıdır; vergi danışmanlığı alın.

GÜNCELLEME

Hesap tarihini en az ayda bir güncelleyin

Hızlandırıcı fiyatını, tedarikçi teklifini, TCMB satış kurunu, navlunu, tarifeyi ve KDV'yi yenileyin; gümrük beyannamesi tarihinde mutlaka yeniden hesaplayın.

04 / Sürdürülebilir işletme

Enerji başına faydalı zekâ

Sürdürülebilirlik daha büyük bir sunucuyla değil, yönlendirme ve ölçümle başlar.

Modeli doğru boyutlandır

Değerlendirilmiş kalite eşiğini karşılayan en küçük yolu tercih et.

Gerçek işi ölç

Enerji, kullanım, kuyruk süresi ve kabul edilen çıktıyı iş yükü bazında izle.

Kapasiteyi güvenle paylaş

Donanım eklemeden önce batching, kota ve izole havuzlar kullan.

Kaynaklar ve yöntem

Yöntem: referans CapEx × navlun/sigorta = CIF; gümrük vergisi CIF üzerine, ithalat KDV'si CIF + vergi üzerine uygulanır; gümrükleme payı ayrıca eklenir. Bu sadeleştirilmiş kamusal model; finansman, KKDF, yerel satıcı marjı, bina işleri, elektrik ve KDV indirim zamanlamasını kapsamaz.

Sistemin arkasındaki düşünce

Lokal işletim neden önemlidir?

Açık-ağırlık modeller; model dosyasını incelemeyi, servis yığınını seçmeyi, ağ yolunu kontrol etmeyi ve hassas bağlamı hesap verebilir bir ortamda tutmayı mümkün kılar. Ancak lokal işletim kendiliğinden güvenli veya ekonomik değildir. Gerçek kullanımda izinlerin, kanıtın, güncellemelerin ve insan yetkisinin korunup korunmayacağını çevresindeki mimari belirler.

Project PULSAR donanımı, daha büyük bir çalışma modelinin içindeki değiştirilebilir katmanlardan biri olarak ele alır. Hızlandırıcılar ve modeller değişirken kimlik, politika, yönlendirme, izinli bağlam, değerlendirme, gözlemlenebilirlik ve sürüm yönetişimi kalıcı olmalıdır.

Açık araştırma başlangıç noktası

Bu sayfadaki referans sistemler ürün paketi veya satın alma tavsiyesi değildir. Aşağıdaki konuları karşılaştırmak için kamusal araştırma zarflarıdır:

  • model belleği ve eşzamanlılık ihtiyacı;
  • temsili iş yüklerinde gecikme, kapasite ve kalite;
  • nicemleme ve yönlendirme dengeleri;
  • güvenlik ve işletme kontrolleri;
  • enerji, soğutma ve kullanım oranı;
  • sermaye maliyeti ve Türkiye ithalat nakit akışı.

Başlangıç varsayımı, açık-ağırlık model çıkarımı için modüler ve anlamlı bir bellek birimi sağladığından 96 GB profesyonel sunucu hızlandırıcılarını kullanır. Eşdeğer hızlandırıcılar ve gelecekteki mimariler aynı iş yükü ve yönetişim testleriyle karşılaştırılmalıdır.

Maliyet modeli nasıl okunmalı?

Referans CapEx; hızlandırıcı setini, sunucu platformunu, ECC belleği, lokal NVMe depolamayı, ağ/güvenlik bileşenlerini ve entegrasyon payını USD olarak kapsar. Aksi belirtilmedikçe bina işleri, finansman, elektrik, yerel satıcı marjı ve sözleşmeli destek dahil değildir.

Türkiye hesabı, ithalat KDV’si hariç net maliyeti ve ithalat KDV’si dahil brüt nakit çıkışını ayrı gösterir. %0 gümrük vergisi yalnızca planlama varsayımıdır. Her siparişten önce sınıflandırma, menşe ve güncel ithalat rejimi doğrulanmalıdır.

Fiyat, vergi ve döviz kuru varsayımlarının ömrü sınırlıdır. Hesap tarihini kaydedin, varsayımları en az ayda bir güncelleyin ve gümrük beyannamesi tarihindeki resmî kur ile tarife pozisyonunu kullanarak yeniden hesaplayın.

Karar kuralı

Bütçeye sığan en büyük sistemi satın almayın. Temsili iş yüklerinden küçük bir set seçin, kalite ve gecikme eşiklerini belirleyin, yeterli en küçük konfigürasyonu ölçün ve genişleme yolunu koruyun. Kapasite, teorik model büyüklüğüyle değil, kabul edilen çıktıyla yerini hak eder.