Geçtiğimiz On Yıl
Open Cloud Infra
- Kararlı ve çevik iş yükleri için birleşik bulut altyapısı
- Hesaplama, depolama ve ağ havuzlama ile bağımsız kontrol
Bulut Altyapısı
Yapay Zekâ Altyapısı
Senaryoya Göre
EASYSTACK AI FOUNDATION
Heterojen hesaplama, model hizmetleri ve akıllı ajanları üretime taşıyın
Açık bulut altyapısı üzerine inşa edilen EAF; heterojen hızlandırıcıları, büyük model çıkarımını, YZ ağ geçidini ve Token operasyonlarını birleştirerek üretim ölçeğinde kurumsal YZ'yi destekler.
Evrilebilir bir altyapı, hazır YZ yetenekleri ve açık bir ekosistem
Geçtiğimiz On Yıl
Gelecek On Yıl
ECF, ECNF, EAF ve Cortex: dört bağımsız ürün; tek tek kurulabilir veya ihtiyaca göre birleştirilebilir.
Bulut Altyapısı · İstikrarlı
Hesaplama · Depolama · Ağ · Güvenlik
Bulut Yerel Altyapı · Çevik
Kubernetes · Konteyner · DevOps
YZ Altyapısı · Akıllı
GPU havuzlama · Eğitim/çıkarım zamanlama · Model çalışma ortamı
Ajan Platformu · Sahada Kullanım
Ajan Orkestrasyonu · Senaryo Bazlı YZ Uygulamaları
ECF ve ECNF bulut altyapısını oluşturur; üzerinde AI Infra yetenekleri ve Cortex katmanları yer alır.
Bulut Altyapısı → AI Infra → Ajan Uygulamaları
Ajan / İş AkışıAjan OrkestrasyonuLLM UygulamasıSektör Uygulaması
Model EğitimiModel DeposuÇıkarım MotoruModel DağıtımıModel OptimizasyonuModel Ağ Geçidi
Genel HesaplamaYZ'ye Özel Hesaplama
SanallaştırmaHam MetalKonteynerGüvenli KonteynerYüksek Performanslı DepolamaYüksek Performanslı AğElastik HesaplamaYZ Hızlandırıcı Kaynak Havuzu
Çoklu HesaplamaDağıtık DepolamaSDN (Yazılım Tanımlı Ağ)Bulut Güvenliği
CPU · x86 · ARMGPU · NPU · DCU ve Daha FazlasıNVMe · SSD · HDD25/100/200 GbE · RoCE V2
Altyapı üst sınırı belirler; çıkarım optimizasyonu Token ekonomisini ve deneyimi belirler.
Birleşik API · SLA · Çok Kiracılı Yapı · Denetim · Faturalandırma · Gözlemlenebilirlik
Kurumsal yönetişim
Yük duyarlı · Önbellek duyarlı (Cache-aware) yönlendirme · Elastik ölçekleme · Prefill-Decode ayrıştırma
Kullanım oranı ve kararlılık
vLLM · SGLang · KV Cache yönetimi ve bellekten aktarma (offloading) · Sürekli gruplama (continuous batching)
Daha fazla Token/sn · Daha düşük TTFT
FP8/INT8/INT4 kuantizasyon · LoRA · MoE · Distilasyon · Çok sürümlü yönetim
Daha düşük bellek ve Token başına maliyet
Birleşik GPU/NPU/DCU yönetimi · Yüksek performanslı depolama · ROCE V2 · NVMe model önbelleği
Ölçeğe hazır çıkarım altyapısı
Düşük maliyetle üretin, akıllıca tahsis edin, ölçülebilir şekilde işletin ve sürdürülebilir büyüyün.
Her Token optimize edilebilir, zamanlanabilir, ölçülebilir ve yönetilebilir — kurumsal ölçekte YZ'yi destekler.
Doğru modeli ve kuantizasyon sürümünü seçerek kuruma özel model yetenekleri oluşturun.
Token Başına Maliyet ↓
Birleşik erişim, kimlik doğrulama, limit, kota ve denetim ile kontrolsüz Token tüketimini önleyin.
Yönetişim ↑
Yerel modeller yüksek frekanslı ve gizlilik hassasiyeti taşıyan görevleri üstlenir; bulut modelleri yüksek değerli ve karmaşık görevleri işler.
Token Başına Değer ↑
Kiracı, kullanıcı, model ve API anahtarı bazında kullanımı takip ederek bütçe kontrolü, maliyet dağıtımı ve ticari kapanış döngüsü sağlayın.
İşletim döngüsü tamamlanır
Model optimizasyonu maliyeti düşürür • YZ ağ geçidi tüketimi disipline eder • Akıllı zamanlama değeri artırır • Ölçümleme ve faturalandırma işletim döngüsünü tamamlar
Aşağıya doğru heterojen hesaplama ile uyumlu; yukarıya doğru birleşik model hizmetleri ve sektörel ajan giriş noktaları sunar.
EnerjiYZ HesaplamaKamuTelekomünikasyonFinansEğitimİnternet
Erişim NoktasıModel YönlendirmeTrafik KontrolüErişim KontrolüAPI KeyToken Ölçümleme ve FaturalandırmaDenetim Kaydı
Model PazaryeriModel DeposuÇıkarım MotoruModel DağıtımıModel Deneme AlanıModel DeğerlendirmeOtomatik Ölçekleme
DeepSeek · Qwen · GLM · Kimi · MiniMax · Gemma ve daha fazlası
IAMKota YönetimiGözlemlenebilirlikTek Bulut, Çok ÇipHesaplama Yönetimi ve BölütlemeKonteyner ÖrnekleriKaynak Zamanlama
Intel · AMD · Kunpeng · Hygon · Phytium · NVIDIA GPU · Hygon DCU · Ascend NPU ve daha fazlası
Olgun açık kaynak ekosistemleri üzerine inşa edildi ve mühendislik çalışmalarıyla kurumsal sınıf ürünlere dönüştürüldü.
Envoy AI Gateway · Envoy Gateway · Gateway API
Birleşik Giriş · Trafik Yönetişimi · Ölçümleme · Faturalandırma
vLLM · SGLang · PyTorch · KServe · llm-d
Standart · Ölçeklenebilir Model Hizmetleri
Kubernetes · Harbor · Kata Containers · Cilium · Prometheus
Zamanlama · İzolasyon · Ağ · Gözlemlenebilirlik
Linux · KVM/QEMU · containerd · Ceph · RoCE V2
İşletim Sistemi · Sanallaştırma · Depolama · Ağ
Bulut altyapısından AI Infra'ya, oradan ajan platformlarına — ihtiyacınıza göre evrilin, her zaman açık kalın.