Yapay zekâyı kurumun sınırları içinde çalıştırın.

Kurum içi yapay zekâ, modelin ve kurum verisinin kurumun kontrol ettiği altyapıda çalıştığı dağıtım yaklaşımıdır. Sanal Çekirdek bu dağıtımı üç kademede kurar: kurum içi altyapı, özel bulut veya VPC ve yönetilen hizmetler. Mimari model bağımsızdır; açık kaynak ve ticari modeller aynı kontrol çerçevesinde çalışır.

Bu sayfa dağıtım mimarisini anlatır: kademe seçimi, modelin nasıl işletildiği, veri sınırı ve güncelleme düzeni. Mimarinin karşıladığı uyum ihtiyaçları Veri Egemenliği ve Uyum sayfasında ele alınır.

Mimari görüşmesi isteyin Veri ve yapay zekâ hizmetlerini inceleyin

Üç kademeli dağıtım modeli

Kurum içi yapay zekâ tek bir kurulum biçimi değildir. Veri sınıfı, mevcut altyapı ve operasyonel kapasiteye göre üç kademe değerlendirilir: kurumun kendi veri merkezi, özel bulut veya VPC ve altyapısı kurumda kalan yönetilen hizmetler. Karar, gizlilik gereksinimiyle ekibin taşıyabileceği operasyonel yük birlikte tartılarak verilir.

Kurum içi (on-prem): en dar veri sınırı, en yüksek operasyonel sorumluluk
Özel bulut / VPC: ayrılmış kaynak ve esnek kapasite
Yönetilen hizmetler: altyapı kurumda, operasyonel sorumluluk paylaşımlı

Açık kaynak model çalıştırma

Açık kaynak modeller kurumun donanımında çalıştırılır; model ağırlıkları ve uyarlamalar kurumda kalır. Model seçimi genel sıralamalarla değil, kurumun kendi görevindeki karşılaştırmalı değerlendirmeyle yapılır. Kapasite planı model boyutu, eşzamanlılık ve gecikme hedefine göre çıkarılır; satın alma öncesi yük testiyle doğrulanır.

Model ağırlıkları ve uyarlamalar kurum envanterinde
Görev bazlı model karşılaştırması ve seçim gerekçesi
Model boyutu ve eşzamanlılığa göre kapasite planı
Nicemleme (quantization) ve sunum katmanı optimizasyonu

Veri sınırı ve erişim mimarisi

İstem, yanıt ve kaynak veri tanımlı sınırın dışına çıkmaz. Model servisleri ayrılmış ağ bölgelerinde çalışır; gereken dış bağlantılar envantere işlenir ve gerekçesi tasarımda görünür kalır. Erişim, kurumun kimlik sistemine bağlı rol tabanlı kurallarla tanımlanır ve kayıt altına alınır.

Ağ ayrımı ve dışa kapalı model servisleri
Kurum kimlik sistemiyle rol tabanlı erişim
İstem ve yanıt kayıtlarının kurumda tutulması
Dış bağlantı envanteri ve gerekçe kaydı

Yaşam döngüsü, sürümleme ve geri dönüş

Kurulum tek seferlik bir iş değildir; model yaşam döngüsü sistem işletildiği sürece sürer. Yeni sürümler üretime alınmadan önce kurumun değerlendirme setiyle test edilir ve mevcut sürümle karşılaştırılır. Önceki sürüme dönüş prosedürü her geçişte baştan tanımlanır.

Model ve istem sürümleme kayıtları
Kurum verisiyle düzenli karşılaştırmalı değerlendirme
Kontrollü geçiş ve önceki sürüme dönüş planı
Kapasite, gecikme ve maliyet izleme

Nasıl çalışırız

Veri sınıfını, kullanım alanını ve operasyonel kapasiteyi birlikte değerlendiririz.
Uygun dağıtım kademesini ve hedef mimariyi tasarlarız.
Modeli pilot kullanım alanıyla kurumun ortamında devreye alırız.
Kabul ölçütleriyle üretime geçer, sürümleme ve izleme ritmini birlikte işletiriz.

Başarı nasıl ölçülür

Veri sınırını geçen bağlantı ve istek envanteri
Kullanım alanına özgü doğruluk ve sürüm karşılaştırma sonuçları
İstek başına gecikme, kapasite doygunluğu ve maliyet eğilimi
Erişim kayıtlarının bütünlüğü ve yetki gözden geçirme kapanışı

Sık sorulan sorular

Kurum içi yapay zekâ için hangi dağıtım kademesi seçilmeli?

Karar; veri sınıfı, mevcut altyapı ve operasyonel kapasiteye göre verilir. En hassas veriler kurum içi dağıtımı, ayrılmış kaynak ihtiyacı özel bulutu, operasyonel sorumluluğu devretme ihtiyacı yönetilen kademeyi işaret eder.

Açık kaynak modeller kurumsal kullanım için yeterli mi?

Yeterlilik, kurumun kendi görev setindeki karşılaştırmalı değerlendirmeyle ölçülür; genel sıralamalar tek başına yeterli değildir. Karar ölçümle verilmelidir.

Model güncellemeleri kurum içi dağıtımda nasıl yönetilir?

Yeni sürüm önce kurumun değerlendirme setiyle test edilir, mevcut sürümle karşılaştırılır ve kontrollü geçişle devreye alınır. Önceki sürüme dönüş prosedürü her geçişin parçasıdır.

Donanım yatırımı nasıl boyutlandırılır?

Donanım ihtiyacı model boyutu, eşzamanlılık ve gecikme hedefiyle belirlenir; tek standart yoktur. Pilot yük testleri satın alma öncesi boyutlandırmayı netleştirir.

İlgili sayfalar

Kurum içi yapay zekâ bir donanım kararı değil, kontrol ve operasyonel sorumluluk modelidir. Dağıtım mimarinizi birlikte netleştirelim.

Mimari görüşmesi isteyin