SCNET · Kurumsal BT · Ankara, Türkiye

Sanal Çekirdek

Yanıtın kaynağı yoksa, kullanıcı onu doğrulayamaz.

Kurumsal RAG (Retrieval-Augmented Generation / bilgi erişimiyle desteklenmiş üretim), büyük dil modeli yanıtlarını kurumun kendi belge ve verileriyle temellendiren mimari yaklaşımdır. Sanal Çekirdek bu mimariyi kaynak sistemlere bağlanan, yetkileri koruyan ve kaynak gösteren bir bütün olarak kurar.

Doğru kurulmuş RAG, dağınık kurum bilgisini sorgulanabilir tek katmana taşır; yanlış kurulum ise yetki sınırlarını aşan, dayanaksız yanıtlar üretir.

Ne zaman RAG, ne zaman değil

RAG, model yeniden eğitilmeden kurum bilgisini yanıt anında modele bağlar; bilgi güncellendiğinde yanıt da güncellenir. Sık değişen, kaynak gösterilmesi gereken ve erişimi yetkiye bağlı bilgi için çoğunlukla doğru ilk adımdır. Sabit görev biçimi veya kurum diline derin uyum gerekiyorsa ince ayar (SFT) ya da sürekli ön eğitim (CPT) değerlendirilir.

  • Güncel ve sık değişen bilgi için ilk tercih
  • Kaynak gösterimi gereken yanıtlar için uygun
  • Sabit görev biçimi için SFT değerlendirilir
  • Karar sezgiyle değil, ölçümle verilir

Veri temeli ve yetki mirası

RAG'in kalitesi, bağlandığı veri temelinin kalitesini aşamaz. Belge depoları, intranet ve iş uygulamaları bağlayıcılarla indekslenir; parçalama ve meta veri stratejisi belge türüne göre tasarlanır. Kaynak sistemdeki erişim yetkileri sorguya taşınır: kullanıcının görme yetkisi olmayan belge, yanıta giremez.

  • Belge depoları ve iş uygulamalarına bağlayıcılar
  • Belge türüne göre parçalama ve meta veri
  • Yetki mirası: erişim kuralları sorguda korunur
  • İçerik yaşam döngüsü: güncellenen belge indekse yansır

Atıf ve doğruluk denetimi

Üretim ortamında yanıtın değeri, dayandığı kaynağın gösterilebilmesiyle ölçülür. Yanıtlar kaynağa bağlı üretilir; kullanıcı hangi belgeye ve bölüme dayanıldığını görür. Kullanım alanına özgü değerlendirme setleriyle dayanaksız yanıt oranı izlenir; kaynak bulunamadığında sistem tahmin yerine yanıt vermez.

  • Belge ve bölüm düzeyinde kaynak gösterimi
  • Kullanım alanına özgü değerlendirme setleri
  • Kaynak yoksa yanıt yok: sınırlandırılmış davranış

Kurum içi arama ve asistan senaryoları

Aynı RAG temeli birden fazla senaryoyu besler. Bilgi tabanı asistanı prosedür ve ürün bilgisine tek noktadan erişim sağlar; destek ekipleri yanıt taslaklarını kaynaklı içerikle hazırlar; hukuk ve satın alma, sözleşme ile politika metinlerini doğal dille sorgular. Yetki sınırı ve atıf disiplini her senaryoda aynı kalır.

  • Bilgi tabanı asistanı: prosedür ve ürün bilgisi
  • Destek yanıtı hazırlığı: kaynaklı taslaklar
  • Sözleşme ve politika sorgulama: madde düzeyinde atıf

Nasıl çalışırız

  1. Kullanım alanı, bilgi kaynakları ve başarı ölçütü birlikte tanımlanır.
  2. Kaynak sistemler bağlanır; parçalama, indeksleme ve yetki mirası tasarlanır.
  3. Pilot kapsamda değerlendirme setiyle yanıt kalitesi ölçülür.
  4. Kabul ölçütleri karşılandığında sistem kontrollü devreye alınır.
  5. İçerik yaşam döngüsü, geri bildirim ve maliyet canlı ortamda izlenir.

Başarı nasıl ölçülür

  • Yanıtların kaynak uyumu ve atıf doğruluğu değerlendirme setiyle ölçülür.
  • Dayanaksız veya yanlış yanıt oranı düzenli izlenir.
  • Yetki denetimi, kısıtlı içeriğin yanıtlara sızıp sızmadığını test eder.
  • İstek başına gecikme ve maliyet, kullanım hacmiyle birlikte raporlanır.

Sık sorulan sorular

Kurumsal RAG'i genel sohbet botundan ayıran nedir?

Kurumsal RAG yanıtlarını kurumun kendi belgelerine dayandırır ve kaynak gösterir; genel sohbet botu modelin eğitim verisinden yanıt üretir. Bu fark, denetlenebilirliği ve kuruma özgü doğruluğu belirler.

RAG için verilerimizi modele eğitim amaçlı vermek gerekir mi?

Hayır; belgeler model ağırlıklarına işlenmez, yanıt anında erişilir ve dizinde kalır. Verinin nerede durduğu ve kime göründüğü kurumun kontrolündedir.

Halüsinasyon tamamen engellenebilir mi?

Hayır; dayanaksız yanıt riski tamamen ortadan kaldırılamaz, ölçülür ve sınırlandırılır. Kaynağa bağlı yanıt üretimi, değerlendirme setleri ve yanıt vermeme davranışı bu riski yönetilebilir kılar.

Doğru kurulmuş RAG temeli, kurum bilgisini denetlenebilir bilgi katmanına dönüştürür. İlk adım, kullanım alanını ve başarı ölçütünü netleştirmektir.

Uzmanla görüşün