AI Eğitimi · Kurumsal RAG

AI ve Veri Ekipleri için Kurumsal RAG Eğitimi

Ekibiniz bir vector store'u prompt şablonuna bağlayıp öğleye kadar çalışan bir RAG demosu çıkarabilir. Production'daki retrieval-augmented generation ise chunking disiplini, retrieval kalitesi, kaynağa dayalı atıflar ve değerlendirmeyle ayakta kalır. Çoğu ekip bu parçaları ancak bir sorun çıktıktan sonra ele alıyor. Uygulamalı eğitim boyunca AI ve veri mühendisleri corpus tasarımından hybrid retrieval ve reranking'e, kaynağa dayalı üretimden bir değişikliğin gerçekten fayda sağlayıp sağlamadığını gösteren metriklere kadar bütün pipeline üzerinde çalışıyor. Eğitim sonunda kendi corpus'unuz için bir referans mimari ve değerlendirme test setiniz oluyor.

modül: 6
saat: 15

Bize ulaşın

Çoğu ekip hızlı yolu çoktan denedi. Vector store'u prompt şablonuna bağladı, beş demo sorusuna gelen cevapları gördü ve pilotun çalıştığını düşündü. Production trafiği başladığında bu kurgu genelde ayakta kalmıyor. Corpus bilinçli biçimde chunk'lara ayrılmamış, sonuçlar reranking'den geçmemiş ve embedding modeli değiştiğinde sonucun iyileşip iyileşmediğini gösterecek bir ölçüm kurulmamış oluyor. Production'daki retrieval-augmented generation, demonun atladığı chunking disiplini, retrieval kalitesi, kaynağa dayalı atıflar ve değerlendirmeye dayanıyor.

Bu eğitimde doğrudan sistemi kuruyoruz. AI ve veri mühendisleriniz iki gün boyunca kendi corpus'unuzdan bir kesitle pipeline'ın tamamı üzerinde çalışıyor. Önce dokümanlar için chunking ve metadata tasarlıyor, ardından hybrid search ile reranking'i kuruyorlar. Cevapları atıflar ve multi-hop retrieval ile kaynaklara bağlı tutuyor, birkaç test sorgusuna göz gezdirmek yerine retrieval ve üretim kalitesini ölçen altın bir veri seti kullanıyorlar.

Bir modülün tamamı, demo bittikten sonra production'ın gerektirdiği konulara ayrılıyor. Doküman bazlı erişim kontrolünün ingestion sonrasında da korunmasını, retrieval edilen içerikten gelebilecek prompt injection riskini ve production'daki izlemeyi ele alıyoruz. Eğitimin sınırı da baştan açık. Bir notebook aracında son kullanıcı araştırması yapmak, tek başına prompt mühendisliği ve model ağırlıklarına fine-tuning uygulamak bu programın kapsamında değil. Bunların her biri ayrı bir oturum gerektiriyor.

Ekibiniz retrieval'ı birden fazla araçtan biri olarak kullanan agent'lar geliştiriyorsa AI agent eğitimimiz bu programın doğal devamıdır. AI eğitimleri kataloğundaki programları stack'inize, verinize ve kısıtlarınıza göre şekillendiriyoruz. Eğitim sonunda elinizde, eğitmenler ayrıldıktan sonra da kendi corpus'unuza karşı çalıştırabileceğiniz bir referans mimari ve değerlendirme test seti kalıyor.

Demo bir öğleden sonra çıkar, production disiplin ister

Bir vector store'u prompt şablonuna bağlamak bir öğleden sonranızı alabilir. Gerçek trafik altında çalışan sistem içinse chunking disiplini, retrieval kalitesi ve değerlendirme gerekir. Demo ikna edici göründüğünde ekiplerin en sık atladığı parçalar da bunlardır.

Cevabın kalitesini önce retrieval belirler

Kusursuz bir prompt, yanlış chunk'ı düzeltemez. RAG hatalarının çoğunda yanlış doküman öne çıkar, chunk cümlenin ortasında kesilir ya da sonuçlar reranking'den geçmez. Model de kendisine verilen bu içerikle kendinden emin bir tonda cevap üretir.

Eski politika sürümü kaynak gösterildiğinde

Bir RAG sistemi eski bir politika sürümünü kaynak gösteriyorsa ya da hiç erişmemesi gereken veriden cevap üretiyorsa sorun çoğu zaman metadata, güncellik yönetimi veya retrieval anında eksik kalan erişim kuralıdır.

Retrieval production'a alınmadan önce ölçülüyor mu?

Çoğu ekip birkaç test sorgusuna bakıp çalışmayı tamamlanmış sayıyor. Ama ortada ne altın bir veri seti ne de retrieval ve üretim metrikleri oluyor. Biri chunking'i değiştirdiğinde ya da embedding modelini yenilediğinde, sistemin iyileşip iyileşmediğini kimse net biçimde söyleyemiyor.

Erişim kuralı dokümanla birlikte ilerler

Kullanıcının hangi dokümanı görmeye yetkili olduğunu hesaba katmayan bir retrieval sistemi, bilgi tabanınızı veri sızıntısına açık hâle getirir. Yetkiler ve tenant sınırları daha ilk günden, retrieval edilen içerikten gelebilecek prompt injection riskiyle birlikte ele alınmalıdır.

01
RAG nerede işe yarar, nerede yaramaz?
90 dkBaşlangıç
Retrieval-augmented generation bazı kullanım alanlarında maliyetine değer, bazılarında ise yalnızca latency ekler. Ekibiniz herhangi bir şey kurmadan önce bu sınırı birlikte çiziyoruz. RAG, fine-tuning ve daha uzun context window arasındaki farkları ortak bir dille netleştiriyoruz. Böylece dersin geri kalanında uygulamaya odaklanıyoruz.
RAG gerçekte ne yapar, hangi noktalarda sessizce bozulur?
RAG, fine-tuning ve uzun context window arasındaki farklar
Tek başına bir prompt ne zaman yeterli olur?
Chatbot demosuyla production'a hazır RAG arasındaki fark
Uygun ilk kullanım alanları: destek ve kurum içi dokümanlar
02
Corpus tasarımı ve veri pipeline'ı
150 dkOrta seviye
Sonraki bütün adımları belirleyen iş burada yapılıyor. Corpus'u inceliyoruz, her doküman türü için uygun chunking yaklaşımını seçiyoruz. Ardından metadata'yı, erişim kurallarını ve güncellik bilgisini her chunk'la birlikte ilerleyecek biçimde tasarlıyoruz. Uygulamada kendi dokümanlarınızdan temsilî bir kesit kullanılıyor.
İlk işlemden önce corpus'unuzu incelemek
Metin, tablo, kod ve yapılandırılmış dokümanları chunk'lara ayırmak
Retrieval için metadata desteğiyle veriyi temizlemek ve tekrarları kaldırmak
Ingestion sırasında erişim ve güncellik etiketlerini eklemek
PDF, HTML, Confluence ve kod depolarını işlemek
Kendi ingestion pipeline'ınızı kurmak
03
Retrieval mühendisliği: hybrid search ve reranking
180 dkOrta seviye
Basit vector benzerliğiyle bir demo çıkarabilirsiniz. Bu modülde ise embedding modeli seçimi, anahtar kelime ve vector aramasını birleştirme, sorguları yeniden yazma ve sonuçları modele göndermeden önce reranking'den geçirme adımlarıyla gerçek bir retrieval stack'i kuruyoruz. Eğitimin temel geliştirme oturumu bu modül ve laboratuvar süresinin büyük kısmı burada geçiyor.
Embedding modeli ve vector store seçmek
Hybrid search: BM25 ve vector aramasını birleştirmek
Sorguları gerçek kullanıcıların sorduğu biçime göre yeniden yazmak
Cevap üretilmeden önce sonuçları reranking'den geçirmek
Metadata filtreleri ve tenant sınırları
Doğru dokümanın top-k sonuçlarında neden yer almadığını bulmak
04
Cevapları kaynaklara ve atıflara dayandırmak
150 dkOrta seviye
Retrieval edilen pasajları güvenilir bir cevaba dönüştürüyoruz. Birden fazla kaynak context window'da yer bulmaya çalışırken kaynağa dayalı prompt'lar, atıf formatı ve context bütçesi birlikte ele alınıyor. Tek aramayla cevaplanamayan sorular için multi-hop retrieval'ı ve retrieval boş döndüğünde izlenecek yolu da inceliyoruz.
Prompt'ları retrieval edilen bağlama dayandırmak
Kaynağa kadar izlenebilen atıflar hazırlamak
Kaynaklar aynı alana ihtiyaç duyduğunda context bütçesini yönetmek
Çelişen veya güncelliğini yitirmiş kaynakları ele almak
Zor sorularda multi-hop retrieval kullanmak
Retrieval boş döndüğünde izlenecek yolu belirlemek
05
Cevaplara göz gezdirmek yerine gerçekten ölçmek
150 dkİleri seviye
Göz kararı yapılan kontrollerin yerini tanımlı ölçümler alıyor. Ekibiniz temsilî sorulardan altın bir değerlendirme veri seti kuruyor. Bu sette recall@k ve nDCG gibi retrieval metriklerinin yanında faithfulness için üretim metrikleri de bulunuyor. Her corpus veya prompt değişikliğinden önce çalıştırabileceğiniz bir regresyon kontrolüyle ayrılıyorsunuz.
Recall@k ve MRR'ı nDCG ile birlikte izlemek
Temsilî sorulardan altın bir veri seti kurmak
Groundedness için faithfulness ve relevancy ölçmek
RAGAS benzeri değerlendirmelerle insan değerlendirmesini dengelemek
Her değişiklikten önce regresyon testi çalıştırmak
06
Güvenlik ve gözlemlenebilirlikle production'a geçiş
150 dkİleri seviye
Production'da güven, dokümanın ingestion sonrasında da taşıdığı erişim kontrolüyle başlıyor. Buna retrieval edilen içerikten gelebilecek prompt injection riskine karşı önlemleri, production'daki izlemeyi ve değerlendirme adımlarıyla ilerleyen pilot-to-production planını ekliyoruz.
Erişim kontrolünü ingestion ile birlikte retrieval anında da uygulamak
Güvenilmeyen dokümanlardan gelebilecek prompt injection riski
Canlı sistemde kaliteyi ve latency'yi izlemek
Kesinti yaşamadan yeniden indekslemek ve sürümlemek
Maliyet ve latency arasındaki dengeyi kurmak
Değerlendirme adımları içeren bir yaygınlaştırma planı hazırlamak

Neler öğreneceksiniz?

RAG'ı fine-tuning ve uzun context window'dan ayırabilmek
Corpus dokümanları için bir chunking yaklaşımı tasarlamak
Hybrid search ve reranking kullanan bir retrieval stack'i kurmak
Kaynağa dayalı atıflar hazırlamak
Retrieval ve üretim kalitesini tanımlı metriklerle ölçmek
Production'a almadan önce erişim kontrolündeki açıkları yakalamak
Değerlendirme adımları içeren bir yaygınlaştırma planı hazırlamak

Kimler katılmalı?

Retrieval sistemleri kuran veya sürdüren AI/ML mühendisleri
Veri ekibinde ingestion pipeline'ından sorumlu kişiler
Bir RAG yaklaşımının kapsamını belirleyen çözüm mimarları
Kurum içi bilgi asistanlarını production'a alan uygulamalı AI ekipleri
RAG standartlarını belirleyen teknik ekip liderleri
Sistem production'a ulaştığında devreye giren MLOps ve DevOps ekipleri

Ana program iki gün sürer, genellikle yarım günlük oturumlara bölünür. Yerinde ve canlı online formatlar aynı müfredatı kapsar, kurulum ve değerlendirme modülleri katılımcılar kendi corpus'larının gerçek bir kesitini getirdiğinde en iyi işler.

Format: Yerinde veya canlı online
Süre: 2 gün (yaklaşık 14 saat, yarım günlük oturumlara bölünebilir)
Grup büyüklüğü: Grup başına en fazla 16 katılımcı
Dil: Türkçe veya İngilizce
Materyaller: Referans RAG mimarisi, değerlendirme altyapısı şablonları ve elinizde kalan bir kod deposu
Sertifika: Tamamlama sertifikası

Zeo 2011'de kuruldu, San Francisco, İstanbul, Ankara ve Lizbon'dan çalışıyor, uluslararası dijital pazarlama konferansı Digitalzone'u düzenliyor ve Copilot Akademisi'ni yürütüyor. Bu program, Zeo'nun 10+ yıllık danışmanlık ve eğitim deneyimini kurumsal AI benimsemesine taşır.