Yapay Zeka Eğitimi · Fine-Tuning ve LLMOps
Fine-Tuning ve LLMOps Eğitimi
Bulut platformlarında birkaç tıklamayla bir model ince ayar işi başlatmak sadece birkaç saat sürer. Ancak elde edilen modelin güçlü bir istem veya RAG kurgusundan gerçekten daha iyi performans gösterip göstermediğini kanıtlamak, beklenmedik hatalarda sistemi güvenle eski sürüme geri alabilmek ve üretim maliyetlerini kontrol altında tutmak çok daha kapsamlı bir mühendislik disiplini gerektirir.
Bu atölyede model uyarlamayı izole bir kod parçası olarak değil, karar matrisinden veri haklarına, LoRA ve QLoRA tekniklerinden hakem model kalibrasyonuna ve kanarya dağıtımına uzanan uçtan uca bir operasyon olarak ele alıyoruz. Ekipleriniz ezber parametrelerle değil, doğrulanabilir karar notları, kontrol toplamları, geri alma senaryoları ve 90 günlük operasyonel yol haritasıyla masalarına dönüyor.
- modül
- 6
- saat
- 14
Çalıştığımız markalardan bazıları
Farklı sektörlerden birlikte çalıştığımız seçkin markalar.
MeteksanTürkiyeVaka Analizi
VisperaTürkiyeVaka Analizi
Neden bu eğitim
Neden bu yapay zeka becerisi?
Büyük dil modellerinde ince ayar (fine-tuning) başlatmak dakikalar içinde tamamlanabilen teknik bir işlem gibi görünebilir. Ancak asıl kurumsal değer, bu yatırımın ne zaman gerekli olduğunu kanıtlamaya, veri kalitesini ve yasal sınırları korumaya, modeli bağımsız testlerle doğrulamaya ve üretim ortamında güvenle işletmeye dayanır. Bu atölyede mühendislik ve veri ekipleri, yüzeysel çıktı karşılaştırmalarının ötesine geçerek ölçülebilir bir operasyonel disiplin kazanır. RAG ve istem mühendisliğinin sınırlarını netleştiren karar matrisleri, LoRA ve QLoRA teknikleri, hakem model kalibrasyonları ve anında geri alma mekanizmaları sayesinde modellerinizin kurumsal risk oluşturmadan değer üretmesini sağlıyoruz. İhtiyacınız güncel bilgi erişimi ve belge tabanlı yanıtlama ise kurumsal RAG eğitimimizi inceleyebilir, diğer teknik yetkinlikler için yapay zeka eğitimlerimizi değerlendirebilirsiniz.
Çoğu senaryoda ince ayar yanlış ilk adımdır
Ekipler güçlü bir istem şablonunu veya erişimle destekli üretim (RAG) mimarisini ölçmeden doğrudan model eğitmeye yönelebiliyor. Oysa değişen iş kuralları, güncel veriler ve yetkilendirme sınırları model ağırlıklarına gömülemez. Kararın maliyet, veri hazırlığı ve modelin çözemeyeceği kısıtlar üzerinden verilmesi gerekir.
Asıl yatırım eğitim parametrelerine değil veri kalitesine yapılır
Hiperparametre denemeleri daha çok dikkat çekse de modelin istenen davranışı kazanmasını sağlayan unsur veri kürasyonu, tekrarları ayıklama ve etiketleme kalitesidir. Başarısız model uyarlamalarının büyük bölümü eğitim kodundan değil, gürültülü, çelişkili veya değerlendirme setiyle karışmış veri kümelerinden kaynaklanır.
Değerlendirme seti kilitlenmeden model başarısı anlaşılamaz
Üretilen çıktılara göz kararı bakmak, modelin yalnızca incelenen birkaç örnekte başarılı olduğunu, test edilmeyen kritik senaryolarda ise gerilediğini gizler. Eğitim başlamadan önce kilitlenen altın test kümeleri ve bağımsız hakem kalibrasyonu olmadan güvenilir bir üretim kararı verilemez.
Dağıtım ve servis mimarisi model eğitiminden bağımsız bir uzmanlıktır
Başarılı bir eğitim çıktısı tek başına yayına hazır bir sistem oluşturmaz. Model kayıt sistemi, istem şablonu versiyonlama, gecikme optimizasyonu, kanarya yayını ve anında geri alma mekanizması kurulmadığında ilk üretim hatasında tüm iş akışı tıkanır.
Canlıya alınan modelde maliyet, sapma ve güvenlik sessizce bozulabilir
Üretimdeki modeller veri dağılımındaki kaymalar, değişen kullanıcı alışkanlıkları ve plansız sorgu yükleriyle sessizce gerileyebilir. LLMOps yaklaşımı, gecikme, yanıt kalitesi, kabul edilen çıktı başına maliyet ve güvenlik açıklarını kullanıcılar şikâyet etmeden önce sürekli izlemeyi sağlar.
Müfredat
Eğitim müfredatı
Adaptasyon ekonomisi ve kanıta dayalı karar geçidi
90 dkBaşlangıç
İnce ayarın hangi senaryolarda maliyetine değdiğini, hangi durumlarda güçlü bir istem veya RAG yaklaşımının daha hızlı ve güvenli sonuç verdiğini inceliyoruz. Ekiplerin ezber yöntemlere kapılmadan önce iş ihtiyacını, gecikme hedeflerini ve maliyet sınırlarını netleştiren ölçülebilir bir karar çerçevesi kuruyoruz.
- İnce ayar modelde neyi değiştirir: Davranış biçimlendirme ve stil uzmanlaşması sınırları
- RAG, gelişmiş istem ve ince ayar: Hangi iş ihtiyacı için hangi yöntem seçilmelidir?
- Değişen iş kurallarını ve güncel verileri model ağırlıkları yerine harici kaynakta tutmak
- Görev devri analizi: Doğrudan devredilen, uzman denetimli ve insanda kalan karar alanları
- Yatırımın geri dönüşü hesabı: Kabul edilen çıktı başına maliyet ve gecikme kazanımı
- İlk eğitim çalışmasına onay vermeden önce doldurulan adaptasyon karar notu şablonu
Veri seti mühendisliği, veri hakları ve değerlendirme kilidi
150 dkOrta seviye
Model kalitesini belirleyen asıl katman olan veri hazırlığı sürecini ele alıyoruz. Ekipler hedef davranışı öğreten örnekleri topluyor, KVKK ve kurumsal gizlilik kurallarına göre kişisel verileri maskeliyor ve eğitim başlamadan önce dokunulmaz altın değerlendirme kümesini güvenceye alıyor.
- Hedef davranışı temsil eden kurumsal verilerin seçimi ve kalite kriterleri
- KVKK, kurumsal gizlilik ve telif hakları: Eğitim verisinde izin ve saklama sınırları
- Kişisel verilerin maskelenmesi ve hassas bilgilerin temizlenmesi yöntemleri
- Chat şablonları ve yalnızca asistan yanıtı üzerinde kayıp hesaplama mantığı
- Grup ve zaman kırılımlı veri ayrımıyla eğitim ve test sızıntısını engellemek
- Sentetik veri üretimi: Güvenli varyasyon zenginleştirme ve uydurma riskini filtreleme
Taşınabilir model uyarlama: SFT, LoRA ve QLoRA teknikleri
165 dkOrta seviye
Açık ağırlıklı modeller üzerinde gözetimli ince ayar (SFT) ve parametre-verimli uyarlama yöntemlerini uyguluyoruz. LoRA ve QLoRA ile bellek kullanımını düşürürken, temiz veri ile gürültülü verinin model üzerindeki etkisini kontrollü bir laboratuvarda karşılaştırıyoruz.
- Tam parametreli eğitim ile parametre-verimli yöntemlerin karşılaştırması: LoRA ve QLoRA
- Donanım kısıtları ve bellek yönetimi: Düşük rank matrisleri ve kuantizasyon ilkeleri
- Tokenizer uyumu, özel belirteçler ve sistem talimatı sınırlarının korunması
- Hiperparametre yönetimi: Öğrenme oranı, epoch sayısı ve yıkıcı unutma riskini dengelemek
- Tercih tabanlı optimizasyon yöntemlerine (DPO) giriş ve uygulanabilirlik koşulları
- Uygulamalı laboratuvar: Temiz ve gürültülü veriyle iki farklı LoRA adaptörü çalıştırmak
Değerlendirme mühendisliği ve sürüm onay geçidi
165 dkİleri seviye
Göz kararı incelemeleri bırakıp çok boyutlu bir değerlendirme mimarisi kuruyoruz. Deterministik kontroller, insan hakem kılavuzları ve kalibre edilmiş hakem modeller sayesinde modelin Türkçe dil yetkinliğini, güvenlik sınırlarını ve regresyon risklerini ölçerek sürüm onayına bağlıyoruz.
- Göreve özgü deterministik şema doğrulamaları ve iş kuralı kontrolleri
- Hakem model kullanımı: Sıra ve uzunluk yanlılıklarını kalibre etme yöntemleri
- İnsan değerlendiriciler için puanlama rubriği ve uzlaşma ölçüm yöntemleri
- Türkçe dil performansı: Ek uyumu, resmi üslup, terim tutarlılığı ve kod değiştirme testleri
- Güvenlik açıkları, prompt injection ve eğitim verisi sızıntı testleri
- Kritik hatalarda telafi kabul etmeyen çok katmanlı sürüm onay geçidi oluşturmak
Model kayıt sistemi, servis mimarisi ve geri alma planı
145 dkİleri seviye
Eğitilen modelin üretim ortamına taşınmasını uçtan uca yapılandırıyoruz. Model ağırlıklarıyla birlikte istem şablonlarını ve araç tanımlarını versiyonluyor, yönetilen servisler ile self-hosted çıkarım seçeneklerini karşılaştırıyor ve anında geri alma mekanizması kuruyoruz.
- Eksiksiz sürüm kaydı: Model, adaptör, istem şablonu ve veri seti kimliklerini bağlamak
- Servis mimarisi seçimi: Yönetilen bulut servisleri ile vLLM altyapısının karşılaştırması
- Çıkarım optimizasyonu: Kuantizasyon, dinamik adaptör yönlendirme ve gecikme takibi
- Hizmet seviyesi hedefleri (SLO) ve çıktı başına birim maliyet hesaplamaları
- Kanarya dağıtımı kurgusu ve trafik kademelendirme kuralları
- Canlı tatbikat: Hatalı sürümde önceki onaylı sürüme dakikalar içinde geri alma
Operasyonel kontrol: Gözlemlenebilirlik, vaka yönetimi ve yeniden eğitim
125 dkOrta seviye
Model canlıya alındıktan sonra başlayan LLMOps süreçlerini inceliyoruz. Gizliliği koruyan telemetri verileriyle kalite sapmalarını izliyor, beklenmedik üretim vakalarına müdahale ediyor ve rastgele güncellemeler yerine kanıta dayalı yeniden eğitim takvimi oluşturuyoruz.
- Gizlilik odaklı telemetri: Kişisel verileri kaydetmeden operasyonel izleme kurmak
- Veri dağılımı sapması (drift) ile gerçek kalite kaybı arasındaki farkı ayırt etmek
- Kabul edilen çıktı başına maliyet ve kullanıcı düzeltme oranlarını takip etmek
- Üretim vakası tatbikatı: Yanıt kalitesi bozulduğunda kök neden analizi ve izolasyon
- Her üretim hatasını değerlendirme setine yeni bir regresyon testi olarak eklemek
- Yeniden eğitim kararı için tetikleyici kriterleri ve kurumsal onay mekanizmasını tanımlamak
Kazanımlar
Kazanımlar ve katılımcılar
Neler öğreneceksiniz?
- İstem mühendisliği, RAG ve ince ayar arasında kurumunuz için en doğru seçimi yapacak adaptasyon karar notunu hazırlamak
- Eğitim başlamadan önce veri haklarını, KVKK uyumunu ve sızıntı önleme kurallarını belgeleyen veri seti kartını oluşturmak
- Açık ağırlıklı modeller üzerinde LoRA ve QLoRA yöntemleriyle taşınabilir ince ayar çalıştırmak ve doğrulanmış istem kütüphanesini yapılandırmak
- Yıkıcı unutmayı ve başarım kaybını erkenden yakalayan görev odaklı altın değerlendirme kümesi ve hakem kalibrasyon kartını kurmak
- Model başarısını, gecikme sürelerini ve kabul edilen çıktı başına maliyeti hesaplayan kontrol toplamları modelini işletmek
- Model ağırlıklarını, istem şablonlarını ve araç tanımlarını geri alma hedefiyle eşleştiren sürüm denetim ve inceleme şablonunu oluşturmak
- Üretim hatalarını anında izole eden, kök nedenini ayırt eden ve yeni test senaryolarına dönüştüren operasyonel aksiyon kaydı kütüğünü yönetmek
- Kanarya yayını, hizmet seviyesi hedefleri ve kanıta dayalı yeniden eğitim tetikleyicileriyle uçtan uca LLMOps düzenini kurmak
Kimler katılmalı?
- Üretim ortamında modelleri ince ayarlayan ve güncel tutan yapay zeka ve makine öğrenmesi mühendisleri
- Model dağıtımı, servis mimarisi ve altyapıdan sorumlu MLOps ve platform mühendisleri
- Eğitim, doğrulama ve test veri setlerini derleyen veri bilimciler ve veri analistleri
- Kurumsal üretken yapay zeka çözümlerini canlıya alan uygulamalı yapay zeka ekipleri
- İnce ayar yatırımının ekonomik getirisini değerlendiren mühendislik yöneticileri ve teknoloji liderleri (CTO)
- Model izleme, güvenlik, operasyonel süreklilik ve geri alma süreçlerini yöneten DevOps ekipleri
Format
Eğitim formatı
Ana program yaklaşık 14 saat sürer ve genellikle iki güne yayılır. Ekiplerin günlük iş akışından kopmaması adına yarım günlük oturumlar hâlinde de planlanabilir. Yerinde ve canlı online formatlar aynı uygulamalı müfredatı kapsar.
- Format
- Yerinde veya canlı online
- Süre
- 2 gün (toplam 14 saat, yarım günlük oturumlara bölünebilir)
- Grup büyüklüğü
- Oturum başına en fazla 12 katılımcı
- Dil
- Türkçe veya İngilizce
- Materyaller
- Referans ince ayar altyapısı, değerlendirme test şablonları ve kod deposu
- Sertifika
- Tamamlama sertifikası
Keşfetmeye devam edin
İlgili programlar
Sonraki adım
Ekibinizin güvenebileceği bir ince ayar ve operasyon düzeni kuralım
Sorular
Sıkça sorulan sorular
LLMOps nedir ve bu program yalnızca model eğiten kurslardan nasıl ayrılır?
İnce ayar (fine-tuning) model yaşam döngüsünün yalnızca bir adımıdır. LLMOps ise veri seti versiyonlama, değerlendirme geçitleri, model kayıt sistemi, güvenli dağıtım, gecikme izleme ve anında geri alma süreçlerini kapsayan operasyonel disiplindir. Modelin canlıya alındıktan sonra güvenilir kalmasını ve kurumsal fayda üretmesini bu altyapı sağlar. Programımızda yalnızca eğitim kodlarını değil, modeli üretim ortamında ayakta tutan tüm operasyonel adımları uygulamalı olarak işliyoruz.
Kimler katılmalı, ileri düzey makine öğrenmesi veya doktora geçmişi gerekir mi?
Hayır, ileri düzey matematik veya doktora geçmişi gerekmez. Programımız yapay zeka mühendisleri, MLOps uzmanları, veri bilimciler, yazılım mimarları ve teknik karar vericiler için uygundur. Katılımcıların temel Python okuryazarlığına ve genel makine öğrenmesi kavramlarına aşina olması yeterlidir. Kod yazmayan yöneticiler karar notu, risk matrisi, veri hakları ve sürüm onay geçidi gibi yönetimsel araçlar üzerinde çalışırken, mühendisler eğitim ve değerlendirme kodlarını bizzat yürütür.
Eğitimde hangi platformlar, kütüphaneler ve modeller kullanılıyor?
Çalışmalarımızı sağlayıcı bağımlılığı yaratmayan taşınabilir bir teknoloji yığını üzerinde yürütüyoruz. Açık kaynak tarafta Hugging Face Transformers, PEFT, TRL, vLLM, MLflow ve promptfoo araçlarını kullanıyoruz. Bulut tarafında ise güncel Google Vertex AI ve Amazon Bedrock mimarilerini inceliyoruz. Uygulama laboratuvarlarında Llama, Mistral ve Qwen gibi açık ağırlıklı modeller üzerinde çalışıyor, kurumunuzun halihazırda kullandığı özel bulut veya şirket içi donanım tercihlerine göre içeriği esnetebiliyoruz.
Eğitim için ne kadar süre ayırmalıyız ve oturumlar nasıl planlanıyor?
Program toplam 14 saat sürmektedir ve genellikle iki tam güne yayılmaktadır. Ekiplerin operasyonel mesailerinden uzun süre ayrı kalmaması için programı dört adet yarım günlük oturum şeklinde de düzenleyebiliyoruz. Eğitim yerinde sınıf ortamında veya canlı çevrim içi atölye olarak gerçekleştirilebilir. Her iki formatta da aynı uygulamalı laboratuvarlar, vaka analizleri ve değerlendirme senaryoları eksiksiz sunulur.
Atölyede kendi şirket verilerimiz üzerinde çalışabilir miyiz, veri güvenliği nasıl sağlanıyor?
Kurumsal gizlilik ilkemiz gereği atölye sırasında şirketinizin hassas veya kişisel verilerini harici sistemlere aktarmıyoruz. Eğitim boyunca gerçekçi senaryolarla hazırlanmış zengin sentetik kurumsal veri paketleri üzerinden ilerliyoruz. Kendi verileriyle çalışmak isteyen kurumlar için şirket içi yetkili bulut kiracısında (tenant) veri maskeleme, KVKK etki analizi ve aktarım izinleri tamamlandıktan sonra güvenli bir laboratuvar kurgulayabiliyoruz. Böylece ticari sırlar korunurken AB Yapay Zeka Yasası ve KVKK gereklilikleri eksiksiz gözetilir.
Model değerlendirmesi nasıl yapılıyor, sadece çıktılara bakarak mı karar veriyoruz?
Kesinlikle hayır. Çıktılara göz kararı bakmak yanıltıcı sonuçlar doğurur. Eğitimde deterministik şema doğrulamaları, insan puanlama rubrikleri ve dikkatle kalibre edilmiş hakem modeller (LLM-as-a-judge) içeren altın bir değerlendirme seti kuruyoruz. Sistemik hataları yakalamak için doğrudan devredilen rutin adımları (yeşil), uzman denetimi gerektiren yanıtları (sarı) ve insanda kalması zorunlu olan kritik onayları (kırmızı) net biçimde ayrıştırıyoruz. Böylece modelin istenmeyen davranışları gizlenmeden ölçülür.
İnce ayar yapılmış bir modelin mevcut sistemlerden daha iyi olacağını garanti ediyor musunuz?
Hayır, dürüst bir danışmanlık yaklaşımı peşin bir başarı vaadinde bulunamaz. İnce ayarın anlamlı bir kazanım sağlayıp sağlamayacağı iş hedefinize, veri kalitenize ve mevcut sistemlerin performansına bağlıdır. Programın ilk modülünde bu kararı soğukkanlılıkla verebilmeniz için bir karar çerçevesi oluşturuyoruz. Çoğu zaman daha iyi yapılandırılmış bir istem veya RAG kurgusunun ince ayardan daha ekonomik ve sürdürülebilir olduğunu bizzat ölçümlerle ortaya koyuyoruz.
Eğitimin maliyeti nasıl belirleniyor ve kurumumuza özel uyarlama yapılıyor mu?
Bütçe, katılımcı sayısı, eğitimin yerinde veya çevrim içi oluşu ve kurumunuza özel altyapı uyarlamalarının kapsamına göre belirlenir. Görüşmemiz öncesinde ekibinizin teknik profilini, hedeflediğiniz kullanım senaryolarını ve mevcut yapay zeka araçlarınızı dinliyoruz. Teklifimizi bu ihtiyaçlara ve şirketinize kazandırmak istediğiniz somut çıktılara göre şeffaf bir şekilde paylaşıyoruz.