AI Eğitimi · Fine-Tuning ve LLMOps

Fine-Tuning ve LLMOps Eğitimi

Ekibiniz yönetilen bir platformda bir öğleden sonra fine-tuning işi başlatabilir. Ama bu, sonucun base modelden daha iyi olduğunu veya işe yaramazsa nasıl geri alınacağını göstermez. Bu uygulamalı eğitimde tüm yaşam döngüsünü ele alıyoruz. Ekibiniz adaptasyonun ne zaman maliyetine değeceğine karar veriyor, eğitim ve değerlendirme dataset'lerini kuruyor, supervised ve parametre-verimli fine-tuning çalıştırıyor. Ardından deployment, izleme ve rollback düzenini kuruyor. Eğitim sonunda kendi göreviniz için kullanabileceğiniz bir referans pipeline ve değerlendirme altyapısı elinizde oluyor.

modül: 6
saat: 14

Bize ulaşın

Fine-tuning işini başlatmak kolay, sonuca güvenmek zordur. Yönetilen bir platformda işi açıp tamamlanmasını bekleyebilirsiniz. Birkaç prompt denemesinde çıktılar daha iyi göründüğünde modelin hazır olduğunu düşünmek de kolaydır. Oysa production'da model adaptasyonu bundan fazlasını ister. Dataset'in hedef davranışı öğretmesi, training run'ın anlaşılır hyperparameter'larla yürütülmesi ve değerlendirme kümesinin sonuç kullanıcılara ulaşmadan önce gerçek bir iyileşme gösterip göstermediğini ölçmesi gerekir.

Bu program strateji sunumu değil, iki günlük bir mühendislik çalışmasıdır. AI ve platform ekibiniz kendi görevinizden bir kesit üzerinde tüm yaşam döngüsünü uyguluyor. Eğitim dataset'ini seçip formatlıyor, açıklayabildiğiniz hyperparameter'larla supervised ve parametre-verimli fine-tuning (LoRA, QLoRA) çalıştırıyor, ardından catastrophic forgetting'i yakalayacak altın bir değerlendirme kümesi kuruyor.

Bir modülün tamamını training run sonrasında production'ın gerektirdiği işlere ayırıyoruz. Model registry ve versiyonlamayı kuruyoruz, yeni modeli mevcut modele karşı canary rollout ile deniyoruz, izleme ve rollback planını hazırlıyoruz. Kapsamı baştan açık tutuyoruz. Bu eğitim RAG için corpus ve retrieval tasarımını veya başlı başına prompt mühendisliğini kapsamıyor. Tedarikçi performansı için de garanti vermiyoruz. Göreviniz fine-tuning yerine RAG eğitimiyle daha iyi çözülebilecekse bunu en başta söylüyoruz.

Müfredatı görevinize ve verinize, elinizdeki kısıtları gözeterek uyarlıyoruz. Yakın becerileri AI eğitimi programları kataloğunda bulabilirsiniz. Eğitim sonunda ekibinizin, eğitmenler ayrıldıktan sonra da kendi modellerine karşı kullanmaya devam edebileceği bir referans pipeline ve değerlendirme altyapısı elinizde oluyor.

Fine-tuning çoğu zaman doğru ilk adım değil

Ekipler bazen daha iyi bir prompt'u veya retrieval yaklaşımını denemeden fine-tuning'e geçiyor. Bazen de açıkça karşılığını verecek noktaya gelmesine rağmen bu seçeneği erteliyor. Kararı maliyet, verinin hazır olup olmadığı ve fine-tuning'in hangi sorunları çözüp hangilerini çözemediği üzerinden vermek gerekiyor.

Asıl iş eğitim verisinde

Hyperparameter'lar daha çok ilgi çekiyor, ama fine-tuning edilmiş bir modelin hedef davranışı öğrenip öğrenmediğini örneklerin seçimi, tekrarlı kayıtların ayıklanması ve etiket kalitesi belirliyor. Başarısız çalışmaların çoğunda temel sorun training konfigürasyonu değil, dataset'tir.

Değerlendirme altyapısı olmadan sonucu anlayamazsınız

Birkaç çıktıyı göz kararı karşılaştırmak gerçek bir iyileşmeyi kanıtlamaz. Model yalnızca ekibin baktığı örneklerde daha iyi çalışmış olabilir. Başka alanlarda, kimsenin test etmeyi düşünmediği görevler de dahil olmak üzere, gerilemiş olabilir.

Deployment ayrı bir mühendislik işi

Başarılı bir training run, production'da çalışan güvenilir bir sistem demek değildir. Model registry, versiyonlama, canary rollout ve rollback planı ayrıca ele alınır. Pek çok ekip bunları ancak ilk sorunlu deployment'tan sonra düşünmeye başlıyor.

Model production'dayken maliyet ve drift gözden kaçabiliyor

Veri drift'i, görevin değişmesi veya yeniden eğitim zamanının kaçırılması fine-tuning edilmiş modeli sessizce kötüleştirebilir. Ekipler bunu çoğu zaman ancak çıktıyı kullanan başka bir ekip şikâyet ettiğinde fark ediyor. Production LLMOps, sorun ortaya çıkmadan önce bu değişimi izlemeyi gerektiriyor.

01
Fine-tuning ne zaman doğru karar?
90 dkBaşlangıç
Fine-tuning'in hangi durumda maliyetine değdiğini, hangi durumda daha iyi bir prompt'un veya retrieval yaklaşımının zaten yeterli olduğunu inceliyoruz. Bu oturumda ortak ve abartısız bir terim seti oluşturuyoruz, ekibinizin bir training run'a karar vermeden önce kullanacağı çerçeveyi kuruyoruz.
Fine-tuning bir modelde neyi değiştirir, hangi sorunları çözemez?
Fine-tuning, prompting ve retrieval: hangi durumda hangisi doğru seçim?
Adaptasyonun maliyetine değip değmeyeceğini belirleyen karar çerçevesi
Tam parametreli ve parametre-verimli tuning yöntemleri
Daha iyi bir prompt'un yeterli olduğu ve fine-tuning gerektirmeyen senaryolar
Sağlayıcıların fine-tuning dokümanlarını pazarlama dilinden ayırarak okumak
02
Eğitim ve değerlendirme dataset'lerini kurmak
150 dkOrta seviye
Sonraki bütün adımları belirleyen iş burada yapılıyor. Ekibiniz hedef davranışı öğretecek örnekleri bulup seçiyor, doğru formatta hazırlıyor ve herhangi bir training run başlamadan önce ayrı bir değerlendirme kümesi oluşturuyor.
Hedef davranışı öğreten örnekleri bulmak ve seçmek
Supervised fine-tuning için dataset hazırlamak: prompt-completion, chat ve preference çiftleri
Etiket gürültüsü eğitime girmeden önce tekrarlı kayıtları ayıklamak ve kalite filtresi uygulamak
Train, validation ve ayrı tutulan değerlendirme kümelerini oluşturmak
Gizli eğitim verilerinde lisanslama ve kişisel verileri yönetmek
Sentetik veri üretmek ve bu yöntemin fark edilmeden başarısız olabildiği durumlar
03
SFT, PEFT ve preference tuning teknikleri
180 dkOrta seviye
Bu uygulamalı oturumda supervised fine-tuning ile LoRA ve QLoRA gibi parametre-verimli yöntemleri ele alıyoruz. Ekibiniz sonuç üzerinde etkili olan hyperparameter'larla çalışıyor, kendi görevi için bir modeli fine-tuning ediyor ve çıktıyı base modelle karşılaştırıyor.
Supervised fine-tuning: tam parametreli ve parametre-verimli yöntemler (LoRA, QLoRA, adapter'lar)
Sonucu etkileyen hyperparameter'lar: learning rate, epoch sayısı ve catastrophic forgetting
Farkındalık düzeyinde preference tuning, RLHF ve DPO'nun maliyetine değdiği durumlar
Yönetilen platformlarda fine-tuning işi çalıştırmak (OpenAI, Anthropic, Vertex AI)
Hugging Face ve PEFT ile açık ağırlıklı modelleri fine-tuning etmek
Kendi görevinizde bir modeli fine-tuning edip base modelle karşılaştırdığınız uygulamalı laboratuvar
04
Modeli production'a almadan önce değerlendirmek
150 dkİleri seviye
Çıktılara göz kararı bakmayı bırakıp ölçülebilir bir değerlendirme düzeni kuruyoruz. Ekibiniz kendi görevinden altın bir değerlendirme kümesi hazırlıyor, catastrophic forgetting'i kontrol ediyor ve her yeni training run'ın geçmesi gereken regresyon kontrolünü tanımlıyor.
Kendi görevinizdeki gerçek örneklerden altın bir değerlendirme kümesi oluşturmak
Fine-tuning edilmiş modeli base model ve prompt'lanmış referansla karşılaştırmak
Eğitimin kapsamadığı görevlerde catastrophic forgetting ve regresyonları tespit etmek
Göreve özgü metriklerle genel benchmark'ların hangi durumda yanıltıcı olabildiğini anlamak
Fine-tuning edilmiş model production'a ulaşmadan önce güvenlik ve davranış değerlendirmeleri yapmak
Her yeni training run'ı önceki versiyonun yerini almadan regresyon testinden geçirmek
05
Model registry ve versiyonlu deployment
150 dkİleri seviye
Fine-tuning edilmiş bir modele production'da güvenebilmek için hangi modelin hangi veriyle eğitildiğini kayda alıyoruz. Sonra yönetilen endpoint'lerle self-hosted serving seçeneklerini karşılaştırıyoruz ve bir sorun çıktığında ekibinizin geri alabileceği rollout planını kuruyoruz.
Versiyonlu model registry
Serving seçenekleri: yönetilen endpoint'ler ve self-hosted inference (vLLM, TGI)
Fine-tuning edilmiş modeli mevcut modele karşı canary rollout ve A/B testiyle devreye almak
Serving sırasında quantization ile maliyet ve latency arasındaki denge
Yeni versiyon production'da beklenenin altında kaldığında uygulanacak rollback planı
Audit ve işi sonraki ekibe aktarmak için model kartlarıyla değişiklik geçmişi
06
Maliyet, izleme ve karar düzeniyle LLMOps
120 dkOrta seviye
Operasyon işi model production'a alındıktan sonra başlıyor. Ekibiniz drift'i ve kalite gerilemesini izliyor, training run'lar ile inference maliyetini takip ediyor ve bir sonraki training run için son onayı kimin vereceğini netleştiriyor.
Fine-tuning edilmiş model production'dayken çıktı kalitesini ve drift'i izlemek
Training run'lar ve inference boyunca maliyet ve kullanımı takip etmek
Yeni training run veya yeni bir deployment için son onayı kimin vereceğini belirlemek
Deploy edilmiş model gerilediğinde olay müdahalesini yürütmek
Görev veya veri değiştikçe yeniden eğitimi değerlendirmek için bir takvim kurmak
Yönetim ve uyum incelemeleri için dokümantasyonla audit izi tutmak

Neler öğreneceksiniz?

Fine-tuning, prompting ve retrieval arasında karar vermek için bir çerçeve uygulamak
Production'a hazır eğitim ve değerlendirme dataset'lerini sistemli seçme, düzenleme ve lisanslama süreciyle kurmak
Supervised ve parametre-verimli fine-tuning (LoRA, QLoRA) çalıştırmak, preference tuning'i farkındalık düzeyinde ele almak
Model production'a alınmadan önce catastrophic forgetting'i tespit edecek altın bir değerlendirme kümesi kurmak
Rollback planı bulunan bir model registry oluşturmak
Maliyet ve latency'ye göre yönetilen endpoint veya self-hosted serving seçmek
Production'daki fine-tuning edilmiş modeli drift, maliyet ve kalite gerilemesi açısından izlemek
Bir sonraki training run için onay sürecini belirlemek

Kimler katılmalı?

Production modellerini fine-tuning eden veya sürdüren AI/ML mühendisleri
Model deployment ve serving süreçlerinden sorumlu MLOps ve platform mühendisleri
Eğitim ve değerlendirme dataset'lerini kuran veri bilimciler
Fine-tuning edilmiş bir modeli production'a taşıyan uygulamalı AI ekipleri
Fine-tuning yatırımına karar veren mühendislik liderleri ve CTO'lar
Model serving ve izleme süreçlerinden sorumlu DevOps ve altyapı ekipleri

Ana program iki gün sürer, genellikle yarım günlük oturumlara bölünür. Yerinde ve canlı online formatlar aynı müfredatı kapsar, kurulum, değerlendirme ve deployment modülleri katılımcılar gerçek bir görev ve kendi verilerinin bir kesitini getirdiğinde en iyi işler.

Format: Yerinde veya canlı online
Süre: 2 gün (yaklaşık 14 saat, yarım günlük oturumlara bölünebilir)
Grup büyüklüğü: Oturum başına en fazla 12 katılımcı
Dil: Türkçe veya İngilizce
Materyaller: Referans fine-tuning pipeline'ı, değerlendirme altyapısı şablonları ve elinizde kalan bir kod deposu
Sertifika: Tamamlama sertifikası

Zeo 2011'de kuruldu, San Francisco, İstanbul, Ankara ve Lizbon'dan çalışıyor, uluslararası dijital pazarlama konferansı Digitalzone'u düzenliyor ve Copilot Akademisi'ni yürütüyor. Bu program, Zeo'nun 10+ yıllık danışmanlık ve eğitim deneyimini kurumsal AI benimsemesine taşır.