GENERATİVE AI / LLM EĞİTİMİ

Generative AI / LLM Eğitimi, ekiplerin üretken yapay zekâ çözümlerini güvenli ve ölçülebilir şekilde tasarlamasına odaklanır. Prompting, değerlendirme, RAG, agent yaklaşımları ve üretim mimarileri gibi başlıklarla, fikirden çalışan prototipe kadar ilerleyen pratik bir akış sunar.

Eğitim boyunca, maliyet ve gecikme optimizasyonu, veri güvenliği, kalite metrikleri ve gözlemlenebilirlik gibi üretim gerçekleri merkeze alınır. Böylece ekipler, farklı kullanım senaryolarında doğru model ve tasarım kararlarını alarak sürdürülebilir LLM uygulamaları geliştirebilir.

Katılımcı Profili

Eğitim, LLM tabanlı ürün veya iç araç geliştiren ekipler için tasarlanmıştır:

Yazılım geliştiriciler: LLM entegrasyonu ve API tasarımı
Veri bilimciler: değerlendirme, metrik ve deney tasarımı
Ürün yöneticileri: kullanım senaryosu ve başarı ölçümü
Mimarlar: üretim mimarisi ve güvenli dağıtım
MLOps mühendisleri: izleme, versiyonlama ve otomasyon

Ön Gereklilikler

Bu eğitimden en iyi verimi almak için aşağıdaki ön koşullar önerilir:

Temel yazılım geliştirme deneyimi (API, HTTP, JSON)
Python veya JavaScript ile temel seviyede kod yazabilme
SQL ve veri işleme kavramlarına aşinalık
Bulut servisleri veya container kavramlarına temel düzeyde hakimiyet
Makine öğrenmesi şart değildir; kavramsal merak yeterlidir

Süresi ve Tarihi

Süre: 3 gün. Bu süre standart program içindir; ek modüllere ve hedefe göre süre özelleştirilebilir.
Eğitim tarihleri ve saatleri, ekibinizin uygunluğuna göre birlikte planlanır.

Kazanımlar

Program sonunda katılımcılar aşağıdaki yetkinlikleri kazanır:

LLM kullanım senaryoları için doğru mimari ve model seçimi yapma
Prompting tekniklerini ölçerek iyileştirme ve standardize etme
RAG tasarımıyla kurumsal bilgiye dayalı yanıt kalitesi artırma
Değerlendirme metrikleri ve test stratejileriyle kaliteyi yönetme
Güvenlik risklerini tanıma ve koruma katmanları tasarlama
Maliyet, gecikme ve ölçeklenebilirlik optimizasyonu uygulama
Observability ile hataları teşhis edip üretimde sürdürülebilirlik sağlama
Agent ve tool-use yaklaşımlarını kontrollü şekilde uygulama

Generative AI / LLM Eğitimi Konuları

1. Generative AI / LLM Eğitimi - Temeller ve kullanım senaryoları

LLM ekosistemini ve temel kavramları netleştirme
Kullanım senaryolarını değer ve risk ile eşleştirme
Model sınıfları, bağlam ve token maliyeti birlikte değerlendirilir
Başarı kriterleri ve ölçülebilir hedefler belirleme
Takım içi sorumluluklar için rol ve süreç tanımlama

2. Generative AI / LLM Eğitimi - Prompting ve çıktı kalitesi

Prompt bileşenlerini ve formatlarını doğru kurgulama
Örneklerle talimat netliği ve sınır koyma geliştirme
Chain of thought istemeden kaliteyi artıran yapı kurulur ve test edilir
Ton, format ve güvenilirlik için çıktı şablonları kullanma
Prompt versiyonlama ve tekrar üretilebilirlik sağlama
Hata türlerini sınıflandırıp hızlı düzeltme uygulama

3. Model seçimi ve parametre ayarları

Use-case için model kapasitesini doğru seçme
Temperature ve top-p ayarlarını kontrollü kullanma
Maliyet, gecikme ve kalite dengesi birlikte optimize edilir çünkü üretimde sınırlamalar vardır
Fallback model stratejileri ile kesintiye dayanıklılık sağlama
Streaming yanıtlarla kullanıcı deneyimini iyileştirme

4. Prompt şablonları ve kurumsal içerik dili

Kurallar ve politikalar için sistem mesajı tasarlama
Kurumsal terminoloji ile tutarlı yanıt üretimi sağlama
Şablon değişkenlerini yöneterek dinamik içerik üretme ve kaliteyi koruma
Yanıt uzunluğu ve kapsam için sınırlandırma uygulama
Çıktı doğrulama ve post-processing yaklaşımı seçme

5. LLM değerlendirme yaklaşımı ve metrikler

Değerlendirme problem tiplerini doğru tanımlama
Altın veri seti hazırlama ve kapsamı belirleme
Otomatik metrikler ile insan değerlendirmesi birlikte tasarlanır ve karşılaştırılır
Regresyon testleriyle kalite düşüşlerini yakalama
Hata analiziyle kök nedenleri sınıflandırma
A/B test mantığıyla iyileştirmeleri doğrulama

6. RAG kavramı ve doğru kullanım alanları

RAG ile hallucination riskini azaltma
Bilgi güncelliği ve kaynak izlenebilirliği sağlama
Ne zaman RAG, ne zaman fine-tuning seçilir ve etkileri analiz edilir
Kaynaklı yanıt formatı için tasarım prensipleri belirleme
RAG kalite sorunlarını sınıflandırma ve çözümleme

7. Doküman hazırlama ve chunking stratejileri

Kurumsal doküman türlerini ve yapılarını ayırma
Chunk boyutu ve overlap kararlarını gerekçelendirme
Başlıklar, tablolar ve kod blokları için farklı chunk kuralları kurulur ama tutarlılık korunur
Metadata tasarımıyla arama kalitesini artırma
Veri güncelleme stratejileriyle senkronizasyon sağlama

8. Retrieval tasarımı ve arama kalitesi

Semantic arama ile keyword arama farklarını yönetme
Hybrid retrieval ile hassasiyeti artırma
Top-k, re-ranking ve filtreleme birlikte ayarlanır çünkü tek başına embedding yetmez
Sorgu genişletme ve query rewriting uygulama
Kaynak seçim hatalarını ölçerek düzeltme yapma

9. RAG pipeline mimarisi ve uygulama adımları

Ingestion ve indexleme akışını standartlaştırma
Retriever, reranker ve generator bileşenlerini bağlama
Cache ve rate limit yönetimi eklenir ve performans yük altında doğrulanır
Kaynak gösterimi ve alıntı stratejisi belirleme
Hata senaryoları için geri dönüş mesajları tasarlama
Günlükleme ile açıklanabilirlik seviyesini artırma

10. Agent yaklaşımı ve tool-use tasarımı

Agent kullanımının doğru ve yanlış alanlarını ayırma
Tool çağrısı için kontrat ve şema tasarlama
Planlama ve yürütme adımları ayrılır ve yanlış tool seçimi engellenir
İş akışlarında belirsizlik ve durdurma koşulları belirleme
Çok adımlı görevlerde state yönetimi uygulama

11. Function calling ve yapılandırılmış çıktı

JSON şemasıyla güvenilir çıktı üretimi sağlama
Doğrulama ve parse hatalarını yakalama
İş kuralları için guardrail katmanı eklenir ve hatalı çıktılar otomatik düzeltilir
Tool sonuçlarını birleştirerek nihai yanıt üretme
İşlem izleriyle denetlenebilirlik sağlama

12. Maliyet ve gecikme optimizasyonu

Token maliyeti ve faturalandırmayı doğru okuma
Özetleme ve bağlam daraltma teknikleri uygulama
Model ve prompt optimizasyonu birlikte yapılır ama kalite metrikleri korunur
Önbellek ve batching ile throughput artırma
Yanıt süreleri için SLO ve alarm eşikleri belirleme

13. Observability ve üretimde izleme

Trace, log ve metriklerin kapsamını belirleme
Prompt ve model versiyonlarını izlenebilir kılma
Kalite metrikleri canlı izlenir ve drift tespitiyle aksiyon alınır
Hata sınıfları için dashboard tasarlama
Gizli veri maskesi ile güvenli günlükleme uygulama

14. Güvenlik riskleri ve temel savunma katmanları

Prompt injection ve jailbreak örüntülerini tanıma
Data leakage riskleri için sınırlar belirleme
İzinler ve erişim politikaları uygulanır çünkü tool-use doğrudan sistemlere bağlanır
Çıktı filtreleme ve PII tespiti stratejileri kurma
Güvenlik test senaryoları ile düzenli kontrol sağlama
Incident yönetimi için süreç ve kayıt standardı oluşturma

15. Ürünleştirme: MVP’den ölçeklenebilir çözüme

Prototipten ürüne geçiş için aşamalar belirleme
Backoffice ve kullanıcı arayüzü entegrasyonlarını planlama
Kalite kapılarıyla yayın akışı kurulur ve regresyon riski azaltılır
Rollout stratejisi ile kademeli yaygınlaştırma yapma
Geri bildirim döngüsüyle sürekli iyileştirme yürütme

16. Ek Modül: Kurumsal Kullanım Politikaları (gizlilik / yönetişim)

Veri sınıflandırması ve saklama kurallarını belirleme
Model sağlayıcı sözleşmeleri ve risk maddelerini değerlendirme
Onay akışları ve yetki matrisi tasarlanır ama ekiplerin hızı korunur
Politika ihlallerini izleme ve raporlama yaklaşımı kurma
Denetim izleri ve erişim kayıtlarıyla uyumluluk sağlama

17. Ek Eğitim: RAG ile Kurumsal LLM Uygulamaları

Gerçek iş senaryoları için RAG kullanım planı çıkarma
Doküman güncelleme stratejisi ile sürdürülebilirlik sağlama
Kalite hedefleri tanımlanır ve hata analizine göre iterasyon yapılır
Kaynaklı yanıt formatıyla güven artırma
RAG değerlendirmesi için test seti oluşturma
Üretim ortamı için performans önlemleri seçme

18. Ek Eğitim: Vector Database & Embedding Tasarımı

Embedding model seçimi ve boyut kararlarını verme
Index tipleri ve arama parametrelerini ayarlama
Metadata filtreleri eklenir ve erişim kontrolüyle güvenlik sağlanır
Vector DB bakım ve yeniden indeksleme süreçleri kurma
Hybrid search için ağırlık ve re-ranking yaklaşımı belirleme
Gecikme ve maliyet ölçümüyle kapasite planlama

19. Ek Eğitim: LLM Güvenliği (prompt injection, data leakage, guardrails)

Saldırı yüzeyini ve tehdit modellerini netleştirme
Guardrails katmanlarını ve karar noktalarını tasarlama
Kırmızı takım senaryoları çalışılır ve zayıflıklar önceliklendirilir
PII maskeleme ve güvenli çıktı üretimi uygulama
Tool yetkilerini sınırlandırıp denetimli çalıştırma sağlama
Güvenlik metrikleriyle sürekli iyileştirme yaklaşımı kurma

Generative AI / LLM Eğitimi ile İlgili
Sıkça Sorulan Sorular ve Cevapları

LLM tabanlı bir uygulama için prompting yaklaşımını nasıl sistematik hale getiriyoruz?

Prompt bileşenlerini (amaç, kurallar, format, örnekler) standart bir şablona taşır, sürümlendirir ve regresyon testleriyle kaliteyi ölçeriz. Böylece aynı kullanım senaryosunda tutarlı çıktı üretimi sağlanır.

RAG kullanmanın gerçekten gerekli olduğu durumları nasıl anlarız?

Bilginin sık güncellendiği, kaynak gösteriminin kritik olduğu ve modelin ezberleyemeyeceği kurumsal içerik gerektiğinde RAG uygundur. Statik bilgi ve güçlü etiketli veri varsa fine-tuning veya kural tabanlı yaklaşımlar da değerlendirilebilir.

LLM uygulamalarında kaliteyi ölçmek için hangi metrikleri kullanıyoruz?

Doğruluk, kaynak uyumu, kapsama, tutarlılık ve güvenlik ihlali gibi metrikler tanımlanır. Otomatik değerlendirme metrikleri insan değerlendirmesiyle kalibre edilerek sürdürülebilir test süreci kurulur.

Agent ve tool-use tasarımında en sık yapılan hatalar nelerdir?

Sınırsız tool yetkisi, belirsiz şema, durdurma koşulu olmaması ve yetersiz gözlemlenebilirlik en sık sorunlardır. Eğitimde, kontrollü yetkilendirme ve doğrulama katmanlarıyla güvenli agent tasarımını ele alırız.

Eğitim içeriğini ihtiyaçlarımıza göre özelleştirebilir misiniz?

Evet. Eğitim öncesinde ihtiyaç analizi yaparak içerik ve örnekleri ekibinize göre uyarlayabiliriz. Modüller eklenebilir, bazı başlıklar derinleştirilebilir veya sadeleştirilebilir.

Eğitim yeri, yöntemi ve sertifikasyon süreci nasıl ilerliyor?

Eğitim online (canlı) veya yerinde gerçekleştirilebilir; tarih ve saatleri ekibinizin uygunluğuna göre planlarız. Program sonunda katılım sertifikası verilir; talep edilirse ölçme-değerlendirme ve raporlama eklenebilir.