Fine-tuning nedir?
Fine-tuning (ince ayar), önceden eğitilmiş bir yapay zeka modelini belirli bir görev, üslup veya çıktı biçimi için kendi örnek verilerinizle ek eğitimden geçirme işlemidir. Modelin nasıl cevap verdiğini değiştirir, ne bildiğini güncel tutmak için ise uygun bir yol değildir. Çoğu kurumsal projede önce prompt mühendisliği ve RAG denenir.
Tanım
Fine-tuning (ince ayar), önceden eğitilmiş bir yapay zeka modelini belirli bir görev, üslup veya çıktı biçimi için kendi örnek verilerinizle ek eğitimden geçirme işlemidir.
Fine-tuning nasıl yapılır?
Modele çok sayıda girdi-çıktı örneği gösterilir ve ağırlıkları bu örneklere uyacak şekilde güncellenir. OpenAI ve Google gibi sağlayıcılar bazı modelleri için API üzerinden ince ayar sunar. Açık ağırlıklı modellerde LoRA gibi parametre verimli yöntemlerle, modelin yalnız küçük bir kısmı eğitilerek maliyet düşürülür. Eğitim sonrasında model, ayrı tutulmuş bir test setiyle temel modele karşı ölçülmelidir.
Ne zaman fine-tuning gerekir?
Tutarlı bir üslup veya marka dili istendiğinde, çıktının her seferinde katı bir biçimde gelmesi gerektiğinde, dar bir sınıflandırma görevinde daha küçük ve ucuz bir modelle aynı kaliteye ulaşmak istendiğinde. Güncel ve değişen bilgi için RAG, basit davranış değişiklikleri için prompt mühendisliği daha hızlı ve ucuzdur. Pratikte bu yöntemler birlikte kullanılabilir.
Türkiye bağlamında
Türkçe sektör dili, kısaltmalar veya kurum içi yazışma üslubu fine-tuning için makul gerekçelerdir. Eğitim verisinde kişisel veri varsa anonimleştirilmeli; veri bir sağlayıcıya gönderilecekse KVKK kapsamında yurt dışı aktarım hukuk danışmanınızla birlikte değerlendirilmelidir. Model kendi sunucunuzda eğitilip çalıştırılırsa veri şirket içinde kalır. Altta yatan model türleri için LLM maddesine bakın.
İlgili terimler
- RAG (Retrieval-Augmented Generation)RAG (Retrieval-Augmented Generation), bir dil modelinin cevap üretmeden önce şirketinizin belgelerinden ilgili bölümleri bulup bağlam olarak kullanmasını sağlayan bir yapay zeka mimarisidir.
- Prompt mühendisliğiPrompt mühendisliği, bir dil modelinden tutarlı ve doğru sonuç almak için talimatları, örnekleri ve bağlamı yazma, test etme ve iyileştirme işidir.
- LLM (Büyük Dil Modeli)LLM (Large Language Model, büyük dil modeli), çok büyük metin verisiyle eğitilmiş ve bir metnin devamını tahmin ederek soru cevaplayan, özetleyen, çeviren ve yazan bir yapay zeka modelidir.
- Embedding (vektör temsili)Embedding, bir kelimeyi, cümleyi, belgeyi veya görseli anlamını koruyacak şekilde sabit uzunlukta bir sayı dizisine (vektöre) çeviren ve benzer içerikleri birbirine yakın konumlandıran bir temsil yöntemidir.
Sık sorulan sorular
Şirket belgelerimizi modele öğretmek için fine-tuning mi yapmalıyız?
Genellikle hayır. Belgeler değiştikçe modeli yeniden eğitmek gerekir ve modelin cevabı hangi belgeden aldığı izlenemez. Belgeye dayalı soru-cevap için RAG daha uygundur.
Fine-tuning için ne kadar veri gerekir?
Göreve ve yönteme göre değişir. Bir sınıflandırma veya format görevi için birkaç yüz kaliteli örnek anlamlı sonuç verebilir; az sayıda tutarlı örnek, çok sayıda dağınık örnekten iyidir. Önce küçük bir deneme yapılması önerilir.
Dönüşümünüzü birlikte konuşalım
Hangi işin her hafta tekrarlandığını anlatın. Otomasyona değip değmeyeceğini açıkça söyleyelim.
Nasıl başlıyoruz?
- Ücretsiz ilk görüşmeSorunu ve hedefi birlikte netleştiriyoruz.
- 2 haftalık keşif programıVeriye, sürece ve araçlara bakıp nereden başlanacağını belirliyoruz.
- Yazılı teklifKapsamı, mimariyi ve takvimi yazılı olarak sunuyoruz.