Fine-tuning
İnce Ayar
- Okunuşu
- fayn tuning
Kısaca
Fine-tuning, önceden eğitilmiş bir makine öğrenmesi modelini tek bir göreve uyarlamak için daha küçük ve özel bir veri kümesiyle ek olarak eğitme sürecidir.
Fine-tuning nedir?
Fine-tuning, önceden eğitilmiş (pretrained ya da temel) bir modelin eğitimini, sizin kendi ve çok daha küçük veri kümenizle sürdürmek demektir. Model, ön eğitimde öğrendiği genel bilgiyi korur ve belirli bir görevde, üslupta ya da alanda daha iyi olmak için ağırlıklarını ayarlar. Örneğin genel bir dil modeli, destek konuşmalarıyla fine-tune edilerek bir şirketin üslubu ve biçimiyle yanıt verebilir.
Bir LLM için fine-tuning veri kümesi genellikle ideal çıktılarla eşleştirilmiş örnek girdilerden oluşur; çoğunlukla birkaç yüzden birkaç bine kadar yüksek kaliteli örnektir. Büyük bir modelde her ağırlığı güncellemek pahalı olduğundan birçok ekip LoRA (low-rank adaptation) gibi parametre açısından verimli yöntemleri kullanır; bunlar küçük bir ek ağırlık kümesini eğitir ve orijinal modeli dondurulmuş bırakır. Sonuç, uzun ve ayrıntılı prompt'lara ihtiyaç duymadan farklı davranan yeni bir model sürümüdür.
Bir benzetme, deneyimli bir doktoru işe alıp ona bir hastanenin prosedürleri konusunda birkaç haftalık eğitim vermektir: tıbbı yeniden öğrenmezler, bildiklerini uyarlarlar. Fine-tuning tutarlı çıktı biçimleri, uzmanlaşmış sınıflandırma, alana özgü dil ve daha küçük modellerin dar görevlerde iyi çalışmasını sağlamak için kullanılır.
Fine-tuning sıklıkla RAG ile karıştırılır. RAG, modeli değiştirmeden istek anında prompt içinde güncel bilgi sunar; fine-tuning ise ağırlıkları değiştirerek modelin davranışını değiştirir. Sık değişen bilgileri öğretmek için fine-tuning zayıf bir yoldur, çünkü her güncelleme yeni bir eğitim çalıştırması gerektirir; bu yüzden ekipler genellikle önce daha iyi prompt'ları ve RAG'i dener.
Önemli noktalar
- Fine-tuning, önceden eğitilmiş bir modelin eğitimini daha küçük, göreve özel bir veri kümesiyle sürdürür.
- Modelin ağırlıklarını değiştirir; bu yüzden yeni davranış ek prompt gerekmeden kalıcı olur.
- LoRA gibi parametre açısından verimli yöntemler yalnızca küçük bir ek ağırlık kümesini eğitir.
- Fine-tuning üslup, biçim ve beceri öğretir; değişen gerçekler için RAG daha uygundur.
- Örneklerin kalitesi, sayısından daha önemlidir.
Örnek
import json
# Fine-tuning data: example inputs paired with the ideal outputs
examples = [
{"input": "Order #123 arrived damaged.",
"output": "Sorry about that! A replacement for order #123 is on its way."},
{"input": "Can I change my delivery address?",
"output": "Yes. Open Orders, choose the order, and select Edit address."},
]
# Many training tools accept one JSON object per line (JSONL)
with open("train.jsonl", "w") as f:
for example in examples:
f.write(json.dumps(example) + "\n")Sık sorulan sorular
Fine-tuning ile RAG arasındaki fark nedir?
Fine-tuning, modeli sizin örneklerinizle eğiterek modelin kendisini değiştirir; RAG ise modeli olduğu gibi bırakır ve istek anında prompt'a ilgili belgeleri ekler. Tutarlı davranış, üslup ya da biçim için fine-tuning; sık değişen veya kaynak gösterilmesi gereken bilgiler için RAG kullanın.
Bir modeli fine-tune etmek için ne kadar veri gerekir?
Göreve bağlıdır, ancak birçok LLM fine-tuning işi özenle yazılmış birkaç yüzden birkaç bine kadar örnekle başlar. Küçük ama temiz ve tutarlı bir örnek kümesi, genellikle büyük ve gürültülü bir kümeden daha iyi sonuç verir.
Fine-tuning, bir modeli sıfırdan eğitmekle aynı şey midir?
Hayır. Sıfırdan eğitim rastgele ağırlıklarla bir model kurar ve muazzam veri kümeleri ile işlem gücü gerektirir; fine-tuning ise önceden eğitilmiş bir modelden başlar ve verinin ve maliyetin yalnızca küçük bir kısmına ihtiyaç duyar.
Sık karşılaştırılanlar
İlgili sayfalar
- Makine ÖğrenmesiYapay Zekâ ve Makine Öğrenmesi, s. 30Makine öğrenmesi, bilgisayarların elle yazılmış kurallar yerine verilerdeki örüntüleri öğrenerek tahmin yaptığı bir yapay zekâ dalıdır.
- LLMYapay Zekâ ve Makine Öğrenmesi, s. 28LLM, çok büyük metin yığınlarıyla eğitilmiş ve bir sonraki en olası metin parçasını tekrar tekrar tahmin ederek dil üreten bir makine öğrenmesi modelidir.
- RAGYapay Zekâ ve Makine Öğrenmesi, s. 38RAG, bir LLM'in soru anında getirilen ilgili belgelere dayanarak yanıt vermesini sağlayan ve yanıtları güncel, özel verilere dayandıran bir tekniktir.
- PromptYapay Zekâ ve Makine Öğrenmesi, s. 35Prompt, bir LLM gibi bir yapay zekâ modeline hangi görevi yapmasını ve nasıl bir yanıt istediğinizi söylemek için verdiğiniz girdi metni ya da yönergelerdir.
- Derin ÖğrenmeYapay Zekâ ve Makine Öğrenmesi, s. 14Derin öğrenme, görüntü ve metin gibi ham verilerden karmaşık örüntüleri öğrenmek için çok katmanlı sinir ağları kullanan bir makine öğrenmesi alt kümesidir.
- InferenceYapay Zekâ ve Makine Öğrenmesi, s. 26Inference, eğitilmiş bir makine öğrenmesi modelinin, öğrendiklerini değiştirmeden yeni verilerden tahmin ya da çıktı üretmek için kullanıldığı aşamadır.
- LoRAYapay Zekâ ve Makine Öğrenmesi, s. 29LoRA, büyük modellere ucuzca ince ayar yapma yöntemidir: ağırlıklar dondurulur, yalnızca eklenen küçük matrisler eğitilir; yeni beceri birkaç megabayta sığar.
Bu sayfada bir hata ya da eksik mi gördünüz?Düzeltme önerin