Ana içeriğe geç

Fine-tuning

İnce Ayar

Okunuşu
fayn tuning
Güncellendi 2 dk okuma

Bu sayfayı paylaşın

Bağlantıyı gönderin, tanımı bağlantısıyla birlikte alıntılayın ya da kendi sitenizde bir kart olarak gösterin.

https://softwaredictionary.org/tr/terimler/fine-tuning

Kısaca

Fine-tuning, önceden eğitilmiş bir makine öğrenmesi modelini tek bir göreve uyarlamak için daha küçük ve özel bir veri kümesiyle ek olarak eğitme sürecidir.

Fine-tuning nedir?

Fine-tuning, önceden eğitilmiş (pretrained ya da temel) bir modelin eğitimini, sizin kendi ve çok daha küçük veri kümenizle sürdürmek demektir. Model, ön eğitimde öğrendiği genel bilgiyi korur ve belirli bir görevde, üslupta ya da alanda daha iyi olmak için ağırlıklarını ayarlar. Örneğin genel bir dil modeli, destek konuşmalarıyla fine-tune edilerek bir şirketin üslubu ve biçimiyle yanıt verebilir.

Bir LLM için fine-tuning veri kümesi genellikle ideal çıktılarla eşleştirilmiş örnek girdilerden oluşur; çoğunlukla birkaç yüzden birkaç bine kadar yüksek kaliteli örnektir. Büyük bir modelde her ağırlığı güncellemek pahalı olduğundan birçok ekip LoRA (low-rank adaptation) gibi parametre açısından verimli yöntemleri kullanır; bunlar küçük bir ek ağırlık kümesini eğitir ve orijinal modeli dondurulmuş bırakır. Sonuç, uzun ve ayrıntılı prompt'lara ihtiyaç duymadan farklı davranan yeni bir model sürümüdür.

Bir benzetme, deneyimli bir doktoru işe alıp ona bir hastanenin prosedürleri konusunda birkaç haftalık eğitim vermektir: tıbbı yeniden öğrenmezler, bildiklerini uyarlarlar. Fine-tuning tutarlı çıktı biçimleri, uzmanlaşmış sınıflandırma, alana özgü dil ve daha küçük modellerin dar görevlerde iyi çalışmasını sağlamak için kullanılır.

Fine-tuning sıklıkla RAG ile karıştırılır. RAG, modeli değiştirmeden istek anında prompt içinde güncel bilgi sunar; fine-tuning ise ağırlıkları değiştirerek modelin davranışını değiştirir. Sık değişen bilgileri öğretmek için fine-tuning zayıf bir yoldur, çünkü her güncelleme yeni bir eğitim çalıştırması gerektirir; bu yüzden ekipler genellikle önce daha iyi prompt'ları ve RAG'i dener.

Bir bakışta

Genel, önceden eğitilmiş bir model ile her biri bir girdi ve ideal çıktısından oluşan küçük bir örnek kümesi eğitime girer; eğitim modelin ağırlıklarını ayarlar ve uzun bir prompt gerekmeden yeni üslupla yanıt veren uzmanlaşmış bir model çıkar.Önceden eğitilmiş modelgenel bilgiÖrnek girdi → ideal çıktı çiftleri“sipariş geç”→ “Üzgünüz, bakalım.”“iade?”→ “Evet, 30 gün içinde.”Eğitimağırlıkları ayarlarFine-tune edilmiş modelyeni ağırlıklaryeni üslupla yanıt verir
Birkaç iyi örnekle eğitmek modelin ağırlıklarını değiştirir; bu yüzden yeni üslup ve biçim ek prompt gerekmeden kalır.

Önemli noktalar

  • Fine-tuning, önceden eğitilmiş bir modelin eğitimini daha küçük, göreve özel bir veri kümesiyle sürdürür.
  • Modelin ağırlıklarını değiştirir; bu yüzden yeni davranış ek prompt gerekmeden kalıcı olur.
  • LoRA gibi parametre açısından verimli yöntemler yalnızca küçük bir ek ağırlık kümesini eğitir.
  • Fine-tuning üslup, biçim ve beceri öğretir; değişen gerçekler için RAG daha uygundur.
  • Örneklerin kalitesi, sayısından daha önemlidir.

Örnek

Fine-tuning örneklerini JSONL olarak hazırlamakpython
import json

# Fine-tuning data: example inputs paired with the ideal outputs
examples = [
    {"input": "Order #123 arrived damaged.",
     "output": "Sorry about that! A replacement for order #123 is on its way."},
    {"input": "Can I change my delivery address?",
     "output": "Yes. Open Orders, choose the order, and select Edit address."},
]

# Many training tools accept one JSON object per line (JSONL)
with open("train.jsonl", "w") as f:
    for example in examples:
        f.write(json.dumps(example) + "\n")

Sık sorulan sorular

Fine-tuning ile RAG arasındaki fark nedir?

Fine-tuning, modeli sizin örneklerinizle eğiterek modelin kendisini değiştirir; RAG ise modeli olduğu gibi bırakır ve istek anında prompt'a ilgili belgeleri ekler. Tutarlı davranış, üslup ya da biçim için fine-tuning; sık değişen veya kaynak gösterilmesi gereken bilgiler için RAG kullanın.

Bir modeli fine-tune etmek için ne kadar veri gerekir?

Göreve bağlıdır, ancak birçok LLM fine-tuning işi özenle yazılmış birkaç yüzden birkaç bine kadar örnekle başlar. Küçük ama temiz ve tutarlı bir örnek kümesi, genellikle büyük ve gürültülü bir kümeden daha iyi sonuç verir.

Fine-tuning, bir modeli sıfırdan eğitmekle aynı şey midir?

Hayır. Sıfırdan eğitim rastgele ağırlıklarla bir model kurar ve muazzam veri kümeleri ile işlem gücü gerektirir; fine-tuning ise önceden eğitilmiş bir modelden başlar ve verinin ve maliyetin yalnızca küçük bir kısmına ihtiyaç duyar.

İlgili sayfalar

Ücretsiz · haftada bir

Yazılım ve yapay zekâ, haftada bir, sade bir dille

Haftanın haberleri, her terimi açıklanmış hâlde; üstüne öğrenecek bir terim ve kısa bir quiz. Okuması iki dakika.

Önce e-postayla onaylarsınız; tek tıkla çıkabilirsiniz. Gizlilik

Bu haftanın sayısına göz at

Bu sayfa hakkında

Bu sayfada bir hata ya da eksik mi gördünüz?Düzeltme önerin

Sayfalar nasıl hazırlanıyor?

Daha fazla

Ayarlar