Few-Shot Learning
Az Örnekle Öğrenme
- Okunuşu
- fyu şot lörning
Kısaca
Few-shot learning, bir yapay zekâ modelinin yalnızca birkaç örnekle, çoğunlukla prompt'a birkaç örnek girdi ve çıktı koyarak bir görevi yapmasını sağlamaktır.
Few-shot learning nedir?
Few-shot learning, bir modele bir görevi binlerce yerine yalnızca birkaç örnekle öğretmek demektir. Büyük dil modellerinde bu genellikle prompt aracılığıyla yapılır: doğru çıktılarıyla iki ila beş örnek girdi eklersiniz, ardından yeni girdiyi verirsiniz ve model örüntüyü izler. Bağlam içi öğrenme (in-context learning) olarak da adlandırılan bu yetenek, araştırmacıların büyük modellerin yeni görevleri hiçbir yeniden eğitim olmadan bu şekilde öğrenebildiğini gösterdiği 2020'de yaygın olarak bilinir hale geldi.
Bu terimler kaç örnek verdiğinizi anlatır. Zero-shot yalnızca yönerge vermek, one-shot tek bir örnek vermek, few-shot ise birkaç örnek vermek demektir. Modelin ağırlıkları asla değişmez: örnekler yalnızca o isteği yönlendirir, bu yüzden her seferinde yeniden gönderilmeleri gerekir ve bağlam penceresinde yer kaplarlar. İyi örnekler kısa, biçim açısından tutarlı ve zor durumları kapsayacak kadar çeşitlidir; çünkü model, hatalar ve yanlılıklar dahil örneklerin gösterdiği her örüntüyü kopyalama eğilimindedir.
Yeni bir iş arkadaşından üçüncü bir masraf formunu doldurmasını istemeden önce ona doldurulmuş iki masraf formu göstermek gibidir; yazılı bir açıklamadan çok daha hızlı biçimi anlar. Few-shot prompting; sınıflandırma, veri çıkarma, metni sabit bir biçime dönüştürme ve belirli bir yazım üslubunu yakalama için yaygındır. Klasik makine öğrenmesinde few-shot learning ayrıca, modellerin fotoğraflardaki yeni bir ürün gibi yeni bir kategoriyi yalnızca birkaç etiketli görüntüden tanımayı öğrendiği bir araştırma alanının adıdır.
Few-shot learning çoğu zaman fine-tuning ile karıştırılır. Fine-tuning modeli çok sayıda örnek üzerinde eğitir ve ağırlıklarını kalıcı olarak değiştirir; few-shot prompting ise modeli olduğu gibi bırakır ve yalnızca örnekler prompt'ta bulunduğu sürece çalışır. Ayrıca akıl yürütme adımları isteyen chain-of-thought prompting'den de farklıdır; ikisi, akıl yürütmeyi içeren örnekler yazarak birleştirilebilir.
Önemli noktalar
- Few-shot learning, modele ne yapacağını göstermek için bir avuç örnek kullanır.
- LLM'lerde örnekler prompt'a konur ve modelin ağırlıkları değişmez.
- Zero-shot örnek kullanmaz, one-shot bir, few-shot ise birkaç örnek kullanır.
- Örnekler kısa, tutarlı ve gerçek girdileri temsil eden nitelikte olmalıdır.
- Çok sayıda örneğiniz varsa ve kalıcı davranış istiyorsanız alternatif fine-tuning'dir.
Örnek
// Few-shot prompt: two worked examples, then the real input
const messages = [
{ role: "system", content: "Classify the sentiment as positive, negative, or neutral." },
{ role: "user", content: "The update fixed every crash. Love it!" },
{ role: "assistant", content: "positive" },
{ role: "user", content: "The app logs me out every five minutes." },
{ role: "assistant", content: "negative" },
{ role: "user", content: "Checkout now takes longer than before." }, // real input
];
// callModel is a placeholder for a real model client
const label = await callModel(messages); // "negative"Sık sorulan sorular
Zero-shot ve few-shot prompting arasındaki fark nedir?
Zero-shot prompting modele yalnızca yönerge verir; few-shot prompting ise girdilerin ve beklenen çıktıların birkaç çalışılmış örneğini ekler. Few-shot genellikle daha tutarlı biçimler ve alışılmadık görevlerde daha iyi doğruluk sağlar, ancak prompt'un uzaması pahasına.
Bir few-shot prompt kaç örnek içermelidir?
Genellikle iki ila beş yeterlidir. Daha fazlasını yalnızca testler yardımcı olduğunu gösteriyorsa ekleyin; çünkü her örnek her istekte token kullanır ve birbirine çok benzeyen fazla örnek modeli aşırı katı hale getirebilir.
Few-shot learning, fine-tuning ile aynı şey midir?
Hayır. Few-shot örnekleri prompt'ta yaşar ve yalnızca mevcut isteği etkiler; fine-tuning ise modeli örneklerle eğiterek ağırlıklarını kalıcı olarak değiştirir.
İlgili sayfalar
- Prompt MühendisliğiYapay Zekâ ve Makine Öğrenmesi, s. 36Prompt mühendisliği, yapay zekâ modelinin doğru, tutarlı ve kullanışlı çıktı üretmesi için verilen yönergeleri tasarlama, test etme ve iyileştirme pratiğidir.
- PromptYapay Zekâ ve Makine Öğrenmesi, s. 35Prompt, bir LLM gibi bir yapay zekâ modeline hangi görevi yapmasını ve nasıl bir yanıt istediğinizi söylemek için verdiğiniz girdi metni ya da yönergelerdir.
- Chain-of-ThoughtYapay Zekâ ve Makine Öğrenmesi, s. 7Chain-of-thought prompting, bir LLM'den nihai yanıttan önce ara adımlarla akıl yürütmesini isteyen ve karmaşık görevlerde doğruluğu artıran bir tekniktir.
- Fine-tuningYapay Zekâ ve Makine Öğrenmesi, s. 21Fine-tuning, önceden eğitilmiş bir makine öğrenmesi modelini tek bir göreve uyarlamak için daha küçük ve özel bir veri kümesiyle ek olarak eğitme sürecidir.
- LLMYapay Zekâ ve Makine Öğrenmesi, s. 28LLM, çok büyük metin yığınlarıyla eğitilmiş ve bir sonraki en olası metin parçasını tekrar tekrar tahmin ederek dil üreten bir makine öğrenmesi modelidir.
- Bağlam PenceresiYapay Zekâ ve Makine Öğrenmesi, s. 5Bağlam penceresi, bir LLM'nin prompt, konuşma geçmişi ve kendi yanıtı dahil aynı anda dikkate alabildiği, token cinsinden en fazla metin miktarıdır.
Bu sayfada bir hata ya da eksik mi gördünüz?Düzeltme önerin