Context Engineering
- Türkçe karşılığı
- bağlam mühendisliği
- Okunuşu
- kontekst encinıring
Günlük kullanımda çoğunlukla İngilizcesi tercih edilir.
Kısaca
Context engineering, işi güvenilir biçimde yapabilsin diye LLM'in her çağrıda ne gördüğünü (talimatlar, belgeler, araç sonuçları, geçmiş) seçme pratiğidir.
Context engineering nedir?
Bir dil modeli yalnızca cevap verdiği anda context window'unda olanı bilir: sistem prompt'u, o ana kadarki konuşma ve uygulamanın eklediği diğer her şey. Context engineering, her bir çağrıda bu pencereye neyin, hangi biçimde ve hangi sırayla gireceğine karar verme işidir.
Prompt engineering iyi bir talimatı nasıl ifade edeceğinizle ilgilidir; context engineering ise onun çevresindeki her şeyle. Bir yapay zekâ ajanı için bu; doğru belgeleri getirmek, uzun geçmişleri özetlemek, araç tanımlarını ve sonuçlarını iletmek, geri dönebileceği notlar tutmak ve yalnızca dikkatini dağıtacak olanı dışarıda bırakmak demektir. Terim, ajanlar uzun ve çok adımlı görevler yürütmeye başladıkça 2025'te yaygınlaştı.
Pencere sınırlıdır ve her token hem para hem dikkat demektir; bu yüzden daha fazla bağlam her zaman daha iyi değildir. Modeller çok uzun girdilerin içine gömülü ayrıntıları kaçırma eğilimindedir; eskimiş ya da çelişkili bilgi de onları yanlış yola sokar. İyi bir context engineering, modelin bu adım için ihtiyaç duyduğunu kullanacağı yerin yakınında tutar ve geri kalanını atar.
Önemli noktalar
- Context engineering, bir LLM'in her çağrıda ne gördüğüne karar verir: talimatlar, veri, araç sonuçları ve geçmiş.
- Talimatın kendisine odaklanan prompt engineering'den daha geniştir.
- Yapay zekâ ajanlarında başlıca araçları getirme, özetleme ve bellektir.
- Daha fazla bağlam daha iyi bağlam değildir: ilgisiz ya da eskimiş metin cevapları kötüleştirir.
Örnek
// Fit the most useful pieces into a fixed token budget, most important first
function buildContext(task: string, history: Message[], docs: Doc[], budget: number): Message[] {
const context: Message[] = [{ role: "system", content: INSTRUCTIONS }];
let used = countTokens(INSTRUCTIONS) + countTokens(task);
for (const doc of docs.slice(0, 3)) {
// the three best-matching documents, if they fit
if (used + countTokens(doc.text) > budget) break;
context.push({ role: "user", content: `Source: ${doc.text}` });
used += countTokens(doc.text);
}
// older turns are replaced by a short summary
context.push({ role: "user", content: `Earlier: ${summarize(history)}` });
context.push({ role: "user", content: task });
return context;
}Sık sorulan sorular
Context engineering, prompt engineering ile aynı şey mi?
Hayır, daha geniştir. Prompt engineering talimatı nasıl ifade ettiğinizle ilgilidir; context engineering ise getirilen belgeler, araç sonuçları, bellek ve konuşma geçmişi dahil, modelin talimatla birlikte aldığı bütün bilgiyle ilgilidir.
Neden her şeyi çok büyük context window'u olan bir modele koymuyoruz?
Çünkü hem maliyet hem kalite zarar görür. Uzun girdiler daha yavaş ve daha pahalıdır, modeller de bu girdilerin ortasına gömülü ayrıntıları gözden kaçırma eğilimindedir; bu yüzden kısa ve ilgili bir bağlam genellikle uzun ve eksiksiz bir bağlamdan daha iyi cevaplar verir.
İlgili sayfalar
- Prompt MühendisliğiYapay Zekâ ve Makine Öğrenmesi, s. 36Prompt mühendisliği, yapay zekâ modelinin doğru, tutarlı ve kullanışlı çıktı üretmesi için verilen yönergeleri tasarlama, test etme ve iyileştirme pratiğidir.
- Bağlam PenceresiYapay Zekâ ve Makine Öğrenmesi, s. 5Bağlam penceresi, bir LLM'nin prompt, konuşma geçmişi ve kendi yanıtı dahil aynı anda dikkate alabildiği, token cinsinden en fazla metin miktarıdır.
- RAGYapay Zekâ ve Makine Öğrenmesi, s. 38RAG, bir LLM'in soru anında getirilen ilgili belgelere dayanarak yanıt vermesini sağlayan ve yanıtları güncel, özel verilere dayandıran bir tekniktir.
- Yapay Zekâ AjanıYapay Zekâ ve Makine Öğrenmesi, s. 51Yapay zekâ ajanı, hangi araçları çağıracağına karar verip sonuçları gözlemleyerek çok adımlı görevleri planlayan ve yürüten, LLM kullanan bir sistemdir.
- System PromptYapay Zekâ ve Makine Öğrenmesi, s. 41System prompt, uygulamanın sohbet başlamadan önce dil modeline verdiği talimatlardır; modelin rolünü, kurallarını, üslubunu ve kullanacağı bilgileri belirler.
- Tool CallingYapay Zekâ ve Makine Öğrenmesi, s. 44Tool calling, modelin uygulamadan yapılandırılmış argümanlarla belirli bir fonksiyonu çalıştırmasını istediği ve sonucu yanıtında kullandığı LLM özelliğidir.
- TokenYapay Zekâ ve Makine Öğrenmesi, s. 43Token, bir LLM'nin okuduğu ve ürettiği temel metin birimidir; genellikle bir sözcük, sözcük parçası ya da noktalama işaretidir ve sayısal bir kimliğe eşlenir.
- Model Context ProtocolYapay Zekâ ve Makine Öğrenmesi, s. 32Model Context Protocol, yapay zekâ uygulamalarının dış araçlara, veri kaynaklarına ve prompt'lara ortak bir arayüzle bağlanmasını tanımlayan açık standarttır.
Bu sayfada bir hata ya da eksik mi gördünüz?Düzeltme önerin