Ana içeriğe geç

Halüsinasyon

İngilizcesi
Hallucination
Okunuşu
hılusineyşın
Güncellendi 2 dk okuma

Bu sayfayı paylaşın

Bağlantıyı gönderin, tanımı bağlantısıyla birlikte alıntılayın ya da kendi sitenizde bir kart olarak gösterin.

https://softwaredictionary.org/tr/terimler/hallucination

Kısaca

Halüsinasyon, bir LLM gibi yapay zekâ modelinin kendinden emin bir şekilde kulağa makul gelen ama yanlış, uydurma ya da kaynaksız bilgi üretmesidir.

Yapay zekâ halüsinasyonu nedir?

Yapay zekâda halüsinasyon, doğru görünen ve güvenle ifade edilen ama gerçek olmayan çıktıdır. Uydurma gerçekler, kimsenin söylemediği alıntılar, var olmayan makalelere yapılan atıflar ve hiç tanımlanmamış fonksiyonları ya da kütüphane metotlarını çağıran kod bunlara örnektir. Terim psikolojiden gevşek biçimde ödünç alınmıştır: model bir şey görmüyor, tanıdık bir örüntüye uyan metin üretiyor.

Halüsinasyonlar, bir LLM'in gerçekleri denetlemek için değil, metnin olası devamını üretmek için eğitilmiş olması yüzünden ortaya çıkar. Bir konudaki eğitim verisi eksik, eski ya da belirsizse model boşlukları makul görünen tahminlerle doldurarak yine de akıcı bir yanıt yazabilir. Belirsiz prompt'lar, çok uzun bağlamlar ve niş ya da yeni konulardaki sorular bunu daha olası kılar.

İyi bir benzetme, bilmediği bir sınav sorusunda savuşturan bir öğrencidir: yanıt iyi yazılmış ve kendinden emindir ama uydurmadır. Geliştiriciler için yaygın bir durum, bir kodlama asistanının var olmayan bir paket, fonksiyon ya da API parametresi önermesidir; bu yüzden üretilen kod her zaman çalıştırılmalı ve test edilmelidir.

Halüsinasyon, kodun tek bir yerinde düzeltilebilecek bir hata değildir; üretken modellerin çalışma biçiminin yan etkisidir. RAG, modelden kaynaklarını alıntılamasını istemek, ona bilmediğini söyleme izni vermek ve çıktıyı testler ya da araçlarla denetlemek gibi teknikler halüsinasyonları azaltır ama tamamen ortadan kaldıramaz.

Bir bakışta

Bir LLM, gerçeklere değil kalıplara dayanarak cevap verdiğinde halüsinasyon görür: JWT'yi hangi RFC'nin tanımladığı sorulduğunda tek başına model, kendinden emin bir şekilde başka bir konudaki gerçek bir RFC olan RFC 7591'i söyler; okuyacağı kaynak verildiğinde ise RFC 7519 der ve kaynağı gösterir.okur“JWT'yi hangiRFC tanımlar?”Tek başına LLMLLM + kaynaklarrfc7519.txt“JWT, RFC 7591'de tanımlanır.”akıcı, emin ve yanlış“JWT, RFC 7519'da tanımlanır. [1]”kaynakla karşılaştırıldı
Modele cevap vereceği belgeleri vermek (RAG), kaynak göstermesini istemek ve bu kaynakları kontrol etmek başlıca önlemlerdir; model ne zaman tahmin yürüttüğünü kendisi bilemez.

Önemli noktalar

  • Halüsinasyon, yapay zekânın kendinden emin ama yanlış ya da uydurma çıktısıdır.
  • LLM'ler gerçekleri doğrulamak yerine makul metni tahmin ettiği için ortaya çıkar.
  • Uydurma atıflar, API'ler ve paket adları yaygın örneklerdir.
  • RAG, açık prompt'lar ve doğrulama riski azaltır ama ortadan kaldırmaz.
  • Önemli gerçekleri her zaman kontrol edin ve üretilen kodu test edin.

Örnek

Yapay zekânın ürettiği kodda halüsinasyonla uydurulmuş bir fonksiyonpython
import json

# Suggested by an AI assistant: looks plausible, but it's a hallucination.
# Python's json module has no parse() function, so this raises AttributeError.
data = json.parse('{"name": "Ada"}')

# The real function is json.loads()
data = json.loads('{"name": "Ada"}')
print(data["name"])  # Ada

Sık sorulan sorular

LLM'ler neden halüsinasyon görür?

LLM'ler, istatistiksel olarak sonra gelmesi en olası olanı tahmin ederek metin üretir ve yerleşik bir gerçek denetimi adımları yoktur. Bir konuda güvenilir bilgileri olmadığında, boşlukları uydurma ayrıntılarla dolduran akıcı bir yanıt yine de üretebilirler.

Yapay zekâ halüsinasyonları nasıl azaltılır?

RAG ile modele ilgili kaynaklar verin, açık ve belirli prompt'lar yazın, kaynak göstermesini ya da bilmediğinde bunu söylemesini isteyin ve önemli çıktıları testler, araçlar ya da insan incelemesiyle doğrulayın.

Halüsinasyonlar tamamen ortadan kaldırılabilir mi?

Mevcut teknolojiyle hayır. Çok daha nadir hale getirilebilirler, ancak her üretken model yine de yanlış çıktı üretebilir; bu yüzden kritik yanıtlar her zaman doğrulanmalıdır.

İlgili sayfalar

Ücretsiz · haftada bir

Yazılım ve yapay zekâ, haftada bir, sade bir dille

Haftanın haberleri, her terimi açıklanmış hâlde; üstüne öğrenecek bir terim ve kısa bir quiz. Okuması iki dakika.

Önce e-postayla onaylarsınız; tek tıkla çıkabilirsiniz. Gizlilik

Bu haftanın sayısına göz at

Bu sayfa hakkında

Sayfa geçmişi

  1. Diyagram eklendi: aynı sorunun kaynaklı ve kaynaksız cevabı.

Bu sayfanın söylediğini değiştiren düzenlemeler. Yazım düzeltmeleri listelenmez.

Bu sayfada bir hata ya da eksik mi gördünüz?Düzeltme önerin

Sayfalar nasıl hazırlanıyor?

Daha fazla

Ayarlar