Kitap 08 · Yapay Zekâ ve Makine ÖğrenmesiSayfa 25 / 52

Halüsinasyon

İngilizcesi: Hallucination
Okunuşu: hılusineyşın

Güncellendi 29 Eylül 20262 dk okuma

Kısaca

Halüsinasyon, bir LLM gibi yapay zekâ modelinin kendinden emin bir şekilde kulağa makul gelen ama yanlış, uydurma ya da kaynaksız bilgi üretmesidir.

Yapay zekâ halüsinasyonu nedir?

Yapay zekâda halüsinasyon, doğru görünen ve güvenle ifade edilen ama gerçek olmayan çıktıdır. Uydurma gerçekler, kimsenin söylemediği alıntılar, var olmayan makalelere yapılan atıflar ve hiç tanımlanmamış fonksiyonları ya da kütüphane metotlarını çağıran kod bunlara örnektir. Terim psikolojiden gevşek biçimde ödünç alınmıştır: model bir şey görmüyor, tanıdık bir örüntüye uyan metin üretiyor.

Halüsinasyonlar, bir LLM'in gerçekleri denetlemek için değil, metnin olası devamını üretmek için eğitilmiş olması yüzünden ortaya çıkar. Bir konudaki eğitim verisi eksik, eski ya da belirsizse model boşlukları makul görünen tahminlerle doldurarak yine de akıcı bir yanıt yazabilir. Belirsiz prompt'lar, çok uzun bağlamlar ve niş ya da yeni konulardaki sorular bunu daha olası kılar.

İyi bir benzetme, bilmediği bir sınav sorusunda savuşturan bir öğrencidir: yanıt iyi yazılmış ve kendinden emindir ama uydurmadır. Geliştiriciler için yaygın bir durum, bir kodlama asistanının var olmayan bir paket, fonksiyon ya da API parametresi önermesidir; bu yüzden üretilen kod her zaman çalıştırılmalı ve test edilmelidir.

Halüsinasyon, kodun tek bir yerinde düzeltilebilecek bir hata değildir; üretken modellerin çalışma biçiminin yan etkisidir. RAG, modelden kaynaklarını alıntılamasını istemek, ona bilmediğini söyleme izni vermek ve çıktıyı testler ya da araçlarla denetlemek gibi teknikler halüsinasyonları azaltır ama tamamen ortadan kaldıramaz.

Önemli noktalar

Halüsinasyon, yapay zekânın kendinden emin ama yanlış ya da uydurma çıktısıdır.
LLM'ler gerçekleri doğrulamak yerine makul metni tahmin ettiği için ortaya çıkar.
Uydurma atıflar, API'ler ve paket adları yaygın örneklerdir.
RAG, açık prompt'lar ve doğrulama riski azaltır ama ortadan kaldırmaz.
Önemli gerçekleri her zaman kontrol edin ve üretilen kodu test edin.

Örnek

Yapay zekânın ürettiği kodda halüsinasyonla uydurulmuş bir fonksiyonpython

import json

# Suggested by an AI assistant: looks plausible, but it's a hallucination.
# Python's json module has no parse() function, so this raises AttributeError.
data = json.parse('{"name": "Ada"}')

# The real function is json.loads()
data = json.loads('{"name": "Ada"}')
print(data["name"])  # Ada

Sık sorulan sorular

LLM'ler neden halüsinasyon görür?

LLM'ler, istatistiksel olarak sonra gelmesi en olası olanı tahmin ederek metin üretir ve yerleşik bir gerçek denetimi adımları yoktur. Bir konuda güvenilir bilgileri olmadığında, boşlukları uydurma ayrıntılarla dolduran akıcı bir yanıt yine de üretebilirler.

Yapay zekâ halüsinasyonları nasıl azaltılır?

RAG ile modele ilgili kaynaklar verin, açık ve belirli prompt'lar yazın, kaynak göstermesini ya da bilmediğinde bunu söylemesini isteyin ve önemli çıktıları testler, araçlar ya da insan incelemesiyle doğrulayın.

Halüsinasyonlar tamamen ortadan kaldırılabilir mi?

Mevcut teknolojiyle hayır. Çok daha nadir hale getirilebilirler, ancak her üretken model yine de yanlış çıktı üretebilir; bu yüzden kritik yanıtlar her zaman doğrulanmalıdır.

İlgili sayfalar

Bu sayfada bir hata ya da eksik mi gördünüz?Düzeltme önerin