SÖZLÜKYapay zeka

Halüsinasyon nedir?

Kısa tanım

Halüsinasyon; bir dil modelinin kaynağı olmayan ya da yanlış bir bilgiyi kendinden emin bir dille üretmesidir.

Son güncelleme:

Neden olur?

Dil modelleri bir sonraki kelimeyi olasılığa göre tahmin ederek metin üretir; bilginin doğru olup olmadığını kendiliğinden denetlemez. Soru, modelin eğitim verisinde ya da kendisine verilen bağlamda karşılığı olmayan bir bilgiye yöneldiğinde model akıcı ama uydurma bir yanıt verebilir.

Halüsinasyon tamamen sıfırlanamaz. Yanıtları şirketin kendi belgelerine dayandırmak (RAG), modelden emin olmadığında bunu söylemesini istemek ve kritik kararları bir kişiye bırakmak riski büyük ölçüde düşürür.

E-ticarette örnek

Müşteri "İade süreniz kaç gün?" diye sorduğunda asistan yanıtı iade politikanızdan alır. Politikada yazmayan bir durumda (ör. hasarlı ürün) tahmin yürütmek yerine konuşmayı temsilciye devreder.

Halüsinasyon riskini düşüren önlemler

  • Yanıtları şirket belgelerine dayandırmak (RAG)
  • Fiyat, stok ve iade gibi bilgileri doğrudan sistemden okumak
  • Emin olunmayan durumda konuşmayı bir kişiye devretmek
  • Yanıtları örnek sorularla düzenli olarak denetlemek

Dürüst bir yaklaşım

Yapay zekanın ne zaman gerçekten gerektiğini ve bir teklifi değerlendirirken sorulacak 6 soruyu anlattık.

Yazıyı okuyun

Halüsinasyon hakkında sık sorulanlar

Halüsinasyon tamamen önlenebilir mi?
Hayır. Ama yanıtları kaynakla sınırlamak ve belirsiz durumda bir kişiye devretmek gibi önlemlerle kritik süreçlerde risk büyük ölçüde azaltılır.
Müşteriye yanlış bilgi verilmesi nasıl önlenir?
Fiyat, stok ve iade şartı gibi bilgiler modelin hafızasından değil, doğrudan sistemden okunur; model yalnızca bu bilgiyi anlatır.
Daha büyük bir model halüsinasyonu bitirir mi?
Azaltabilir ama bitirmez. Asıl fark, modele doğru bağlamı vermekten ve sınırlarını tanımlamaktan gelir.
ÜCRETSİZ, 1 İŞ GÜNÜ

İlk adımı birlikte atalım

Operasyonunuzdaki elle yürüyen işleri inceleyip ayda kaç saatin sistemle yürüyebileceğini yazılı olarak veriyoruz; teknik bilgi ve taahhüt gerekmez.

Ücretsiz Sistem Analizi Al Kullanım Senaryoları
  • Kredi kartı yok
  • 1 iş gününde dönüş
  • KVKK uyumlu
  • Veriler şifreli bağlantıyla iletilir