Hallucination

Definition

Unter Hallucination (auch: Konfabulation) versteht man in der Sprach-KI eine Ausgabe, die zwar grammatikalisch korrekt und überzeugend formuliert ist, aber sachlich falsch, irreführend oder frei erfunden. Ursachen sind unter anderem Lücken in den Trainingsdaten, probabilistische Generierung ohne Faktenzugriff und unpräzise Prompts. Gegenmassnahmen umfassen RAG mit Zitatpflicht, Konfidenzabschätzungen, menschliche Review-Schritte und strukturierte Ausgaben.

So nutzt Swiss Knowledge Hub diesen Begriff

Swiss Knowledge Hub reduziert Hallucinations, indem jede Antwort an abgerufene Quell-Chunks gebunden ist und Seitenzahl plus Quell-Link mit ausgegeben werden. Fehlt relevante Evidenz, antwortet das System bevorzugt mit einem expliziten Nicht-Wissen-Hinweis statt mit freier Generierung.

Verwandte Begriffe

• RAG (Retrieval-Augmented Generation)
• LLM (Large Language Model)
• Prompt Injection
• Reranking

Quellen

1. Wikipedia: Hallucination (artificial intelligence) — https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)