KI-Halluzinationen: Ursachen, Risiken und Vermeidung

Das Vertrauen in KI ist hoch: 53 % der befragten KI-Nutzer in Europa gehen davon aus, dass die EU KI reguliert; das Vertrauen in die KI ist daher naheliegend (Quelle: pewresearch.org, 10.2025). Doch dieses Vertrauen birgt ein Risiko: KI-Halluzinationen. Dahinter stecken Informationsvermengung oder schlichtweg fehlerhafte Aussagen, die ernste Konsequenzen mit sich bringen können.

Stellen Sie sich vor: Eine KI-gestützte Marktanalyse enthält erfundene Kennzahlen, die plausibel wirken. Diese fließen ungeprüft ins Exposé und prägen eine fatale Fehlinvestition. Die Konsequenzen reichen von Vertrauensverlust bis hin zu Bußgeldern – je nach Umstand, den die Halluzination verursacht hat. Verantwortlich ist jedoch nicht der Anbieter, sondern die Führungsebene.

Um sich vor diesen Szenarien zu schützen, erfahren Sie in diesem Artikel, wie KI-Halluzination entsteht und erhalten effektive Maßnahmen für Ihr Risikomanagement.

Was ist eine KI-Halluzination?

Eine Halluzination von künstlicher Intelligenz (eng. AI hallucination) ist eine meist zwar überzeugend formulierte, aber faktisch fehlerhafte Ausgabe eines KI-Systems. Wenn eine KI halluziniert, zeigt sich das in wiederkehrenden Mustern. Typische Beispiele für KI-Halluzinationen:

• Erfundene Fakten: falsche Jahreszahlen, historische Ereignisse, Definitionen oder Personendaten.
• Phantom-Quellen: glaubwürdig klingende Studien, Bücher oder Zitate, die nicht existieren – ebenso erfundene Gerichtsurteile.
• Falsche Links: generierte URLs, die ins Leere führen oder auf nicht existierende Belege verweisen.

Wie relevant das Thema ist, zeigt eine Untersuchung der Wissenschaftlichen Dienste des Deutschen Bundestags (Oktober 2025). Beim Test mehrerer KI-Modelle enthielten im Durchschnitt rund 45 % der Antworten relevante Fehler, etwa veraltete oder schlicht falsche Informationen. Zurückzuführen war das überwiegend auf fehlerhafte Quellenangaben (rund 30 %) und inhaltliche Ungenauigkeit (rund 20 %). Mangelnde Genauigkeit ist demnach kein Einzelfall, sondern in fast jeder zweiten Antwort angelegt.

Wie entsteht eine KI-Halluzination?

Die Ursachen für KI-Halluzination liegen in der Technologie selbst. Die neuronalen Netze moderner generativer KI-Modelle basieren auf Wahrscheinlichkeitssystemen. Ein Sprachmodell (Large Language Model) sagt auf Basis seiner Trainingsdaten das jeweils wahrscheinlichste nächste Wort voraus. Es liefert also keine logisch-exakten Ergebnisse, sondern Näherungslösungen. Wenn Wissen fehlt, füllt das Modell die Lücke mit einer plausibel klingenden Antwort.

Eine Halluzination generativer KI ist also kein Software-Bug, sondern ein strukturelles Merkmal probabilistischer Systeme.

Halluzination aus dem Training

Moderne Systeme beruhen auf dem sogenannten Transformer-Modell: einer Architektur, die Sprache nicht versteht, sondern statistisch verarbeitet. Ein KI-Modell greift auf das Wissen zu, das es während des Trainings erhalten hat und leitet Antworten daraus ab.

Ein Beispiel ist die „unbekannte Unbekannte“: Stellen Sie dem KI-Modell eine Frage, die es faktisch nicht beantworten kann, gibt es dennoch die wahrscheinlichste Antwort aus: eine Halluzination.

Das Modell anzuweisen, bei Unwissenheit zu schweigen ist ebenfalls nicht zielführend. Die KI weiß weder, dass sie etwas nicht weiß, noch weiß sie, was sie nicht weiß.

Fehlerhafte Korrelation

Die statistische Natur generativer KI-Modelle tendiert dazu, alles miteinander in Beziehung zu setzen, sog. „Korrelationen“. Wie Informationen, Daten oder Werke im Zusammenhang stehen kann die künstliche Intelligenz jedoch nicht immer fehlerfrei zuordnen.

Ein Beispiel für eine falsche Korrelation:

Professor A publiziert häufig mit Professor B. Professor B publiziert häufig mit Professor C. Professor A und Professor C haben keine gemeinsamen Publikationen. Doch da Professor B sozusagen die informative Schnittstelle bildet, leitet die KI fälschlich ab, dass auch A und C gemeinsam publiziert hätten. Datenmäßig liegt das nahe, faktisch ist es falsch.

Solche Fehler treten vor allem bei hochorganisierten Daten auf, wie z.B. Literaturverweisen, Anschriften oder Lebensdaten. Die KI kann nicht zwischen einem tatsächlichen Ereignis und einer bloßen Wahrscheinlichkeitszusammenstellung unterscheiden.

Für die Immobilienbranche birgt die fehlerhafte Korrelation ebenfalls Risiken: Falsch zugeordnete Objektdaten, verwechselte Eigentümer oder erfundene Preishistorien wirken seriös, können aber eine Bewertung oder Due-Diligence-Prüfung in die Irre führen.

In vorliegenden Trainingsdaten können widersprüchliche Informationen enthalten sein, die ein inkonsistentes Antwortverhalten begünstigen. Welche Information die KI aufgreift, entscheiden Vorkommensfrequenz und Anfragekontext. Manchmal reicht eine leicht abweichende Formulierung derselben Frage, damit das Modell einmal auf Information A und einmal auf B zugreift, auch wenn diese zueinander widersprüchlich sind.

Hier zeigt sich ein grundlegender Unterschied zur menschlichen Intelligenz. Einen Menschen können Sie schlicht nach der Richtigkeit eines Sachverhalts fragen. Bei einem KI-Modell sind Richtigkeit und Falschheit keine binären Wahrheitswerte, sondern getrennte statistische Bezugspunkte. Es lohnt sich deshalb, in einem zweiten Prompt auch die Gegenthesen zu prüfen und die Frage umzuformulieren.

Ein Beispiel für inkonsistentes Antwortverhalten in der Immobilienbranche:

Frage zu einer Immobilie: „Liegt das Objekt in der Lärmschutzzone des Flughafens?“ Die KI antwortet überzeugend mit „Nein“ – gestützt auf die statistisch häufigere Aussage in ihren Daten. Stellen Sie nun die Gegenfrage: „Welche Gründe sprechen dafür, dass das Objekt in der Lärmschutzzone liegt?“, kann dieselbe KI plötzlich Argumente liefern, welche mit der ersten Antwort im Widerspruch stehen.

Der Widerspruch ist Ihr Warnsignal und der Anlass, die Angabe in der amtlichen Quelle zu prüfen, bevor sie in ein Exposé oder Gutachten einfließt.

Nutzer-induzierte Halluzinationen

Nicht jede Halluzination lässt sich auf das Training zurückführen. Häufig liefert der Umgang mit der KI selbst den Anlass – durch unklare Prompts und einen schlecht gesteuerten Kontext.

Ein häufiger Auslöser sind Mehrdeutigkeiten. Viele Begriffe sind homonym, lauten also gleich, meinen aber Verschiedenes: die Bank zum Sitzen und die Bank zum Geldabheben. Wo Sie nicht eindeutig klarstellen, was gemeint ist, zieht sich die KI auf die im jeweiligen Kontext wahrscheinlichste Lesart zurück, ohne nachzufragen. Wer nach mühsamer Anreise im Ausland nach „der nächsten Bank“ fragt, landet im Zweifel im Park statt am Bankschalter. Im Geschäftsalltag kann das ebenso vorkommen: Ein unklarer Prompt zu „Rendite“, „Fläche“ oder „Wert“ kann zu einer Antwort führen, die formal korrekt klingt, aber die falsche Bedeutung trifft.

Ein zweiter Auslöser ist der bestätigende Prompt. KI-Modelle versuchen, Anweisungen hilfreich zu befolgen – auch dann, wenn die Anweisung sie in eine Richtung drängt. Wer fragt „Das ist doch eine gute Idee, oder?“, lädt die KI förmlich ein, zuzustimmen. Statt eines kritischen Korrektivs erhalten Sie eine Bestätigung Ihrer eigenen Annahme.

Für Teams ohne Prompt-Training ist das ein unterschätztes Risiko: Auch unbeabsichtigte Formulierungen erzeugen Halluzinationen. Daher ist es ratsam, eine vollständige KI-Transformation im Unternehmen durchzuführen, statt KI wie ein Tool zu betrachten.

Ist Ihr Immobilienunternehmen bereit für KI?

KI-Modelle schöpfen nicht nur aus ihrem Trainingswissen, sie verfügen zusätzlich über ein sogenanntes Kontextfenster: einen Platzhalter für die Informationen, die Sie der Anfrage direkt mitgeben. Im Real Estate betrifft das etwa ein Exposé, einen Mietvertrag oder eine Marktstudie. Dieser Kontext steuert die Antwort unmittelbar und wird vor allem für aktuelle Bezüge und internes Wissen genutzt.

Wo Sie mit eigenen Dokumenten arbeiten, entstehen neue Fehlerquellen: Die KI behandelt mitunter Ihre vertraulichen Unterlagen und ihr allgemeines Trainingswissen nicht getrennt, sondern vermischt beide Ebenen unbemerkt. Die Antwort bezieht sich scheinbar auf Ihr Dokument, enthält aber Inhalte, die dort nie standen.

Primacy- und Recency-Effekt

Die heute vorherrschenden Transformer-Modelle verarbeiten Informationen am Anfang und am Ende eines Dokuments zuverlässiger als in der Mitte.

• Primacy-Effekt (Anfang): Informationen zu Beginn des Kontexts werden zuverlässig berücksichtigt.
• Recency-Effekt (Ende): Informationen am Ende des Kontexts werden ebenfalls gut verarbeitet.
• Die Mitte (Risikozone): Informationen, die in der Mitte stehen, werden häufig übersehen. Je länger das Dokument, desto größer ist dieses Risiko.

Auch das Übersehen ist eine Form der Halluzination. Wir empfehlen daher entscheidende Angaben, nie in der Mitte langer Dokumente zu platzieren, da die KI diese Information überspringen kann.

Falschinformation statt Lücken

Statt eine Lücke offen zu lassen, füllt das Modell sie mit eigenen Ergänzungen und kennzeichnet diese nicht. Das geschieht, weil die KI über eigenes Wissen verfügt und daraus Brücken zu Dingen baut, die nicht zur Sache gehören.

Verschärft wird das durch die Art, wie Modelle trainiert werden: In gängigen Tests wird eine geratene Antwort oft besser bewertet als ein ehrliches „Ich weiß es nicht“. Das System lernt also, eine plausible, aber faktisch falsche Antwort einer Lücke vorzuziehen.

Im ungünstigsten Fall verbinden sich Primacy- und Recency-Effekte mit fehlerhaften Ergänzungen:
Eine im Kontext übersehene Information wird durch eine Assoziation aus dem allgemeinen Modellwissen ersetzt. Die KI füllt also eine Lücke, von der sie gar nicht weiß, dass sie existiert, mit Inhalt, der nie in Ihrem Dokument stand.

Informationsvermengung

Fehlt im Kontext Ihrer internen Daten ein Detail, ergänzt das Modell es aus seinem allgemeinen Wissen.

Ein Beispiel aus dem Immobilienalltag: Sie lassen aus knappen Stichpunkten eine Objektbeschreibung erstellen. Die KI ergänzt selbstständig eine Fußbodenheizung oder eine moderne Dämmung, weil solche Merkmale bei vergleichbaren Objekten üblich sind. Dem Modell ist nicht bewusst, dass Ihre Kontextinformationen Interna sind, die keinen Bezug zum allgemeinen Wissen haben. Sie verknüpft scheinbar verwandte Datenpunkte. Im Exposé steht dann eine Ausstattung, die es nicht gibt. Bleibt der Fehler unbemerkt, sind die Konsequenzen rechtliche Folgen einer fehlerhaften Zusicherung.

Dagegen hilft Kontext-Engineering, die Disziplin, einer KI die richtigen Informationen in der richtigen Struktur bereitzustellen. Es erhöht die Wahrscheinlichkeit, dass KI-Modelle zuverlässig mit vorgegebenen Informationen arbeiten.

Mit Halluzinationen umgehen: Praktische Anleitung

KI-Halluzinationen lassen sich nicht vollständig vermeiden, aber wirksam steuern. Aus dem Artikel haben Sie die verschiedenen Gründe für KI-Halluzination kennengelernt. Entscheidend ist, dass aus dem Wissen über die Ursachen konkrete Routinen werden.

Maßnahmen gegen Halluzinationen aus dem Training

• Jede faktische Aussage als Hypothese behandeln, nicht als Wahrheit.
• Quellen, Zahlen und Zitate grundsätzlich gegenprüfen – besonders bei Namen, Daten und Verweisen.
• Gegenthese abfragen: nicht nur „Stimmt A?“, sondern auch „Spricht etwas gegen A?“.
• KI nie als alleinige Quelle für deal-relevante Fakten nutzen.

Maßnahmen gegen nutzer-induzierte Halluzinationen

• Prompts präzise und eindeutig formulieren, Mehrdeutigkeiten vermeiden bzw. erläutern.
• Neutral Anweisungen geben, statt bestätigend Fragen stellen („Bewerte kritisch“, nicht „Ist das nicht gut?“).
• Teams im Prompting schulen, damit Eingabequalität nicht vom Zufall abhängt.

Maßnahmen gegen Halluzinationen aus dem Kontext

• Wichtige Informationen an Anfang und Ende langer Dokumente platzieren (Primacy- und Recency-Effekt).
• Lange Dokumente aufteilen, statt alles in einen Prompt zu geben.
• Auf Faktenanbindung an geprüfte Datenquellen setzen (Retrieval) statt auf reines Modellwissen.
• Sauberes Kontext-Engineering als Standard etablieren, nicht als Einzelfall.
• Ausgaben systematisch automatisiert evaluieren. Hierzu gibt es spezielle Methoden.

Den KI-Einsatz in ein strukturiertes KI-Management gegen Halluzinationen einbetten.

• Klare Prozesse zur Qualitätssicherung definieren – wer prüft was, bevor ein Output verwendet wird.
• Menschliche Kontrolle bei kritischen Entscheidungen verbindlich vorschreiben.
• Bei agentischer KI besonders wachsam sein: Autonome Systeme handeln eigenständig und eine Halluzination kann sich hier ungeprüft fortpflanzen.

Checkliste: KI-Halluzination erkennen

Halluzinationen klingen überzeugend, deshalb hilft ein prüfender Blick auf wiederkehrende Warnsignale:

• Quellen, die sich nicht finden lassen: Studien, Urteile, Bücher oder Zitate, die bei der Gegenprüfung nicht existieren.
• Tote Links: angegebene URLs, die ins Leere führen oder nicht zum genannten Inhalt passen.
• Auffällig präzise Zahlen: exakte Werte, Daten oder Statistiken ohne belastbaren Beleg.
• Widersprüche in der Antwort: Aussagen, die sich innerhalb desselben Outputs gegenseitig aufheben.
• Andere Antwort auf die Gegenfrage: Die KI ändert ihre Aussage, wenn Sie die Gegenthese abfragen.
• Inhalte, die nicht im Dokument standen: Angaben, die über Ihren mitgegebenen Kontext hinausgehen (Stichwort Informationsvermengung).
• Übergroße Selbstsicherheit: ein bestimmter, fehlerfreier Ton trotz dünner oder fehlender Faktenlage.

Wie KI-Halluzinationen zur Managementsache werden

KI-Halluzinationen sind kein reines IT-Thema, sondern eine Führungsaufgabe. Auch wenn Sie ein KI-Modell als Tool in Ihrem Unternehmen einführen, welches durch Halluzination Fehler erzeugt: Der Anbieter des KI-Tools haftet nicht.

Die Haftung wurde ebenfalls regulatorisch festgehalten. Der EU AI Act verlangt je nach Risikoklasse Genauigkeit, Transparenz, Dokumentation und wirksame menschliche Aufsicht. Verstöße gegen die Betreiberpflichten können mit Bußgeldern von bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden (EU AI Act, Artikel 99). Eine belastbare KI-Governance ist damit nicht nur gutes Risikomanagement, sondern rechtliche Pflicht der Führungsebene.

In der Immobilienentwicklung beobachten wir als Partner ebenfalls hohe Risiken. Eine fehlerhafte KI-Ausgabe kann eine Transaktion gefährden, ein Genehmigungsverfahren verzögern oder Investorenvertrauen beschädigen. Also das, was sich am schwersten zurückgewinnen lässt.

Entscheiden Sie sich für einen Partner für KI-Transformation im Unternehmen, achten Sie darauf, dass dieser Halluzinationen an ihrer Wurzel adressiert, und Vorsichtsmaßnahmen ergreift. Durch unsere Erfahrung bei Anders & Ganz stehen wir Ihnen gerne mit dieser Herausforderung zur Seite.

FAQ