Wie zuverlässig ist ein KI-Telefonassistent? Genauigkeit, Halluzinationen und Qualitätskontrolle

Kurzfassung: Wie zuverlässig ein KI-Telefonassistent ist, entscheidet sich nicht an der Stimme, sondern an der Qualitätssicherung im Betrieb. Sprachbasierte KI kann „halluzinieren" – also selbstbewusst falsche Auskünfte geben. Das lässt sich nicht vollständig ausschließen, aber mit vier Hebeln stark begrenzen: Antworten an eine gepflegte Wissensdatenbank binden (Fact-Grounding), Confidence-Schwellen setzen, klare Human-Handover-Regeln definieren und die Qualität mit Kennzahlen wie der Containment-Quote messen. Dieser Leitfaden erklärt, warum falsche Auskünfte entstehen, wann ein Assistent geeignet, bedingt geeignet oder riskant ist, und liefert eine Einsatzmatrix, einen 30/60/90-Tage-Plan sowie Human-Handover-Regeln – ohne Preisversprechen und ohne erfundene Zahlen.

Einleitung: Zuverlässigkeit ist ein Betriebsergebnis, keine Produkteigenschaft

„Kann ich mich darauf verlassen, dass die KI keinen Unsinn erzählt?" – das ist die Frage, die im DACH-Mittelstand über die Einführung eines KI-Telefonassistenten entscheidet. Sie ist berechtigt. Denn ein Assistent, der Öffnungszeiten, Preise oder Zuständigkeiten frei erfindet, richtet mehr Schaden an als ein verpasster Anruf. Die gute Nachricht: Die Zuverlässigkeit eines KI-Telefonassistenten ist keine feste Eigenschaft, die man beim Kauf mitbekommt oder eben nicht. Sie ist das Ergebnis von Konfiguration, Datenpflege und klaren Regeln – also von Dingen, die ein Betrieb steuern kann. Dieser Artikel richtet sich an Inhaberinnen, IT-Verantwortliche und Branchen-Entscheider. Er erklärt, wo falsche Auskünfte technisch herkommen, wie man sie im laufenden Betrieb eindämmt und woran man einen zuverlässigen Assistenten erkennt. Er baut auf dem Grundlagenbeitrag Wie funktioniert ein KI-Telefonassistent? auf und vertieft nicht die Technik an sich, sondern ihre Qualitätssicherung.

Das Wichtigste auf einen Blick

• Ein KI-Telefonassistent ist so zuverlässig wie seine Konfiguration: Genauigkeit hängt von der angebundenen Wissensdatenbank, klaren Antwortgrenzen und einer sauberen Übergabe an Menschen ab – nicht von der Natürlichkeit der Stimme.
• Sprach-KI kann „halluzinieren": Das NIST bezeichnet dieses Phänomen als „Confabulation" – die Produktion selbstbewusst formulierter, aber falscher Inhalte, durch die Nutzende in die Irre geführt werden können.
• Halluzinationen lassen sich reduzieren, aber nach heutigem Stand nicht vollständig ausschließen; laut IBM sind sie ein inhärentes Merkmal generativer KI, das gemindert, aber nicht restlos beseitigt werden kann.
• Der wirksamste Hebel gegen falsche Auskünfte ist Fact-Grounding: Der Assistent antwortet ausschließlich aus geprüften, hinterlegten Informationen (Retrieval-Augmented Generation), statt aus dem Gedächtnis des Modells zu raten.
• Verantwortlich für falsche Auskünfte bleibt der Betrieb, nicht „die KI": Im Fall Moffatt v. Air Canada (2024) wurde ein Unternehmen für die fehlerhafte Auskunft seines Chatbots haftbar gemacht. Zusätzlich gilt seit dem 2. August 2026 die Transparenzpflicht nach Artikel 50 der EU-KI-Verordnung.

Was bedeutet „zuverlässig" bei einem KI-Telefonassistenten?

Antwort vorweg: Zuverlässigkeit bei einem Voicebot heißt, dass er richtige Anliegen richtig versteht, korrekte Auskünfte gibt und bei Unsicherheit nicht rät, sondern nachfragt oder an einen Menschen übergibt. Sie setzt sich aus drei Ebenen zusammen.

• Verstehen (Spracherkennung): Wird das Gesprochene korrekt in Text umgewandelt? Fehler entstehen hier durch Dialekt, Nebengeräusche oder undeutliche Aussprache.
• Antworten (Genauigkeit der Inhalte): Stimmt die inhaltliche Auskunft – etwa zu Öffnungszeiten, Terminen oder Zuständigkeiten? Hier drohen Halluzinationen.
• Handeln (richtige Aktion): Führt der Assistent die richtige Aktion aus (Termin buchen, Rückruf notieren, weiterleiten) und erkennt er, wann er es lieber lassen sollte?

Wichtig für die Einordnung: Ein natürlich klingender Assistent ist nicht automatisch ein genauer Assistent. Sprachqualität und inhaltliche Richtigkeit sind zwei verschiedene Dinge. Ein System kann täuschend menschlich klingen und trotzdem inhaltlich danebenliegen – gerade das macht falsche Auskünfte am Telefon gefährlich.

Warum entstehen falsche Auskünfte? Halluzinationen verständlich erklärt

Antwort vorweg: Falsche Auskünfte sind kein „Bug", sondern eine Folge davon, wie generative Sprachmodelle funktionieren. Sie sagen das statistisch wahrscheinlichste nächste Wort voraus – nicht die geprüfte Wahrheit.

Der Begriff: Halluzination oder Confabulation

Das US-amerikanische National Institute of Standards and Technology (NIST) definiert das Phänomen als „Confabulation": die Produktion selbstbewusst formulierter, aber falscher Inhalte, umgangssprachlich „Halluzinationen" oder „Fabrications" genannt, durch die Nutzende in die Irre geführt werden können. Laut NIST sind Konfabulationen ein natürliches Ergebnis der Bauweise generativer Modelle: Sie erzeugen Ausgaben, die der statistischen Verteilung ihrer Trainingsdaten entsprechen – ein Sprachmodell sagt das nächste Wort voraus, und dieselbe Mechanik kann sowohl korrekte als auch faktisch falsche Aussagen produzieren. IBM beschreibt Halluzinationen entsprechend als Ausgaben, die plausibel klingen, aber faktisch falsch, irrelevant oder frei erfunden sind.

Warum das am Telefon besonders heikel ist

Das eigentliche Risiko liegt laut NIST nicht in der Existenz solcher Fehler, sondern darin, dass Menschen sie glauben – gerade weil die Antwort selbstbewusst vorgetragen wird und Nutzende darauf handeln. Am Telefon fehlt zudem der Kontext: Es gibt keine sichtbare Quelle, keinen Link zum Nachprüfen, keine zweite Meinung im selben Moment. Eine falsche Zusage („Ja, Sie können den Termin kostenlos stornieren") wird sofort geglaubt und danach gehandelt.

Die ehrliche Grenze

Man sollte niemandem versprechen, dass ein Assistent nie irrt. IBM ordnet Halluzinationen als inhärentes Merkmal generativer KI ein, das reduziert, aber nicht vollständig eliminiert werden kann. Genau deshalb geht es im Betrieb nicht um „fehlerfrei", sondern um „beherrscht": Fehler unwahrscheinlich machen, früh erkennen und ihre Folgen begrenzen.

Die vier Hebel für einen zuverlässigen KI-Telefonassistenten

Antwort vorweg: Vier Maßnahmen entscheiden über die Genauigkeit im Alltag. Sie greifen ineinander und sollten alle konfiguriert sein, bevor ein Assistent produktiv geht.

1. Fact-Grounding: Antworten an eine Wissensdatenbank binden

Der wirksamste Hebel ist, den Assistenten nicht frei formulieren zu lassen, sondern seine Antworten an geprüfte, hinterlegte Informationen zu koppeln. Diese Technik heißt Retrieval-Augmented Generation (RAG): Das System sucht vor der Antwort passende Inhalte in einer Wissensdatenbank und antwortet auf dieser Grundlage. Google Cloud beschreibt, dass das Bereitstellen von „Fakten" als Teil der Eingabe Halluzinationen mindern kann – entscheidend ist, dass die Ausgabe vollständig auf diesen bereitgestellten Fakten beruht. Für den Betrieb heißt das konkret: Öffnungszeiten, Leistungen, Preise, Zuständigkeiten und FAQ gehören sauber gepflegt in die Wissensbasis. Was dort nicht steht, soll der Assistent nicht erfinden.

2. Confidence-Schwellen: Im Zweifel nicht raten

Ein guter Assistent kennt seine Unsicherheit. Über eine Confidence-Schwelle wird festgelegt: Ist sich das System nicht sicher genug, gibt es keine Antwort ins Blaue, sondern stellt eine Rückfrage, bietet einen Rückruf an oder übergibt an einen Menschen. Diese „Erlaubnis, nicht zu antworten" ist zentral, weil viele Fehler genau dann entstehen, wenn ein Modell trotz fehlender Informationen hilfsbereit sein will.

3. Guardrails: Klare inhaltliche Leitplanken

Guardrails legen fest, worüber der Assistent überhaupt Auskunft geben darf und worüber nicht. Verbindliche Zusagen, Rechts- oder Gesundheitsauskünfte oder individuelle Sonderfälle werden bewusst ausgeschlossen und an Menschen geleitet. So wird die Angriffsfläche für folgenreiche Fehler kleiner.

4. Human-Handover: Die Übergabe als Sicherheitsnetz

Die geordnete Rückgabe an einen Menschen ist kein Notbehelf, sondern Qualitätsmerkmal. Sie fängt genau die Fälle auf, in denen die KI unsicher ist oder nicht zuständig sein soll. Wie eine solche Handover-Logik technisch und organisatorisch sauber eingebettet wird, behandelt der Beitrag Voice AI datenschutzkonform betreiben.

Einsatzmatrix: Wann ist ein KI-Telefonassistent geeignet, bedingt geeignet oder riskant?

Antwort vorweg: Je standardisierter das Anliegen und je besser es in der Wissensdatenbank abgedeckt ist, desto zuverlässiger arbeitet der Assistent. Je folgenreicher und individueller die Auskunft, desto eher gehört sie zum Menschen.

Faustregel: Ein zuverlässiger Assistent ist nicht der, der auf alles eine Antwort hat, sondern der, der seine Grenzen kennt. Welche Anliegen sich je Branche sinnvoll automatisieren lassen, zeigt die Branchenübersicht.

Human-Handover-Regeln: Wann der Mensch übernimmt

Antwort vorweg: Die Übergabe muss vorab schriftlich definiert, technisch hinterlegt und mit echten Testanrufen geprüft sein – nicht dem Zufall überlassen.

• Unsicherheit: Fällt die Confidence unter die Schwelle, rät der Assistent nicht, sondern fragt nach oder übergibt.
• Sensible Themen: Gesundheits-, Rechts- oder Beschwerdethemen werden konsequent an einen Menschen geleitet.
• Verbindliche Zusagen: Preis-, Kulanz- oder Vertragsfragen entscheidet ein Mensch, nicht der Automat.
• Notfälle und Emotion: Hinweise auf Notlagen oder erkennbarer Ärger führen zur sofortigen Übergabe, ohne Warteschleife.
• Wiederholtes Missverstehen: Versteht der Assistent ein Anliegen mehrfach nicht, bietet er aktiv Rückruf oder Weiterleitung an.

Diese Grenzkompetenz ist die eigentliche Reifeprüfung. Sie sorgt dafür, dass ein falsch verstandenes Anliegen strukturiert beim richtigen Team landet, statt in einer erfundenen Antwort zu enden.

Qualität messen: Kennzahlen statt Bauchgefühl

Antwort vorweg: Zuverlässigkeit muss man messen, nicht behaupten. Vier Kennzahlen machen die Qualität eines KI-Telefonassistenten sichtbar.

• Containment-Quote: Anteil der Anrufe, die der Assistent vollständig und korrekt selbst erledigt. Wichtig: hohe Containment-Quote nur wertvoll, wenn die Erledigung auch richtig war.
• Eskalations-/Übergabequote: Anteil der sauber an Menschen übergebenen Gespräche. Eine gesunde Quote ist ein Zeichen funktionierender Grenzen, kein Makel.
• Fehlerkennungsquote: Wie oft wird die Absicht oder ein wichtiges Detail falsch erfasst? Diese Quote deckt Verstehensfehler auf.
• Korrektheit der Auskünfte: Stichprobenartige Prüfung von Transkripten gegen die hinterlegte Wissensdatenbank, um Halluzinationen früh zu erkennen.

Diese Kennzahlen sind der Frühwarnmechanismus. Fällt die Korrektheit oder steigt die Fehlerkennungsquote, ist meist die Wissensbasis veraltet oder eine Guardrail zu weit gefasst. Offene Fragen zur Auswertung klärt der Abschnitt häufige Fragen.

30/60/90-Tage-Plan: Zuverlässigkeit systematisch aufbauen

Antwort vorweg: Bauen Sie Zuverlässigkeit in drei Phasen auf – erst Fakten und Grenzen klären, dann kontrolliert testen, dann anhand von Kennzahlen nachschärfen.

Phase 1 – Wissensbasis und Grenzen definieren (Tage 1–30)

• Wissensdatenbank aufbauen: Öffnungszeiten, Leistungen, FAQ, Zuständigkeiten strukturiert und geprüft hinterlegen.
• Guardrails festlegen: Welche Themen darf der Assistent beantworten, welche gehören zwingend zum Menschen?
• Confidence-Schwelle und Fallback-Ansage konfigurieren (Rückfrage, Rückruf, Übergabe).
• Transparenz-Ansage vorbereiten (KI-Hinweis nach Art. 50 EU AI Act).

Phase 2 – Kontrolliert testen (Tage 31–60)

• Realistische Testanrufe je Anliegen, inklusive Sonderfällen, Nebengeräuschen und Dialekt.
• Gezielt Halluzinationen provozieren: Fragen stellen, die nicht in der Wissensbasis stehen – reagiert der Assistent mit Übergabe statt Erfindung?
• Human-Handover-Regeln mit echten Übergaben prüfen: Landen Anliegen strukturiert beim richtigen Team?
• Transkripte auswerten und offensichtliche Fehlerquellen korrigieren.

Phase 3 – Messen und nachschärfen (Tage 61–90)

• Kennzahlen etablieren: Containment-, Übergabe-, Fehlerkennungsquote und Korrektheitsstichprobe.
• Wissensbasis-Pflege verankern: Wer aktualisiert Inhalte in welchem Rhythmus?
• Review-Termin festlegen, um Schwellen und Guardrails datenbasiert anzupassen.

Einen ersten Höreindruck vermittelt die KI selber ausprobieren; eine unverbindliche Erstkonfiguration lässt sich über den Konfigurator zusammenstellen.

Wer haftet für falsche Auskünfte?

Antwort vorweg: Der Betrieb, nicht „die KI". Wer einen KI-Telefonassistenten einsetzt, verantwortet dessen Auskünfte wie die eigener Mitarbeitender.

Das zeigt der Fall Moffatt v. Air Canada (2024 BCCRT 149): Ein kanadisches Tribunal machte die Fluggesellschaft für eine falsche Auskunft ihres Chatbots verantwortlich und wertete dies als fahrlässige Falschauskunft. Das Argument, der Chatbot sei eine eigenständige Instanz, die für ihre Aussagen selbst hafte, wies das Gremium ausdrücklich zurück. Für den KI-Telefonassistenten gilt dieselbe Logik: Genauigkeit ist damit nicht nur ein Qualitäts-, sondern ein Haftungsthema. Unabhängig davon gilt seit dem 2. August 2026 die Transparenzpflicht nach Artikel 50 der EU-KI-Verordnung – Anrufende müssen erkennbar erfahren, dass sie mit einem KI-System sprechen.

Häufige Fragen (FAQ)

Kann ein KI-Telefonassistent falsche Auskünfte geben?

Ja, das ist grundsätzlich möglich. Sprachbasierte KI kann „halluzinieren" – das NIST spricht von „Confabulation", also selbstbewusst formulierten, aber falschen Inhalten. Solche Fehler lassen sich durch Fact-Grounding, Confidence-Schwellen und Guardrails stark eindämmen, nach heutigem Stand aber nicht vollständig ausschließen. Deshalb sind Human-Handover-Regeln und Qualitätskontrolle Pflicht.

Wie verhindert man Halluzinationen bei einem Voicebot?

Der wirksamste Weg ist Fact-Grounding: Der Assistent antwortet nur aus einer gepflegten, geprüften Wissensdatenbank statt frei aus dem Modellwissen. Ergänzend sorgen Confidence-Schwellen dafür, dass er bei Unsicherheit nicht rät, sondern nachfragt oder übergibt. Guardrails schließen folgenreiche Themen aus. Entscheidend ist außerdem, die Wissensbasis aktuell zu halten – veraltete Inhalte sind eine häufige Fehlerquelle.

Woran erkenne ich einen zuverlässigen KI-Telefonassistenten?

Nicht an der schönsten Stimme, sondern am Verhalten bei Unsicherheit. Ein zuverlässiges System gibt zu, wenn es etwas nicht weiß, fragt nach und übergibt sauber an einen Menschen. Prüfen Sie das mit gezielten Testanrufen, indem Sie Fragen stellen, die nicht hinterlegt sind – ein gutes System erfindet dann keine Antwort. Messbar wird Zuverlässigkeit über Containment-, Fehlerkennungs- und Übergabequote.

Ist ein KI-Telefonassistent genauer als ein Mensch?

Das lässt sich nicht pauschal sagen. Bei standardisierten, gut dokumentierten Anliegen ist ein Assistent konsistent und ermüdungsfrei. Bei individuellen, folgenreichen oder emotionalen Gesprächen ist der Mensch überlegen. Zuverlässigkeit entsteht deshalb aus der Arbeitsteilung: Der Assistent übernimmt Wiederkehrendes, der Mensch das Komplexe – geregelt über klare Übergaben.

Wer haftet, wenn die KI am Telefon etwas Falsches sagt?

In der Regel der Betrieb, der den Assistenten einsetzt. Der Fall Moffatt v. Air Canada (2024) zeigt, dass sich ein Unternehmen nicht mit dem Argument entlasten kann, der Bot sei eine eigenständige Instanz. Das ist ein Grund mehr, folgenreiche Auskünfte per Guardrail auszuschließen und an Menschen zu leiten. Rechtsberatung ersetzt dieser Hinweis nicht.

Muss ich Anrufende darüber informieren, dass eine KI antwortet?

Ja. Seit dem 2. August 2026 gilt die Transparenzpflicht nach Artikel 50 der EU-KI-Verordnung. Anrufende müssen erkennbar erfahren, dass sie mit einem KI-System sprechen – sinnvollerweise direkt zu Gesprächsbeginn.

Fazit: Grenzen kennen ist die eigentliche Kompetenz

Die Frage „Wie zuverlässig ist ein KI-Telefonassistent?" beantwortet sich nicht mit der Technik allein, sondern mit dem Betrieb dahinter. Wer Antworten an eine gepflegte Wissensdatenbank bindet, Confidence-Schwellen setzt, folgenreiche Themen per Guardrail ausschließt und klare Human-Handover-Regeln definiert, macht falsche Auskünfte unwahrscheinlich – und fängt die verbleibenden Fälle geordnet auf. Gemessen wird der Erfolg an Kennzahlen wie Containment-, Fehlerkennungs- und Übergabequote, nicht am Bauchgefühl. Die wichtigste Erkenntnis: Ein zuverlässiger Assistent ist der, der seine Grenzen kennt und im Zweifel übergibt.

Sie möchten hören, wie ein sauber konfigurierter KI-Telefonassistent mit Unsicherheit umgeht? KI selber ausprobieren, eine erste Konfiguration im Konfigurator zusammenstellen oder weitere Beiträge im hey-listen.ai Wissenshub lesen.

Quellen

• NIST – AI 600-1 „Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" (Juli 2024): Verwendete Aussagen: Definition „Confabulation" als Produktion selbstbewusst formulierter, aber falscher Inhalte („Halluzinationen"/„Fabrications"); Konfabulationen sind ein natürliches Ergebnis der Bauweise generativer Modelle (Vorhersage des nächsten Worts); Risiko entsteht, weil Nutzende der selbstbewusst vorgetragenen falschen Antwort vertrauen und darauf handeln. URL: doi.org/10.6028/NIST.AI.600-1, abgerufen 02.09.2026.
• IBM – „What Are AI Hallucinations?" (ibm.com/think): Verwendete Aussagen: KI-Halluzinationen sind Ausgaben, die plausibel klingen, aber faktisch falsch, irrelevant oder frei erfunden sind; Halluzinationen sind ein inhärentes Merkmal generativer KI und können reduziert, aber nicht vollständig eliminiert werden. URL: ibm.com/think/topics/ai-hallucinations, abgerufen 02.09.2026.
• Google Cloud – „What is Retrieval-Augmented Generation (RAG)?": Verwendete Aussage: Das Bereitstellen von „Fakten" als Teil der Eingabe kann Halluzinationen mindern; entscheidend ist, dass die Ausgabe vollständig auf den bereitgestellten Fakten beruht. URL: cloud.google.com/use-cases/retrieval-augmented-generation, abgerufen 02.09.2026.
• Moffatt v. Air Canada, 2024 BCCRT 149 (Civil Resolution Tribunal, British Columbia, Entscheidung 14.02.2024): Verwendete Aussagen: Das Unternehmen wurde für die falsche Auskunft seines Chatbots als fahrlässige Falschauskunft haftbar gemacht; das Argument, der Chatbot sei eine eigenständige, selbst haftende Instanz, wurde zurückgewiesen. Quelle (Zusammenfassung): American Bar Association, „BC Tribunal Confirms Companies Remain Liable for Information Provided by AI Chatbot". URL: americanbar.org, abgerufen 02.09.2026.
• Verordnung (EU) 2024/1689 (EU AI Act), Art. 50 – Transparenzpflichten: Verwendete Aussage: Anrufende müssen seit dem 2. August 2026 erkennbar darüber informiert werden, dass sie mit einem KI-System interagieren. URL: eur-lex.europa.eu, abgerufen 02.09.2026.