Seit dem 2. August 2026 gelten die Transparenzpflichten nach Artikel 50 des EU AI Act. Für Betriebe, die Anrufe mit einem KI-Telefonassistenten annehmen, ist das keine Randnotiz, sondern eine konkrete Betriebspflicht: Wer am Telefon mit einer Stimme spricht, die von einer künstlichen Intelligenz erzeugt wird, muss das in der Regel erfahren. Die KI-Kennzeichnungspflicht am Telefon verlangt eine klare, rechtzeitige Ansage – nicht versteckt in AGB, sondern verständlich zu Beginn des Gesprächs. Dieser Artikel erklärt, was Art. 50 EU AI Act für die telefonische Anrufannahme genau vorschreibt, wann die Pflicht greift und wann nicht, wie eine saubere Ansage formuliert ist, welche Dokumentation Aufsichtsbehörden erwarten und wie Sie die Umsetzung in 30, 60 und 90 Tagen realistisch angehen. Ziel ist eine Anrufannahme, die rechtskonform, ehrlich und trotzdem gesprächsfreundlich bleibt.
Das Wichtigste auf einen Blick
- Ein KI-Telefonassistent ist ein KI-System, das direkt mit Menschen interagiert. Nach Art. 50 Abs. 1 EU AI Act müssen Anrufer darüber informiert werden, dass sie mit einer KI sprechen – es sei denn, das ist für eine angemessen informierte Person ohnehin offensichtlich.
- Die Transparenzpflichten aus Art. 50 sind seit dem 2. August 2026 anwendbar; dieser Stichtag wurde durch den Digital Omnibus nicht verschoben.
- Die Kennzeichnung muss klar, rechtzeitig und verständlich erfolgen – am besten als kurze Ansage zu Beginn des Anrufs. Ein Hinweis nur in den AGB reicht nicht.
- Verstöße gegen die Transparenzpflichten können mit bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes geahndet werden; für KMU gilt jeweils der niedrigere Betrag. Die oft zitierten 35 Mio. € / 7 % betreffen ausschließlich verbotene Praktiken nach Art. 5.
- Kennzeichnung ersetzt keine DSGVO-Prozesse: Ansagepflicht (AI Act) und Aufzeichnung/Löschung von Gesprächsdaten (DSGVO) sind zwei getrennte Themen.
Was Art. 50 EU AI Act für die Anrufannahme konkret bedeutet
Antwort zuerst: Ein KI-Telefonassistent fällt unter die erste Fallgruppe von Art. 50 – KI-Systeme, die unmittelbar mit natürlichen Personen interagieren. Betreiber müssen sicherstellen, dass Anrufer wissen, dass sie mit einer Maschine sprechen.
Der EU AI Act ist seit dem 1. August 2024 in Kraft und wird stufenweise anwendbar. Die Transparenzpflichten aus Artikel 50 gelten seit dem 2. August 2026 – 24 Monate nach Inkrafttreten. Anders als viele Hochrisiko-Bestimmungen wurde dieser Termin auch durch den Digital Omnibus nicht nach hinten geschoben. Für Telefonie heißt das: Die Pflicht ist bereits scharf gestellt.
Wichtig ist die Rollenunterscheidung. Der Anbieter des KI-Systems (z. B. die Plattform hinter dem Assistenten) trägt Pflichten zur Gestaltung interaktiver Systeme und zur maschinenlesbaren Markierung. Der Betreiber – also Ihr Betrieb, der den Assistenten am eigenen Anschluss einsetzt – ist dafür verantwortlich, dass die Offenlegung im konkreten Anruf tatsächlich stattfindet. Beide Ebenen greifen ineinander.
Wann die Pflicht greift – und wann nicht
Die Offenlegungspflicht entfällt, wenn es für eine angemessen informierte, aufmerksame Person offensichtlich ist, dass sie mit einer KI spricht. Bei einer natürlich klingenden Stimme, die Termine bucht oder Rückrufe aufnimmt, ist das in der Praxis selten der Fall. Deshalb gilt: Im Zweifel kennzeichnen. Eine deutliche Ansage schafft Rechtssicherheit und ist zugleich der ehrlichere Weg gegenüber dem Anrufer.
Einsatz- und Entscheidungsmatrix: kennzeichnen, prüfen oder verzichten
Antwort zuerst: In den meisten Telefonszenarien ist eine aktive Ansage erforderlich. Die folgende Matrix ordnet typische Fälle ein.
| Szenario | Bewertung | Vorgehen |
|---|---|---|
| KI nimmt eingehende Anrufe an, bucht Termine, gibt Auskünfte | Geeignet – Kennzeichnung nötig | Klare Ansage zu Gesprächsbeginn |
| KI-Ausgangsanrufe (Terminerinnerung, Rückruf) | Geeignet – Kennzeichnung nötig | Ansage in den ersten Sätzen, vor inhaltlicher Interaktion |
| Reines Vorlese-Bandansagesystem ohne Interaktion | Prüfen | Keine echte KI-Interaktion – Einzelfall prüfen |
| Emotions- oder Stimmungserkennung im Gespräch | Riskant | Zusätzliche Informationspflichten und Prüfung gegen Verbote (Art. 5); DSGVO beachten |
| Offensichtlich künstliche, klar als Bot angekündigte Testumgebung | Ausnahme möglich | Wenn KI-Charakter offensichtlich ist, kann Pflicht entfallen – dokumentieren |
Einschränkung: Diese Matrix ersetzt keine rechtliche Einzelfallprüfung. Emotionserkennung und biometrische Kategorisierung sind gesondert geregelt und teils sogar verboten – hier ist besondere Vorsicht geboten.
Handlungslogik: die richtige Ansage am Telefon
Antwort zuerst: Die Kennzeichnung gehört an den Anfang des Gesprächs, in einfacher Sprache, bevor der Anrufer inhaltliche Angaben macht. Versteckte Hinweise im Kleingedruckten oder allgemeine AGB-Formulierungen genügen nicht.
Bewährt hat sich eine kurze, freundliche Formulierung, die den KI-Charakter benennt, ohne den Gesprächsfluss zu bremsen. Beispiele:
- „Guten Tag, Sie sprechen mit dem digitalen Telefonassistenten von [Betrieb]. Ich bin eine KI und helfe Ihnen gern weiter.“
- „Hallo, hier ist der KI-Assistent von [Betrieb]. Wenn Sie lieber mit einem Menschen sprechen möchten, sagen Sie einfach Bescheid.“
Der zweite Baustein – der Hinweis auf einen menschlichen Ansprechpartner – ist rechtlich nicht zwingend, erhöht aber Akzeptanz und Vertrauen deutlich. Wie ein solcher Assistent technisch arbeitet und wo seine Grenzen liegen, lesen Sie im Überblick wie ein KI-Telefonassistent funktioniert.
Human-Handover-Regeln
Transparenz und Übergabe an einen Menschen gehören zusammen. Definieren Sie klare Auslöser:
- Auf Wunsch: Sagt der Anrufer „Mensch“, „Mitarbeiter“ oder ähnlich, wird sofort weitergeleitet oder ein Rückruf angelegt.
- Bei Sensibilität: Beschwerden, Notfälle, gesundheits- oder vertragsrelevante Themen werden an einen Menschen übergeben.
- Bei Unsicherheit: Erkennt der Assistent, dass er die Anfrage nicht sicher beantworten kann, eskaliert er statt zu raten.
- Protokoll: Jede Übergabe wird mit Zeitpunkt und Grund dokumentiert – das stützt zugleich Ihr Qualitäts- und Compliance-Nachweiskonzept.
Dokumentation und Nachweis gegenüber Behörden
Antwort zuerst: Kennzeichnung ist eine Prozessfrage, kein einmaliger Disclaimer. Sie müssen belegen können, dass jeder Anruf ordnungsgemäß gekennzeichnet wurde.
Praktisch heißt das: ein KI-Inventar, in dem der Telefonassistent als eingesetztes KI-System erfasst ist; eine dokumentierte Standard-Ansage inklusive Versionsstand; sowie Nachweise, dass die Ansage aktiv ausgespielt wird. Diese Dokumentation dient sowohl als Nachweis gegenüber Aufsichtsbehörden als auch als Grundlage für interne Governance. Ergänzend gilt die KI-Kompetenzpflicht nach Art. 4 (seit Februar 2025): Mitarbeitende, die mit dem System arbeiten, sollten die Grundlagen kennen.
Trennen Sie sauber zwischen zwei Regelwerken: Die Ansagepflicht folgt aus dem AI Act, die Aufzeichnung und Speicherung von Gesprächsinhalten aus der DSGVO. Wie Sie Löschung und Aufbewahrung sauber aufsetzen, zeigt der Beitrag zu Gesprächsdaten und Löschkonzept nach DSGVO. Den gesamten datenschutzkonformen Betrieb behandelt außerdem der Leitfaden Voice AI datenschutzkonform betreiben.
30/60/90-Tage-Plan zur Umsetzung
Tag 0–30 – Bestandsaufnahme und Ansage:
- KI-Telefonassistent im KI-Inventar erfassen (Anbieter, Einsatzzweck, Rufnummern).
- Standard-Ansage formulieren und an den Gesprächsbeginn setzen; auf Verständlichkeit und Barrierefreiheit achten.
- Human-Handover-Wörter und Eskalationspfade festlegen.
Tag 31–60 – Prozesse und Tests:
- Testanrufe durchführen und protokollieren, ob die Ansage zuverlässig ausgespielt wird.
- Ansage auch für Ausgangsanrufe (Terminerinnerungen, Rückrufe) einrichten.
- Verantwortlichkeiten benennen; Mitarbeitende zur KI-Kompetenz schulen.
Tag 61–90 – Nachweis und Review:
- Compliance-Dokumentation zusammenstellen (Ansage-Versionen, Testprotokolle, Übergabe-Logs).
- Sonderfälle prüfen: Emotionserkennung, Mehrsprachigkeit, Ausnahmen dokumentieren.
- Turnus für regelmäßige Reviews festlegen und im Konfigurator die aktive Ansage prüfen: Assistent konfigurieren.
FAQ zur KI-Kennzeichnungspflicht am Telefon
Muss ich am Telefon sagen, dass ein KI-Assistent spricht?
Ja, in aller Regel. Nach Art. 50 Abs. 1 EU AI Act müssen Personen, die direkt mit einem KI-System interagieren, darüber informiert werden. Nur wenn der KI-Charakter für eine angemessen informierte Person offensichtlich ist, kann die Pflicht entfallen – bei natürlich klingenden Stimmen ist das selten.
Reicht ein Hinweis in den AGB oder auf der Website?
Nein. Die Information muss klar, rechtzeitig und verständlich erfolgen, praktisch also als Ansage zu Gesprächsbeginn. Versteckte Hinweise im Kleingedruckten oder allgemeine AGB-Formulierungen genügen den Anforderungen nicht.
Seit wann gilt die Pflicht?
Die Transparenzpflichten nach Art. 50 sind seit dem 2. August 2026 anwendbar. Dieser Stichtag wurde durch den Digital Omnibus nicht verschoben; verschoben wurden nur Teile der Hochrisiko-Pflichten.
Welche Bußgelder drohen bei Verstößen?
Verstöße gegen die Transparenzpflichten können mit bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes geahndet werden (Art. 99(4)(g)); für KMU gilt jeweils der niedrigere Betrag. Die verbreiteten 35 Mio. € / 7 % betreffen ausschließlich verbotene Praktiken nach Art. 5 und sind eine häufige Verwechslung.
Gilt die Pflicht auch für kleine Betriebe?
Ja. Die Kennzeichnungspflicht gilt unabhängig von der Unternehmensgröße. Für KMU und Start-ups sind bei Sanktionen lediglich Erleichterungen vorgesehen, die Pflicht selbst besteht aber.
Deckt die Kennzeichnung auch den Datenschutz ab?
Nein. Die AI-Act-Ansagepflicht und die DSGVO-Anforderungen an Aufzeichnung, Speicherung und Löschung von Gesprächsdaten sind getrennte Themen und müssen beide erfüllt werden. Details finden Sie in unseren Beiträgen zu Datenschutz und Löschkonzept.
Fazit
Die KI-Kennzeichnungspflicht am Telefon ist seit August 2026 gültige Rechtslage – und in der Praxis mit wenig Aufwand sauber umsetzbar. Eine klare Ansage zu Gesprächsbeginn, saubere Human-Handover-Regeln und eine nachvollziehbare Dokumentation genügen den Kernanforderungen aus Art. 50 EU AI Act. Wer jetzt handelt, vermeidet Bußgeldrisiken und gewinnt Vertrauen bei Anrufern. Sehen Sie sich an, wie eine konforme Anrufannahme in der Praxis klingt: KI selber ausprobieren. Häufige Fragen zum Einsatz beantwortet außerdem unsere FAQ-Seite.
Quellen
- Europäische Kommission / artificialintelligenceact.eu: „The EU AI Act’s Transparency Rules: A Practical Guide to Article 50“ – Transparenzpflichten in vier Fallgruppen, anwendbar ab 2. August 2026, klare KI-Offenlegung bei direkter Interaktion. https://artificialintelligenceact.eu/transparency-rules-article-50/ (abgerufen 09/2026).
- TÜV Rheinland Consulting: „Transparenzpflichten im EU AI Act – Art. 50“ – Kernpflichten Abs. 1, 3 und 4 anwendbar ab 2. August 2026, nicht vom Digital Omnibus betroffen; Sanktionsrahmen bis 15 Mio. € oder 3 % Umsatz. https://consulting.tuv.com/aktuelles/ki-im-fokus/transparenzpflichten-eu-ai-act-art-50 (abgerufen 09/2026).
- NENNA.AI: „Die Transparenzpflichten nach Art. 50 des EU AI Acts“ – erste Fallgruppe: KI-Systeme, die direkt mit natürlichen Personen interagieren (u. a. Voicebots); Offenlegungspflicht, Ausnahme bei Offensichtlichkeit. https://www.nenna.ai/blog/nenna-guide-eu-ai-act-transparenzpflicht (abgerufen 09/2026).
- AIActify: „KI-Kennzeichnungspflicht 2026 – Leitfaden (Art. 50 EU AI Act)“ – Stichtag 2. August 2026 nicht verschoben; Bußgelder bis 15 Mio. € / 3 % (Art. 99(4)(g)), Abgrenzung zu 35 Mio. € / 7 % (Art. 5); Pflicht unabhängig von Unternehmensgröße, KMU-Erleichterungen. https://www.aiactify.eu/de/ki-kennzeichnungspflicht (abgerufen 09/2026).
- Fraunhofer Academy Blog: „EU AI Act Art. 50 zu Transparenzpflichten tritt in Kraft“ – Rollen Anbieter/Betreiber, unmittelbare Geltung in Deutschland, keine pauschale Kennzeichnung jeder KI-Nutzung. https://blog.academy.fraunhofer.de/blogbeitraege/transparenzpflicht/ (abgerufen 09/2026).
- urbanstudio: „KI-Inhalte kennzeichnen: Was der EU AI Act seit August 2026 vorschreibt“ – Kennzeichnung als Prozessfrage, nicht als nachträglicher Disclaimer; Verweis auf Verordnung (EU) 2024/1689, Art. 50/99/113. https://urbanstudio.de/blog/ki/ki-kennzeichnungspflicht-eu-ai-act/ (abgerufen 09/2026).