Was der EU AI Act für KI am Telefon konkret verlangt
Die Regel steht in Artikel 50 Absatz 1 der KI-Verordnung, der Verordnung (EU) 2024/1689: Anbieter müssen KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipieren und entwickeln, dass die Personen informiert werden, dass sie mit einem KI-System interagieren. Ausgenommen ist nur der Fall, dass dies aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person aufgrund der Umstände offensichtlich ist. Ein Telefonassistent, der mit natürlicher Stimme abhebt, ist genau so ein System. Ein Chatbot kann „KI-Chat“ über das Fenster schreiben; am Telefon gibt es kein Fenster. Der Hinweis muss ins Gespräch, und der einfachste Platz dafür ist der erste Satz.
Der Wortlaut ist knapper, als viele erwarten. Er verlangt Information, keine Einwilligung: Der Anrufer muss nicht zustimmen, er muss es wissen. Er verlangt keine Registrierung in einer EU-Datenbank und kein Konformitätsverfahren, denn das sind Pflichten für Hochrisiko-Systeme (dazu unten mehr). Und er richtet sich an den Anbieter des Systems: Wer es baut und in Verkehr bringt, muss die Vorstellung einbauen. Die Kanzlei Morgan Lewis fasst es in ihrer Übersicht vom 12. August 2026 so zusammen: Welche Pflichten eine Organisation trifft, hängt davon ab, ob sie Anbieter oder Betreiber des Systems ist. Für Sie als Betrieb heißt das praktisch: Ihr Anbieter muss es liefern, Sie sollten es kontrollieren, denn am Telefon meldet sich Ihr Betrieb, nicht der Anbieter. Was ein KI-Telefonassistent überhaupt ist und übernimmt, steht auf der Übersichtsseite.
Digital Omnibus: was verschoben wurde, und was nicht
Am 27. Juli 2026 ist der Digital Omnibus zur KI-Verordnung in Kraft getreten, die Verordnung (EU) 2026/1744. Er verschiebt vor allem die Hochrisiko-Pflichten. Die Transparenzpflicht aus Artikel 50 Absatz 1 hat er nicht angefasst; die Kanzlei Goodwin überschreibt ihre Analyse vom 3. August 2026 deshalb mit „Not Delayed, Not Deferred“. Was das für einen KI-Telefonassistenten bedeutet, zeigt die Tabelle:
| Pflicht | Gilt ab | Betrifft KI-Telefonassistent? |
|---|---|---|
| Information bei direkter Interaktion (Art. 50 Abs. 1) | 2. August 2026, unverändert | Ja. Der Assistent muss sich als KI zu erkennen geben. |
| Kennzeichnung KI-erzeugter Audio-, Bild-, Video- und Textinhalte (Art. 50 Abs. 2) | 2. August 2026; für Systeme, die vorher schon auf dem Markt waren, 2. Dezember 2026 | Anbieterpflicht. Ob und wie sie gesprochene Antworten am Telefon erfasst, klärt Ihr Anbieter, nicht Sie. |
| KI-Kompetenz der Mitarbeiter (Art. 4) | seit 2. Februar 2025; vom Omnibus abgeschwächt auf Maßnahmen zur Förderung | Ja, als Betreiber: Wer die Rückrufliste und die Zusammenfassungen bearbeitet, sollte wissen, was die KI kann und was nicht. |
| Hochrisiko-Pflichten für Systeme nach Anhang III | 2. Dezember 2027 (vorher 2. August 2026) | Nein. Anrufannahme und Terminbuchung stehen nicht in Anhang III. |
| Hochrisiko-Pflichten für KI in regulierten Produkten (Anhang I) | 2. August 2028 | Nein. |
Zur Hochrisiko-Frage: Anhang III der Verordnung zählt die Bereiche auf, in denen KI als hochriskant gilt, unter anderem Bildung, Beschäftigung und Personalauswahl, Zugang zu grundlegenden Leistungen, Strafverfolgung. Anrufe annehmen, Anliegen erfassen und Termine buchen steht dort nicht. Nach heutigem Stand fällt ein KI-Telefonassistent für diese Aufgaben also nicht unter die Hochrisiko-Regeln. Das ist eine Einordnung, keine Garantie, und sie hängt am Anwendungsfall: Sobald eine KI am Telefon Bewerber bewertet oder über den Zugang zu Leistungen entscheidet, ist Anhang III wieder im Spiel. Die Kanzlei Gibson Dunn hat die neuen Fristen in ihrer Übersicht zum Omnibus zusammengestellt.
DSGVO und AI Act: zwei Regelwerke, ein Telefonat
Beide Gesetze treffen sich im selben Anruf, regeln aber Verschiedenes. Die DSGVO kümmert sich um die Daten: wer was in wessen Auftrag verarbeitet (Auftragsverarbeitungsvertrag), wie Anrufer über die Verarbeitung informiert werden (Datenschutzerklärung), wie lange etwas gespeichert bleibt (Löschfristen), wo die Server stehen. Der AI Act kümmert sich um die Täuschung: Der Anrufer soll wissen, dass eine Maschine spricht. Ein Betrieb kann die DSGVO sauber erfüllen und trotzdem gegen Artikel 50 verstoßen, wenn der Assistent sich als „Frau Müller vom Empfang“ ausgibt. Umgekehrt genauso.
Was die DSGVO im Einzelnen verlangt, steht im Beitrag Ist ein KI-Telefonassistent DSGVO-konform? Ob und wie ein Gespräch aufgezeichnet werden darf, ist eine eigene datenschutz- und strafrechtliche Frage, die wir hier bewusst nicht behandeln.
Checkliste: so setzt ein Betrieb die Transparenzpflicht um
- Vorstellungssatz anhören. Rufen Sie Ihre eigene Nummer an, wenn der Assistent rangeht. Sagt er im ersten Satz, dass er eine KI ist? Kommt der Hinweis erst nach der Terminfrage oder gar nicht, ist das der erste Punkt fürs Gespräch mit dem Anbieter.
- Anbieter fragen, wie er Artikel 50 umsetzt. Wer stellt sicher, dass die Vorstellung in jedem Gespräch fällt, auch nach Updates? Lassen Sie sich das schriftlich geben.
- DSGVO-Unterlagen nachziehen: Auftragsverarbeitungsvertrag, Datenschutzerklärung, Verzeichnis der Verarbeitungstätigkeiten. Das ist DSGVO, nicht AI Act, aber es gehört zum selben Anruf.
- Team informieren. Wer bekommt die Rückrufliste, wer die Zusammenfassungen, was sagen Ihre Leute, wenn ein Kunde fragt „War das eben eine KI?“. Artikel 4 verlangt von Betreibern Maßnahmen, die die KI-Kompetenz der Mitarbeiter fördern; eine kurze Einweisung ist so eine Maßnahme. Festhalten lässt sich das in einer KI-Richtlinie, ein Muster mit zehn Abschnitten gibt es kostenlos.
- Ansagetext prüfen. Läuft vor dem Assistenten noch eine Bandansage, sollte auch sie nicht so tun, als warte ein Mensch. Vorlagen dafür: Anrufbeantworter-Ansagen für Betriebe.
- Probeanruf mit fremden Ohren. Lassen Sie jemanden anrufen, der das System nicht kennt, und fragen Sie danach: „Wussten Sie, dass Sie mit einer KI gesprochen haben?“ Wenn die Antwort zögert, war der Hinweis zu leise.
Was passiert bei Verstößen?
Die Bußgelder stehen in Artikel 99. Für Verstöße gegen die Transparenzpflichten aus Artikel 50 sieht Absatz 4 Geldbußen von bis zu 15 Millionen Euro oder, bei Unternehmen, bis zu 3 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor, je nachdem, welcher Betrag höher ist. Für KMU einschließlich Start-ups gilt nach Absatz 6 der jeweils niedrigere Betrag. Ob und in welcher Höhe eine Buße verhängt wird, richtet sich nach Absatz 7 nach den Umständen des Einzelfalls; die Mitgliedstaaten können nach Absatz 1 auch Verwarnungen und nichtmonetäre Maßnahmen vorsehen.
Zuständig in Deutschland: Seit dem 29. Juli 2026 ist das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) in Kraft. Es macht die Bundesnetzagentur zur Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle für die KI-Verordnung und baut zugleich auf den Zuständigkeiten der bestehenden Marktüberwachungsbehörden auf, so das Bundesministerium für Digitales und Staatsmodernisierung in seiner Pressemitteilung vom 29. Juli 2026. Ein Anrufer, der sich getäuscht fühlt, hat damit eine Adresse.
Was der AI Act verlangt und was Steffi tut
| Was der AI Act verlangt | Was Steffi tut |
|---|---|
| Anrufer erfahren, dass eine KI spricht (Art. 50 Abs. 1) | Wird standardmäßig so eingerichtet, dass sie sich am Telefon als Erstes als KI vorstellt. |
| Kein Mensch wird vorgespielt (Erwägungsgrund 132: Täuschung) | Spielt niemandem einen Menschen vor. Die Stimme klingt natürlich, der Hinweis auf die KI gehört in die Begrüßung. |
| Hochrisiko-Verfahren: für Anrufannahme nicht verlangt (Anhang III) | Nimmt Anrufe an, erfasst Anliegen, bucht Termine. Rechts-, Steuer- oder medizinische Auskünfte gibt sie nicht; sie nimmt das Anliegen auf und kündigt den Rückruf an. |
| Vom AI Act nicht verlangt, bei uns trotzdem Standard | Beantwortet nur, was Sie vorher freigegeben haben; vor dem Start hören Sie Probegespräche. Verarbeitung nach DSGVO mit Auftragsverarbeitungsvertrag und klaren Löschfristen. |
Wie sich das im Gespräch anhört, beschreibt die Seite zu Steffi; woran Sie eine seriös eingerichtete KI am Telefon erkennen, die Checkliste KI-Anrufe erkennen.
Quellen und Stand
- Verordnung (EU) 2024/1689 (KI-Verordnung), EUR-Lex: Art. 4, Art. 50, Art. 99, Anhang III.
- Verordnung (EU) 2026/1744 (Digital Omnibus zur KI-Verordnung), EUR-Lex, in Kraft seit 27. Juli 2026.
- Europäische Kommission: Leitlinien zu den Transparenzpflichten für Anbieter und Betreiber von KI-Systemen, angenommen am 20. Juli 2026.
- Goodwin: „Not Delayed, Not Deferred: EU AI Act Transparency Obligations Are Now in Force“, 3. August 2026.
- Morgan Lewis: „EU AI Act’s Transparency Rules: What Went Into Effect on 2 August?“, 12. August 2026.
- Gibson Dunn: „EU AI Act Omnibus Agreement“, 27. Mai 2026.
- BMDS: „Neues KI-Gesetz tritt in Kraft“, Pressemitteilung 47/2026, 29. Juli 2026.
Dieser Artikel ist keine Rechtsberatung. Er gibt den Stand vom 30. August 2026 wieder; für Ihren Einzelfall hilft eine Datenschutzbeauftragte oder ein Fachanwalt. Was ein Assistent für Ihren Betrieb kostet, klären Sie im kostenlosen Erstgespräch.