Was Art. 50 Abs. 1 EU AI Act regelt
Der EU AI Act – die Verordnung (EU) 2024/1689 über künstliche Intelligenz – ordnet KI-Systeme nach ihrem Risiko ein. Ein KI-Telefonassistent, der Anrufe annimmt und Anliegen aufnimmt, ist in aller Regel kein Hochrisiko-System. Für ihn sind vor allem die Transparenzpflichten aus Art. 50 relevant.
Art. 50 Abs. 1 verlangt, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betroffenen Personen informiert werden, dass sie mit einem KI-System interagieren. Eine Ausnahme gilt, wenn das aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person aufgrund der Umstände offensichtlich ist.
Am Telefon greift diese Ausnahme praktisch nie. Moderne Sprachausgabe klingt natürlich, und ein Anrufer erwartet beim Wählen einer Firmennummer zunächst einen Menschen. Ein KI-Telefonassistent sollte sich deshalb immer zu Beginn als KI zu erkennen geben.
Nach Art. 50 Abs. 5 muss die Information klar und eindeutig erfolgen, spätestens zum Zeitpunkt der ersten Interaktion. Ein Hinweis irgendwo auf der Website reicht dafür nicht. Er gehört in die ersten Sätze des Gesprächs.
Anbieter und Betreiber: Wer ist verantwortlich?
Anbieter (Art. 3 Nr. 3)
Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Die Pflicht aus Art. 50 Abs. 1 richtet sich an den Anbieter: Er muss das System so gestalten, dass der KI-Hinweis erfolgt. Bei einem individuell gebauten Telefonassistenten ist das der Dienstleister, der ihn entwickelt, je nach Vertragsgestaltung kann es auch das Unternehmen selbst sein.
Betreiber (Art. 3 Nr. 4)
Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich verwendet – also das Unternehmen, dessen Anrufe der Assistent annimmt. Auch wenn Art. 50 Abs. 1 den Anbieter adressiert, sollten Sie als Betreiber prüfen, dass der Hinweis tatsächlich erfolgt und nicht etwa bei einer Änderung der Begrüßung verloren geht. Pflichten nach Abs. 3 und 4 richten sich dagegen direkt an Betreiber.
Formulierungsbeispiele für die Begrüßung
Der KI-Hinweis sollte kurz, verständlich und gleich am Anfang stehen. Diese Beispiele zeigen unterschiedliche Tonlagen. Passen Sie sie an Ihr Unternehmen an.
| Situation | Beispielformulierung |
|---|---|
| Allgemein | „Guten Tag, Sie sprechen mit dem KI-Assistenten von Muster GmbH. Wie kann ich Ihnen helfen?“ |
| Außerhalb der Geschäftszeiten | „Guten Abend, hier ist der digitale Assistent der Praxis Dr. Weber. Ich bin eine KI und nehme Ihr Anliegen auf, damit das Team sich morgen bei Ihnen meldet.“ |
| Mit Option auf einen Menschen | „Willkommen bei Muster Immobilien. Ich bin ein KI-Assistent. Ich helfe Ihnen gern weiter oder verbinde Sie mit einer Mitarbeiterin.“ |
| Mit Datenschutz-Kurzhinweis | „Hallo, hier spricht der KI-Assistent der Kanzlei Muster. Ihr Anliegen wird für die Bearbeitung erfasst, Hinweise zum Datenschutz finden Sie auf unserer Website. Worum geht es?“ |
| Englisch | „Hello, you are speaking with the AI assistant of Muster GmbH. How can I help you?“ |
Vermeiden Sie Formulierungen, die den Hinweis verstecken oder verharmlosen, etwa einen menschlichen Vornamen ohne Zusatz. Ein Name für den Assistenten ist möglich, solange klar bleibt, dass eine KI spricht.
Synthetische Stimmen und Deepfakes: Art. 50 Abs. 2 und 4
Neben dem Interaktionshinweis enthält Art. 50 weitere Transparenzpflichten. Abs. 2 verpflichtet Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, diese Ausgaben in einem maschinenlesbaren Format zu kennzeichnen, sodass sie als künstlich erzeugt erkennbar sind. Wie das bei einer live erzeugten Telefonstimme technisch umzusetzen ist, wird durch Leitlinien und Verhaltenskodizes der EU-Kommission konkretisiert. Für bereits vorher in Verkehr gebrachte Systeme wurden Übergangsregeln beschlossen. Fragen Sie Ihren Anbieter, wie er diese Pflicht erfüllt.
Abs. 4 betrifft Betreiber, die sogenannte Deepfakes erzeugen – also Inhalte, die real existierenden Personen täuschend ähneln und fälschlich echt wirken. Für einen KI-Telefonassistenten ist das vor allem relevant, wenn die Stimme eines echten Mitarbeiters nachgebildet werden soll. Davon raten wir ab. Eine neutrale synthetische Stimme zusammen mit einem klaren KI-Hinweis vermeidet das Problem von vornherein.
Kennzeichnung im Gesprächsablauf richtig einbauen
In der Praxis wird der KI-Hinweis selten vergessen, aber oft an der falschen Stelle platziert. Typisch ist ein Sprachmenü, das zuerst mehrere Optionen ansagt und erst danach an den Assistenten übergibt. Der Anrufer hört dann lange nichts von einer KI. Besser ist es, den Hinweis an dem Punkt zu geben, an dem das freie Gespräch beginnt – und ihn bei jedem Einstiegspunkt zu wiederholen, auch wenn der Assistent nur als Überlauf bei besetzten Leitungen einspringt.
Der Hinweis sollte zudem nicht durch Musik oder lange Werbeansagen überdeckt werden. Ein kurzer, natürlich gesprochener Satz wirkt besser als ein juristisch formulierter Absatz. Viele Anrufer reagieren gelassen, wenn sie gleich danach merken, dass ihr Anliegen zuverlässig aufgenommen wird. Wie ein KI-Telefonassistent oder ein KI-Anrufbeantworter mit KI-Hinweis klingt, können Sie in einer Demo selbst testen.
Branchen mit sensiblen Anliegen, etwa eine Arztpraxis, sollten den KI-Hinweis mit einem klaren Notfallhinweis verbinden. Soll ein Gespräch aufgezeichnet werden, braucht es zusätzlich eine Einwilligung – dazu mehr unter Gesprächsaufzeichnung und Einwilligung.
Praxis-Checkliste zur KI-Kennzeichnungspflicht
Mit diesen Punkten setzen Sie die Transparenzpflicht beim KI-Telefonassistenten sauber um.
- Der KI-Hinweis steht im ersten oder zweiten Satz jeder Begrüßung, auch bei Weiterleitungen aus Sprachmenüs.
- Der Hinweis ist in allen Sprachen umgesetzt, in denen der Assistent spricht.
- Fragt ein Anrufer nach, ob er mit einem Menschen spricht, antwortet der Assistent wahrheitsgemäß.
- Es gibt einen Weg zu einem Menschen: Weiterleitung oder Rückrufzusage.
- Bei ausgehenden Anrufen, etwa Terminerinnerungen, nennt der Assistent ebenfalls gleich zu Beginn, dass eine KI anruft.
- Die Stimme imitiert keine reale Person.
- Rollen von Anbieter und Betreiber sind vertraglich geklärt, ebenso die Umsetzung von Art. 50 Abs. 2.
- Änderungen an der Begrüßung werden vor dem Livegang darauf geprüft, dass der KI-Hinweis erhalten bleibt.
- Datenschutzhinweise nach DSGVO sind zusätzlich berücksichtigt, siehe KI-Telefonie und DSGVO.
Beispielgespräch
- KI-AssistentGuten Tag, Elektro Brandt, hier spricht der digitale Assistent. Ich bin eine KI und nehme Ihr Anliegen auf. Worum geht es?
- AnruferMoment, bin ich jetzt mit einem Computer verbunden?
- KI-AssistentJa, ich bin ein KI-Assistent. Ich notiere Ihr Anliegen und gebe es an das Team weiter. Wenn Sie lieber mit einem Menschen sprechen möchten, verbinde ich Sie oder vereinbare einen Rückruf.
- AnruferSchon gut. Bei mir ist der Sicherungskasten ständig rausgeflogen.
- KI-AssistentVerstanden. Ich nehme die Störung auf. Unter welcher Adresse ist das?