Der EU AI Act (Verordnung (EU) 2024/1689) ist der erste horizontale Rechtsrahmen für KI in der EU. Er klassifiziert KI-Systeme in vier Risikoklassen (unannehmbar, hoch, begrenzt, minimal) und stellt für jede Klasse abgestufte Pflichten auf — von Verboten über Konformitätsbewertungen bis hin zu reinen Transparenzpflichten.
Für einen KI-Telefonassistenten greift in der Regel die Stufe "begrenztes Risiko": Anrufer müssen klar erkennen können, dass sie mit einer KI sprechen (Art. 50). Das ist mit einer kurzen Eröffnungs-Ansage technisch trivial, muss aber in der Standard-Konfiguration verankert und im Datenschutz-Hinweis dokumentiert sein.
Wird der Assistent für sensiblere Zwecke eingesetzt (Bonitäts-Klassifikation, Personalentscheidungen, Strafverfolgung), kippt die Einstufung schnell in "hoch" mit deutlich strengeren Pflichten: Risikomanagement, Daten-Governance, technische Dokumentation, menschliche Aufsicht, CE-Konformität. Verstöße sind mit bis zu 7 % des weltweiten Jahresumsatzes bewehrt.