Kurze Antwort
Die KI-Verordnung der EU kennt keine eigene Kategorie für Agenten, sondern regelt KI-Systeme nach Rolle und Risiko. Für KI-Agenten heißt das: Rolle als Anbieter oder Betreiber klären, jeden Einsatzzweck einstufen, Transparenzpflichten erfüllen und KI-Kompetenz bei den Beschäftigten aufbauen.
Inhalt
Warum Agenten die Einordnung schwieriger machen
Die KI-Verordnung (AI Act) knüpft an KI-Systeme, ihre Zweckbestimmung und die Rollen der beteiligten Organisationen an. Agenten, die selbstständig planen, Werkzeuge aufrufen und über mehrere Systeme hinweg handeln, kommen darin nicht als eigene Kategorie vor. Genau das erschwert die Praxis: Derselbe Agent kann Angebotsentwürfe schreiben, Datensätze im CRM pflegen und Bewerbungen vorsortieren, und jede dieser Tätigkeiten kann anders zu bewerten sein.
Die richtige Frage für Compliance, Datenschutz und IT-Leitung lautet daher: Welche Einsatzzwecke welcher Agenten lösen welche Pflichten aus, und wer in Ihrem Haus trägt sie? Diese Frage beantworten wir strukturiert und verankern die Nachweise anschließend direkt in Architektur und Betrieb.
Rollen sauber zuordnen
Zentral ist die Unterscheidung zwischen Anbieter (wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt) und Betreiber (wer ein KI-System in eigener Verantwortung beruflich verwendet). Hinzu kommen Einführer, Händler und Bevollmächtigte.
Bei Agenten lauern typische Fallstricke:
- Wer auf Basis eines Sprachmodells einen eigenen Agenten zusammenstellt und intern in Betrieb nimmt, ist Betreiber und kann zugleich Anbieterpflichten für das entstandene System übernehmen.
- Wer ein System wesentlich verändert oder die Zweckbestimmung ändert, kann selbst in die Anbieterrolle rutschen.
- Wird ein fertiger Agent eingekauft, bleibt der Hersteller Anbieter, die Verantwortung für den konkreten Einsatz liegt aber bei Ihnen.
Wir dokumentieren die Rolle pro Agent und nicht pro Vertrag, denn auf einer Plattform laufen meist viele Agenten mit unterschiedlichen Zwecken.
Risikoklasse je Einsatzzweck bestimmen
Die Verordnung unterscheidet verbotene Praktiken, Hochrisiko-Systeme (etwa die in Anhang III genannten Bereiche wie Beschäftigung, Zugang zu wesentlichen Diensten, Bildung oder Strafverfolgung), Systeme mit besonderen Transparenzpflichten und alle übrigen.
Agenten, die Dokumente zusammenfassen, Tickets zuordnen oder Entwürfe für Menschen vorbereiten, sind in aller Regel kein Hochrisiko-Fall. Sobald ein Agent jedoch Bewerbende vorsortiert, die Kreditwürdigkeit natürlicher Personen bewertet oder über Zugang zu öffentlichen Leistungen mitentscheidet, ändert sich das Bild. In unserem Einstufungs-Workshop gehen wir jeden Agenten durch und halten die Begründung schriftlich fest, damit sie bei Erweiterungen erneut geprüft werden kann.
Transparenz als Gestaltungsprinzip
Wenn ein Agent unmittelbar mit Menschen interagiert, müssen diese wissen, dass sie mit einem KI-System sprechen, sofern das nicht offensichtlich ist. Erzeugte Inhalte sind unter Umständen zu kennzeichnen. Konkret heißt das: ein klarer Hinweis im Chatfenster, ein Vermerk unter agentengenerierten E-Mails und Metadaten in erstellten Dokumenten.
Betreiber von Hochrisiko-Systemen haben weitergehende Pflichten, darunter bestimmungsgemäße Verwendung, fachkundige menschliche Aufsicht, Überwachung des Betriebs und Aufbewahrung von Protokollen. Eine Agentenplattform, die Freigaben, Protokollierung und Eskalation bereits mitbringt, erleichtert das erheblich. Details zur Protokollierung finden Sie bei unserem Audit-Trail für KI-Agenten.
KI-Kompetenz nach Artikel 4
Anbieter und Betreiber sollen Maßnahmen ergreifen, damit ihr Personal über ausreichende KI-Kompetenz verfügt. Bei Agenten ist das sehr greifbar: Wer Ergebnisse freigibt, muss wissen, wo der Agent typischerweise irrt und wann eskaliert werden muss. Mit neooutput bieten wir rollenbezogene Schulungen an, in denen Teilnehmende echte Agentenergebnisse prüfen. Bei der Planung von Schulungen und Einführung ist häufig auch der Betriebsrat zu beteiligen.
DSGVO bleibt daneben bestehen
Die KI-Verordnung ersetzt die DSGVO nicht. Für personenbezogene Daten braucht es weiterhin eine Rechtsgrundlage, Datenminimierung und oft eine Datenschutz-Folgenabschätzung. Wirksam ist es, personenbezogene Angaben gar nicht erst an ein externes Modell zu geben: Textwash Pro anonymisiert Texte lokal, vollständig offline oder als Datenschutzschicht vor ChatGPT und Claude.
Unser Vorgehen
Unsere Leistung KI-Governance und Compliance verbindet rechtlich-technische Analyse mit Umsetzung. AI Code Engineers bauen, was die Bewertung verlangt: Berechtigungsgrenzen, Freigabeschritte, Hinweistexte, Protokollierung und Monitoring. Agenten aus unserer KI-Agenten-Entwicklung starten von Anfang an mit dieser Struktur. Vor dem Go-live empfehlen wir eine dokumentierte Risikobewertung für KI-Agenten.
Wir ersetzen keine Rechtsberatung, sondern arbeiten mit Ihrer Rechtsabteilung und Ihrem Datenschutzbeauftragten zusammen.
Ergebnis
Ein Agentenregister mit Rollen- und Risikoeinstufung samt Begründung, Transparenztexte, ein Schulungsplan je Rolle und technische Kontrollen, die Nachweise automatisch erzeugen. Und ein Prozess, der die Einstufung aktuell hält, wenn Agenten neue Aufgaben bekommen.
FAQ
Ist jeder KI-Agent ein Hochrisiko-System?
Nein. Maßgeblich ist die Zweckbestimmung. Agenten zur internen Unterstützung sind meist kein Hochrisiko-Fall, Agenten in Personalauswahl oder bei Zugang zu wesentlichen Leistungen können es sein.
Sind wir Anbieter oder Betreiber, wenn wir einen Agenten selbst bauen?
Häufig treffen beide Rollen zu. Wir klären das je Agent gemeinsam mit Ihrer Rechtsabteilung.
Was bedeutet KI-Kompetenz konkret?
Beschäftigte, die Agenten nutzen oder beaufsichtigen, sollen Ergebnisse beurteilen, Fehlerbilder erkennen und eskalieren können. Rollenbezogene Schulungen mit echten Beispielen sind dafür am wirksamsten.
Ersetzt die KI-Verordnung die DSGVO-Prüfung?
Nein. Beide Regelwerke gelten nebeneinander.