Alessia Gilardi
Regional Product Compliance Consultant
Alessia Gilardi ist GRC-Managerin mit umfassender internationaler Erfahrung in Compliance, Datenschutz, Audit und Risikomanagement. Sie ist darauf spezialisiert, komplexe rechtliche Anforderungen in praktische Lösungen umzusetzen, die das Unternehmen unterstützen. Sie ist von der International Compliance Association (ICA) zertifiziert.
Das Wichtigste im Überblick:
Am 14. September 2026 berichtete die spanische Datenschutzbehörde AEPD über die erste bei ihr eingegangene Meldung einer Datenschutzverletzung durch einen KI-Agenten. Dieser soll nach Schwachstellen gesucht, sich angemeldet, personenbezogene Daten verändert und auf Rechnungen zugegriffen haben.
Die AEPD zieht ihre Schlussfolgerungen vorsichtig. Der Fall wird noch untersucht, und die betroffene Organisation wurde nicht benannt. Eine einzelne Meldung belegt keinen Trend.
Die Pflichten nach der DSGVO bleiben unverändert. Dazu gehört auch die Meldefrist von 72 Stunden. Ein KI-Agent verändert jedoch die Geschwindigkeit eines Angriffs. Damit verändert sich auch die Zeit, die für dessen Aufklärung zur Verfügung steht.
Die EU-KI-Verordnung (AI Act) reguliert nicht den Angreifer. Sie kann relevant werden, wenn Organisationen eigene KI-Agenten einsetzen. Gerade dann müssen Zugriffe und Berechtigungen besonders sorgfältig gesteuert und überwacht werden.
Eine GRC-Plattform verhindert keinen Angriff. Sie hilft sicherzustellen, dass die Risikobewertungen, Kontrollen und Entscheidungen im Zusammenhang mit einem Angriff vorliegen und dokumentiert sind.
Der Angriff selbst klingt zunächst unspektakulär. Zunächst wurden allgemeine Dateien nach Schwachstellen durchsucht. Ein Zugangsweg wurde gefunden und für eine erfolgreiche Anmeldung genutzt. Danach wurden weitere Schwachstellen in der Anwendung gesucht und ausgenutzt, personenbezogene Daten verändert und Rechnungen geöffnet. Das Besondere an dieser Meldung war, wer oder was diese Suche durchführte. Nach Angaben der betroffenen Organisation war es ein KI-Agent, der ein bekanntes Sprachmodell nutzte.
Als die AEPD den Fall veröffentlichte, wies sie umgehend auf Einschränkungen hin. Die Informationen stammen aus der Meldung der betroffenen Organisation und müssen noch ausgewertet werden. Der Einsatz eines bestimmten Modells bedeutet nicht, dass dieses Modell oder die Infrastruktur seines Anbieters kompromittiert wurde. Eine einzelne Meldung belegt zudem keinen statistischen Trend. Nach Einschätzung der Behörde deutet sie jedoch darauf hin, dass KI-gestützte Angriffe inzwischen bei tatsächlichen Vorfällen mit personenbezogenen Daten auftreten.
Was diesen Angriff unterscheidet
KI wird bereits seit einiger Zeit bei Cyberangriffen eingesetzt, etwa für Phishing-E-Mails, übersetzte Betrugsnachrichten oder Codeanalysen. Ein Agent bietet zusätzliche Möglichkeiten. Er kann ein Ziel in einzelne Schritte aufteilen, Werkzeuge nutzen, Ergebnisse auswerten und sein weiteres Vorgehen anpassen. Zwischen diesen Schritten ist nur wenig oder gar kein menschliches Eingreifen nötig.
In diesem Fall führte ein einziges System die gesamte Abfolge aus, von der Suche nach einer Schwachstelle bis zur Veränderung personenbezogener Daten. Die AEPD weist auf ein konkretes Risiko hin: Erlangt ein Agent Zugriff auf ein Konto, einen API-Schlüssel oder ein Token mit weitergehenden Berechtigungen als nötig, kann er zwischen Diensten wechseln, bevor jemand ungewöhnliche Aktivitäten bemerkt. Auffällig am spanischen Fall ist, wie unauffällig der Zugang erfolgte. Der Agent meldete sich an.
Damit richtet sich die Aufmerksamkeit nicht mehr nur auf die Absicherung der Netzwerkgrenzen. Entscheidend werden Fragen, die weniger Beachtung finden: Welche Konten, Schlüssel und Token gibt es in Ihrer Organisation? Worauf kann jedes davon zugreifen? Wie schnell können Sie den jeweiligen Zugang entziehen?
Die Fristen der DSGVO bleiben gleich. Die Zeit für die Aufklärung verändert sich.
Die DSGVO ist technologieneutral. Der Fall der AEPD ändert keine einzige ihrer Pflichten. Artikel 32 verlangt weiterhin ein dem Risiko angemessenes Schutzniveau. Nach Artikel 33 müssen Verantwortliche eine Datenschutzverletzung weiterhin unverzüglich und möglichst innerhalb von 72 Stunden nach Bekanntwerden an die Aufsichtsbehörde melden. Eine Ausnahme gilt, wenn die Verletzung voraussichtlich nicht zu einem Risiko für natürliche Personen führt.
Der Unterschied liegt in der Zeit zwischen dem Bekanntwerden und der Aufklärung eines Vorfalls. Ein Team kann bereits wissen, dass ein Angreifer auf eine Anwendung zugegriffen hat. Gleichzeitig muss es noch klären, welche Datensätze betroffen sind und ob Daten kopiert wurden. Wie in diesem Fall kann auch unklar sein, ob Daten verändert wurden. Dann geht es neben der Vertraulichkeit auch um die Integrität der Daten. Das erschwert die Untersuchung. Hat der Agent gültige Zugangsdaten genutzt, lassen sich seine Aktionen möglicherweise nur schwer von legitimen Aktivitäten unterscheiden.
Daraus ergeben sich zwei Konsequenzen für die Personen, die Sicherheitsvorfälle bearbeiten. Die rechtliche Bewertung muss beginnen, während die technische Untersuchung noch läuft. Sie darf nicht erst nach Vorlage des forensischen Berichts starten. Die DSGVO berücksichtigt diese Situation bereits: Wenn nicht alle Informationen gleichzeitig vorliegen, erlaubt Artikel 33 eine schrittweise Bereitstellung ohne unangemessene weitere Verzögerung. Ein Plan, der nur ein abschließendes Meldedokument vorsieht, eignet sich kaum für Angriffe, die sich mit maschineller Geschwindigkeit weiterentwickeln.
Je nach Organisation kann derselbe Vorfall auch Meldepflichten nach NIS-2, DORA oder dem Cyber Resilience Act auslösen. Für diese Vorschriften gelten jeweils eigene Schwellenwerte, Fristen und Zuständigkeiten. Die entsprechenden Entscheidungen fallen in der ersten Stunde.
Prüfen Sie, wie belastbar Ihr Prozess zur Reaktion auf Sicherheitsvorfälle ist
Bringen Sie Ihren aktuellen Plan zur Reaktion auf Sicherheitsvorfälle und Ihre Risikobewertung mit. Das gilt auch, wenn beide bislang nur informell vorliegen. Wir gehen lieber gemeinsam mit Ihnen ein Szenario mit einem KI-Agenten durch, als es nur abstrakt zu beschreiben.
Welche Rolle die KI-Verordnung spielt
Der Fall könnte zunächst als Thema der KI-Verordnung eingeordnet werden. Für die angegriffene Organisation ist sie jedoch nur begrenzt relevant. Die KI-Verordnung regelt, wie KI-Systeme entwickelt, in Verkehr gebracht und eingesetzt werden. Sie reguliert nicht den Angreifer. Im AEPD-Fall gibt es keinen Hinweis darauf, dass die betroffene Organisation die beteiligte KI selbst eingesetzt hat.
Die KI-Verordnung kann relevant werden, wenn Ihre Organisation eigene KI-Agenten einsetzt. Agenten, die Kundendaten lesen, ein CRM aktualisieren, E-Mails versenden oder Zahlungen auslösen, verfügen über genau die Art von Zugriffsrechten, vor der die AEPD warnt. Würde ein solcher Agent oder würden seine Zugangsdaten kompromittiert, könnte dieselbe Abfolge von Ereignissen in Ihren Systemen ausgelöst werden. Der Angriff würde dann innerhalb Ihrer Systeme beginnen.
Hier besteht eine Verbindung zwischen Datenschutz und KI-Governance:
Nach der DSGVO braucht die Verarbeitung personenbezogener Daten durch Ihre eigenen Agenten eine Rechtsgrundlage. Häufig ist außerdem eine Datenschutz-Folgenabschätzung erforderlich. Bei automatisierten Entscheidungen sind Schutzmaßnahmen nötig.
Nach der KI-Verordnung müssen Hochrisiko-KI-Systeme gemäß Artikel 15 ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen. Nach dem Digital-Omnibus-Paket zur KI gelten diese Pflichten ab dem 2. Dezember 2027 für eigenständige Systeme und ab dem 2. August 2028 für KI, die in regulierte Produkte integriert ist. Anbieter der leistungsfähigsten KI-Modelle mit allgemeinem Verwendungszweck haben bereits heute Pflichten in Bezug auf Cybersicherheit und schwerwiegende Vorfälle.
In beiden Fällen sind die praktischen Fragen dieselben: Welche Agenten betreiben Sie? Wer ist für jeden einzelnen verantwortlich? Auf welche Daten und Systeme kann er zugreifen? Wer hat diesen Zugriff genehmigt?
Unsere Einschätzung: Organisationen, die die DSGVO und die KI-Verordnung als separate Projekte behandeln, werden diese Fragen zweimal beantworten. Die Antworten werden an unterschiedlichen Stellen dokumentiert und fallen wahrscheinlich unterschiedlich aus. Dabei handelt es sich um dieselben Fragen.
Was Sie jetzt überprüfen sollten
Die AEPD fordert Verantwortliche und Auftragsverarbeiter auf, ihre Risikoanalysen zu aktualisieren und KI-gestützte Angriffe zu berücksichtigen. In der Praxis würden wir mit fünf Fragen beginnen:
Berücksichtigt Ihre Risikobewertung KI-gestützte Angriffe? Schnellere und ausdauerndere Angreifer verändern die Eintrittswahrscheinlichkeit bestimmter Szenarien. Das gilt insbesondere für Szenarien mit offengelegten Zugangsdaten.
Kennen Sie Ihre nichtmenschlichen Identitäten? Dienstkonten, API-Schlüssel und Token brauchen jeweils eine verantwortliche Person und einen dokumentierten Zweck. Sie dürfen nur die erforderlichen Zugriffsrechte haben. Außerdem müssen sie schnell gesperrt oder widerrufen werden können.
Welche KI-Agenten betreiben Sie und worauf können sie zugreifen? Für Ihre eigenen Agenten gelten dieselben Regeln zur Inventarisierung und zur Beschränkung auf die minimal erforderlichen Berechtigungen. Das schließt Agenten ein, die in Tools von Drittanbietern integriert sind.
Bezieht Ihr Plan zur Reaktion auf Sicherheitsvorfälle die Rechtsabteilung frühzeitig ein? Er sollte festlegen, wann die rechtliche Bewertung beginnt und wer über eine Meldung entscheidet. Er sollte auch regeln, wie diese Entscheidung im Verlauf der Untersuchung erneut überprüft wird.
Könnten Sie den Ablauf rekonstruieren? Protokolle müssen automatisierte Aktionen nachvollziehbar machen. Jede Entscheidung während eines Vorfalls sollte mit ihrer Begründung dokumentiert werden. Das gilt auch für die Entscheidung, keine Meldung abzugeben.
Eine Tabletop-Übung zu einem Angriff durch KI-Agenten zeigt schnell, welche Ihrer Antworten am wenigsten belastbar sind.
So unterstützt Formalize dabei
Eine GRC-Plattform erkennt oder blockiert keinen KI-Agenten. Das ist Aufgabe von Sicherheitswerkzeugen, vom Identitätsmanagement bis zur Überwachung. Eine GRC-Plattform stellt sicher, dass bei einem Vorfall die organisatorischen Abläufe funktionieren und Sie dies nachweisen können.
In Formalize bedeutet das:
Risikobewertungen mit zugewiesenen Verantwortlichen. Die Bewertungen werden aktualisiert, wenn Bedrohungen wie KI-gestützte Angriffe die Risikolage verändern.
Kontrollen als wiederkehrende, durch Nachweise belegte Tätigkeiten, zum Beispiel die Überprüfung der Zugriffsrechte von Dienstkonten und API-Schlüsseln. Das ersetzt bloße Absichtserklärungen in einem Richtliniendokument.
Workflows für Sicherheitsvorfälle, die dokumentieren, wer was wann und warum bewertet hat. Sie erfassen den gesamten Ablauf von der ersten Warnung bis zur Entscheidung über eine Meldung.
DSGVO und KI-Verordnung im selben System, mit Blueprints für beide. So werden Ihre Aufzeichnungen zu Verarbeitungstätigkeiten und Ihre KI-Systeme gemeinsam gesteuert.
Wenn eine Aufsichtsbehörde später fragt, was Sie wann wussten und was Sie unternommen haben, sollte die Antwort bereits vorliegen. Erfahren Sie mehr über den Ansatz von Formalize zur DSGVO-Compliance und zur KI-Verordnung.