AI Act und Cybersicherheit: Was sich f\u00fcr Erkennungstools \u00e4ndert

Der europäische AI Act tritt seit Februar 2025 schrittweise in Kraft. Für Anbieter von Cybersicherheitslösungen, die KI einsetzen (Intrusion Detection, Verhaltensanalyse, automatisierte Threat Intelligence) sind die Auswirkungen konkret und unmittelbar.

Risikoklassifizierung im Bereich Cybersicherheit

Der AI Act klassifiziert KI-Systeme in vier Risikostufen. Für Cybersicherheitstools hängt die Klassifizierung vom Einsatzkontext ab:

Minimales Risiko

Tools zur Log-Analyse, signaturbasierte Malware-Erkennung oder herkömmliche Schwachstellenscanner unterliegen in der Regel keinen spezifischen Pflichten des AI Act, da ihre KI-Komponente marginal ist.

Begrenztes Risiko

Sicherheits-Chatbots, automatische Berichtserstellungstools und LLM-basierte Alarmklassifizierungssysteme unterliegen Transparenzpflichten: Der Nutzer muss wissen, dass er mit einer KI interagiert.

Hohes Risiko

Hier wird es komplex. KI-Systeme, die für die Sicherheit kritischer Infrastrukturen eingesetzt werden, können als hochriskant eingestuft werden, was Folgendes erfordert:

• Ein dokumentiertes Qualitätsmanagementsystem

• Rückverfolgbare und qualitativ hochwertige Trainingsdaten

• Eine vollständige technische Dokumentation

• Eine systematische menschliche Aufsicht

• Tests zur Robustheit und Genauigkeit

• Die Protokollierung von KI-Entscheidungen

Was sich konkret für SOC-Teams ändert

Für Sicherheitsteams, die KI-basierte Erkennungstools einsetzen, verlangt der AI Act:

• Erklärbarkeit von Alarmen: Ein SOC-Analyst muss verstehen können, warum die KI einen Alarm ausgelöst hat. Reine Black-Box-Modelle reichen nicht mehr aus

• Rückverfolgbarkeit von Entscheidungen: Jede automatisierte Entscheidung (IP-Sperrung, Maschinenisolierung, Dateilöschung) muss mit der zugehörigen Begründung protokolliert werden

• Menschliche Aufsicht: Kritische Aktionen müssen einen Human-in-the-Loop beibehalten

• Bias und Fehlalarme: Anbieter müssen Fehlalarmraten und potenzielle Verzerrungen ihrer Modelle dokumentieren

ThreatClaw: Native AI-Act-Compliance

Bei ThreatClaw haben wir diese Anforderungen von Beginn an in das Design unserer Sicherheitsplattform integriert:

• Algorithmische Transparenz: Jeder Alarm enthält die Modellbegründung, die verwendeten Indikatoren und den Konfidenzwert

• Vollständige Protokollierung: Alle KI-Entscheidungen werden mit Zeitstempel, Kontext und Begründung nachverfolgt

• Konfigurierbarer Human-in-the-Loop: Schwellenwerte für automatische Aktionen sind einstellbar, mit verpflichtender menschlicher Validierung ab einer bestimmten Kritikalitätsstufe

• Vollständige technische Dokumentation für Compliance-Audits verfügbar

Fallstricke, die Sie vermeiden sollten

• Die Klassifizierung ignorieren: Das Risikoniveau Ihrer KI-Tools nicht zu bewerten, ist der erste Fehler. Erstellen Sie eine Bestandsaufnahme

• DSGVO- und AI-Act-Compliance verwechseln: Der AI Act fügt KI-spezifische Anforderungen hinzu, die über den Datenschutz hinausgehen

• Drittanbieter vergessen: Wenn Sie ein KI-Modell eines Drittanbieters in Ihrer Erkennungspipeline einsetzen, sind Sie "Betreiber" im Sinne des AI Act und haben eigene Pflichten

Erfahren Sie, wie unsere Experten Ihnen helfen können, Ihre Erkennungstools an den AI Act anzupassen. Sehen Sie unsere Angebote.

FAQ

Fallen SIEM-Tools unter den AI Act?

Ein traditionelles regelbasiertes SIEM in der Regel nicht. Ein SIEM, das ML- oder LLM-Erkennungsmodule integriert, fällt jedoch in den Anwendungsbereich des AI Act.

Wer ist verantwortlich: der Anbieter oder der Nutzer?

Beide. Der Anbieter muss die Compliance des Systems sicherstellen. Das nutzende Unternehmen ("Betreiber") muss es gemäß den Anweisungen verwenden und die menschliche Aufsicht aufrechterhalten.

Gilt der AI Act für Open-Source-Modelle?

Open-Source-Modelle für allgemeine Zwecke profitieren von Ausnahmen, es sei denn, sie stellen ein systemisches Risiko dar (Modelle, die mit mehr als 10^25 FLOPS trainiert wurden). Ein in ein kommerzielles Produkt integriertes Open-Source-Modell unterliegt den Pflichten des Produkts.

Wie sieht der Zeitplan des AI Act aus?

Die Verbote inakzeptabler Risikopraktiken gelten seit Februar 2025. Die Pflichten für Hochrisikosysteme gelten vollständig ab August 2026.