GenAI – Bedeutung & Definition | IT-Security Glossar

Was bedeutet GenAI?

GenAI (Generative Artificial Intelligence) – auch bekannt als Generative AI oder generative KI – bezeichnet KI-Systeme, die eigenständig neue Inhalte wie Texte, Bilder, Quellcode, Audio oder strukturierte Daten erzeugen, basierend auf gelernten Mustern aus Trainingsdaten.

Im Gegensatz zu klassischer KI, die vor allem analysiert oder klassifiziert, liegt der Fokus von GenAI auf der Inhaltserzeugung.

Bekannte Beispiele sind Modelle wie GPT, Claude, Stability Diffusion sowie unternehmensspezifische KI-Modelle, die intern betrieben oder integriert werden.

Warum ist GenAI relevant für IT-Security?

Der Einsatz von GenAI verändert die IT-Sicherheit grundlegend – sowohl auf Seiten der Verteidigung als auch der Angreifer.

Chancen für die IT-Sicherheit

schnellere Analyse großer Datenmengen
Unterstützung bei Log-Analyse, Incident Response und SIEM-Korrelation
automatisierte Erstellung von Dokumentationen, Playbooks und Berichten
Unterstützung bei Secure Software Development (z. B. Code-Reviews)

Risiken und Bedrohungen

realistische Phishing-E-Mails und Social-Engineering-Angriffe
automatisierte Erstellung von Schadcode
personalisierte Angriffe in großem Maßstab
Deepfakes (Text, Audio, Video) mit erhöhter Täuschungswirkung

Gerade für KMU und Startups steigt das Risiko, Ziel skalierbarer und hochgradig personalisierter Angriffe zu werden, während gleichzeitig neue Effizienzpotenziale entstehen.

Typische Security-Use-Cases von GenAI

Im Kontext der IT-Sicherheit wird GenAI unter anderem eingesetzt für:

Threat Modeling und Risikoanalysen
Log-Auswertung und Anomalieerkennung
Erstellung von Awareness-Inhalten
Unterstützung bei Sicherheitsdokumentation
Simulation von Social-Engineering-Szenarien (Red Teaming)

Ein kontrollierter Einsatz erfordert die Einbindung in ein bestehendes IT-Sicherheitskonzept und klare Governance-Regeln.

GenAI, Compliance & Regulierung

Der Einsatz von GenAI berührt mehrere regulatorische und normative Anforderungen:

ISO 27001 (Datenklassifizierung, Risikomanagement, Zugriffskontrollen)
Datenschutz (DSGVO) bei Verarbeitung personenbezogener oder sensibler Daten
EU AI Act (Risikoklassifizierung und Transparenzpflichten für KI-Systeme)
NIS2, wenn GenAI sicherheitsrelevante oder kritische Prozesse beeinflusst

Unternehmen sollten GenAI daher in ihr ISMS integrieren, Risiken dokumentieren und technische wie organisatorische Maßnahmen definieren.

Best Practices im Umgang mit GenAI

KI-Richtlinien definieren
Klare Regeln, welche Daten in KI-Systeme eingegeben werden dürfen.
Sensitive Daten schützen
Vertrauliche oder personenbezogene Informationen nicht in öffentliche Modelle hochladen.
Ausgaben kritisch prüfen
Ergebnisse von GenAI sind nicht immer korrekt oder vollständig.
Security-Use-Cases gezielt einsetzen
Besonders geeignet sind Analyse-, Dokumentations- und Awareness-Anwendungen.
Awareness schaffen
Mitarbeitende müssen Risiken und Missbrauchsszenarien verstehen.

Häufige Fragen zu GenAI

Ist GenAI grundsätzlich unsicher?
Nein. Risiken entstehen vor allem durch unkontrollierte Nutzung, fehlende Richtlinien und mangelnde Sicherheitsmaßnahmen.

Dürfen Mitarbeitende ChatGPT & ähnliche Tools nutzen?
Ja, sofern klare Vorgaben zu erlaubten Daten, Modellen und Einsatzszenarien existieren.

Ist der Einsatz von GenAI mit ISO 27001 vereinbar?
Ja. Voraussetzung ist eine dokumentierte Risikoanalyse, geeignete Kontrollen und die Einbindung in das ISMS.

Kurz gesagt

GenAI ist ein leistungsfähiges Werkzeug mit hohem Nutzenpotenzial – kann aber auch neue Sicherheitsrisiken schaffen.
Unternehmen, die GenAI strukturiert in ihr ISMS, ihre Security-Richtlinien und Awareness-Maßnahmen integrieren, können Chancen nutzen, ohne die Kontrolle über Informationssicherheit zu verlieren.