{"id":14808,"date":"2025-09-17T03:45:06","date_gmt":"2025-09-17T03:45:06","guid":{"rendered":"https:\/\/newestek.com\/?p=14808"},"modified":"2025-09-17T03:45:06","modified_gmt":"2025-09-17T03:45:06","slug":"genai-security-als-checkliste","status":"publish","type":"post","link":"https:\/\/newestek.com\/?p=14808","title":{"rendered":"GenAI-Security als Checkliste"},"content":{"rendered":"
\n
\n
\n
\n
\n
\n
<\/div>\n<\/section>\n
\n
\n

Das Open Web Application Security Project (OWASP) gibt Unternehmen eine Checkliste f\u00fcr (mehr) GenAI-Sicherheit an die Hand.<\/p>\n<\/figcaption><\/figure>\n

Foto: Gannvector | shutterstock.com<\/p>\n<\/div>\n

W\u00e4hrend Unternehmen wie OpenAI, Anthropic, Google oder Microsoft aber auch Open-Source-Alternativen bei ihren Generative-AI<\/a>\u2013 und Large-Language-Model<\/a>-Angeboten exponentielle User-Zuw\u00e4chse verzeichnen, sind IT-Sicherheitsentscheider bem\u00fcht, mit der rasanten KI-Entwicklung in ihren Unternehmen Schritt zu halten.<\/p>\n

Die Non-Profit-Organisation OWASP tr\u00e4gt dieser Entwicklung mit einer neuen Ver\u00f6ffentlichung Rechnung: der \u201cLLM AI Cybersecurity & Governance Checklist<\/a>\u201d (PDF).<\/p>\n

LLM-Bedrohungskategorien<\/h3>\n

Das Thema KI ist ziemlich umfangreich, weswegen die OWASP-Checkliste vor allem darauf abzielt, F\u00fchrungskr\u00e4fte dabei zu unterst\u00fctzen, die wesentlichen Risiken<\/a> im Zusammenhang mit generativer KI und gro\u00dfen Sprachmodellen m\u00f6glichst schnell zu identifizieren und entsprechende Abhilfema\u00dfnahmen einzuleiten. Das soll gew\u00e4hrleisten, dass Unternehmen \u00fcber die n\u00f6tigen, grundlegenden Sicherheitskontrollen verf\u00fcgen, um generative KI und LLM-Tools, -Services und Produkte sicher einzusetzen.<\/p>\n

Dabei betont OWASP, dass die Checkliste keinen Anspruch auf Vollst\u00e4ndigkeit erhebt und sich mit zunehmender Reife<\/a> der Technologie und Tools ebenfalls weiterentwickeln wird. Die Sicherheitsexperten ordnen LLM-Bedrohungen in verschiedene Kategorien ein, wie die nachfolgende Abbildung veranschaulicht:<\/p>\n

\n
\n

Die OWASP KI-Bedrohungs-Map.<\/p>\n<\/figcaption><\/figure>\n

Foto: OWASP<\/p>\n<\/div>\n

Geht es darum, eine LLM-Strategie<\/a> festzulegen, m\u00fcssen Unternehmen vor allem mit den einzigartigen Risiken umgehen, die generative KI und LLMs aufwerfen. Diese m\u00fcssen durch organisatorische Governance und entsprechende Security-Kontrollen minimiert werden. Im Rahmen ihrer Ver\u00f6ffentlichung empfehlen die OWASP-Experten Unternehmen einen sechsstufigen Ansatz, um eine wirksame LLM-Strategie zu entwickeln:<\/p>\n

\n
\n

Mit OWASP in sechs Schritten zum LLM-Deployment.<\/p>\n<\/figcaption><\/figure>\n

Foto: OWASP<\/p>\n<\/div>\n

Auch hinsichtlich der Deployment-Typen in Sachen LLM<\/a> empfiehlt OWASP, ganz genau hinzusehen und entsprechende \u00dcberlegungen anzustellen:<\/p>\n

\n
\n

Welche Art von KI-Modell ist f\u00fcr Sie die richtige?<\/p>\n<\/figcaption><\/figure>\n

Foto: OWASP<\/p>\n<\/div>\n

Die OWASP-KI-Checkliste<\/h3>\n

Im Folgenden haben wir die von OWASP ver\u00f6ffentlichte Checkliste etwas \u201caufgedr\u00f6selt\u201d. Folgende Bereiche sollten Sie im Rahmen Ihrer Generative-AI- respektive LLM-Initiativen unbedingt pr\u00fcfen.<\/p>\n

Adversarial Risk<\/strong><\/p>\n

Dieser Bereich umfasst sowohl Wettbewerber als auch Angreifer und konzentriert sich nicht nur auf die Angriffs-, sondern auch auf die Unternehmenslandschaft. In diesen Bereich f\u00e4llt beispielsweise, zu verstehen, wie die Konkurrenz KI einsetzt, um bessere Gesch\u00e4ftsergebnisse zu erzielen und die internen Prozesse und Richtlinien (beispielsweise Incident-Response-Pl\u00e4ne<\/a>) zu aktualisieren, um f\u00fcr Cyberangriffe und Sicherheitsvorf\u00e4lle im Zusammenhang mit generativer KI gewappnet zu sein.<\/p>\n

Threat Modeling<\/strong><\/p>\n

Die Bedrohungsmodellierung gewinnt im Zuge des von zahlreichen Security-Institutionen propagierten \u201cSecure-by-Design\u201d-Ansatzes zunehmend an Bedeutung. In diesen Bereich fallen etwa die \u00dcberlegungen, wie Angreifer LLMs und generative KI f\u00fcr schnellere Exploits nutzen k\u00f6nnen<\/a>, wie Unternehmen schadhafte KI-Nutzung erkennen k\u00f6nnen und wie sich die Technologie \u00fcber interne Systeme und Umgebungen absichern l\u00e4sst.<\/p>\n

KI-Bestandsaufnahme<\/strong><\/p>\n

\u201cMan kann nichts sch\u00fctzen, von dessen Existenz man nichts wei\u00df\u201d greift auch in der Generative-AI-Welt. Im Bereich der KI-Bestandsaufnahme geht es darum, Assets f\u00fcr intern entwickelte L\u00f6sungen und externe Tools und Plattformen zu erfassen<\/a>.<\/p>\n

Dabei ist nicht nur wichtig, die Tools und Services zu kennen, die genutzt werden, sondern auch \u00fcber die Verantwortlichkeiten Bescheid zu wissen. OWASP empfiehlt zudem, KI-Komponenten in SBOMs<\/a> zu erfassen und Datenquellen nach Sensibilit\u00e4t zu katalogisieren. Dar\u00fcber hinaus sollte es auch einen Prozess geben, der gew\u00e4hrleistet, dass zuk\u00fcnftige Tools und Services aus dem unternehmerischen Inventar sicher ein- und ausgegliedert werden k\u00f6nnen.<\/p>\n

KI-Security- und -Datenschutz-Schulungen<\/strong><\/p>\n

Der Mensch ist das schw\u00e4chste Glied in der Sicherheitskette \u2013 hei\u00dft es oft. Das muss allerdings nicht so sein \u2013 vorausgesetzt, Unternehmen integrieren KI-Sicherheits- und Datenschutztrainings<\/a> in ihre GenAI-Journey.<\/p>\n

Das beinhaltet beispielsweise, der Belegschaft ein Verst\u00e4ndnis \u00fcber aktuelle AI- und LLM-Initiativen zu vermitteln \u2013 genauso wie zur Technologie an sich und den wesentlichen Problemen im Bereich Security. Dar\u00fcber hinaus ist in diesem Bereich eine Kultur unabdingbar, die von Trust und Transparenz gepr\u00e4gt ist. Das ist auch ein ganz wesentlicher Punkt, um \u201cSchatten-KI<\/a>\u201d zu verhindern. Anderenfalls werden Plattformen heimlich genutzt und die Security untergraben.<\/p>\n

Business Cases f\u00fcr KI etablieren<\/strong><\/p>\n

Ganz \u00e4hnlich wie zuvor bei der Cloud erstellen die meisten Unternehmen keine koh\u00e4renten, strategischen Gesch\u00e4ftsmodelle f\u00fcr den Einsatz neuer Technologien \u2013 auch nicht, wenn es um generative KI und LLMs geht. Sich von Hype und FOMO<\/a> anstecken zu lassen, ist relativ schnell geschehen \u2013 ohne soliden Business Case riskieren Unternehmen aber nicht nur, schlechte Ergebnisse zu erzielen.<\/p>\n

Governance<\/strong><\/p>\n

Ohne Governance<\/a> ist es nahezu unm\u00f6glich, Rechenschaftspflicht und klare Zielsetzungen zu realisieren. In diesen Bereich der OWASP-Checkliste f\u00e4llt beispielsweise, ein RACI<\/a>-Diagramm zu erstellen, dass die KI-Initiativen eines Unternehmens dokumentiert, Verantwortlichkeiten zuweist und unternehmensweite Richtlinien und Prozesse etabliert.<\/p>\n

Rechtliches<\/strong><\/p>\n

Die rechtlichen Auswirkungen von KI sollten keinesfalls untersch\u00e4tzt werden \u2013 sie entwickeln sich rasant weiter und k\u00f6nnen Reputation und finanziellem Gef\u00fcge potenziell betr\u00e4chtliche Sch\u00e4den zuf\u00fcgen. In diesen Bereich k\u00f6nnen diverse Aspekte fallen \u2013 zum Beispiel:<\/p>\n