OWASP Top 10 für LLM-Anwendungen: Was ist neu, was hat sich geändert und wie bleibt man sicher?

Ein proaktiver Ansatz zur Sicherung Ihrer Software erfordert, dass Sie bei den neuesten Standards und Compliance-Anforderungen stets auf dem Laufenden bleiben. Schließlich ist die Cybersicherheitslandschaft durch neue Bedrohungen und Schwachstellen ständig in Bewegung, insbesondere bei aufkommenden Technologien. Dies gilt heute mehr denn je, da wir uns kollektiv an einem Wendepunkt der KI befinden, an dem fast täglich neue Entwicklungen und Anwendungsfälle entstehen.

Um diesen Herausforderungen zu begegnen, hat die OWASP Foundation kürzlich die aktualisierte Version der OWASP Top 10 für Large Language Model (LLM) Anwendungen veröffentlicht. Sie soll Entwickler, Architekten und andere an der Softwarebereitstellung beteiligte Personen über die potenziellen Risiken beim Einsatz von LLMs und generativen KI-Anwendungen informieren. Wir bei Secure Code Warrior freuen uns, bekannt geben zu können, dass die Änderungen und Aktualisierungen dieser neuesten Version bereits implementiert und in unserer Lernplattform für sicheren Code verfügbar sind. Mit diesen neuen und aktualisierten Materialien können alle unsere Nutzer bei der Risikominderung im Umgang mit LLMs an vorderster Front bleiben.

Was ist neu in diesem Update?

OWASP hat zwei Punkte aus den vorherigen Top 10 entfernt:

• Unsicheres Plugin-Design – bezieht sich darauf, wie LLMs mit Plugins interagieren und wie Plugins mit externen Speichern oder Diensten kommunizieren.
• Modell-Diebstahl – bezieht sich auf die unbefugte Vervielfältigung oder den Erwerb von Machine-Learning-Modellen oder KI-Systemen.

In Übereinstimmung mit früheren Versionen der OWASP Top 10 hatte Secure Code Warrior Richtlinien zu diesen Schwachstellen als Teil unseres LLM Top 10-Kurses. Diese Richtlinien, die verständliche Informationen zu Schwachstellen und Sicherheitskonzepten in einem leicht lesbaren Format bieten, wurden inzwischen aus dem Kurslehrplan entfernt. Sie bleiben jedoch zusammen mit allen anderen Lernmaterialien, die wir anbieten, in „Explore“ verfügbar.

Um die Top 10 offiziell bei 10 Punkten zu halten, hat OWASP zwei neue Elemente hinzugefügt:

• System-Prompt-Leakage – wobei normalerweise verborgene Prompts, die das Verhalten eines Modells steuern, für Benutzer sichtbar werden.
• Vektor- und Embedding-Schwachstellen – die spezifische, geschützte oder Echtzeit-Informationen offenlegen können, die nicht öffentlich zugänglich sind.

Richtlinien für diese Schwachstellen wurden dem LLM Top 10-Kurs hinzugefügt. Genau wie die entfernten Richtlinien sind auch diese beiden in „Explore“ für Benutzer zugänglich, die selbstgesteuertes Lernen bevorzugen.

Schließlich hat OWASP auch einige Änderungen an bestehenden Schwachstellenkategorien vorgenommen, einige Kategorien umbenannt, um sie umfassender oder spezifischer zu gestalten, und ihre Definitionen angepasst. Unsere unterstützenden Richtlinien wurden aktualisiert, um sowohl die geringfügigen Änderungen der OWASP-Vorgaben als auch die neuen Namenskonventionen widerzuspiegeln. Zudem wurde die Prioritätenliste an die Reihenfolge der OWASP LLM Top 10 angepasst.

Bei Secure Code Warrior setzen wir uns dafür ein, dass unsere Nutzer immer einen Schritt voraus sind. Da die neuesten OWASP-Updates bereits in unsere agile Lernplattform integriert sind, haben unsere Nutzer einfachen Zugriff auf aktuelle Schulungsmaterialien. Diese decken die neuesten Schwachstellen ab und helfen, Risiken beim Einsatz von LLM- und generativen KI-Technologien zu mindern. Egal, ob Sie sich mit den neu eingeführten Bedrohungen wie System-Prompt-Leakage oder Vektor- und Embedding-Schwachstellen befassen oder Ihr Wissen über Fehlinformationen und unbegrenzten Ressourcenverbrauch aktualisieren – unsere Plattform bietet die nötigen Ressourcen, um diese kritischen Konzepte zu meistern und Ihre Sicherheitslage zu verbessern.