KI/LLM-Sicherheits-Videoserie: Alle Episoden, wöchentlich aktualisiert

Ihr Leitfaden zur Einführungsserie in die KI/LLM-Sicherheit

KI-Codierungstools wie GitHub Copilot, Cursor und andere verändern die Art und Weise, wie Software entwickelt wird – sie bringen jedoch auch neue Sicherheitsherausforderungen mit sich, die Entwickler verstehen müssen, um sichere und zuverlässige Anwendungen zu erstellen. Um Teams bei der sicheren Einführung von KI zu unterstützen, haben wir eine kostenlose, 12-wöchige Einführungsserie zur KI/LLM-Sicherheit auf YouTube erstellt.

Dieser Beitrag dient als zentrale Anlaufstelle für die Serie. Jede Woche aktualisieren wir ihn mit einem neuen Video und einer Beschreibung, die wesentliche Konzepte wie Prompt Injection, Daten- und Modell-Poisoning, Risiken in der Lieferkette, sicheres Prompting und mehr abdecken. Speichern Sie diese Seite, um wöchentlich auf dem Laufenden zu bleiben, oder abonnieren Sie unseren YouTube-Kanal, um jede Lektion sofort nach der Veröffentlichung zu erhalten.

Wenn Sie über diese einführenden Lektionen hinaus tiefer in die Materie eintauchen möchten, erkunden Sie die vollständige KI/LLM-Sammlung auf der SCW-Plattform oder fordern Sie eine Demo an, falls Sie noch kein Kunde sind. Abonnieren Sie unseren YouTube-Kanal, um keine neue Episode zu verpassen. Und wenn Sie über aktuelle Inhalte, Updates und Ressourcen auf dem Laufenden bleiben möchten, melden Sie sich hier an, um unserer Community aus Entwicklern und Sicherheitsverantwortlichen beizutreten.

Episoden (wöchentliche Aktualisierung)

Woche 1 — Risiken beim KI-Coding: Gefahren bei der Nutzung von LLMs
In diesem Video untersuchen wir die potenziellen Gefahren bei der Verwendung von KI/LLMs beim Programmieren und beleuchten die wichtigsten Risiken, denen Entwickler bei der Integration von KI-gestützten Tools in ihre Arbeitsabläufe gegenüberstehen.

Woche 2 — Vorteile beim KI-Coding: Sicherere KI-gestützte Entwicklung
‍KI-Codierungstools sind nicht nur riskant — bei sicherer Anwendung können sie Entwicklern helfen, schneller und intelligenter zu arbeiten. In diesem Video untersuchen wir die Vorteile der Nutzung von KI/LLMs beim Programmieren und zeigen auf, wie Teams KI verantwortungsbewusst einsetzen und gleichzeitig häufige Sicherheitsfallen vermeiden können.

Woche 3 — Prompt Injection erklärt: Schutz von KI-generiertem Code
‍Prompt Injection ist eine der häufigsten KI/LLM-Schwachstellen – und eine, deren Prävention jeder Entwickler kennen sollte. In diesem Video stellen wir die Grundlagen vor

Woche 4 — Offenlegung sensibler Informationen: Vermeidung von KI-Datenlecks
KI-gestützte Tools können versehentlich sensible Informationen preisgeben und so Ihre Anwendungen und Daten gefährden. In diesem Video behandeln wir Schwachstellen durch die Offenlegung sensibler Informationen, erklären, wie diese bei der Verwendung von KI/LLMs entstehen, und zeigen praktische Schritte auf, mit denen Entwickler das Risiko minimieren können.

‍

Woche 5 — Risiken in der KI-Lieferkette: Absicherung von Abhängigkeiten
‍KI-gestützte Entwicklung beschleunigt das Programmieren – bringt aber auch Risiken für die Lieferkette mit sich, die sich auf jede Ebene Ihrer Anwendungen auswirken können. In diesem Video untersuchen wir Schwachstellen im Zusammenhang mit KI/LLMs, erklären, wie Modelle und APIs von Drittanbietern Ihre Angriffsfläche vergrößern können, und teilen Strategien zur Minimierung dieser Risiken.

‍
Woche 6 — Data Poisoning: Absicherung von KI-Modellen und -Outputs
‍KI-Systeme sind nur so sicher wie ihre Trainingsdaten – und kompromittierte Eingaben können Schwachstellen schaffen, die sich auf Ihre gesamten Anwendungen auswirken. In diesem Video stellen wir Data- und Model-Poisoning-Angriffe vor, erklären, wie böswillige Eingaben KI-Outputs manipulieren können, und zeigen Strategien zum Schutz Ihrer Systeme auf.

Woche 7 — Unsachgemäße Output-Verarbeitung: Validierung von KI-generiertem Code
‍KI-gestützte Tools können schnell Code generieren – wenn die Ergebnisse jedoch nicht validiert werden, können sich unbemerkt Schwachstellen einschleichen. In diesem Video untersuchen wir die unsachgemäße Verarbeitung von Outputs in der KI-gestützten Entwicklung, erklären, wie riskante Ergebnisse Ihre Anwendungen gefährden können, und zeigen Techniken zur Absicherung von generiertem Code.

‍
Woche 8 — Übermäßige Autonomie: Kontrolle von Risiken durch KI-Eigenständigkeit
‍Da KI-Systeme immer autonomer werden, entstehen durch übermäßige Handlungsspielräume neue Risiken, bei denen Modelle über ihren beabsichtigten Rahmen hinaus agieren. In diesem Video untersuchen wir Schwachstellen durch übermäßige Autonomie in der KI-gestützten Entwicklung, erklären, wie es zu solch eigenmächtigem Verhalten kommt, und diskutieren Techniken, um die Kontrolle über KI-gesteuerte Prozesse zu behalten.

‍
Woche 9 — System-Prompt-Leakage: Versteckte KI-Sicherheitsrisiken
‍System-Prompts enthalten oft versteckte Anweisungen, die das Verhalten der KI steuern – werden diese jedoch offengelegt, können Angreifer Modelle manipulieren oder sensible Informationen extrahieren. In diesem Video behandeln wir Schwachstellen durch System-Prompt-Leakage, erklären, wie diese entstehen, und diskutieren Schritte, die Entwickler zum Schutz ihrer KI-gestützten Arbeitsabläufe unternehmen können.

‍

Woche 10 — Vektor-Schwachstellen: Absicherung von KI-Retrieval-Workflows
‍KI-Modelle verlassen sich oft auf Vektordatenbanken und Embeddings, um leistungsstarke Funktionen bereitzustellen – Fehlkonfigurationen und unsichere Implementierungen können jedoch sensible Daten preisgeben und neue Angriffsvektoren schaffen. In diesem Video tauchen wir in Vektor- und Embedding-Schwachstellen ein, erklären häufige Sicherheitsherausforderungen und teilen Strategien zur Absicherung Ihrer KI-gestützten Such- und Abrufprozesse.

‍

Woche 11 — KI-Fehlinformationen: Vermeidung von Halluzinationsrisiken
‍KI-Tools können manchmal Ergebnisse generieren, die korrekt aussehen, es aber nicht sind – was zu Risiken durch Fehlinformationen führt, die Sicherheit, Zuverlässigkeit und Entscheidungsfindung beeinträchtigen. In diesem Video erklären wir Schwachstellen durch Fehlinformationen beim KI-gestützten Programmieren, untersuchen, wie fehlerhafte Ergebnisse entstehen, und teilen Strategien zur Validierung und Absicherung von KI-generierten Inhalten.

Woche 12 — Unbegrenzter Ressourcenverbrauch: Prävention von KI-DoS-Risiken
KI-Systeme können Ressourcen unbegrenzt verbrauchen – was zu Risiken wie Denial-of-Service (DoS), Datenoffenlegung und unerwarteten Betriebsausfällen führen kann. In diesem Video behandeln wir Schwachstellen durch unbegrenzten Ressourcenverbrauch bei KI/LLMs, erklären, wie diese entstehen, und teilen praktische Strategien zur Überwachung, Steuerung und Absicherung der KI-Ressourcennutzung.

‍
‍
Diese Videos führen in die Grundkonzepte der KI/LLM-Sicherheit ein, doch die Secure Code Warrior-Plattform bietet noch weitaus mehr. Tauchen Sie ein in KI-Challenges, die reale Code-Reviews und Fehlerbehebungen simulieren, entdecken Sie unsere an Branchenstandards ausgerichteten KI/LLM-Richtlinien und nutzen Sie Walkthroughs, Missionen, Quests und Kursvorlagen für praxisnahe Sicherheitsschulungen. Für Teams, die ihre Fähigkeiten vertiefen möchten, bietet die Plattform zudem eine wachsende Bibliothek mit über 130 KI/LLM-Lernaktivitäten, darunter Themen wie Programmieren mit KI, Einführung in KI-Risiken & Sicherheit sowie die OWASP Top 10 für LLM-Anwendungen. Fordern Sie eine Demo an, um mehr zu erfahren.