Gemeinsam stark: Wie KI-Codierungstools und sicherheitsbewusste Entwickler sicher zusammenarbeiten können
Von KI erstellter Code kann voller Schwachstellen und Fehler stecken, doch KI-gestützte Codierungstools können dennoch hilfreich sein, wenn sie mit sicherheitsbewussten menschlichen Entwicklern kombiniert werden.
Während das Jahr 2023 von einer Welle der Aktivität und einem enormen Popularitätsschub für die neueste Iteration der künstlichen Intelligenz, die generative KI, geprägt war, steht diese transformative Technologie ganz offensichtlich erst am Anfang. Die meisten Experten gehen davon aus, dass sie 2024 noch größere Höhen erreichen wird.
Und da das Schreiben von Code in verschiedenen Sprachen eine der ersten Demonstration der Fähigkeiten generativer KI war, überrascht es kaum, dass jüngste Umfragen zeigen, dass bis zu 93 % der Entwicklungsteams KI-Tools in ihren Workflow integrieren. Erst in jüngster Zeit spüren diese Teams jedoch auch einige der negativen Begleiterscheinungen dieser Entscheidung, da der von KI generierte Code voller ausnutzbarer Schwachstellen sein kann.
Tatsächlich sind KI-gestützte Coding-Tools nach derzeitigem Stand nicht in der Lage, fehlerhaften oder unsicheren Code zuverlässig zu erkennen – geschweige denn, dieselben Fehler bei der Generierung von neuem Code zu vermeiden. In einer umfassenden Studie, die unter anderem von der University of Maryland, der UC Berkeley und Google durchgeführt wurde, untersuchten Forscher 11 KI-Modelle aus vier verschiedenen Modellfamilien und gaben ihnen die Aufgabe, Schwachstellen in von KI erstelltem Computercode aufzuspüren. Angesichts hoher Falsch-Positiv-Raten und einer geringen Genauigkeit bei der Erkennung von Sicherheitslücken kamen die Forscher zu dem Schluss, dass KI für diese Aufgabe schlichtweg noch nicht bereit ist. Und vielleicht wird sie es auch nie sein: Selbst nach Versuchen, die Modelle durch das Training mit zahlreichen Beispielen für sicheren Code zu optimieren, wiesen sie immer noch inakzeptabel hohe Fehlerraten auf.
In einer weiteren Studie der University of Quebec forderten Forscher das beliebte generative KI-Tool ChatGPT auf, 21 verschiedene Programme und Anwendungen in unterschiedlichen Sprachen zu erstellen. Obwohl alle von der KI programmierten Anwendungen wie vorgesehen funktionierten, waren aus Sicht der Cybersicherheit nur fünf davon sicher. Die übrigen wiesen gefährliche Schwachstellen auf, die Angreifer hätten ausnutzen können, um jedes Unternehmen zu kompromittieren, das diese Anwendungen einsetzt.
Mensch und KI – ein starkes Team!
Wer sich mit KI-Entwicklung befasst, sollte von diesen und vielen anderen Studien mit ähnlichen Ergebnissen, mich eingeschlossen, nicht allzu überrascht sein. Generative KIs können neue Inhalte erstellen, indem sie auf große Sprachmodelle zurückgreifen – im Grunde riesige Datenbanken mit gesammeltem menschlichem Wissen, die die KI schnell durchsuchen und analysieren kann, um neue Antworten und Inhalte zu generieren. Das Problem ist, dass diese großen Sprachmodelle sowohl die guten als auch die schlechten Aspekte all dessen enthalten, was Menschen jemals geschaffen haben.
In Bezug auf den Programmcode führt dies dazu, dass viele Schwachstellen und Bad Practices in diesen großen Sprachmodellen verankert sind. Jede einzelne OWASP-Schwachstelle ist zweifellos in diesen Modellen enthalten, zusammen mit Tausenden weiteren. Wann immer ein Mensch einen Fehler gemacht und eine unsichere Anwendung programmiert hat, ist die Wahrscheinlichkeit groß, dass sich dies in den Trainingsdaten widerspiegelt, auf die KIs heute zurückgreifen. Und die Wahrscheinlichkeit ist ebenso hoch, dass eine KI diese Muster bei der Generierung komplexer neuer Anwendungen reproduziert.
Was ist also die Lösung? Können wir weiterhin die Geschwindigkeitsvorteile der KI-Codierung nutzen und gleichzeitig sicheren Code generieren? Ja, aber nur, wenn Menschen und KI zusammenarbeiten und jeder das tut, was er am besten kann.
Trotz all ihrer erstaunlichen Leistungen versteht KI den Kontext nicht wirklich. Man kann sie beispielsweise bitten, die Infrastruktur für einen Online-Shop zu programmieren, aber sie weiß nicht, was Sie verkaufen wollen, wie man die richtigen Produkte den richtigen Besuchern anzeigt oder welche Komplexität Ihre Backend-Lieferkette aufweist. Code zu schreiben, der all das berücksichtigt, ist eher Aufgabe menschlicher Entwickler, deren Hauptaufgabe darin besteht, Programme zu schreiben, die bei der Lösung geschäftlicher Probleme helfen. Menschen, insbesondere solche, die schon lange in ihrer jeweiligen Branche tätig sind, sind sehr gut darin, solche Probleme zu lösen. Aber selbst die besten Programmierer brauchen manchmal eine Auffrischung, wenn es um die Details komplexer Implementierungen geht.
Im jüngsten Stack Overflow Developer Survey gaben beispielsweise 63 % der befragten Entwickler an, täglich mindestens 30 Minuten oder mehr mit der Suche nach Lösungen zur Implementierung bestimmter Aspekte ihrer Anwendungen zu verbringen. Dieser sogenannte kognitive Kontextwechsel – wenn Entwickler von einem kreativen Prozess zu reiner Recherche oder Routinearbeiten übergehen müssen – kostet jeden Tag eine beträchtliche Menge an wertvoller, produktiver Zeit.
Genau hier können KI-Tools jedoch eine virtuelle Hilfestellung bieten. Wenn ein menschlicher Entwickler an einem Gesamtprogramm oder einer Anwendung wie dem erwähnten Online-Shop arbeitet und bei einem Aspekt der Implementierung feststeckt, kann ein KI-Tool helfen. Das Schreiben von Code zur Anbindung einer Produktdatenbank an eine Lieferkettenanwendung kann beispielsweise extrem schnell von einem KI-Tool erledigt werden, ohne dass die KI den Gesamtkontext oder die Mission des Projekts verstehen muss. Es ist zudem weitaus unwahrscheinlicher, dass Schwachstellen implementiert werden, wenn die KI nur mit grundlegenden Aspekten des Codes beauftragt wird.
Vertrauen ist gut, Kontrolle ist besser
Die Kombination von menschlichen Entwicklern und KI-Tools, bei der jeder seine Stärken ausspielen kann, ist eine lohnende Strategie. Sie beschleunigt den Codierungsprozess und begrenzt gleichzeitig einige der Gefahren, die von KI-induzierten Schwachstellen im Code ausgehen. Die KI mit kleineren Elementen der Codeerstellung zu beauftragen, ist weniger riskant, aber Schwachstellen können dennoch auftreten.
Deshalb ist eine Sicherheitsschulung für Entwickler unerlässlich. Wenn ein Mensch sowohl den Gesamtkontext des Projekts als auch die besten Sicherheitspraktiken versteht, kann er schnell überprüfen, ob der von der KI geschriebene Code korrekt und frei von Schwachstellen oder anderen Problemen wie Logikfehlern ist. Es wird viel Zeit gespart, da der Entwickler nicht nachschlagen muss, wie der von der KI generierte Teil zu erstellen ist, sondern lediglich sicherstellen muss, dass er sicher ist, und eventuelle Fehler beheben kann.
KI-Tools sind beeindruckend und können den Entwicklungsprozess erheblich beschleunigen. Sie sind jedoch nicht in der Lage, zuverlässig sicheren Code zu schreiben, und aktuelle Studien deuten darauf hin, dass sie dieses Ziel möglicherweise nie erreichen werden. Dennoch können sie in der Softwareentwicklung unglaublich nützlich sein, solange sie mit qualifizierten, gut geschulten und sicherheitsbewussten Entwicklern kombiniert werden.
Kontrollieren Sie KI-gestützte Entwicklung, bevor sie in Produktion geht
Bewerten Sie KI-gestützte Risiken, setzen Sie Richtlinien für sicheren Code direkt beim Commit durch und beschleunigen Sie die sichere Bereitstellung über Ihren gesamten SDLC hinweg.
Weitere Blogs entdecken
Erhalten Sie Zugang zu Experteninhalten über sichere Programmierung, KI-Governance und Software-Risikomanagement.
%252520%252520(3).avif)
Supercharged Security Awareness: How Tournaments are Inspiring Developers at Erste Group
Lorem ipsum dolor sit amet, consectetur adipiscing elit. Suspendisse varius enim in eros elementum tristique. Duis cursus, mi quis viverra ornare, eros dolor interdum nulla, ut commodo diam libero vitae erat. Aenean faucibus nibh et justo cursus id rutrum lorem imperdiet. Nunc ut sem vitae risus tristique posuere.

Security as culture: How Blue Prism cultivates world-class secure developers
Learn how Blue Prism, the global leader in intelligent automation for the enterprise, used Secure Code Warrior's agile learning platform to create a security-first culture with their developers, achieve their business goals, and ship secure code at speed

Eine Sicherheitskultur: Wie Sage sein Champions-Programm aufgebaut hat
Erfahren Sie, wie Sage die Sicherheit durch einen flexiblen, beziehungsorientierten Ansatz gestärkt, über 200 Security Champions ausgebildet und eine messbare Risikoreduzierung erzielt hat.

Hell in a PHP2Shell: Wie KI das Zeitfenster für Patches von Tagen auf Stunden verkürzt hat
PHP2Shell: Wie KI das Zeitfenster für Patches von Tagen auf Stunden verkürzt hat und warum Sicherheitsteams ihre Einstellung zu alten Fehlern und technischer Schuld überdenken sollten.

Cybersecurity Awareness Month 2026: Das Verständnis von KI-Sicherheit ist entscheidend für die Unternehmensverteidigung
Wir haben einen Punkt erreicht, an dem die meisten führenden KI-Unternehmen öffentlich eine weltweite Verlangsamung der KI-Entwicklung gefordert haben, damit die Sicherheitsvorkehrungen Schritt halten können. Doch die Wahrheit ist: Ernsthafte Sicherheitsprobleme sind bereits Realität geworden. Dies bringt unzählige Sicherheitsverantwortliche und Führungsteams in eine dringliche Lage, da die finanziellen Kosten und Risiken durch die Implementierung von KI stetig steigen.

Enabler 8: Branding für Ihr Programm
Ein Programm für sicheres Programmieren braucht mehr als nur großartige Inhalte, um erfolgreich zu sein. Enabler 8 zeigt, wie Branding die Teilnahme zu einem begehrten, statusorientierten Erlebnis macht.
Sichere KI-gestützte Entwicklung vor dem Release
Erkennen Sie Entwicklerrisiken, setzen Sie Richtlinien durch und verhindern Sie Schwachstellen über den gesamten Softwareentwicklungszyklus hinweg.