Wenn das Modell der kleinste Sicherheitshebel ist, was macht KI-generierten Code dann tatsächlich sicherer?

2026 war zweifellos das Jahr, in dem KI-Agenten ihren eigentlichen Durchbruch erlebten. Vor allem Tech-Konzerne setzten voll darauf und begannen, agentenbasierte, automatisierte Workflows in ihren Software Development Life Cycle (SDLC) zu integrieren. Gartners Hype Cycle for Agentic AI 2026 verdeutlichte: Während erst 17 % der Unternehmen KI-Agenten im Einsatz hatten, planten bereits 60 % eine Einführung innerhalb der nächsten 24 Monate.
KI-Tools haben viele Branchen grundlegend verändert, doch in der Softwareentwicklung vollzieht sich dieser Wandel mit einer Wucht und Geschwindigkeit, die Sicherheitsexperten durchaus alarmieren muss. Der viel beachtete Medicare-Vorfall, ausgelöst durch außer Kontrolle geratene OpenAI-Agenten, rückte elementare Sicherheitsfragen ins Licht der breiten Öffentlichkeit – woraufhin renommierte Fachleute dringend verbindliche Sicherheitsleitplanken für den Einsatz von KI einforderten.
Es gibt dabei ein kleines (lies: großes) Problem: Die meisten Unternehmen wissen nicht genau, in welcher Phase der KI-Einführung sie sich befinden, welche KI-Tools im Einsatz sind (und wer sie nutzt) und – was entscheidend ist – mit welchen modellspezifischen Sicherheitsproblemen sie möglicherweise konfrontiert sind. Wer hier im Blindflug unterwegs ist, wird große Schwierigkeiten haben, ein KI-taugliches Sicherheitsprogramm zu implementieren und aufrechtzuerhalten.
Anfang dieses Jahres haben wir den SCW AI Trust Index veröffentlicht. Gemeinsam mit der RMIT University haben wir 16 führende KI-Modelle von OpenAI, Anthropic, Google und weiteren Anbietern evaluiert, dabei 1760 Codebasen generiert und durchschnittlich 15 Schwachstellen pro Codebasis identifiziert. Anhand dieser Daten und unserer eigens entwickelten Methodik konnten wir letztlich nachweisen, dass sich Sicherheitsrisiken nach Modell und Framework präzise prognostizieren lassen.
Heute veröffentlichen wir die zweite Version des SCW AI Trust Index mit einer aktualisierten, umfassenderen Methodik, die weitere hilfreiche Datenpunkte bei der Zuweisung von Rankings und Risikobewertungen für jedes Modell berücksichtigt. Zum ersten Mal bewerten wir auch die funktionale Vollständigkeit des von der KI generierten Codes, um neben den Sicherheitsindikatoren einen Hinweis auf die allgemeine Praxistauglichkeit zu geben.
Was ist neu im SCW AI Trust Index?
Für die zweite Version haben wir 30 Modelle von acht Anbietern durch dieselbe neutrale Agenten-Testumgebung geschleust, und zwar über 11 Sprach- und Framework-Stacks hinweg. Die Anbieter reichen von OpenAI, Anthropic und Google bis hin zu Mistral, Alibaba, Moonshot, Zhipu AI und xAI. Jedes Modell erstellte 10 Apps pro Stack; insgesamt generierte und scannte die v2-Testumgebung 15.000 Apps und 41,3 Millionen Codezeilen.
Die Entwicklungen überschlagen sich: 22 der 28 Modelle, die wir nach Veröffentlichungsdatum erfassen konnten, kamen 2026 auf den Markt – neun davon allein im September. Genau deshalb ist der Index ein dynamischer Benchmark und keine einmalige Momentaufnahme.
Die eindeutigste Erkenntnis zeigt sich, wenn ein Modell mit kuratierten Sicherheitsregeln arbeitet: Über 284 vergleichbare Modell-Stack-Kombinationen aus 26 Modellen hinweg senkten die beiden getesteten Regelsätze das kumulierte gemessene Risiko um 33 % bzw. 46 %. Eine pauschale Aufforderung wie „Befolge gängige Best Practices für Sicherheit“ reduzierte das Risiko dagegen nur um 18 % – und sorgte in 83 dieser 284 Kombinationen sogar für ein aktiv erhöhtes Risiko. Dasselbe Bild zeigt sich unter Berücksichtigung der jeweils generierten Code-Menge. Dennoch lässt sich ein deutlicher Fortschritt erkennen: Die Modelle haben sich in den letzten 12 Monaten spürbar verbessert.
Regeln sind jedoch nicht das Allheilmittel, auf das wir alle gehofft hatten. Sie bewirkten am meisten bei Modellen, die ohnehin ein geringeres Risiko aufwiesen: Bei den 13 risikoärmeren Baselines sank das Risiko um 54–56 %, verglichen mit 25–43 % bei den 14 risikoreicheren. Einige Modelle lieferten trotz angewandter Regeln weiterhin Ergebnisse mit hohem Risiko.
Die Wahl des Modells bleibt entscheidend, doch der Preis allein ist kein verlässlicher Indikator dafür, welches Modell sich für Ihr Unternehmen letztlich als sicherer erweist. Zudem gibt es kein einzelnes Modell, das in jeder Umgebung die Nase vorn hat. So weist GPT 6 Astra zwar insgesamt das geringste durchschnittliche Risiko pro App auf, doch bei Java EE JSP barg Sonnet 5.5 weniger Gefahren. Mehr Geld auszugeben führt in den meisten Fällen eben nicht automatisch zu sichererem Code.
Zwar sind neuere Modelle im Durchschnitt sicherer, doch es ist gefährlich anzunehmen, dass jedes neue Release automatisch eine Verbesserung darstellt: Dieser Durchlauf hat beispielsweise gezeigt, dass Gemini 3.8 Flash ein höheres Risiko birgt als Gemini 3.5 Flash.
Diese Details, die weiterentwickelte Methodik sowie die vollständigen Ergebnisse finden Sie auf unserer Website.
Wie kann ich diese Daten für bessere Sicherheitsergebnisse nutzen?
Einfach ausgedrückt: Sie können es sich nicht leisten, weiterhin im Blindflug zu agieren, was die Auswirkungen von KI-Tools auf das allgemeine Cybersicherheitsrisikoprofil Ihres Unternehmens angeht. Diese Daten liefern Ihnen konkrete Vergleichspunkte, um die Sicherheit der Modelle zu bestimmen, die in Ihren Teams bereits im Einsatz sind oder in Zukunft implementiert werden könnten.
Wir müssen auch eines klarstellen: Erwarten Sie nicht, dass Entwickler ihr bevorzugtes Modell aufgeben, nur weil Sie ihnen Daten zu den Sicherheitsimplikationen vorlegen. Das wird kaum zu einem Umdenken führen, und Sicherheitsverantwortliche müssen dies verstehen und entsprechend handeln.
Hier hilft Ihnen der SCW AI Trust Index dabei, die Schwachstellen der von Ihnen genutzten Modelle zu erkennen und Optionen für wirksame Sicherheitskontrollen aufzuzeigen – seien es Testumgebungen, detaillierte Regelwerke oder beides –, um die bekannten, inhärenten Risiken zu mindern.
Bereit für die nächsten Schritte?
Möchten Sie erfahren, wie Führungskräfte den SCW AI Trust Index nutzen, um ihre Sicherheitsprogramme gezielt auf KI-Tools und -Prozesse auszurichten? Kontaktieren Sie uns – wir geben Ihnen gerne schon jetzt einen exklusiven Einblick in anstehende Entwicklungen.
Kontrollieren Sie KI-gestützte Entwicklung, bevor sie in Produktion geht
Bewerten Sie KI-gestützte Risiken, setzen Sie Richtlinien für sicheren Code direkt beim Commit durch und beschleunigen Sie die sichere Bereitstellung über Ihren gesamten SDLC hinweg.
Weitere Blogs entdecken
Erhalten Sie Zugang zu Experteninhalten über sichere Programmierung, KI-Governance und Software-Risikomanagement.

Eine Sicherheitskultur: Wie Sage sein Champions-Programm aufgebaut hat
Erfahren Sie, wie Sage die Sicherheit durch einen flexiblen, beziehungsorientierten Ansatz gestärkt, über 200 Security Champions ausgebildet und eine messbare Risikoreduzierung erzielt hat.

Kamer van Koophandel: Entwicklerorientierte Sicherheit im großen Maßstab
Die Kamer van Koophandel berichtet, wie sie durch rollenbasierte Zertifizierungen, Trust-Score-Benchmarking und eine Kultur der gemeinsamen Sicherheitsverantwortung sicheres Programmieren fest in den Entwicklungsalltag integriert hat.

Wie „Game of Codes“ die IAG Group in eine sicherere Programmierzukunft führt
Die IAG Group steht hinter vielen der führenden Versicherungsunternehmen im asiatisch-pazifischen Raum und zeichnet Policen für Millionen von Kunden mit einem jährlichen Prämienvolumen von rund 11,4 Milliarden AUD.

Wenn das Modell der kleinste Sicherheitshebel ist, was macht KI-generierten Code dann tatsächlich sicherer?
Anfang dieses Jahres haben wir den SCW AI Trust Index veröffentlicht. Gemeinsam mit der RMIT University haben wir 16 führende KI-Modelle von OpenAI, Anthropic, Google und weiteren Anbietern evaluiert, dabei 1760 Codebasen generiert und durchschnittlich 15 Schwachstellen pro Codebasis identifiziert. Anhand dieser Daten und unserer eigens entwickelten Methodik konnten wir letztlich nachweisen, dass sich Sicherheitsrisiken nach Modell und Framework präzise prognostizieren lassen.
Steuern Sie Ihr Programm für sichere Programmierung direkt aus Ihrem KI-Tool heraus
Verfolgen Sie den Trainingsfortschritt, entwerfen Sie Quests und erstellen Sie Berichte zu Ihrem SCW Secure Coding-Programm über jedes MCP-kompatible KI-Tool. In jedem SCW-Plan enthalten.

Hell in a PHP2Shell: Wie KI das Zeitfenster für Patches von Tagen auf Stunden verkürzt hat
PHP2Shell: Wie KI das Zeitfenster für Patches von Tagen auf Stunden verkürzt hat und warum Sicherheitsteams ihre Einstellung zu alten Fehlern und technischer Schuld überdenken sollten.
Sichere KI-gestützte Entwicklung vor dem Release
Erkennen Sie Entwicklerrisiken, setzen Sie Richtlinien durch und verhindern Sie Schwachstellen über den gesamten Softwareentwicklungszyklus hinweg.