LLM 코드 생성의 보안 및 비용 문제로 고민 중인 CISO나 엔지니어링 리더이신가요?

AI 모델을 전면 도입하기 전에 당사의 독점 LLM 벤치마킹 데이터인 SCW AI Trust Index를 검토하십시오

사이버 보안 업계는 과부하 상태에 직면해 있습니다. Anthropic의 Mythos(및 빠르게 출시되었다가 회수된 Fable 5)와 같은 도구들은 많은 보안 리더들이 AI 기술로 인해 가속화된 공격 속도와 방대한 코드 생성량에 대응하기 위해 보안 프로그램을 신속하게 강화하도록 만드는 촉매제가 되고 있습니다.

이러한 상황에서 AI 기반의 침해 위험이 쇄도한다는 인식에 대응하기 위해 예방적(솔직히 말하면 사후 대응적) 보안 조치에 뛰어들고 싶은 유혹을 느낄 수 있습니다. 그러나 오늘날 모든 CISO에게 영향을 미칠 가능성이 높은 훨씬 더 만연한 문제가 있습니다. 바로 소프트웨어 프로덕션 환경에서의 LLM 모델 선택입니다. 섀도우 AI의 결과가 잘 문서화되어 있기는 하지만, 이는 우려스러운 위험의 일부분일 뿐입니다. 우리는 코드를 생성하기 위해 토큰 비용을 지불하고, AI를 사용하여 보안 코딩 문제를 찾기 위해 더 많은 토큰을 지불하며, 보안 수정 사항을 생성하고 적용하기 위해 또다시 토큰을 지불해서는 안 됩니다. 모든 AI 모델은 특히 프레임워크나 프로그래밍 언어 간의 성능을 비교할 때 다양한 비율로 약점과 취약점을 생성할 가능성이 있습니다. 이러한 측면에서 현재 사용 중인 기술 스택, 언어 및 프레임워크를 지원할 적절한 모델을 선택해야 하며, 이 정보는 지금까지 구하기 어려웠습니다.

Secure Code Warrior partnered with key researchers at RMIT University, and we’ve spent months asking a deceptively simple question: when you hand your codebase over to an AI model, exactly how much security risk are you inheriting? The answer, based on our empirical study of 1700+ complete application codebases generated across leading frontier and budget models and eleven language frameworks, is: more than you think, and in ways that will surprise you.

보안 프로그램을 AI 시대로 전환할 때 연구 보고서에서 반드시 확인해야 할 5가지 핵심 사항은 다음과 같습니다.

1. 비용이 보안을 보장하지 않습니다.

비용을 더 많이 지불하면 더 안전한 코드가 생성될 것이라고 가정하기 쉽습니다. 하지만 데이터에 따르면 진실은 훨씬 더 복잡합니다. 당사의 초기 연구에서 GPT 5.1은 실행당 평균 5.60달러의 비용으로 100점 만점에 79.6점이라는 가장 높은 전체 정규화 보안 점수를 기록했습니다. 반면 Claude Sonnet 4.5는 실행당 43.99달러의 비용으로 71.2점이라는 훨씬 낮은 점수를 기록했습니다. 이는 더 나쁜 보안 결과에 대해 거의 8배나 많은 비용을 지불한 셈입니다.

비용 격차는 단순히 토큰당 가격 때문만이 아닙니다. 예를 들어, Anthropic 모델은 에이전트 코딩 루프 내에서 훨씬 더 많은 도구 호출을 실행하여 Sonnet 4.5 실행 시 1억 7,600만 개의 출력 토큰을 생성한 반면, GPT 5.1은 4,200만 개를 생성했습니다. 더 많은 활동, 더 많은 토큰, 더 많은 비용이 더 높은 보안을 제공하지는 않았습니다. 예산이 곧 품질은 아니므로, 예산을 측정의 대체 수단으로 삼지 마십시오.

2. 모든 모델에는 취약점 지문이 있습니다.

1,700개 이상의 코드베이스와 16개 모델에 걸쳐 검증된 진양성(true-positive) 결과가 포함된 83개의 고유한 CWE 범주를 식별했습니다. 이는 무작위가 아닙니다. 각 모델은 프레임워크나 언어에 관계없이 지속되는 체계적인 패턴을 보입니다. 6개 모델을 대상으로 한 초기 연구에서 식별된 87개 CWE 범주 중 39개는 테스트된 모든 모델에서 공통적으로 나타났으며, 이는 취약점 유형의 상당 부분이 특정 공급업체가 아닌 모델 자체의 특성임을 보여줍니다. 예를 들어, Anthropic의 Claude 모델은 하드코딩된 자격 증명(CWE-798)을 사용하는 경향이 반복적으로 나타났습니다. Gemini 2.5 Flash는 프로덕션 빌드에 디버그 코드를 지속적으로 남겨두었습니다(CWE-489).

이러한 지문은 무작위 노이즈가 아니라 학습 데이터나 정렬(alignment)로 인한 편향을 시사합니다. 이러한 예측 가능성은 실제로 유용합니다. 모델의 사각지대를 파악하면 그에 맞춰 타겟팅된 스캔 규칙과 생성 후 검사를 구성할 수 있기 때문입니다.

3. 일부 취약점은 보편적이며, 테스트된 모든 모델에서 나타납니다.

예를 들어, 현재 라이브 인덱스에서 가장 만연한 결과 중 하나는 CWE-532(로그 파일에 민감한 정보 삽입)이며, 이는 진양성으로 6,765회 나타났습니다.

모든 모델은 보안 체크리스트나 실패를 유도하기 위해 설계된 간소화된 프롬프트가 아닌, 제품 팀이 매일 작성하는 일반적인 언어의 평범한 애플리케이션 사양을 기반으로 작업했습니다. 나머지 취약점 대부분은 이례적인 예외 상황이 아니라 누락으로 인한 실패를 보여줍니다. 소스 코드에 남겨진 자격 증명, 지나치게 허용적인 기본 설정, 누락된 권한 검사 등이 이에 해당합니다. 이러한 문제는 모델이 일반적인 사양에서 스스로 추론하지 못하기 때문에 명시적으로 요청하는 순간 해결됩니다. 유일한 예외는 가장 큰 발견 사항인 민감한 데이터 로깅입니다. 이는 모델이 추가하는 것을 잊은 것이 아니라, 숙련되지 않은 인간 개발자가 하는 것처럼 모델이 스스로 작성한 것입니다. 이는 인간이 명시적으로 요청하지 않았음에도 모델이 자발적으로 수행한 행동입니다. 모델은 프롬프트에 설명된 내용을 충실히 구현하며, 보안 강화 관점에서 언급되지 않은 모든 사항까지 그대로 반영합니다.

4. 프레임워크 환경이 모델 성능을 결정합니다.

이 발견은 조직이 AI 지원 개발을 바라보는 방식을 재정립해야 합니다. 연구 결과에 따르면 모델의 강점은 기술 스택에 따라 다릅니다. 특정 프레임워크에서 잘 작동하는 모델이 다른 프레임워크에서는 성능이 저하될 수 있으므로, 팀은 모델이 실제로 사용될 환경에서 평가해야 합니다.

현재 SCW AI Trust Index에서 프레임워크 간의 격차는 모델 간의 격차보다 훨씬 큽니다. 테스트한 13개 모델 전체를 합산했을 때 JavaScript Basic의 총 위험 점수는 6,770점입니다. 반면 연구에서 가장 안전한 프레임워크인 C#/.NET Basic은 111점에 불과합니다. 이는 프레임워크 선택만으로 보안 위험이 61배나 차이 난다는 것을 의미합니다.

당사의 초기 연구는 그 이유를 밝혀냈습니다. ASP.NET의 내장 위조 방지 토큰을 사용하는 C#이나 Java Spring의 선언적 보안 모델과 같이 보안 기본값이 잘 갖춰진 프레임워크는 어떤 모델을 사용하든 훨씬 더 안전한 코드를 생성했습니다. 반면 JavaScript Basic과 같은 원시 환경은 모델 간의 차이를 치명적으로 증폭시킵니다. 조직 내에서 가능하다면 보안 의도를 우선하여 프레임워크를 선택하십시오.

5. 모든 상황에서 뛰어난 모델은 없으며, 모델 선택 시 프레임워크를 고려해야 합니다.

기존 연구에서 GPT 5.1은 전반적으로 우수한 성능을 보였으나 Swift iOS 부문에서는 최하위를 기록했습니다. Sonnet 4.5는 전체 연구 중 가장 안전한 Java Spring 코드를 생성했지만, Java EE API 부문에서는 최하위였습니다. Gemini 2.5 Pro는 Python과 Swift에서 압도적이었으나 Java에서는 평범한 수준이었습니다. 즉, 모든 상황에서 안전한 모델은 존재하지 않습니다.

다양한 언어를 사용하는 조직은 스택 전반에 걸쳐 모델별 취약점을 감수하거나, 각 프레임워크에 가장 강력한 보안 프로필을 가진 모델을 연결하는 라우팅 전략을 채택해야 합니다. 어떤 모델을 선택하든 보안 스캔은 필수입니다. 테스트한 모든 프레임워크에서 가장 뛰어난 모델조차 검증된 취약점을 생성했기 때문입니다.

비용 압박은 계속될 것입니다. 에이전트 워크플로우가 확장됨에 따라 도구 호출, 재생성 주기, 작업당 토큰 수가 늘어나며 비용도 함께 증가합니다. 작업당 및 토큰당 비용 상승으로 인해 많은 조직이 비용 절감을 위해 구형 모델이나 저가형 모델을 선택할 가능성이 큽니다. 하지만 데이터에 따르면 이러한 결정은 직감이 아닌 증거에 기반해야 합니다. GPT 5 Mini는 연구 당시 가장 저렴했지만 가장 보안이 취약한 모델이었습니다. 비용 압박이 현실인 만큼, 추측이 아닌 측정에 기반한 의사결정이 필요합니다.

중요한 것은 스캔 여부가 아니라, 보안 리더가 무엇을 스캔해야 할지 파악하기 위해 올바른 데이터, 위험 신호, AI 관측 가능성을 확보하는 것입니다. 바로 이 지점에서 AI 거버넌스가 핵심적인 역할을 하며, 당사는 이러한 필수 정보를 즉시 제공하는 포괄적인 솔루션을 갖추고 있습니다. ‍

‍

>>> 더 알아보기: SCW Trust Agent: AI
>>> 다운로드: eBook
>>> 살펴보기: 벤치마킹 마이크로사이트 (전체 연구 보고서 링크)