모델이 가장 작은 보안 레버라면, 실제로 AI 생성 코드를 더 안전하게 만드는 요소는 무엇일까요?

2026년은 그야말로 AI 에이전트의 잠재력이 본격적으로 발휘된 해였습니다. 특히 기술 업계를 중심으로 많은 기업들이 소프트웨어 개발 수명 주기(SDLC)에 에이전트 기반의 자동화된 워크플로를 도입하기 위해 전력을 다하기 시작했습니다. Gartner의 2026년 에이전트형 AI 하이프 사이클(2026 Hype Cycle for Agentic AI)에 따르면 AI 에이전트를 도입한 조직은 17%에 불과했으나, 60%는 향후 24개월 이내에 도입할 계획인 것으로 나타났습니다.
AI 도구는 수많은 산업 전반에 혁신을 가져왔지만, 소프트웨어 개발에 미친 영향은 보안 전문가의 관점에서 볼 때 광범위하고 급속하며 매우 충격적이었습니다. 통제를 벗어난 OpenAI 에이전트와 연루되어 대대적으로 보도된 메디케어(Medicare) 데이터 유출 사고로 인해 주요 보안 문제들이 공론화되었으며, 다수의 저명한 전문가들이 AI 활용에 대한 긴급 안전 가드레일 마련을 촉구하고 나섰습니다.
여기에는 작지만(사실은 매우 큰) 문제가 있습니다. 대부분의 조직은 자사의 AI 도입 단계가 어디인지, 어떤 AI 도구 제품군을 사용 중인지(그리고 누가 사용하는지), 더 중요하게는 모델별로 어떤 보안 문제에 직면할 수 있는지 명확히 파악하지 못하고 있습니다. 이러한 요소들을 간과한 채 무작정 도입한다면 AI 준비 보안 프로그램을 구축하고 유지하는 데 큰 어려움을 겪게 될 것입니다.
올해 초 당사는 SCW AI 신뢰 지수(SCW AI Trust Index)를 발표하고, RMIT 대학교와 협력하여 OpenAI, Anthropic, Google 등의 주요 AI 모델 16개를 평가했습니다. 총 1,760개의 코드베이스를 생성하여 분석한 결과, 각 코드베이스에서 평균 15개의 취약점이 발견되었습니다. 독자적인 방법론을 적용한 이 데이터를 통해 당사는 모델과 프레임워크에 따라 보안 위험을 예측할 수 있다는 사실을 마침내 규명해 냈습니다.
오늘 저희는 SCW AI 신뢰 지수 버전 2를 발표합니다. 이번 버전은 업데이트된 보다 포괄적인 방법론을 적용하여 각 모델의 순위와 위험 점수를 산정할 때 유용한 데이터 포인트를 추가했습니다. 또한 처음으로 AI가 생성한 코드의 기능적 완성도를 평가하여 보안 지표와 함께 코드의 전반적인 실행 가능성을 확인할 수 있도록 했습니다.
SCW AI 신뢰 지수의 새로운 점은 무엇인가요?
버전 2에서는 8개 공급업체의 모델 30개를 11개 언어 및 프레임워크 스택 전반에 걸쳐 동일한 중립적 에이전트 환경에서 테스트했습니다. 공급업체는 OpenAI, Anthropic, Google부터 Mistral, Alibaba, Moonshot, Zhipu AI, xAI까지 포함됩니다. 각 모델은 스택당 10개의 앱을 구축했으며, v2 테스트 환경에서 총 15,000개의 앱과 4,130만 줄의 코드가 생성 및 스캔되었습니다.
이 분야의 변화는 매우 빠릅니다. 출시일 기준 파악이 가능한 28개 모델 중 22개가 2026년에 출시되었으며, 그중 9개는 9월 한 달 동안에만 나왔습니다. 이 지수가 일회성 순위가 아닌 살아 숨 쉬는 벤치마크인 이유가 바로 여기에 있습니다.
가장 명확한 발견은 모델에 정선된 보안 규칙을 제공했을 때 나타난 결과입니다. 26개 모델의 비교 가능한 284개 '모델 및 기술 스택' 조합 전반에서, 테스트된 두 가지 정선된 규칙 세트는 측정된 총 위험도를 각각 33%와 46% 낮췄습니다. 반면 일반적인 "보안 모범 사례를 따르라"는 지침은 위험도를 18% 낮추는 데 그쳤으며, 284개 조합 중 83개에서는 오히려 위험도를 높였습니다. 모델별 코드 작성량을 감안하더라도 동일한 양상이 관찰되었습니다. 지난 12개월 동안 모델들이 비약적으로 발전하며 뚜렷한 진전을 보였다는 점 또한 확인할 수 있었습니다.
하지만 규칙이 우리가 기대했던 만능 해결책은 아닙니다. 규칙은 이미 위험도가 낮은 모델에서 가장 효과적이었으며, 위험도가 낮은 13개 모델의 위험을 54~56% 감소시킨 반면, 위험도가 높은 14개 모델에서는 25~43% 감소시키는 데 그쳤습니다. 일부 모델은 규칙을 적용했음에도 여전히 고위험 결과물을 생성했습니다.
모델 선택은 여전히 중요하지만, 가격만으로는 귀사에 궁극적으로 더 안전한 선택이 될 모델을 판단하기 어렵습니다. 또한 모든 환경에서 절대적으로 가장 안전한 단일 모델은 존재하지 않습니다. 예를 들어 GPT 6 Astra는 애플리케이션당 평균 위험도가 전반적으로 가장 낮았지만, Java EE JSP 환경에서는 Sonnet 5.5의 위험도가 더 낮았습니다. 비용을 더 많이 들인다고 해서 대부분의 경우 더 안전한 코드를 확실하게 확보할 수 있는 것도 아닙니다.
최신 모델이 평균적으로 더 안전한 것은 사실이지만, 모든 신규 릴리스가 자동으로 개선되었다고 가정하는 것은 위험합니다. 예를 들어, 이번 테스트 결과 Gemini 3.8 Flash가 Gemini 3.5 Flash보다 더 큰 위험을 내포하고 있는 것으로 나타났습니다.
이러한 분석 내용과 새로운 방법론 및 전체 연구 결과는 당사 웹사이트에서 확인하실 수 있습니다.
이 데이터를 어떻게 활용하여 보안 성과를 높일 수 있을까요?
간단히 말해, AI 도구가 기업의 전반적인 사이버 보안 위험 프로필에 미치는 영향을 더 이상 외면해서는 안 됩니다. 이 데이터는 팀 내에서 사용 중이거나 향후 도입할 모델의 보안 실행 가능성을 판단할 수 있는 실질적인 비교 기준을 제공합니다.
개발자의 모델 사용과 관련하여 분명히 해야 할 점이 있습니다. 보안 영향에 대한 데이터를 보여준다고 해서 개발자가 선호하는 모델을 바꿀 것이라고 기대하지 마십시오. 이는 변화를 이끌어내기 매우 어려우며, 보안 리더는 이를 암묵적으로 이해하고 대응해야 합니다.
이때 SCW AI 신뢰 지수를 활용하면 사용하는 모델의 단점을 파악하고, 모델이 가진 고유한 위험을 완화하기 위해 하네스, 상세 규칙 세트 등 실행 가능한 보안 제어를 추가할 수 있습니다.
다음 단계를 진행할 준비가 되셨나요?
SCW AI 신뢰 지수가 귀사와 같은 리더들이 AI 도구 및 프로세스에 맞춤화된 보안 프로그램을 구축하는 데 어떻게 기여하고 있는지 알아보고 싶으시다면 문의해 주세요. 향후 선보일 계획에 대해서도 미리 안내해 드리겠습니다.
배포 전 AI 기반 개발 거버넌스 확보
AI 기반 위험을 측정하고, 커밋 시점에 보안 코딩 정책을 적용하며, SDLC 전반에 걸쳐 안전한 소프트웨어 제공 속도를 높이세요.
더 많은 블로그 살펴보기
보안 코딩, AI 거버넌스, 소프트웨어 리스크 관리에 관한 전문가 콘텐츠를 확인해 보세요.

모델이 가장 작은 보안 레버라면, 실제로 AI 생성 코드를 더 안전하게 만드는 요소는 무엇일까요?
올해 초 당사는 SCW AI 신뢰 지수(SCW AI Trust Index)를 발표하고, RMIT 대학교와 협력하여 OpenAI, Anthropic, Google 등의 주요 AI 모델 16개를 평가했습니다. 총 1,760개의 코드베이스를 생성하여 분석한 결과, 각 코드베이스에서 평균 15개의 취약점이 발견되었습니다. 독자적인 방법론을 적용한 이 데이터를 통해 당사는 모델과 프레임워크에 따라 보안 위험을 예측할 수 있다는 사실을 마침내 규명해 냈습니다.
배포 전 AI 기반 개발 보안 확보
소프트웨어 개발 수명 주기 전반에서 개발자 리스크를 파악하고, 정책을 시행하며, 취약점을 예방하세요.



