소프트웨어 개발에 에이전트 AI를 빠르게 도입하세요! (스포일러: 아마 그러지 않는 편이 좋을 겁니다.)

사이버 보안 전문가로서 지금 모두가 에이전트형 AI에 과도하게 몰입하고 있다는 느낌을 받은 적 없으신가요? 어쩌면 잠시 속도를 늦추고 성찰할 시간이 필요한지도 모릅니다. 우리가 AI 보안의 미래를 예견하며 우려했던 일들이 이제 현실이 되었습니다.

11월 14일 금요일, 인기 있는 Claude Code 도구로 유명한 세계적인 LLM 공급업체인 앤스로픽(Anthropic)은 획기적인 보고서를 발표했습니다. 이 보고서는 2025년 9월에 발생한 사이버 사고를 다루고 있으며, 대형 기술 기업, 금융 기관, 화학 제조 기업부터 정부 기관에 이르기까지 광범위한 대상을 겨냥했습니다.

도대체 무슨 일이 있었고, 왜 이토록 심각한 문제일까요? 쉽게 말해, 고도로 숙련된 위협 행위자(국가 배후로 추정)가 Claude Code와 개발 환경 내 다양한 도구, 그리고 모델 컨텍스트 프로토콜(MCP) 시스템을 악용했습니다. 이들은 무해한 오픈소스 해킹 도구를 사용하여 엄선된 기업들을 거의 자율적으로, 대규모로 공격했습니다. 30건 이상의 공격 시도가 있었고 그중 일부는 성공했습니다. 이는 AI 에이전트가 인간의 개입을 최소화하면서도 파괴적인 침해 사고를 일으킬 수 있음을 입증한 사례입니다.

지난달, GlassWorm이라 불리는 최초의 VS Code 확장 프로그램 타겟 자가 증식 웜이 Koi Security에 의해 발견되었습니다. 새로운 공격 벡터는 아니지만, 겉보기에는 무해해 보이지만 실제로는 개발자의 엔드포인트를 빠르게 감염시킬 수 있는 악성 활동을 숨긴 새로운 코딩 확장 프로그램(MCP 서버 포함)이 쏟아져 나오고 있습니다.

이제 잠시 속도를 늦추고 심호흡을 한 뒤, 이 새로운 위협 프로필에 어떻게 대응할지 머리를 맞대고 고민해야 할 때입니다.

고속 AI 에이전트로부터 시스템 보호하기

최근 앤스로픽의 보고서는 보안 커뮤니티가 오랫동안 우려해 온 강력한 신규 위협을 조명하며, AI가 분산된 위험을 얼마나 극적으로 가속화하고 증폭시킬 수 있는지 확인시켜 주었습니다. 이미 번아웃에 시달리고 기술 복잡성 관리에 지친 보안 담당자들보다 공격자들이 한발 앞서 있는 상황에서, 이러한 발전은 악의적인 행위자들에게 더 큰 이점을 제공하고 있습니다.

본질적으로, 국가 지원을 받는 공격자들은 Claude Code 모델을 "탈옥(jailbreak)"하는 데 성공했습니다. 이들은 AI를 속여 정교한 보안 프로토콜을 우회하고 적대적인 작업을 수행하도록 만들었습니다. 일단 침투에 성공한 악성 AI 에이전트는 MCP 접근 권한을 활용하여 기업 시스템과 도구 전반에 빠르게 침투했습니다. 가장 숙련된 인간 해커 집단조차 불가능할 정도로 짧은 시간 내에 조직 내 민감한 데이터베이스를 찾아내고 특정했습니다.

이번 침해 사고는 포괄적인 취약점 테스트, 악성 코드 자동 생성, 심지어 시스템 스캔 로그와 탈취한 개인정보(PII)를 포함한 공격 과정의 자체 문서화까지, 끔찍한 일련의 공격을 유발했습니다.

보안 베테랑들에게 이는 악몽과도 같은 시나리오입니다. 인간 팀이 이러한 AI 기반 공격 벡터의 압도적인 속도와 파괴력을 어떻게 감당할 수 있을까요?

개발자의 엔드포인트와 새로운 AI 생태계가 만드는 새로운 공격 벡터

모든 개발자는 VSCode, JetBrains의 IntelliJ나 Eclipse, 혹은 최근의 Cline, Windsurf, Cursor 등 자신만의 IDE를 선호하며, 대부분의 IDE는 확장 프로그램을 다운로드하고 설치할 수 있는 앱 마켓플레이스를 제공합니다. 이러한 확장 프로그램은 악성 활동에 대한 검증이 거의 이루어지지 않으며, 일반적으로 과도한 권한을 가진 채 파일에 접근할 수 있는 샌드박스 환경에서 실행됩니다.

이제 이러한 환경들은 모두 AI 기능, AI 에이전트, 그리고 에이전트가 사용할 수 있는 다양한 도구(예: MCP 서버)를 통합하고 있습니다. 종종 이러한 도구들은 개발자라면 누구나 새로운 도구를 출시할 수 있는 마켓플레이스를 통해 배포됩니다. 짐작하시겠지만, 이러한 MCP 서버는 프롬프트 주입 공격에 취약할 가능성이 높은 AI 환경을 통해 시스템에서 명령을 읽고, 쓰고, 실행할 수 있습니다. 어떤 일이 벌어질지 상상이 가시나요?

AI 도구 추적성과 가시성 확보의 필수성

복잡해 보이지만 간단합니다. CISO가 어떤 개발자가 어떤 AI 도구를 사용하는지, 어떤 코드가 커밋되는지, 혹은 어떤 저장소가 인간과 AI의 협업으로 수정되는지 파악하지 못한다면, 거대한 데이터셋이 누락된 것이며 가시성 확보는 당장 시급한 과제입니다.

대다수의 개발자가 AI 코딩 어시스턴트와 MCP 서버를 활용하면서 SDLC 내에 심각한 보안 사각지대가 발생했습니다. 데이터는 경고하고 있습니다. 기능적으로 올바른 LLM 생성 코드의 최대 50%에서 보안 버그가 발견되었지만, 적절한 가시성이 없으면 CISO와 AppSec 팀은 도입되는 고위험 코드의 규모와 출처에 대한 실행 가능한 통찰력을 얻을 수 없습니다. 이러한 추적성의 결여는 정책 집행 및 위험 완화라는 형태의 효과적인 AI 거버넌스를 사실상 불가능하게 만듭니다.

AI가 제공하는 엄청난 생산성 향상을 안전하게 극대화하려면, 조직은 AI 공격 표면에 대한 완전하고 깊이 있는 가시성을 제공하는 솔루션을 의무화해야 합니다. Secure Code Warrior는 일부 고객을 대상으로 SCW Trust Agent: AI의 클로즈 베타를 진행 중입니다. 이 기능은 개발자의 로컬 머신에서 AI 생성 코드 트래픽(MCP 서버 포함)을 실시간으로 모니터링하고, IDE를 통해 풀 리퀘스트와 커밋을 추적함으로써 깊이 있는 가시성을 제공합니다. 정확한 보안 추적성은 사용된 특정 AI 코딩 도구 및 LLM 모델, 타겟 코드 저장소, 그리고 가장 중요한 기여 개발자의 보안 코딩 숙련도라는 세 가지 핵심 신호를 상호 연관시킬 때만 달성할 수 있습니다.

이러한 검증 가능한 상관관계 체인을 구축해야만 조직은 도입되는 실제 보안 위험을 정확하게 벤치마킹하고, 강력한 정책 집행을 자동화하며, AI를 활용하는 개발자가 기존 가드레일을 우회하기 전에 필수 보안 코딩 표준을 준수하도록 보장할 수 있습니다.

더 자세한 정보가 필요하시거나 강력한 AI 거버넌스가 실제로 어떻게 작동하는지 데모로 확인하고 싶으시다면 언제든 문의해 주세요. 베타 프로그램 참여를 원하시면 메시지를 남겨주시기 바랍니다.