OWASP LLM 애플리케이션 Top 10: 새로운 점, 변경 사항 및 보안 유지 방법

소프트웨어 보안에 선제적으로 대응하려면 최신 표준 및 규정 준수 요구 사항을 앞서 나가야 합니다. 사이버 보안 환경은 새로운 기술이 등장함에 따라 끊임없이 변화하며 새로운 위협과 취약점이 발생하기 때문입니다. 특히 매일 새로운 발전과 활용 사례가 쏟아져 나오는 AI의 변곡점에 서 있는 지금, 그 어느 때보다 이 사실이 중요합니다.

이러한 과제를 해결하기 위해 OWASP 재단은 최근 OWASP LLM(대규모 언어 모델) 애플리케이션 Top 10 업데이트 버전을 발표했습니다. 이는 개발자, 아키텍트 및 소프트웨어 제공에 참여하는 모든 이들에게 LLM 및 생성형 AI 애플리케이션 배포 시 발생할 수 있는 잠재적 위험을 알리기 위한 것입니다. Secure Code Warrior는 이번 최신 버전의 변경 및 업데이트 사항을 당사의 보안 코드 학습 플랫폼에 즉시 반영하여 제공하게 되었습니다. 이제 모든 사용자는 새롭게 업데이트된 자료를 통해 LLM 활용 시 위험 완화의 최전선에 설 수 있습니다.

이번 업데이트의 새로운 점은 무엇인가요?

OWASP는 이전 Top 10에서 다음 두 가지 항목을 삭제했습니다.

• Insecure Plugin Design(안전하지 않은 플러그인 설계) - LLM이 플러그인과 상호 작용하는 방식 및 플러그인이 외부 저장소나 서비스와 상호 작용하는 방식과 관련이 있습니다.
• Model Theft(모델 도용) - 머신 러닝 모델이나 AI 시스템의 무단 복제 또는 획득을 의미합니다.

기존 OWASP Top 10 버전과 마찬가지로, Secure Code Warrior는 LLM Top 10 과정의 일부로 이러한 취약점과 관련된 가이드라인을 제공해 왔습니다. 취약점과 보안 개념을 이해하기 쉬운 형식으로 설명하던 이 가이드라인은 과정 커리큘럼에서 삭제되었습니다. 하지만 해당 가이드라인은 당사가 제공하는 다른 모든 학습 자료와 함께 'Explore'에서 계속 확인하실 수 있습니다.

OWASP는 Top 10 목록을 유지하기 위해 다음 두 가지 항목을 새로 추가했습니다.

• System Prompt Leakage(시스템 프롬프트 유출) - 모델의 동작을 안내하는, 일반적으로 숨겨진 프롬프트가 사용자에게 노출되는 현상입니다.
• Vector and Embedding(벡터 및 임베딩) - 공개적으로 사용할 수 없는 특정 정보, 독점 정보 또는 실시간 정보를 노출할 수 있습니다.

이러한 취약점에 대한 가이드라인이 LLM Top 10 과정에 추가되었습니다. 삭제된 가이드라인과 마찬가지로, 이 두 가지 항목도 자기 주도 학습을 원하는 사용자를 위해 'Explore'에서 확인할 수 있습니다.

마지막으로, OWASP는 기존 취약점 카테고리 목록을 일부 변경하여 범위를 넓히거나 구체화하고 정의를 수정했습니다. 이러한 주제를 다루는 당사의 가이드라인은 OWASP의 지침에 따른 사소한 변경 사항과 새로운 명명 규칙을 반영하여 업데이트되었습니다. 또한, 우선순위에 따른 목록 순서도 OWASP LLM Top 10에 맞춰 조정되었습니다.

Secure Code Warrior는 사용자가 변화에 앞서 나갈 수 있도록 최선을 다하고 있습니다. 최신 OWASP 업데이트가 즉시 반영된 당사의 민첩한 학습 플랫폼을 통해, 사용자는 최신 취약점을 다루고 LLM 및 생성형 AI 기술 배포 시 위험을 완화하는 교육 자료를 쉽게 이용할 수 있습니다. 새롭게 도입된 '시스템 프롬프트 유출'이나 '벡터 및 임베딩' 위협에 대응하든, '오정보' 및 '무제한 소비'에 대한 이해를 업데이트하든, 당사 플랫폼은 보안 태세를 개선하는 데 필요한 핵심 리소스를 제공합니다.