AI/LLM 보안 영상 시리즈: 전체 에피소드, 매주 업데이트

AI/LLM 보안 입문 시리즈 가이드
GitHub Copilot, Cursor와 같은 AI 코딩 도구는 소프트웨어 개발 방식을 완전히 바꾸고 있습니다. 하지만 동시에 개발자가 안전하고 신뢰할 수 있는 애플리케이션을 만들기 위해 반드시 이해해야 할 새로운 보안 과제도 안겨줍니다. 팀이 AI를 안전하게 도입할 수 있도록 돕기 위해 12주 과정의 무료 AI/LLM 보안 입문 영상 시리즈를 유튜브에 공개했습니다.
이 게시물은 본 시리즈의 메인 허브 역할을 합니다. 매주 프롬프트 인젝션, 데이터 및 모델 오염, 공급망 리스크, 보안 프롬프트 작성 등 핵심 개념을 다루는 새로운 영상과 설명이 업데이트됩니다. 이 페이지를 북마크하여 매주 확인하시거나, YouTube 채널을 구독하여 새 강의가 공개되는 즉시 시청해 보세요.
이 입문 강의를 넘어 더 깊이 알아보고 싶다면 SCW 플랫폼에서 전체 AI/LLM 컬렉션을 살펴보시거나, 아직 고객이 아니시라면 데모를 신청해 보세요. YouTube 채널을 구독하시면 새로운 에피소드가 공개될 때마다 바로 확인하실 수 있습니다. 또한 최신 콘텐츠, 업데이트, 리소스를 계속 받아보고 싶으시다면 여기에서 신청하여 개발자 및 보안 리더 커뮤니티에 참여해 보세요.
에피소드 (매주 업데이트)
1주차 — AI 코딩 위험: LLM 사용의 위험성
이 영상에서는 코딩 시 AI/LLM을 사용할 때의 잠재적 위험을 살펴보고, 개발자가 AI 도구를 워크플로우에 통합할 때 직면하는 주요 보안 위협을 강조합니다.
2주차 — AI 코딩의 이점: 안전한 AI 보조 개발
AI 코딩 도구는 위험하기만 한 것이 아닙니다. — 안전하게 사용한다면 개발자가 더 빠르고 스마트하게 작업할 수 있도록 돕습니다. 이 영상에서는 코딩 시 AI/LLM 사용의 이점을 살펴보고, 팀이 일반적인 보안 함정을 피하면서 어떻게 AI를 책임감 있게 활용할 수 있는지 알아봅니다.
3주차 — 프롬프트 인젝션의 이해: AI 생성 코드 보호
프롬프트 인젝션은 가장 흔한 AI/LLM 취약점 중 하나이며, 모든 개발자가 예방 방법을 알아야 합니다. 이 영상에서는 프롬프트 인젝션의 개념을 소개합니다.
4주차 — 민감 정보 노출: AI 데이터 유출 방지
AI 도구는 의도치 않게 민감한 정보를 유출하여 애플리케이션과 데이터를 위험에 빠뜨릴 수 있습니다. 이 영상에서는 민감 정보 노출 취약점을 다루고, AI/LLM 사용 시 이러한 문제가 발생하는 이유와 개발자가 노출을 줄이기 위해 취할 수 있는 실질적인 조치를 공유합니다.
5주 차 — AI 공급망 리스크: 종속성 보안
AI 기반 개발은 코딩 속도를 높여주지만, 애플리케이션의 모든 계층에 영향을 미칠 수 있는 공급망 리스크도 함께 불러옵니다. 이 영상에서는 AI/LLM 관련 취약점을 살펴보고, 서드파티 모델 및 API가 공격 표면을 어떻게 확장할 수 있는지 설명하며, 위험 노출을 최소화하기 위한 전략을 공유합니다.
6주차 — 데이터 오염: AI 모델 및 출력물 보안
AI 시스템의 보안 수준은 학습 데이터의 품질에 달려 있습니다. 악의적인 입력값은 애플리케이션 전반에 걸쳐 취약점을 만들 수 있습니다. 이 영상에서는 데이터 및 모델 오염 공격을 소개하고, 악의적인 입력이 어떻게 AI 출력물을 조작할 수 있는지 설명하며 시스템을 보호하기 위한 전략을 공유합니다.
7주차 — 부적절한 출력 처리: AI 생성 코드 검증
AI 도구는 코드를 빠르게 생성하지만, 출력물을 검증하지 않으면 취약점이 눈에 띄지 않게 스며들 수 있습니다. 이 영상에서는 AI 보조 개발에서의 부적절한 출력 처리 문제를 검토하고, 위험한 출력물이 어떻게 애플리케이션을 손상시킬 수 있는지 설명하며 생성된 코드를 보호하기 위한 기법을 공유합니다.
8주차 — 과도한 권한: AI 자율성 위험 제어
AI 시스템이 더욱 자율적으로 변함에 따라, 모델이 의도된 범위를 벗어나 행동하는 과도한 권한(Excessive Agency) 문제가 새로운 위험으로 떠오르고 있습니다. 이 영상에서는 AI 보조 개발에서의 과도한 권한 취약점을 살펴보고, 이러한 행동이 발생하는 원인과 AI 기반 프로세스를 제어하기 위한 기법을 논의합니다.
9주차 — 시스템 프롬프트 유출: 숨겨진 AI 보안 위험
시스템 프롬프트에는 AI의 행동을 안내하는 숨겨진 지침이 포함되는 경우가 많습니다. 하지만 이것이 노출되면 공격자가 모델을 조작하거나 민감한 정보를 추출할 수 있습니다. 이 영상에서는 시스템 프롬프트 유출 취약점을 다루고, 발생 원인과 개발자가 AI 기반 워크플로우를 보호하기 위해 취할 수 있는 조치를 논의합니다.
10주 차 — 벡터 취약점: AI 검색 워크플로 보안
AI 모델은 강력한 기능을 제공하기 위해 벡터 데이터베이스와 임베딩에 의존하는 경우가 많습니다. 하지만 잘못된 구성과 안전하지 않은 구현은 민감한 데이터를 노출하고 새로운 공격 벡터를 생성할 수 있습니다. 이 영상에서는 벡터 및 임베딩 취약점을 자세히 살펴보고, 흔히 발생하는 보안 과제를 설명하며, AI 기반 검색 및 검색(Retrieval) 워크플로를 안전하게 보호하기 위한 전략을 공유합니다.
11주 차 — AI 오정보: 환각 현상(Hallucination) 리스크 방지
AI 도구는 때때로 그럴듯해 보이지만 틀린 결과를 생성하여 보안, 안정성, 의사 결정에 영향을 미치는 오정보 리스크를 초래할 수 있습니다. 이 영상에서는 AI 지원 코딩에서의 오정보 취약점을 설명하고, 잘못된 출력이 발생하는 방식을 살펴보며, AI 기반 콘텐츠를 검증하고 보호하기 위한 전략을 공유합니다.
12주차 — 무제한 리소스 소비: AI DoS 위험 방지
AI 시스템은 리소스를 제한 없이 소비할 수 있으며, 이는 서비스 거부(DoS), 데이터 노출, 예상치 못한 운영 장애와 같은 위험으로 이어집니다. 이 영상에서는 AI/LLM의 무제한 리소스 소비 취약점을 다루고, 발생 원인을 설명하며 AI 리소스 사용을 모니터링, 관리 및 보호하기 위한 실질적인 전략을 공유합니다.
이 영상들은 AI/LLM 보안의 핵심 개념을 소개하기 위해 제작되었지만, Secure Code Warrior 플랫폼에는 더 많은 학습 콘텐츠가 준비되어 있습니다. 실제 AI 기반 코드 검토 및 수정 과정을 시뮬레이션하는 AI 챌린지에 참여하고, 업계 모범 사례를 반영한 AI/LLM 가이드라인을 살펴보세요. 또한 워크스루, 미션, 퀘스트, 코스 템플릿을 통해 안전한 코딩 습관을 실습할 수 있습니다. 역량 강화를 원하는 팀을 위해 AI와 함께하는 코딩, AI 위험 및 보안 입문, OWASP LLM 애플리케이션 상위 10대 취약점 등 130개 이상의 AI/LLM 특화 학습 활동을 제공합니다. 데모를 요청하여 자세히 알아보세요.
배포 전 AI 기반 개발 거버넌스 확보
AI 기반 위험을 측정하고, 커밋 시점에 보안 코딩 정책을 적용하며, SDLC 전반에 걸쳐 안전한 소프트웨어 제공 속도를 높이세요.
더 많은 블로그 살펴보기
보안 코딩, AI 거버넌스, 소프트웨어 리스크 관리에 관한 전문가 콘텐츠를 확인해 보세요.
%252520%252520(3).avif)
Supercharged Security Awareness: How Tournaments are Inspiring Developers at Erste Group
Lorem ipsum dolor sit amet, consectetur adipiscing elit. Suspendisse varius enim in eros elementum tristique. Duis cursus, mi quis viverra ornare, eros dolor interdum nulla, ut commodo diam libero vitae erat. Aenean faucibus nibh et justo cursus id rutrum lorem imperdiet. Nunc ut sem vitae risus tristique posuere.

Security as culture: How Blue Prism cultivates world-class secure developers
Learn how Blue Prism, the global leader in intelligent automation for the enterprise, used Secure Code Warrior's agile learning platform to create a security-first culture with their developers, achieve their business goals, and ship secure code at speed
배포 전 AI 기반 개발 보안 확보
소프트웨어 개발 수명 주기 전반에서 개발자 리스크를 파악하고, 정책을 시행하며, 취약점을 예방하세요.














