AI/LLM 보안 영상 시리즈: 전체 에피소드, 매주 업데이트

AI/LLM 보안 입문 시리즈 가이드

GitHub Copilot, Cursor와 같은 AI 코딩 도구는 소프트웨어 개발 방식을 완전히 바꾸고 있습니다. 하지만 동시에 개발자가 안전하고 신뢰할 수 있는 애플리케이션을 만들기 위해 반드시 이해해야 할 새로운 보안 과제도 안겨줍니다. 팀이 AI를 안전하게 도입할 수 있도록 돕기 위해 12주 과정의 무료 AI/LLM 보안 입문 영상 시리즈를 유튜브에 공개했습니다.

이 게시물은 시리즈의 중심 허브 역할을 합니다. 매주 새로운 영상과 설명을 업데이트하여 프롬프트 인젝션, 데이터 및 모델 오염, 공급망 위험, 안전한 프롬프팅 등 필수 개념을 다룰 예정입니다. 이 페이지를 즐겨찾기에 추가하여 매주 내용을 확인하거나, 유튜브 채널을 구독하여 영상이 공개되는 즉시 강의를 시청하세요.

입문 강의를 넘어 더 깊이 있는 내용을 원하신다면 SCW 플랫폼에서 전체 AI/LLM 컬렉션을 살펴보거나, 아직 고객이 아니시라면 데모를 요청해 보세요. 유튜브 채널을 구독하시면 모든 새 에피소드를 놓치지 않고 시청하실 수 있습니다. 최신 콘텐츠와 업데이트, 리소스를 계속 받아보고 싶으시다면 여기에서 수신 동의를 통해 개발자 및 보안 리더 커뮤니티에 참여하세요.

에피소드 (매주 업데이트)

1주차 — AI 코딩 위험: LLM 사용의 위험성
이 영상에서는 코딩 시 AI/LLM을 사용할 때의 잠재적 위험을 살펴보고, 개발자가 AI 도구를 워크플로우에 통합할 때 직면하는 주요 보안 위협을 강조합니다.

2주차 — AI 코딩의 이점: 안전한 AI 보조 개발
‍AI 코딩 도구는 위험하기만 한 것이 아닙니다. — 안전하게 사용한다면 개발자가 더 빠르고 스마트하게 작업할 수 있도록 돕습니다. 이 영상에서는 코딩 시 AI/LLM 사용의 이점을 살펴보고, 팀이 일반적인 보안 함정을 피하면서 어떻게 AI를 책임감 있게 활용할 수 있는지 알아봅니다.

3주차 — 프롬프트 인젝션의 이해: AI 생성 코드 보호
‍프롬프트 인젝션은 가장 흔한 AI/LLM 취약점 중 하나이며, 모든 개발자가 예방 방법을 알아야 합니다. 이 영상에서는 프롬프트 인젝션의 개념을 소개합니다.

4주차 — 민감 정보 노출: AI 데이터 유출 방지
AI 도구는 의도치 않게 민감한 정보를 유출하여 애플리케이션과 데이터를 위험에 빠뜨릴 수 있습니다. 이 영상에서는 민감 정보 노출 취약점을 다루고, AI/LLM 사용 시 이러한 문제가 발생하는 이유와 개발자가 노출을 줄이기 위해 취할 수 있는 실질적인 조치를 공유합니다.

‍

5주차 — AI 공급망 위험: 종속성 보안
‍AI 보조 개발은 코딩 속도를 높여주지만, 애플리케이션의 모든 계층에 영향을 줄 수 있는 공급망 위험을 초래하기도 합니다. 이 영상에서는 AI/LLM 관련 취약점을 살펴보고, 타사 모델과 API가 어떻게 공격 표면을 넓힐 수 있는지 설명하며 노출을 최소화하기 위한 전략을 공유합니다.

‍
6주차 — 데이터 오염: AI 모델 및 출력물 보안
‍AI 시스템의 보안 수준은 학습 데이터의 품질에 달려 있습니다. 악의적인 입력값은 애플리케이션 전반에 걸쳐 취약점을 만들 수 있습니다. 이 영상에서는 데이터 및 모델 오염 공격을 소개하고, 악의적인 입력이 어떻게 AI 출력물을 조작할 수 있는지 설명하며 시스템을 보호하기 위한 전략을 공유합니다.

7주차 — 부적절한 출력 처리: AI 생성 코드 검증
‍AI 도구는 코드를 빠르게 생성하지만, 출력물을 검증하지 않으면 취약점이 눈에 띄지 않게 스며들 수 있습니다. 이 영상에서는 AI 보조 개발에서의 부적절한 출력 처리 문제를 검토하고, 위험한 출력물이 어떻게 애플리케이션을 손상시킬 수 있는지 설명하며 생성된 코드를 보호하기 위한 기법을 공유합니다.

‍
8주차 — 과도한 권한: AI 자율성 위험 제어
‍AI 시스템이 더욱 자율적으로 변함에 따라, 모델이 의도된 범위를 벗어나 행동하는 과도한 권한(Excessive Agency) 문제가 새로운 위험으로 떠오르고 있습니다. 이 영상에서는 AI 보조 개발에서의 과도한 권한 취약점을 살펴보고, 이러한 행동이 발생하는 원인과 AI 기반 프로세스를 제어하기 위한 기법을 논의합니다.

‍
9주차 — 시스템 프롬프트 유출: 숨겨진 AI 보안 위험
‍시스템 프롬프트에는 AI의 행동을 안내하는 숨겨진 지침이 포함되는 경우가 많습니다. 하지만 이것이 노출되면 공격자가 모델을 조작하거나 민감한 정보를 추출할 수 있습니다. 이 영상에서는 시스템 프롬프트 유출 취약점을 다루고, 발생 원인과 개발자가 AI 기반 워크플로우를 보호하기 위해 취할 수 있는 조치를 논의합니다.

‍

10주차 — 벡터 취약점: AI 검색 워크플로우 보안
‍AI 모델은 강력한 기능을 제공하기 위해 벡터 데이터베이스와 임베딩에 의존하는 경우가 많습니다. 하지만 잘못된 구성과 보안이 취약한 구현은 민감한 데이터를 노출하고 새로운 공격 벡터를 만들 수 있습니다. 이 영상에서는 벡터 및 임베딩 취약점을 깊이 있게 다루고, 일반적인 보안 과제를 설명하며 AI 기반 검색 및 검색 워크플로우를 보호하기 위한 전략을 공유합니다.

‍

11주차 — AI 허위 정보: 환각 위험 방지
‍AI 도구는 때때로 그럴듯해 보이지만 사실은 틀린 출력물을 생성할 수 있으며, 이는 보안, 신뢰성, 의사결정에 영향을 미치는 허위 정보 위험을 초래합니다. 이 영상에서는 AI 보조 코딩에서의 허위 정보 취약점을 설명하고, 잘못된 출력물이 발생하는 원인을 탐구하며 AI 기반 콘텐츠를 검증하고 보호하기 위한 전략을 공유합니다.

12주차 — 무제한 리소스 소비: AI DoS 위험 방지
AI 시스템은 리소스를 제한 없이 소비할 수 있으며, 이는 서비스 거부(DoS), 데이터 노출, 예상치 못한 운영 장애와 같은 위험으로 이어집니다. 이 영상에서는 AI/LLM의 무제한 리소스 소비 취약점을 다루고, 발생 원인을 설명하며 AI 리소스 사용을 모니터링, 관리 및 보호하기 위한 실질적인 전략을 공유합니다.

‍
‍
이 영상들은 AI/LLM 보안의 핵심 개념을 소개하기 위해 제작되었지만, Secure Code Warrior 플랫폼에는 더 많은 학습 콘텐츠가 준비되어 있습니다. 실제 AI 기반 코드 검토 및 수정 과정을 시뮬레이션하는 AI 챌린지에 참여하고, 업계 모범 사례를 반영한 AI/LLM 가이드라인을 살펴보세요. 또한 워크스루, 미션, 퀘스트, 코스 템플릿을 통해 안전한 코딩 습관을 실습할 수 있습니다. 역량 강화를 원하는 팀을 위해 AI와 함께하는 코딩, AI 위험 및 보안 입문, OWASP LLM 애플리케이션 상위 10대 취약점 등 130개 이상의 AI/LLM 특화 학습 활동을 제공합니다. 데모를 요청하여 자세히 알아보세요.