사례로 배우는 AI 보안 거버넌스 전략
Session 2
사례로 배우는 AI 보안 거버넌스 전략 ·
AI 시대의 사이버보안 — 공격은 진화하고, 방어는 재정의된다
AI가 사이버보안의 판도를 어떻게 바꾸고 있는지 공격자와 방어자 양측 관점에서 이해한다. AI 기반 사이버 공격의 실제 양상과 AI를 활용한 차세대 보안 기술을 사례 중심으로 학습하여, 조직의 보안 전략 수립에 필요한 통찰을 얻는다.
강의 + 토론 + 실습|AI 보안 거버넌스
AGENDA
목차
01
Session 2 표지: AI 시대 사이버보안 — 룰이 바뀌었다
02
AI 기반 사이버 공격 5대 유형과 실제 사례
03
📋 Action Plan: AI보안 거버넌스 30가지 실천
04
AI를 활용한 차세대 방어 기술
05
🛡️ 다계층 방어 아키텍처: L1~L7 통합 방어 체계
06
LG유플러스 해킹 사건 심층 분석 + 제로 트러스트 아키텍처
07
2025년 국내외 주요 사이버보안 사건 분석: SKT·YES24·KT/LG U+·Bybit
08
국내 기업의 AI 보안 대응 현황과 12개월 로드맵
09
Wrap-up: 오늘 강의의 전체 흐름과 기대 성과
10
우수 사례: 금융보안원 AI 기반 FDS 고도화 — 탐지율 99.7%
11
핵심 주제 요약
12
AI 보안 관점 포인트
13
사건 파일 분석: LG유플러스 & 딥페이크 CFO
14
강의 슬라이드 구성
15
그룹 토론 주제
16
참고 자료 및 최신 기사
17
참고문헌
18
세계 연구·트렌드 — 글로벌 AI 보안 동향
19
AI 기반 업무 흐름도 + 업무 Flow — 8단계 프로세스
AI 사이버보안 거버넌스
30개 체크리스트
AI보안 거버넌스 30가지 실천
3개 영역 × 10개 항목 — 지금 당장 시작할 수 있는 사이버보안 실무 액션 플랜
🎯 30개 체크리스트를 하나씩 실행하면, 내일의 AI 사이버보안 거버넌스는 체계적으로 갖춰집니다
AI-Powered Attacks · 2025-2026
AI 기반 사이버 공격 5대 유형과 실제 사례
DEEPFAKE
🎭 AI 딥페이크 피싱
• 화상회의 CFO 사칭 256억 탈취 (2024)
• 음성 딥페이크 은행 계좌 이체 사기
• 실시간 얼굴 합성 신원 인증 우회
• 2025년 딥페이크 범죄 전년比 400% 증가
• 음성 딥페이크 은행 계좌 이체 사기
• 실시간 얼굴 합성 신원 인증 우회
• 2025년 딥페이크 범죄 전년比 400% 증가
기업 평균 피해액: 35억 원+
AI-PHISHING
📧 AI 정교화 피싱
• LLM (Large Language Model) 기반 개인 맞춤형 스피어 피싱
• 기업 내부 문서·이메일 톤 완벽 모방
• 다국어 실시간 번역으로 글로벌 공격
• 피싱 클릭률 60% → AI 피싱 90%+
• 기업 내부 문서·이메일 톤 완벽 모방
• 다국어 실시간 번역으로 글로벌 공격
• 피싱 클릭률 60% → AI 피싱 90%+
탐지율 30% 미만
AI-MALWARE
🦠 AI 생성 멀웨어
• BlackMamba: ChatGPT API 활용 폴리모픽 멀웨어 (PoC)
• AI가 매번 코드 시그니처를 변형하는 적응형 악성코드
• 취약점 스캐닝 → 익스플로잇 생성 자동화
• 제로데이 공격 수명주기 87% 단축
• AI가 매번 코드 시그니처를 변형하는 적응형 악성코드
• 취약점 스캐닝 → 익스플로잇 생성 자동화
• 제로데이 공격 수명주기 87% 단축
평균 탐지까지 180일 → 30일
PROMPT-ATTACK
💉 프롬프트 인젝션 & 모델 공격
• LLM (Large Language Model) 시스템 프롬프트 탈취·조작
• 데이터 포이즈닝: 학습 데이터 오염으로 백도어 주입
• 모델 추출: API 쿼리로 기밀 모델 복제
• OWASP Top 10 for LLM (Large Language Model) — 전용 취약점 분류 체계 등장
• 데이터 포이즈닝: 학습 데이터 오염으로 백도어 주입
• 모델 추출: API 쿼리로 기밀 모델 복제
• OWASP Top 10 for LLM (Large Language Model) — 전용 취약점 분류 체계 등장
AUTO-EXPLOIT
🤖 자동화된 취약점 공격
• AI 기반 대규모 취약점 스캐닝 (Shodan + GPT 연계)
• 최신 LLM으로 CVE 익스플로잇 PoC 자동 생성 (GPT-4.1, Claude 등)
• 공격 체인 end-to-end 자동화 (정찰→침투→횡적이동→탈취)
• 랜섬웨어 운영에 AI 기반 타겟 선정·협상 자동화 도입
• 최신 LLM으로 CVE 익스플로잇 PoC 자동 생성 (GPT-4.1, Claude 등)
• 공격 체인 end-to-end 자동화 (정찰→침투→횡적이동→탈취)
• 랜섬웨어 운영에 AI 기반 타겟 선정·협상 자동화 도입
📰 딥페이크 범죄 400% 급증
📰 AI 음성 피싱 피해 사례
🦠 랜섬웨어 피해
$265B
2031년 전망
2023년 $20B → 2031년 $265B
Cybersecurity Ventures
Cybersecurity Ventures
📧 AI 피싱 성공률
+30%
2024 vs 2023 증가
AI 기반 피싱 클릭률 90%+
Egress 2024 Report
Egress 2024 Report
🎭 딥페이크 사기
$12B+
2024년 피해 규모
딥페이크 범죄 400% 급증
Deloitte 2024
Deloitte 2024
💼 BEC 공격
$50B+
누적 피해액
Business Email Compromise
FBI IC3 2023
FBI IC3 2023
AI-Powered Defense · 방어의 재정의
AI를 활용한 차세대 방어 기술
UEBA (User & Entity Behavior Analytics)
👤 AI 행위 기반 분석
• 사용자·개체의 정상 행동 패턴 학습
• 비정상 행위 실시간 이상 탐지 (anomaly detection)
• 내부자 위협, 계정 탈취 조기 감지
• 오탐률(False Positive) 70% 이상 감소
• 비정상 행위 실시간 이상 탐지 (anomaly detection)
• 내부자 위협, 계정 탈취 조기 감지
• 오탐률(False Positive) 70% 이상 감소
핵심 지표: 평균 탐지 시간(MTTD) 80% 단축
SOAR (Security Orchestration, Automation & Response)
⚡ AI 보안 오케스트레이션
• Security Orchestration, Automation & Response
• 위협 인텔리전스 → 탐지 → 대응 → 복구 자동화
• 평균 대응 시간 MTTR (Mean Time to Respond) 90% 이상 단축
• AI 플레이북: 상황별 최적 대응 시나리오 추천
• 위협 인텔리전스 → 탐지 → 대응 → 복구 자동화
• 평균 대응 시간 MTTR (Mean Time to Respond) 90% 이상 단축
• AI 플레이북: 상황별 최적 대응 시나리오 추천
핵심 지표: 대응 시간 MTTR (Mean Time to Respond) 90% 단축
XDR (Extended Detection & Response)
🌐 AI 통합 위협 탐지
• Extended Detection & Response
• 엔드포인트·네트워크·클라우드·이메일 통합 상관 분석
• AI로 은닉된 APT (Advanced Persistent Threat, 지능형 지속 위협) 탐지
• SentinelOne, CrowdStrike 등 주요 솔루션
• 엔드포인트·네트워크·클라우드·이메일 통합 상관 분석
• AI로 은닉된 APT (Advanced Persistent Threat, 지능형 지속 위협) 탐지
• SentinelOne, CrowdStrike 등 주요 솔루션
핵심 지표: 침해 탐지율 99% 이상
🏭
AI SOC (Security Operations Center) — 24/7 자율 방어의 현실화
1단계(Alert Triage) → 2단계(Incident Analysis) → 3단계(Threat Hunting)까지 AI 자동화. 인간 분석가는 전략적 판단에 집중.
📰 다크트레이스 AI 자율 방어
📰 크라우드스트라이크 XDR
⚡ SOAR 대응 시간
80%
MTTR 단축
Security Orchestration, Automation & Response
IBM Cost of Data Breach 2023
IBM Cost of Data Breach 2023
🌐 AI XDR 탐지율
99%
vs 기존 60%
Extended Detection & Response
Gartner 2024
Gartner 2024
👤 UEBA 탐지
95%
내부자 위협
User & Entity Behavior Analytics
IBM Cost of Data Breach 2023
IBM Cost of Data Breach 2023
🎫 L1 티켓 감소
70%
자동화 분류
AI 기반 자동 티켓 분류
Gartner 2024
Gartner 2024
Defense-in-Depth · Layered Security Architecture
🛡️ 다계층 방어 아키텍처 L1~L7
L1 정책·거버넌스
AI 사용정책 수립, 윤리원칙 제정, 위험수용기준(Risk Appetite) 정의, 최고경영진 승인
L2 인식·교육
전직원 AI 보안 인식 교육(연 2회+), AI 피싱/딥페이크 대응 훈련, 개발자 Secure AI Coding 교육
L3 접근통제
MFA(다중인증) 의무화, RBAC/ABAC 역할기반 접근, 제로트러스트 아키텍처 적용, 퇴사자 계정 즉시 말소
L4 데이터 보호
DLP(데이터유출방지) 솔루션, AES-256/TLS 1.3 암호화, 개인정보 마스킹·비식별화, 데이터 등급별 차등 보호
L5 AI 특화 방어
프롬프트 가드레일(Prompt Injection 방어), 모델 검증(Red Teaming), 적대적 입력 필터링, Shadow AI 탐지
L6 탐지·모니터링
UEBA(사용자 행위 분석), SIEM 상관분석, AI 이상탐지(Anomaly Detection), AI 프롬프트·응답 실시간 감사
L7 대응·복구
IRP(침해사고대응계획) 발동, BCP/DR(비즈니스연속성/재해복구), 포렌식 증거수집, 격리·백업·서비스 복구
참고: NIST Cybersecurity Framework 2.0, ISO 27001:2022, MITRE ATT&CK for AI
Case Study · 2023 LG U+ Incident
LG유플러스 해킹 사건 심층 분석과 교훈
📅 발생 시기
2023년 1~2월
해킹 인지 후 공개까지 2주
🔓 개인정보 유출
29만 건
이름·생년월일·전화번호 등
💰 과징금
68억 원
개인정보보호법 위반 최대
🛡️ 후속 투자
1,000억+
보안 체계 전면 재구축
🔍 사고 원인
• 내부 시스템 접근 통제 미흡
• AI 기반 이상 징후 탐지 체계 부재
• 사고 인지 후 늑장 대응 (2주 이상 소요)
• 개인정보 암호화·접속 기록 점검 소홀
• AI 기반 이상 징후 탐지 체계 부재
• 사고 인지 후 늑장 대응 (2주 이상 소요)
• 개인정보 암호화·접속 기록 점검 소홀
💡 핵심 교훈
• 시그니처 기반 보안은 AI 시대 공격에 무력
• AI·ML 기반 이상 탐지 시스템 도입 필수
• 제로 트러스트 아키텍처로의 전환 필요
• 신속한 사고 대응 체계와 투명한 공개 중요
• AI·ML 기반 이상 탐지 시스템 도입 필수
• 제로 트러스트 아키텍처로의 전환 필요
• 신속한 사고 대응 체계와 투명한 공개 중요
⚖️ 기존 보안 vs 제로 트러스트 + AI 네이티브
❌ 기존 경계 기반 모델
🧱 경계선 방어
🔑 VPN (Virtual Private Network)/IP 기반 접근 통제 → 내부망 침투 시 무방비
📋 정적 시그니처 기반 탐지 → 미지의 공격 탐지 불가
🐌 수동적 사고 대응 → 대응 시간 수 시간~수 일
한계: 클라우드·원격근무·AI 서비스 시대에 적합하지 않음
✅ 제로 트러스트 + AI 네이티브 보안
🔍 Never Trust, Always Verify — 모든 접근을 지속 검증
🤖 AI가 사용자·기기·네트워크 행위 실시간 평가 → 동적 접근 결정
⚡ AI 기반 이상 탐지 + SOAR (Security Orchestration, Automation & Response) 자동 대응 — MTTR 90%↓
🌐 마이크로 세그멘테이션 + AI 적응형 정책 엔진
핵심: 신원·기기·데이터·네트워크·AI 워크로드 5대 축 동시 보호
🆔
IAM (Identity & Access Management) + AI
적응형 인증
행위 기반 접근
행위 기반 접근
💻
Device Trust
기기 건전성
AI 평가 엔진
AI 평가 엔진
📡
Network
마이크로 세그
AI 트래픽 분석
AI 트래픽 분석
🗄️
Data
AI-DLP (Data Loss Prevention)
자동 분류·암호화
자동 분류·암호화
🧠
AI Workload
모델 보안
프롬프트 가드레일
프롬프트 가드레일
📰 LG유플러스 해킹 사건 전말
📰 역대 최대 68억 과징금
📅 사건 타임라인
2023.01
해커 침입 → 내부 시스템 접근
2023.02
29만 건 개인정보 유출 확인
2023.02~
2차 피해: 스미싱·보이스피싱 급증
2024.07
과징금 68억 + 과태료 2,700만원
2024~25
1,000억 규모 보안 투자 집행
🔓 유출 규모
29만
건 개인정보 유출
💰 제재 금액
68억+
과징금 + 과태료
🏥 복구 비용
100억+
추정 총 복구 비용
2025 Major Incidents · 국내외 주요 보안 사건
2025년 국내외 주요 사이버보안 사건 분석
SKT
SKT USIM 해킹 사건
2025.6 · 과징금 1,347억
• 전 가입자 2,324만명 개인정보 유출
• 유심 인증키(Ki) 평문 저장
• BPFDoor 악성코드 + DirtyCow(2016) 미패치
• 8년 된 취약점이 초래한 대형 참사
• 전 가입자 2,324만명 개인정보 유출
• 유심 인증키(Ki) 평문 저장
• BPFDoor 악성코드 + DirtyCow(2016) 미패치
• 8년 된 취약점이 초래한 대형 참사
💡 교훈: 취약점 패치 + 인증키 암호화는 '기본' — 기본을 지키지 않으면 1,347억
출처: 개인정보보호위원회 의결서 (2026)
YES24
YES24 랜섬웨어 사건
2025.6
• 메인 시스템과 백업 서버 동시 감염
• '점검 중'으로 은폐 시도
• 국회 국정감사 통해 사실 공개
• 44.4% 기업이 백업 서버까지 감염되는 현실
• 메인 시스템과 백업 서버 동시 감염
• '점검 중'으로 은폐 시도
• 국회 국정감사 통해 사실 공개
• 44.4% 기업이 백업 서버까지 감염되는 현실
💡 교훈: 신속·정확한 신고·통지 의무 — 은폐가 더 큰 리스크
출처: 국회 국정감사 자료 (2025)
📰 기사
KT/LG U+
KT·LG U+ 펨토셀 해킹
2025.12
• 불법 펨토셀 접속 허용
• 무단 소액결제 368명·2.43억 피해
• IMSI 등 22,227명 개인정보 유출
• LG U+: 허위자료 제출 + 서버 폐기
→ 위계공무집행방해 수사 의뢰
• 불법 펨토셀 접속 허용
• 무단 소액결제 368명·2.43억 피해
• IMSI 등 22,227명 개인정보 유출
• LG U+: 허위자료 제출 + 서버 폐기
→ 위계공무집행방해 수사 의뢰
💡 교훈: 증거보전 의무 위반 = 형사책임 — 은폐는 형사처벌로 이어진다
출처: 과기정통부·경찰청 수사 자료 (2025-2026)
📰 기사
Bybit
Bybit 1.5조원 해킹 사건
2025.2 · 암호화폐 거래소 사상 최대
• 개인키(Private Key) 유출로 1.5조원 탈취
• 콜드월렛 멀티시그 지갑 조작
• 북한 라자루스 그룹 소행 추정
• 암호화폐 업계 역대 최대 규모 해킹
• 개인키(Private Key) 유출로 1.5조원 탈취
• 콜드월렛 멀티시그 지갑 조작
• 북한 라자루스 그룹 소행 추정
• 암호화폐 업계 역대 최대 규모 해킹
💡 교훈: 키 관리 실패 = 전 재산 손실 — 개인키 보안은 생명줄
출처: Chainalysis 2025 Crypto Crime Report, FBI 성명
📰 기사
2025.01~06
데이터 유출
DeepSeek, 대규모 데이터 유출 및 국가별 사용 금지
중국 AI 스타트업 DeepSeek의 챗봇 앱이 사용자 기기 데이터를 무단 수집하고 미암호화 전송한 사실이 드러나 한국·미국·이탈리아·대만 등에서 정부 기기 사용 금지 조치
🛡️ 개인정보보호위 과징금 검토
🌐 6개국+ 사용 금지
⚖️ 공통 교훈
기본 보안 통제 실패가 초래한 대형 사고들 — 패치·암호화·백업·증거보전이 전부
AI 시대에도 기본이 가장 중요하다
Korea Enterprise · AI Security Readiness
국내 기업 AI 보안 대응 현황과 로드맵
📊 국내 기업 AI 보안 성숙도 자가 진단
Level 0 (47%) — AI 보안 개념조차 없음, 별도 정책 無
Level 1 (31%) — AI 사용 정책만 존재 (삼성 사례 후 급증)
Level 2 (15%) — DLP (Data Loss Prevention)+CASB (Cloud Access Security Broker)로 AI 사용 통제, 일부 모니터링
Level 3 ( 5%) — 전용 AI 보안 조직·예산·솔루션 운영
Level 4 ( 2%) — AI 네이티브 보안 아키텍처 완성, CAISO 체제
Level 1 (31%) — AI 사용 정책만 존재 (삼성 사례 후 급증)
Level 2 (15%) — DLP (Data Loss Prevention)+CASB (Cloud Access Security Broker)로 AI 사용 통제, 일부 모니터링
Level 3 ( 5%) — 전용 AI 보안 조직·예산·솔루션 운영
Level 4 ( 2%) — AI 네이티브 보안 아키텍처 완성, CAISO 체제
⚡ 우리 조직은 어디쯤인가? — 지금 바로 진단하고 로드맵을 수립해야 할 때
🗺️ AI 보안 통합 로드맵 (12개월)
Q1 (1~3M)
• AI 보안 현황 진단(Audit) → 갭 분석 → 경영진 보고
Q2 (4~6M)
• AI 사용 정책 수립 · AI 보안 조직 신설 · 임직원 교육 체계화
Q3 (7~9M)
• AI-DLP (Data Loss Prevention) · UEBA · XDR 도입 → SOC에 AI 분석 파이프라인 통합
Q4 (10~12M)
• 제로 트러스트 + AI 네이티브 전환 완료 → CAISO 체제 정착
72%
국내 기업 AI 도입률
63억원
기업 평균 유출 비용
ROI 3.5x
AI 보안 투자수익률
📰 LG유플러스 AI 보안 반등
📰 금융권 제로트러스트 전환
📋 AI 보안 정책 보유
38%
국내 기업 AI 보안 정책 보유율
2024년 기준, 62%는 정책 無
KISA 2024
KISA 2024
📈 AI 보안 시장 전망
5,800억
2025년 국내 시장 규모
AI 보안 솔루션 수요 급증
국내 보안 시장 연평균 15%+ 성장
국내 보안 시장 연평균 15%+ 성장
💵 기업 평균 예산
2.3억
기업당 AI 보안 연간 예산
Level 3 이상 기업 평균
2025년 국내 보안 예산 조사
2025년 국내 보안 예산 조사
⚠️ 글로벌 격차
3.5x
한국 vs 글로벌 투자 격차
국내 기업 보안 투자비중
글로벌 평균 GDP 대비 3.5배 차이
글로벌 평균 GDP 대비 3.5배 차이
Best Practice · AI Security
우수 사례: 금융보안원 AI 기반 이상금융거래탐지(FDS) 고도화
99.7%
탐지율
2024년 AI FDS 도입 전 92% → 도입 후 99.7%
출처: 금융보안원 2025 AI 보안 보고서
80%
오탐률 감소
ML 기반 실시간 거래 패턴 분석으로 오탐률 대폭 감소
출처: 금융보안원 2025 AI 보안 보고서
16개
금융사 공동
은행·카드사 공동 AI 보안 플랫폼 구축
출처: 금융보안원 2025 AI 보안 보고서
2024
도입
전 금융권 AI 보안 고도화의 모범 사례로 평가
출처: 금융보안원 2025 AI 보안 보고서
🤖 AI FDS 핵심 기술
• 머신러닝 기반 실시간 거래 패턴 분석 — 정상·이상 거래 자동 분류
• 비지도 학습(Unsupervised Learning)으로 신종 사기 패턴 탐지
• 이상금융거래 탐지율: 92% → 99.7%로 획기적 향상
• 오탐률(False Positive) 80% 감소 — 업무 효율 대폭 개선
• 비지도 학습(Unsupervised Learning)으로 신종 사기 패턴 탐지
• 이상금융거래 탐지율: 92% → 99.7%로 획기적 향상
• 오탐률(False Positive) 80% 감소 — 업무 효율 대폭 개선
🏦 업계 공동 대응 체계
• 16개 은행·카드사 공동 AI 보안 플랫폼 구축
• 금융권 공동 이상거래 탐지 모델 개발·공유
• 사기 패턴 정보 실시간 공유로 금융사기 사전 차단
• 금융보안원 주관 — 업계 표준 AI 보안 가이드라인 제시
• 금융권 공동 이상거래 탐지 모델 개발·공유
• 사기 패턴 정보 실시간 공유로 금융사기 사전 차단
• 금융보안원 주관 — 업계 표준 AI 보안 가이드라인 제시
💡 대응 방안: AI 기반 탐지·대응 체계 구축 로드맵
① AI 기반 탐지 체계 도입
ML·DL 기반 이상 탐지로 시그니처 기반 탐지의 한계 극복. 실시간 거래 모니터링 + 자동 경보 체계 구축.
② 업계 공동 대응 플랫폼
금융보안원 사례처럼 업계 차원의 위협 인텔리전스 공유. 개별 기업의 방어력 한계를 공동 대응으로 극복.
③ 제로트러스트 + AI XDR
AI FDS를 제로트러스트 아키텍처 및 XDR (Extended Detection & Response)과 통합. 엔드투엔드 AI 네이티브 보안 체계 완성.
출처: 금융보안원 2025 AI 보안 보고서 · 금융보안원 공식 발표 자료
📰 금융보안원 AI FDS 상세
Session 02 · Wrap-up
오늘 강의의 전체 흐름과 기대 성과
📖
오늘 배운 것
AI 기반 사이버 공격 5대 유형, AI 방어 기술(UEBA (User & Entity Behavior Analytics)·SOAR (Security Orchestration, Automation & Response)·XDR (Extended Detection & Response)), LG유플러스 사례, 딥페이크 대응 전략, 제로 트러스트 아키텍처
🎯
앞으로 배울 것
AI 법률·규제(국내외) → AI 보안 인력 전략 → 거버넌스 프레임워크 구축 → 개인정보보호 컴플라이언스
🏆
최종 목표
우리 조직의 AI 보안 거버넌스 액션 플랜 완성
"사이버보안의 룰은 이미 바뀌었다. AI로 방어하지 않으면, AI에게 당한다."
📰 딥페이크 규제 강화 동향
📰 KISA 제로트러스트 가이드라인
Session 2 · Key Topics
이번 세션의 핵심 주제
01AI 기반 사이버 공격의 진화: 딥페이크(deepfake) 피싱, AI 생성 멀웨어, 자동화된 취약점 탐지 및 익스플로잇
02AI를 활용한 방어 기술: UEBA (User & Entity Behavior Analytics, 사용자 행동 분석), SOAR(보안 오케스트레이션 자동화), AI 기반 위협 헌팅
03AI 모델을 노리는 새로운 공격 벡터: 프롬프트 인젝션(prompt injection), 데이터 포이즈닝(data poisoning), 모델 추출(model extraction)
04사이버보안 패러다임 전환: '경계 기반 보안'에서 '제로 트러스트 + AI 네이티브 보안'으로
052025년 국내외 주요 보안 사건: SKT 2,324만건·YES24·KT/LG U+·Bybit 1.5조원
06국내 기업의 AI 보안 대응 현황 진단: 무엇이 부족한가
🔐 AI 보안 관점
AI는 사이버보안의 '양날의 검'이다. 공격자는 AI로 더 빠르고 정교한 공격을 설계하고, 방어자는 AI로 더 지능적인 탐지와 대응을 구현한다. 이 세션은 수강생이 AI 보안을 'AI 시스템을 보호하는 것'과 'AI로 보안을 강화하는 것'이라는 두 축으로 이해하게 하는 것이 목표다. LG유플러스 사례를 통해 AI 시대 해킹의 새로운 특징과 AI 기반 방어의 필요성을 구체화한다.
Case Studies · 실제 사례로 배우기
사건 파일 분석
📁 LG유플러스 해킹 (2023)
통신사 대규모 개인정보 유출. 29만건 유출. AI 침입탐지 부재로 조기 감지 실패.
💡 AI·ML 기반 이상탐지 도입 필수
📁 딥페이크 CFO 사기 (2024)
AI 딥페이크로 CFO 사칭, 화상회의 사기로 256억원 탈취.
💡 다중채널 인증 + AI 콘텐츠 탐지 필요
📁 SKT USIM & Bybit 해킹 (2025)
SKT: 9년된 DirtyCow 방치→2,324만명 유출. Bybit: 개인키 유출→1.5조원 탈취.
💡 패치·암호화·백업 기본통제가 최우선
📁 YES24·KT·LG U+ 사고 (2025)
YES24: 백업까지 감염 후 은폐. LG U+: 허위자료·서버폐기로 수사의뢰.
💡 신속 신고·증거보전이 2차피해 방지
Group Discussion
그룹 토론 주제
💬 공격자들은 이미 AI를 쓰고 있다. 우리는 AI로 방어하고 있는가?
💬 AI 보안 예산을 어떻게 설득할 것인가: '비용'이 아닌 '투자'로 프레이밍하는 법
💬 LG유플러스 사례에서 우리 조직이 배워야 할 구체적 교훈 3가지는?
Resources · 참고자료 및 최신 기사
추가 자료
📰 최신 기사
📰 LG유플러스, AI 시대 정보보호 성과 담은 '정보보호백서 2025' 발간
한국경제 · 2026-07-16
📰 파고네트웍스·센티넬원 '하이브리드 MDR', AI 기반 공격도 효과적으로 대응
데이터넷 · 2026-07-17
📰 HPE, '사이버 보고서' 첫 발표...해커, 정부기관 공격 1순위
지디넷코리아 · 2026-06-23
📰 "1억원 아끼려다 30억 뜯겼다"…AI해킹 충격에도 갈길 먼 '보안' 투자
헤럴드경제 · 2026-06-10
📊 주요 통계
📊 2025년 국내 사이버 침해사고 신고 2,383건, 전년 대비 증가 (과기정통부, 2026)
📊 랜섬웨어 피해 기업 44.4%는 백업 시스템까지 감염 (KISA, 2025 상반기)
📊 AI 기반 SOAR 도입 기업, 평균 대응시간 MTTR (Mean Time to Respond) 전년 대비 크게 단축 (LG유플러스, 2025)
📊 AI 활용 사이버공격 2025년 전년 대비 300% 증가 (글로벌 보안업체 리포트)
📊 기업당 평균 데이터 유출 비용 2025년 488만 달러 기록 (IBM, 2025)
🖼️ 이미지 소재
🔴 AI 기반 사이버 공격
🎯 AI 피싱: LLM으로 개인맞춤형 피싱 메일 자동 생성
🦠 AI 멀웨어: 코드 자가변이로 시그니처 탐지 회피
🎭 딥페이크: 음성·영상 위조로 신뢰 기반 공격
🔍 AI 취약점 스캔: 초당 수천 개 포트 자동 분석
출처: CrowdStrike 2025 Global Threat Report
🟢 AI 기반 방어 체계
🛡️ AI 이상탐지: UEBA로 정상 행동 패턴 학습
⚡ SOAR 자동대응: 탐지→분석→차단 이내
🔬 AI 포렌식: 로그·메모리 상관분석 자동화
📡 XDR 통합: 엔드포인트·네트워크·클라우드 연계
출처: Gartner Security & Risk Summit 2025
📊 연도별 글로벌 랜섬웨어 피해 규모 (2020-2025)
출처: Cybersecurity Ventures 2025 Cybercrime Report
2020
2021
2022
2023
2024
2025
2025년 수치는 Cybersecurity Ventures 연간 예측치 기준 (추정)
⚙️ SOAR 기반 AI 통합 보안관제 파이프라인
🔍
① 탐지
SIEM 로그 수집
AI 이상징후 식별
AI 이상징후 식별
→
🧠
② 분석
위협 인텔리전스
상관관계 분석
상관관계 분석
→
⚡
③ 대응
자동 플레이북
격리·차단·패치
격리·차단·패치
→
📊
④ 보고
대시보드·레포트
사후 분석·개선
사후 분석·개선
출처: LG유플러스 정보보호백서 2025, Gartner SOAR Market Guide
🎭 AI 딥페이크 5단계 탐지 파이프라인
📥
① 입력
영상·음성
메타데이터 추출
메타데이터 추출
→
🔬
② 분석
생체신호·픽셀
불일치 검출
불일치 검출
→
🧠
③ AI 판정
CNN·트랜스포머
모델 추론
모델 추론
→
🏷️
④ 라벨링
진위·조작영역
신뢰도 점수
신뢰도 점수
→
📋
⑤ 리포트
판정 결과·증거
보고서 생성
보고서 생성
출처: MIT Media Lab Detect Fakes, DARPA SemaFor 프로그램
🎯 시연 아이디어
🎯 AI 기반 보안관제 대시보드 시연 (Splunk, SIEM 연동)
🎯 딥페이크 음성/영상 탐지 도구 실시간 테스트
🎯 AI로 생성된 피싱 이메일 샘플 vs 실제 이메일 비교
🎯 Shodan/Censys로 AI 서비스 노출 실태 실시간 검색
References & Further Reading
참고문헌
Global Research · 세계 연구 동향
🏛️ 세계 최고 연구기관의 AI 사이버보안 연구
MITRE ATLAS Framework v0.4
AI 시스템 특화 공격 전술/기법 매트릭스 (14개 전술, 100+ 기법). ML 모델 탈취, 데이터 중독, 백도어 주입을 커버하며, 2025년 v0.4 업데이트에서 프롬프트 인젝션 전술이 추가되었다. MITRE ATT&CK와 완전히 통합되어 기존 SOC 워크플로우에 AI 위협 인텔리전스를 매핑할 수 있다.
Anthropic Frontier Threats Research
Anthropic Frontier Red Team이 Claude 4를 대상으로 수행한 보안 평가. CBRN(화학·생물·방사능·핵) 위험 평가 프레임워크를 통해 ASL-3 수준 모델의 사전 안전성 검증을 수행했다. Constitutional AI 기반의 LLM Jailbreak 탐지 체계도 함께 공개되었다 (2025년 5월).
CMU/SEI AI Security Incident Database
Carnegie Mellon University Software Engineering Institute가 구축한 AI 보안 사고 데이터베이스. 2024-2025년간 600건 이상의 AI 관련 보안 사고를 수집·분류했으며, NIST AI 100-2 E2025와 연계된 위협 분류 체계를 제공한다.
sei.cmu.edu | doi:10.1184/R1/27789618
OWASP LLM Top 10 v2.0 (2025)
2025년 11월 발표된 v2.0은 AI 공격 벡터를 최신화했다. Prompt Injection이 1위를 유지하는 가운데, RAG와 Agent 아키텍처 확산에 따른 Vector DB 공격과 Agent Prompt 탈취가 신규 추가되었다. 글로벌 50개 이상 기업·연구기관이 기여했다.
AI 기반 업무 흐름도
기업용 RAG·컴플라이언스 AI 아키텍처 — 6개 영역 통합 구성
공통 통제 레이어
SSO/인증
RBAC/ABAC
문서권한
조직권한
Chinese Wall
DRM
DLP/마스킹
Guardrail
프롬프트인젝션방어
Audit Log
Retention Policy
AI 품질평가
AI 업무 Flow · 8단계 프로세스
기업용 AI 업무 처리 파이프라인 — 보안·권한 내재화
공통 통제 레이어
SSO/인증
RBAC/ABAC
문서권한
조직권한
Chinese Wall
DRM
DLP/마스킹
Guardrail
프롬프트인젝션방어
Audit Log
Retention Policy
AI 품질평가