AI 보안 거버넌스 실습 예시 — 이렇게 구현하세요

실습 1 고영향 AI 해당 여부 판단 — 자가진단 체크리스트 구현

AI 기본법 제33조 + 고영향 AI 판단 가이드라인 기준. 아래 5개 질문으로 판단 로직을 구현하세요.

① 사람의 생명·신체 안전에 직접 영향을 미치는가?

의료 진단·치료, 자율주행, 의약품 처방 등

② 기본권(채용·신용·복지·범죄예측 등)에 영향을 미치는가?

채용심사, 신용평가, 복지수급 판정 등

③ 월간 100만 명 이상이 이용하는 서비스인가?

대규모 이용자 영향 기준

④ 에너지·전력 등 국가 기반시설과 연관되는가?

전력망, 통신, 교통 등 기반시설 운영

⑤ 디지털 의료기기 등 분야별 특수 기준에 해당하는가?

의료기기 소프트웨어 등 별도 기준 존재

💡 구현 포인트 — 판단 로직은 서버가 아닌 프런트에서 즉시 응답, 결과에 따라 "확인 요청(과기정통부 30일)" 안내 문구 분기. 모호하면 확인 요청이 안전하다는 안내 포함.

실습 2 AI 영향평가서 작성 폼 — 가이드 p.26~27 양식 구현

영향평가 가이드라인 부록1 "인공지능 영향평가서 양식 및 작성 예시"를 그대로 구현한 작성 폼. [작성 예시 불러오기]로 스마트채용 예시(가이드 p.27~28)를 채운 뒤 수정하고, [평가 실행]으로 종합 판정까지 확인할 수 있습니다.

제품·서비스명

1. 제품·서비스 개요 · 2. 목적 및 필요성

① 주요 기능·특징

② 핵심 가치·목적

3. 적용 분야 · 5. 운영기간 및 빈도

③ 적용 분야

⑤ 운영기간·사용 빈도

4. 사용 절차

6. 이용자·영향받는 자 범주 · 7. 이용자 선택권

⑥ 범주·특성 (직접/간접)

⑦ 이용자 선택권

AI 기능 미사용 선택 도출 결과 거부·재검토 이의제기·수정 요청 결과 철회

8. 위험 시나리오 · 기본권 영향 평가 (가이드 p.22 표)

🔴 매우 높음🟠 높음🟡 중간🟢 보통/경미

관련 기본권 (가이드 p.20~21)	영향 내용 (위험 시나리오)	영향 수준	영향 규모	영향 기간	발생 가능성
🕊️ 사생활의 자유
🩸 생명권
🏥 건강권
⚖️ 평등권 (차별 금지)
🗣️ 표현의 자유
📢 집회의 자유
🔍 알권리
🔐 개인정보자기결정권
🏠 재산권
💼 직업의 자유
🎨 예술의 자유
📚 학문의 자유

※ 가이드 p.20~21 '잠재적 영향 기본권' 목록 11종 + 직접 추가. 인간의 존엄성·행복추구권(제10조)은 보충적 성격이라 영향평가 항목에서 제외 (가이드 p.20 주의)

🛡️ 이행 중인 관리방안 (시나리오별 작성)

💡 구현 포인트 — 영향평가서는 양식(7개 항목 + 위험 시나리오 + 기본권 영향 표)을 데이터로 관리하고, 입력값으로 평가서 요약을 자동 생성. 작성 예시(스마트채용)는 가이드 p.27~28의 부록 예시를 그대로 채웁니다. 저장 시 평가 이력 → 3년 주기 재평가 알림 연계.

실습 3 거버넌스 통제 자동평가 대시보드 구현

권한(C-01)·자기승인 금지(C-02)·사람의 검토(C-03) 통제를 자동 평가하는 대시보드. 감사 로그를 입력하면 통제 평가가 자동 계산됩니다.

92.0%

전체 이행률

평가 건수

위반 건수

예외 처리

통제 ID	통제명	평가 대상	이행률	상태
C-01	권한 통제 — 승인된 역할만 조치	25건	92%	위반 2
C-02	자기승인 금지 — 고위험 조치 이중 승인	10건	100%	정상
C-03	AI 출력 사람 검토 — 미검토 자동 전파 차단	12건	83%	위반 1

⚠️ 최근 위반 목록 (자동 수집)

C-01관제사 L.김 — 권한 없이 고위험 알람 '해제' 처리2026-08-14 14:32

C-01관제사 P.박 — 에스컬레이션 승인 (허용 역할 아님)2026-08-14 11:05

C-03AI 사건 요약 미검토 상태로 전파2026-08-13 22:41

💡 구현 포인트 — 통제 평가는 감사 로그 → 규칙 평가 → 위반 기록 → 주기 집계(7/30/90일) 파이프라인. 이행률 = (통과 ÷ 평가 대상) × 100, 예외·적용 제외는 별도 관리.

🛡️ AI 가드레일 퀴즈 게임 — 입력 필터·출력 검증·HITL·권한 통제 4지선다 10문제. 수강생이 풀고 HTML 파일로 다운로드할 수 있습니다.

🎮 게임 열기

실습 4 AI 영향평가 3단계 프로세스 구현

사전 준비 → 본 평가 → 사후 관리. 작동원리 조사 4단계(데이터 수집→분석·판단→결정→피드백)를 포함한 평가 항목 예시.

사전 준비

대상 AI 특성·이용 절차 파악, 평가 범위 설정

본 평가 수행

작동원리 조사 + 기본권·안전 위험 분석

사후 관리

개선 반영, 결과 제출, 3년 주기 재평가

📝 본 평가 항목 (예시)

① 데이터 수집 — 학습·운영 데이터의 적법성과 편향성

② 분석·판단 — 모델 추론의 정확성·공정성

③ 결정 — 자동 결정 범위와 사람의 개입 지점

④ 피드백 — 결과 반영·재학습 시 통제

⑤ 기본권 영향 — 채용·신용·복지 등 권리 침해 가능성

💡 구현 포인트 — 평가 데이터는 이력으로 저장하고 3년 주기 재평가 알림을 자동 생성. ISMS-P 자산·위험 평가 데이터와 연계하면 중복 평가를 줄일 수 있음.

실습 5 AI 투명성 고지 UI 구현 (제31조)

사전고지(제1항)·표시(제2항)·딥페이크 표시(제3항)를 화면에 구현한 예시. 서비스 화면에 AI 운용 사실을 자연스럽게 노출해야 합니다.

🏦 AI 챗봇 상담 서비스AI 생성

👤 이용자: 대출 한도가 궁금해요

🤖 AI: 안녕하세요! 고객님의 소득·신용 정보를 바탕으로 예상 한도를 안내해 드릴 수 있습니다. 아래는 AI가 생성한 예상치입니다:

📍 예상 한도: 1,500만 원 ~ 2,500만 원 AI 생성 표시
※ 실제 심사 결과와 다를 수 있습니다. 전문 상담사 연결을 원하시면 [1]번을 눌러주세요.

🎨 AI 이미지 생성 서비스AI 생성

생성 이미지 영역

🔍 확대 시 "AI 생성물" 표시

워터마크·라벨·메타데이터 3중 표시 (제31조②)

🎭 딥페이크 콘텐츠AI 가상

실제와 구분하기 어려운 가상 생성물 — 고지/표시 의무 (제31조③)

💡 구현 포인트 — 고지 배너는 이용 시작 전 1회 + 지속 표시, 생성물에는 워터마크·라벨·메타데이터 3중 표시. 딥페이크는 별도 강조 색상 사용.

🎯 표시 위치 퀴즈 게임 — "AI 생성물 표시, 어디에?" 10문제 (가이드 p.2·10~13 기반). 수강생이 직접 풀고 HTML 파일로 다운로드할 수 있습니다.

🎮 게임 열기

🛠️ AI 보안 거버넌스 — 실습 예시 사이트

실습 1 고영향 AI 해당 여부 판단 — 자가진단 체크리스트 구현

실습 2 AI 영향평가서 작성 폼 — 가이드 p.26~27 양식 구현

실습 3 거버넌스 통제 자동평가 대시보드 구현

실습 4 AI 영향평가 3단계 프로세스 구현

실습 5 AI 투명성 고지 UI 구현 (제31조)