AI 윤리 전문가 과정 로드맵
이 커리큘럼은 AI 윤리를 "착하게 만들자"는 구호가 아니라 검증 가능한 전문 분야로 다룹니다. 규범 이론(무엇이 옳은가) → 기술적 측정(어떻게 확인하는가) → 거버넌스(누가 어떻게 책임지는가)의 세 축을 끝까지 연결하는 것이 목표입니다. 각 단계는 심화 강의, 실제 사건 분석, 학술·법령 원문, 추천 영상, 10문항 퀴즈, 서술형 과제로 구성되며 퀴즈 80점 이상을 다음 단계 진행 기준으로 삼습니다.
🎯 이 과정을 마치면 할 수 있는 것
- 임의의 AI 시스템에 대해 알고리즘 영향평가(AIA)를 설계·수행하고 문서로 남길 수 있다
- 공정성 지표를 수식 수준에서 선택·정당화하고, 왜 모든 지표를 동시에 만족할 수 없는지 설명할 수 있다
- EU AI Act·NIST AI RMF·ISO/IEC 42001을 실제 제품 요구사항으로 번역할 수 있다
- 에이전트 AI의 권한 위임 구조를 위험 기반으로 설계하고 사고 대응 절차를 만들 수 있다
- 기술적 주장(“이 모델은 공정합니다”)의 증거 수준을 심문할 수 있다 — 윤리 워싱을 판별하는 눈
ML 엔지니어 · 데이터 사이언티스트 · PM · 정책/법무 담당자 · 감사인 · 대학원생. 기술 배경이 없어도 따라올 수 있게 수식은 모두 말로 먼저 설명합니다.
필수 없음. 다만 지도학습의 기본 개념(학습 데이터, 예측, 오차)을 알면 Phase 2~3의 체감 난이도가 크게 낮아집니다.
주 5~7시간 × 12주 기준. 단계당 1~2주. Phase 2·5·6은 분량이 많아 2주를 권장합니다.
단계별 퀴즈(10문항, 80점 합격) 8회 + 서술형 과제 8건 + 최종 종합 시험 40문항(80점 합격) + 캡스톤 포트폴리오.
📈 내 진도
0 / 9 단계 통과 (0%)
진도는 이 브라우저에만 저장됩니다(localStorage). 다른 기기·시크릿 창에서는 보이지 않습니다.
8단계 커리큘럼
결과주의·의무론·덕윤리·정의론이 AI 판단에 어떻게 개입하는가 · 원칙주의(FAT/OECD/UNESCO)의 구조와 그 한계 · 사회기술 시스템 관점 · 윤리 워싱 판별법
편향의 6가지 발생 경로 · 통계적 동등성/균등화 승산/예측값 동등성의 수식 · 불가능성 정리(Kleinberg·Chouldechova) · 전처리/중처리/후처리 완화 · COMPAS·Amazon 채용·Gender Shades 정밀 분석 · 아동·취약계층
투명성 ≠ 설명가능성 ≠ 해석가능성 · LIME·SHAP·반사실적 설명의 원리와 실패 모드 · 모델 카드/데이터시트 · GDPR 22조와 '설명 요구권' 논쟁 · LLM 사고사슬은 설명인가
재식별과 익명화의 실패 · 차등 프라이버시 ε의 실제 의미 · 연합학습과 그 착시 · 멤버십 추론·학습데이터 추출 공격 · 저작권과 공정 이용 · 섀도우 AI 통제 · 출처 문서화 의무
명세 게이밍과 목표 오일반화 · RLHF/헌법적 AI의 작동과 한계 · 레드팀과 위험 평가 벤치마크 · 에이전트의 권한·가시성·중단 가능성 · 바이브 코딩의 책임 구조
EU AI Act 위험 4단계와 GPAI 의무 · NIST AI RMF 4기능 · ISO/IEC 42001 · 한국 AI 기본법 · 책임 귀속(제조물책임·과실·다수 책임) · 딥페이크와 C2PA 출처 서명
과업 단위 자동화 분석과 정당한 전환 · 데이터 라벨링 노동 · 데이터센터 에너지·물·전력망의 분배 정의 · 컴퓨트 집중과 민주주의 · 단일 장애점과 집중 위험 · 'AI를 쓰지 않을 권리'
AI 거버넌스 프로그램 6요소 · 알고리즘 영향평가 템플릿 실습 · 내부 감사와 3선 방어 · 모델 릴리스 게이트 · AI 사고 대응 플레이북 · 캡스톤 포트폴리오 제작
8단계 전 범위 · 사례 판단형 문항 포함 · 80점 이상 시 과정 이수 기준 충족
핵심 용어 60+ 정의 · 규제 원문 링크 · 오픈소스 도구 · 추천 도서와 논문 · 학습 체크리스트
📌 학습 방법 5원칙
- 규범 → 측정 → 제도의 순서로 붙잡기. "이건 왜 나쁜가"(규범)를 먼저 말로 정리하고, 그다음 "그걸 어떻게 숫자로 확인하나"(측정), 마지막으로 "누가 강제하나"(제도)를 붙이세요. 이 순서를 건너뛰면 AI 윤리는 감상문이 됩니다.
- 모든 주장에 증거 등급을 매기기. 이 사이트의 서술은 확립된 합의 경험적 연구 진행 중 논쟁로 구분해 표시합니다. 논쟁 중인 사안을 확정된 사실처럼 말하지 않는 훈련이 전문가의 기본기입니다.
- 사례를 해부하기. 각 단계의 사례는 "무슨 일이 있었나"에서 멈추지 말고 어느 단계에서 무엇이 실패했는가(문제 정의 / 데이터 / 모델 / 배포 / 감시)로 분해하세요. 최종 시험 사례 문항이 이 형식입니다.
- 반대편의 가장 강한 논변을 쓰기. 서술형 과제마다 반대 입장을 최소 한 문단 작성하도록 설계했습니다. 한쪽만 설명할 수 있으면 아직 이해한 것이 아닙니다.
- 간격 반복. 이전 단계 퀴즈를 2주 간격으로 다시 푸세요. 이 사이트는 최고 점수를 기록해 두므로 재응시로 점수를 갱신할 수 있습니다.
📎 15대 쟁점 ↔ 단계 매핑
현재 AI 윤리에서 반드시 다뤄야 할 15개 쟁점이 어느 단계에서 다뤄지는지 확인하세요.
| 쟁점 | 다루는 단계 | 핵심 접근 |
|---|---|---|
| 알고리즘 편향과 공정성 | Phase 2 | 공정성 지표의 수학적 정의와 상충 관계 |
| 투명성과 설명가능성 | Phase 3 | 위험 비례 설명 의무 · XAI 기법의 한계 |
| 프라이버시와 데이터 보호 | Phase 4 | 차등 프라이버시·연합학습·추출 공격 |
| 책임성과 규제 | Phase 6 | EU AI Act · NIST RMF · 책임 귀속 이론 |
| 에이전트 AI와 자율 의사결정 | Phase 5 | 권한 위임 · 가시성 · 중단 가능성 설계 |
| 딥페이크와 디지털 신뢰 | Phase 6 | C2PA 출처 서명 · 탐지의 구조적 열세 |
| 훈련 데이터 거버넌스와 저작권 | Phase 4 | 공정 이용 논쟁 · 출처 문서화 의무 |
| 환경 지속가능성 | Phase 7 | 에너지·물·전력망의 분배 정의 |
| 권력 집중과 민주주의 | Phase 7 | 컴퓨트 거버넌스 · 반독점 · 불가피성 서사 |
| 아동과 취약계층 보호 | Phase 2 | 연령 적합 설계 · 조작 취약성 |
| 일자리와 노동 시장 변화 | Phase 7 | 과업 단위 분석 · 정당한 전환 · 라벨링 노동 |
| AI 안전성과 정렬 | Phase 5 | 명세 게이밍 · RLHF · 사회기술적 안전 평가 |
| AI를 사용하지 않을 권리 | Phase 7 | 비배포의 정당화 · 불가피성 서사 해체 |
| 바이브 코딩과 책임 소재 | Phase 5 | 생성 코드의 검증 책임과 계약 구조 |
| 시스템 리스크와 핵심 인프라 | Phase 7 | 단일 장애점 · 상관 실패 · 집중 위험 |
이 사이트를 읽는 태도에 관하여. AI 윤리는 사실 문제와 가치 문제가 뒤섞인 영역입니다. "학습 데이터에 여성 이력서가 적었다"는 사실 진술이지만, "그래서 이 모델을 배포해서는 안 된다"는 가치 판단입니다. 이 커리큘럼은 가치 판단을 대신 내려주지 않습니다. 대신 어떤 근거로 그 판단을 정당화할 수 있는지, 반대 입장은 무엇을 근거로 삼는지를 가르칩니다. 규제·판례는 국가별로 다르고 빠르게 바뀌므로, 실제 의사결정 전에 반드시 원문과 최신 개정을 확인하세요.