노동 · 환경 · 권력 · 시스템 리스크
"누가 비용을 치르고 누가 이익을 가져가는가 — 이것이 AI 윤리의 마지막 질문이다"
🎯 이 단계의 학습 목적
- 왜 배우는가: 앞의 여섯 단계는 개별 시스템의 윤리를 다뤘습니다. 이 단계는 AI라는 산업 전체가 사회에 남기는 분배 효과를 다룹니다. 이 층위를 보지 못하면 "공정한 모델"을 만들면서도 불공정한 세계에 기여하게 됩니다.
- 배워서 얻는 것: ① 자동화 영향을 직업이 아니라 과업 단위로 분석하는 능력 ② 데이터 노동의 조건을 조달 요구사항으로 번역 ③ AI의 에너지·물 사용을 측정 가능한 형태로 다루기 ④ 컴퓨트 집중과 민주주의 논의의 구조 ⑤ 단일 장애점·상관 실패 분석 ⑥ 비배포(AI를 쓰지 않기)의 정당화 조건
1. 핵심 학습 주제 (심화 강의)
| 핵심 주제 | 구체적으로 묻는 질문 | 이 Phase에서 얻는 핵심 답 |
|---|---|---|
| 노동시장 전환 | AI는 직업을 없애는가, 생산성을 높이는가? | 직업 전체보다 그 안의 과업이 자동화·보완·재설계되는 방식을 봐야 합니다. 생산성 총량뿐 아니라 누가 도구를 통제하고, 이익을 배분받고, 재교육 시간과 거부권을 갖는지가 정당한 전환을 결정합니다. |
| 보이지 않는 노동 | 자동화처럼 보이는 AI 뒤에서 누가 데이터를 만들고 유해 콘텐츠를 걸러내는가? | 라벨러·콘텐츠 조정자·평가자·현장 검토자가 모델 품질과 안전을 지탱합니다. 공정한 보수, 심리적 보호, 이의제기, 작업 맥락 공개를 조달 조건과 공급망 감사에 포함해야 합니다. |
| 환경과 자원 | AI의 탄소·전력·물 사용을 어떤 단위로 측정해야 하는가? | 학습 한 번의 총량만이 아니라 반복 추론, 하드웨어 수명주기, 시간·지역별 전력원, 냉각수의 지역 희소성을 봅니다. 효율 향상이 사용량 증가로 상쇄되는 반등 효과와 부담의 지역적 분배도 평가해야 합니다. |
| 권력과 민주주의 | 소수 기업에 컴퓨팅·데이터·모델·유통망이 집중되면 무엇이 문제인가? | 시장 가격만이 아니라 연구 의제, 정보 접근, 표현 규칙, 공공기관의 선택권까지 소수 주체가 좌우할 수 있습니다. 상호운용성·감사 접근·공공 역량·경쟁 정책은 권력의 견제 장치입니다. |
| 시스템 리스크 | 많은 조직이 같은 기반모델을 쓰면 개별 서비스가 안전해도 왜 위험한가? | 공통 공급자·데이터·평가 기준에 의존하면 하나의 오류가 금융·의료·행정 전반으로 동시에 번질 수 있습니다. 공급자 다변화, 수동 절차, 장애 격리, 변경 통지, 실제 복구 훈련으로 상관 실패를 줄입니다. |
| 비배포의 윤리 | 성능이 높고 합법적인 AI라도 쓰지 않는 것이 더 책임 있는 경우가 있는가? | 회복 불가능한 피해, 검증 불가능성, 의미 없는 인간 감독, 효과적인 구제 부재, 대안 대비 낮은 순편익이 있으면 비배포가 합리적입니다. 전면 도입과 포기 사이에는 제한된 사용자·기능·기간으로 시험하는 부분 배포가 있습니다. |
📕 7-1. 노동시장 전환 — 직업이 아니라 과업으로 보기
① 분석 단위의 전환
"어떤 직업이 사라지는가"는 대체로 잘못된 질문입니다. 대부분의 직업은 수십 개의 과업(task)으로 구성되고, AI는 일부 과업만 대체하며 나머지 과업의 상대적 가치를 바꿉니다. 방사선 전문의가 사라지지 않은 대신 판독 시간 배분과 역할이 바뀐 것이 대표적입니다.
| 효과 | 내용 | 예시 |
|---|---|---|
| 대체(displacement) | 과업이 자동화되어 인간 투입이 감소 | 1차 문안 작성, 정형 데이터 입력, 기초 번역 |
| 보완(complementarity) | 인간 과업의 생산성이 상승 | 초안 검토·판단, 예외 처리, 고객 관계 |
| 재구성(reinstatement) | 새로운 과업이 생성 | 평가 설계, 데이터 큐레이션, AI 감사, 프롬프트·워크플로 설계 |
| 강도 변화 | 남은 업무의 밀도와 감시가 증가 | 검토 건수 KPI 상승, 알고리즘 관리(algorithmic management) |
경험적 연구 여러 현장 연구에서 생성 AI 보조의 생산성 향상 효과가 저숙련·저경력 노동자에게 더 크게 나타나 집단 내 격차가 줄어드는 결과가 보고되었습니다. 동시에 중간 숙련 사무직 과업의 노출도가 높다는 분석도 있습니다. 두 결과는 모순이 아니며, 누가 도구를 통제하는가에 따라 결과가 갈린다는 것이 핵심 해석입니다.
② 윤리적 쟁점의 정확한 위치
- 총량이 아니라 분배: 총 생산성 향상이 있어도 이익이 자본에, 비용이 특정 노동자군에 집중되면 정당화되지 않습니다(Phase 1의 결과주의 대 정의론)
- 전환 비용의 귀속: 재교육 비용을 개인이 부담하는가, 기업이 부담하는가, 사회가 부담하는가
- 발언권: 도입 결정에 영향받는 노동자가 참여했는가. 사후 통보는 절차적 부정의
- 알고리즘 관리: 배차·평가·해고를 알고리즘이 수행할 때의 설명·이의제기 권리 (Phase 3·6과 연결)
- 탈숙련화: 초안을 AI가 만들면 초심자가 숙련될 경로가 사라질 수 있습니다 — 장기적 역량 손실 진행 중 논쟁
③ 정당한 전환(just transition)의 구성 요소
- 사전 영향 평가: 도입 전 과업 단위 노출도 분석과 인력 영향 추정 공개
- 협의 의무: 노동자 대표와의 사전 협의, 도입 조건 협상
- 재교육 투자: 근무시간 내 유급 교육, 실제 이동 가능한 직무 경로 제시
- 내부 이동 우선: 외부 채용보다 내부 재배치를 우선하는 정책
- 소득 완충: 전환기 임금 보전, 퇴직 시 강화된 보상
- 감시 제한: 생산성 도구가 상시 감시 도구로 전용되지 않도록 목적 제한
- 사후 검증: 약속된 재배치·교육의 실제 이행률 공개
📗 7-2. 보이지 않는 노동 — 데이터 라벨링과 콘텐츠 조정
① AI는 사람 위에서 작동한다
모델 성능의 상당 부분은 사람이 만든 레이블에서 나옵니다. 이 노동은 대체로 저임금 국가에 아웃소싱되며, 계약 구조상 고용이 아닌 도급으로 처리되어 보호가 약합니다.
이미지 분류, 바운딩 박스, 텍스트 주석. 건당 단가·시간 압박·품질 페널티가 결합해 실질 임금이 낮아지기 쉽습니다.
유해 콘텐츠(폭력·아동 성착취물·자해)를 반복 노출. 심리적 외상 보고가 축적되어 있으며 여러 국가에서 소송·노조 결성으로 이어졌습니다.
모델의 가치를 실질적으로 결정하는 노동. 누가 라벨링하는가가 곧 누구의 가치인가입니다(Phase 5의 정당성 문제).
의도적으로 유해 출력을 유도하는 업무. 노출 상한과 심리 지원이 필요하나 표준화되어 있지 않습니다.
② 조달 요구사항으로 번역하기 — 실행 가능한 조치
이 문제에 대해 "안타깝다"고 쓰는 것은 윤리가 아닙니다. 전문가는 이를 계약 조항으로 바꿉니다.
- 임금 하한: 현지 생활임금 이상을 계약에 명시하고 증빙 요구
- 노출 관리: 유해 콘텐츠 조정 업무의 일일 노출 시간 상한, 강제 휴식, 흐림 처리·무음 처리 등 완충 도구 제공
- 심리 지원: 근무 시간 내 접근 가능한 임상 지원, 사후 추적
- 고용 안정: 최소 계약 기간, 일방적 계정 정지 금지, 이의제기 절차
- 투명성: 라벨러 인구 구성·지침·보수 체계 공개 (모델 카드에 기재)
- 결사의 자유: 노조 결성·단체 행동에 대한 불이익 금지 조항
- 감사권: 하청·재하청 단계까지의 실사(due diligence)와 현장 점검 권한
왜 이것이 AI 윤리인가: 공급망 실사는 이미 의류·전자 산업의 표준 관행이며, EU의 기업 지속가능성 실사 규범 등 법제화 흐름도 있습니다. AI 조직이 자기 데이터 공급망의 노동 조건을 모른다면, 그것은 Phase 3의 "데이터시트 수집 과정 항목을 채울 수 없다"와 정확히 같은 실패입니다.
📘 7-3. 환경 — 에너지, 물, 그리고 분배 정의
① 무엇을 세어야 하는가
| 단계 | 자원 소비 | 측정의 어려움 |
|---|---|---|
| 제조(embodied) | 반도체·서버 생산의 에너지·광물·초순수 | 공급망 전반의 데이터 부재. 대부분의 보고서가 누락 |
| 학습(training) | 대규모 전력. 실험·실패한 학습까지 포함해야 정확 | 공개되는 수치는 최종 성공 학습만인 경우가 많음 |
| 추론(inference) | 건당은 작지만 사용량 × 기간으로 누적 | 대규모 서비스에서는 총량이 학습을 초과할 수 있음 |
| 냉각(water) | 데이터센터 냉각의 물 소비·증발 | 지역별 물 스트레스와 결합해야 의미 있음 |
| 전력망 영향 | 신규 발전·송전 투자, 첨두 부하, 요금 전가 | 지역 주민에게 요금·환경 영향이 전가되는 경로 |
측정 원칙 3가지: ① 한계 배출(marginal)과 평균 배출을 구분 — 추가 부하가 어떤 발전원을 가동시키는지가 실제 영향 ② 시간·장소 일치 — 연간 재생에너지 구매 총량이 아니라 시간대별 매칭이 실질 지표(24/7 CFE) ③ 상쇄(offset)와 감축을 구분 — 상쇄 구매는 감축이 아닙니다.
② 분배 정의의 질문
환경 문제의 윤리적 핵심은 총량이 아니라 편익과 부담의 지리적 분리입니다.
- 데이터센터가 들어서는 지역은 전력·용수·소음·토지 부담을 지지만, 서비스의 편익은 다른 곳에서 발생합니다
- 물 스트레스가 높은 지역의 냉각수 사용은 지역 농업·생활용수와 직접 경합합니다
- 세제 혜택과 고용 약속이 실제로 이행되는지에 대한 사후 검증이 대체로 부재합니다
- 지역 주민이 입지 결정 과정에 실질적으로 참여했는지가 절차적 정의의 기준입니다
③ 실무자가 할 수 있는 것
- 측정하고 공개: 학습·추론의 에너지와 배출을 추정해 모델 카드에 기재 (도구: ML CO2 Impact 등)
- 효율 선택: 과제에 충분한 최소 모델 사용, 증류·양자화, 캐싱, 배치 처리
- 입지·시간 선택: 저탄소 전력망 지역과 시간대에 학습 스케줄링 (탄소 인지 컴퓨팅)
- 중복 제거: 이미 존재하는 모델 재사용. "우리도 처음부터 학습"이 가장 큰 낭비
- 지역 영향 실사: 클라우드 선택 시 해당 리전의 물 스트레스와 전력 구성 확인
- 정직한 보고: 실패한 학습·실험 비용을 포함하고, 상쇄와 감축을 분리 표기
📙 7-4. 권력 집중과 민주주의
① 집중이 발생하는 네 개의 병목
| 병목 | 왜 집중되는가 | 거버넌스 레버 |
|---|---|---|
| 컴퓨트 | 첨단 반도체 설계·제조가 소수 기업에 집중, 대규모 학습의 자본 요구 | 공공 컴퓨트 제공, 학술 접근 프로그램, 수출 통제(지정학적 도구) |
| 데이터 | 플랫폼 보유 데이터의 배타성, 스크래핑 제한의 비대칭(대기업은 라이선스 구매 가능) | 데이터 접근권, 공공 데이터 신탁, 상호운용성 의무 |
| 인재 | 보상 격차로 학계·공공에서 산업으로 유출 | 공공 연구 투자, 안식년·교류 제도 |
| 배포 채널 | 운영체제·앱스토어·검색·클라우드의 게이트키핑 | 반독점, 자사 우대 금지, 상호운용성 |
② 민주주의에 대한 세 가지 경로의 위협
- 정보 환경: 개인화된 설득·합성 콘텐츠·자동화된 여론 조작이 공론장의 형성 조건을 바꿉니다
- 규칙 제정의 사유화: 수억 명에게 적용되는 콘텐츠·안전 정책이 선출되지 않은 주체에 의해 결정됩니다. 형식은 이용약관이지만 기능은 규제입니다
- 규제 역량의 비대칭: 규제기관이 감독 대상보다 정보·인력·컴퓨트에서 열위에 있으면 감독은 형식화됩니다 — 감독 역량 투자가 규제 설계만큼 중요한 이유
진행 중 논쟁 불가피성 서사(inevitability narrative)에 대한 비판: "AI 발전은 멈출 수 없으니 적응해야 한다"는 프레임은 기술 결정론이며, 실제로는 투자·규제·표준이라는 선택의 산물임을 은폐한다는 지적입니다. 반론은 국제 경쟁 상황에서 일방적 자제가 규제가 약한 곳으로의 이전만 낳는다는 것입니다. 두 논변 모두 경험적 전제를 갖고 있으므로 어떤 조건에서 어느 쪽이 성립하는지를 따지는 것이 전문가의 논의 방식입니다.
③ 학제적 분석이 필요한 이유
헤게모니와 불가피성 서사의 작동, 자율성 개념, 기술 결정론 비판
반독점(시장 획정의 어려움), 필수설비 이론, 상호운용성 의무, 플랫폼 책임
국가-비국가 행위자 관계, 규제 포획, 국제 레짐 형성
규모의 경제·네트워크 효과·데이터 수확체증, 보완재 전략
📕 7-5. 시스템 리스크 — 단일 장애점과 상관 실패
① 세 가지 집중 위험
| 유형 | 메커니즘 | 징후 |
|---|---|---|
| 인프라 집중 | 소수 클라우드·CDN·인증 서비스에 다수 서비스가 의존 | 한 지역 장애가 결제·물류·의료 예약까지 동시 마비 |
| 모델 집중 | 수많은 응용이 동일 기반모델에 의존 | 같은 편향·같은 취약점·같은 오류가 동시에 발현(상관 실패) |
| 공급망 집중 | 첨단 반도체·특정 데이터셋·특정 라이브러리 의존 | 지정학적 사건이 즉시 산업 전반에 전파 |
왜 AI가 이 문제를 악화시키는가: 전통적 IT 장애는 서비스 중단을 낳지만, 모델 집중은 동일한 잘못된 판단을 대규모로 동시에 낳습니다. 다양성이 없으면 다수결·교차 검증 같은 안전 장치가 작동하지 않습니다. 금융의 시스템 리스크 논의와 구조가 같습니다.
② 조직 수준의 대응
- 의존성 지도: 어떤 기능이 어떤 외부 모델·API·클라우드에 의존하는지 목록화하고 중요도 등급 부여
- 저하 모드 설계: AI가 없을 때 서비스가 어떻게 축소 작동하는지 정의 (완전 중단이 아니라 규칙 기반 폴백)
- 수동 절차 유지: 핵심 업무의 수동 처리 능력을 실제로 훈련해 유지 (문서만 있고 못 하면 무의미)
- 공급자 다변화: 최소한 전환 가능성을 유지 — 프롬프트·평가·데이터의 이식성 확보, 락인 요소 목록화
- 모의 훈련: 주요 공급자 24시간 장애를 가정한 훈련을 정기 수행하고 결과를 개선에 반영
- 계약: SLA, 사고 통지 기한, 데이터 반출 보장(exit plan), 서비스 종료 시 유예 기간
③ 사회 수준의 대응
- 중요 기능 지정: 금융·의료·전력 등에서 AI 의존의 시스템적 중요도를 평가하는 규제 틀 (금융의 중요 제3자 감독 논의와 유사)
- 상호운용성·이식성 의무: 전환 비용을 낮춰 집중을 완화
- 다양성 확보: 공공 부문의 오픈 모델·대체 인프라 투자
- 사고 정보 공유: 산업 전반의 공통 취약점을 빠르게 전파하는 채널
📗 7-6. 비배포의 윤리 — AI를 쓰지 않을 권리
① 왜 이것이 진지한 입장인가
AI 윤리 논의는 대개 "어떻게 잘 만들 것인가"를 전제합니다. 그러나 일부 용도에서는 배포하지 않는 것이 유일하게 옳은 선택일 수 있습니다. 이 선택지를 명시적으로 유지하는 것이 기술적 불가피성 서사에 대한 실질적 견제입니다.
② 비배포를 정당화하는 조건 — 판단 체크리스트
- 회복 불가능한 피해가 실패 시 발생하며, 사후 구제가 불가능한가 (생명·자유·아동의 발달)
- 필요한 성능·공정성 하한선을 현재 기술로 달성할 수 없는가 — 측정으로 확인해야 할 경험적 질문
- 실패의 탐지 자체가 어려운가 (피해자가 알아채지 못하는 구조)
- 대안(비AI 절차)이 측정 가능하게 더 나은가 — 기준선 없이는 판단 불가
- 도입의 이익이 주로 조직에, 위험이 주로 개인에게 귀속되는가
- 영향받는 사람들이 거부할 실질적 선택지를 갖는가 (공공서비스 접근 조건이면 동의는 형해화)
중요한 구분: "AI를 쓰지 않을 권리"는 개인의 옵트아웃과 기관의 비배포 결정 두 층위를 갖습니다. 개인 옵트아웃만 제공하고 기관이 배포를 강행하면, 부담이 개인에게 전가됩니다 — 옵트아웃이 불이익을 수반한다면 그것은 선택지가 아닙니다. 구조적 문제를 개인 선택으로 환원하는 것 자체가 윤리적 실패입니다.
③ 부분 배포와 단계적 접근
전면 배포와 비배포 사이에는 넓은 스펙트럼이 있습니다: 보조 전용(결정 권한 없음) → 제한 인구 → 제한 기능 → 인간 승인 필수 → 모니터링 하 확대. 성숙한 조직은 이 스펙트럼을 사전에 정의된 게이트로 운영하며, 각 단계의 진입·후퇴 조건을 숫자로 명시합니다(Phase 8).
④ 비배포 결정을 조직에서 가능하게 만들기
- 비배포·지연 결정을 실패가 아니라 정상 산출로 취급하는 평가 체계
- 중단 권한을 가진 기능(리스크위원회)의 실제 행사 기록 공개
- "하지 않기로 한 결정"의 근거를 문서화해 조직의 기억으로 남기기
- 경쟁사가 배포했다는 사실이 자동으로 정당화 근거가 되지 않음을 정책에 명시
2. 필독 문헌
- 📖 《Atlas of AI》 — Kate Crawford. 광물·노동·에너지·분류의 관점에서 본 AI
- 📖 《Ghost Work》 — Gray & Suri. 보이지 않는 데이터 노동의 민족지
- 📄 Strubell et al. (2019) · Patterson et al. (2021) — 환경 비용 측정 논쟁의 양대 축
- 📖 《Power and Progress》 — Acemoglu & Johnson. 기술 진보의 이익 분배는 선택이라는 역사적 논증
- 📄 Stanford AI Index — 컴퓨트·투자·인재의 집중 데이터
3. 추천 영상
하나의 음성 비서 뒤에 있는 광물·노동·에너지의 지도
입지 갈등 사례와 분배 정의 관점의 보도·강연
모델 뒤의 사람들 — 조달 요구사항을 설계할 때 반드시 볼 것
"자동화의 방향은 선택된다"는 역사적 논증
단일 장애점이 어떻게 사회 전반으로 전파되는가
4. 주차별 실행 계획
- ✅ 1~2일차: 본인 직무를 과업 10개로 분해하고 각각을 대체·보완·재구성·강도변화로 분류
- ✅ 3일차: 사용 중인 AI 서비스의 데이터 노동 관련 공개 정보를 조사 → 없다면 "정보 부재"도 결과로 기록
- ✅ 4일차: ML CO2 Impact 등으로 본인 학습 작업의 배출량 추정 + 리전별 전력 구성 비교
- ✅ 5일차: 조직의 의존성 지도와 저하 모드 설계 초안 작성
- ✅ 6~7일차: 비배포 체크리스트를 실제 사례에 적용 → 서술형 과제 → 퀴즈 응시
5. 실전 과제: 사회적 영향 평가서
[대상] 고객 상담 자동 응답 도입 (상담사 120명 조직)
[1] 노동 영향 — 과업 단위 분석
과업 비중 AI 효과 대응
단순 조회·안내 38% 대체 → 상담사는 복합 문의로 이동
복합 문제 해결 27% 보완 → AI 요약·이력 제공으로 처리시간 -20% 목표
감정 노동·클레임 18% 보완 미미 → 인간 전담 유지, 인력 감축 대상 아님
기록·후처리 12% 대체 → 자동 요약, 정확도 검수 절차 신설
신입 교육·품질 코칭 5% 재구성 → AI 대화 로그 기반 코칭 직무 신설(3명)
⚠ 탈숙련화 위험: 단순 문의가 사라지면 신입의 학습 경로 소실
→ 신입 6개월간 AI 미사용 트랙 유지(의도적 비효율을 교육 투자로 승인)
[2] 전환 계획
· 감원 없음 선언(12개월) — 자연감소분만 미충원, 문서로 공표
· 근무시간 내 유급 재교육 40시간, 코칭·품질관리 직무로 내부 이동 우선
· 노동자 대표 협의 3회 실시(도입 전/파일럿 후/확대 전), 회의록 공개
· KPI 재설계: 처리 건수 → 해결률·재문의율 (강도 증가 방지 장치)
· 상시 감시 금지: 대화 분석은 개인 평가가 아닌 집계 품질 개선 목적으로 제한
[3] 데이터 공급망
라벨링 외주사 A: 생활임금 준수 증빙 ○ / 유해콘텐츠 노출 상한 ○ / 심리지원 △
→ 계약 갱신 시 심리지원 조항 추가, 미이행 시 시정 90일 후 계약 해지 조건
[4] 환경
· 추론 월 추정 전력 X kWh, 리전 B(저탄소 전력 68%)로 배치 → 리전 C 대비 -41%
· 소형 모델 + 캐싱으로 토큰당 비용·배출 -55%
· 보고 원칙: 상쇄 구매는 별도 표기, 감축과 합산하지 않음
[5] 시스템 리스크
· 단일 공급자 의존 → 규칙 기반 폴백(FAQ 자동응답) 상시 유지, 분기 1회 장애 훈련
· 공급자 24h 장애 시: 자동응답 중단 → 대기열 안내 + 상담사 전원 투입 절차(문서화)
· 프롬프트·평가셋을 공급자 중립 포맷으로 보관(전환 가능성 확보)
[6] 비배포 검토
· 채무 조정·보험금 지급 거절 등 중대 불이익 결정은 자동 응답 범위에서 제외
근거: 회복 불가능성 + 탐지 곤란 + 이익/위험의 비대칭 귀속
· 위 범위 확대 요청은 리스크위원회 안건으로만 상정 가능
6. 서술형 과제
Q1. (600자 이상) "AI가 생산성을 높이므로 사회 전체적으로 이익"이라는 주장을 Phase 1의 규범 이론을 활용해 비판적으로 평가하시오.
모범 답안 개요 보기
주장의 구조: 이는 총합 공리주의 논변이다. 총 효용이 증가하면 정당하다는 전제를 깔고 있다.
비판 1 — 정의론: 롤스의 차등 원칙은 불평등이 최소 수혜자에게 이익이 될 때만 정당하다고 본다. 생산성 향상의 이익이 자본과 고숙련층에 집중되고 비용이 특정 노동자군에 집중된다면, 총합 증가는 정당화 근거가 되지 못한다. 필요한 것은 총량이 아니라 분배 경로의 증거다.
비판 2 — 의무론: 영향받는 노동자를 수단으로만 대하지 않으려면 도입 결정에 대한 발언권(사전 협의)과 이의제기 절차가 필요하다. 사후 통보는 절차적 부정의다.
비판 3 — 측정의 한계: "생산성"이 무엇으로 측정되는지 자체가 가치 판단이다. 처리 건수 증가는 노동 강도 증가이지 후생 증가가 아닐 수 있으며, 탈숙련화 같은 장기 비용은 단기 지표에 잡히지 않는다(Phase 1의 계량화 편향).
비판 4 — 외부성: 에너지·물·데이터 노동의 비용이 회계에서 외부화되어 있다면 "이익"의 계산 자체가 불완전하다.
균형: 그럼에도 생산성 향상이 실재하며 일부 연구에서 저경력자에게 더 큰 이득이 관측된다는 점을 인정하고, 결론을 "총합 증가는 필요조건이지 충분조건이 아니며, 정당화는 분배·절차·외부성 세 축의 증거를 요구한다"로 맺으면 만점.
Q2. (500자 이상) 본인이 아는 조직에서 특정 AI 시스템을 배포하지 않기로 결정해야 하는 사례를 하나 구성하고, 7-6의 체크리스트 6항목에 따라 근거를 제시하시오. 반대 입장의 가장 강한 논거도 함께 다룰 것.
모범 답안 개요 보기
구성 예시(아동 복지 위험 예측): ① 회복 불가능성 — 아동 분리 결정은 되돌릴 수 없고 발달에 영구적 영향 ② 성능 하한 — 소집단 표본 부족으로 최소집단 성능의 신뢰구간이 지나치게 넓음(측정으로 확인) ③ 탐지 곤란 — 개입하지 않은 사례의 결과가 관측되지 않아(선택적 레이블) 위음성을 알 수 없음 ④ 대안 비교 — 기존 사회복지사 판단의 격차를 기준선으로 측정한 결과 개선폭이 통계적으로 유의하지 않음 ⑤ 귀속 비대칭 — 효율 이익은 기관에, 위험은 가족에게 ⑥ 거부 가능성 — 공공서비스 접근 조건이므로 실질적 거부 선택지 없음.
반대 논거(강한 형태): 현행 인간 판단도 편향되어 있고 일관성이 낮다. 비배포는 현상 유지를 선택하는 것이며 현상 유지 역시 피해를 낳는다. 따라서 "완벽하지 않으므로 쓰지 말라"는 논변은 기준을 비대칭적으로 적용한다.
재반론: 기준의 비대칭성 지적은 타당하다. 그러나 ㉠ 자동화된 결정은 오류가 상관되어 대규모로 동시에 발생하고 ㉡ 책임 소재가 흐려지며 ㉢ 이의제기가 어려워진다. 따라서 동일 성능이라도 추가 요건(측정된 개선, 인간 최종 결정, 이의제기, 공개 감사)을 붙여야 하며, 이를 충족하기 전까지의 비배포는 정당하다. 부분 배포 스펙트럼(보조 전용·제한 인구·인간 승인)을 제시하며 마무리하면 만점.
📌 Phase 7 핵심 정리
- ✅ 과업 단위 분석: 대체·보완·재구성·강도변화. 직업 소멸 프레임은 대부분의 실제 변화를 놓친다. 탈숙련화는 장기 비용.
- ✅ 윤리적 핵심은 분배와 절차: 총량 증가는 정당화의 필요조건일 뿐이다. 정당한 전환의 7요소를 기억하라.
- ✅ 보이지 않는 노동: 라벨링·조정·RLHF. "안타깝다"가 아니라 조달 계약 조항으로 번역하라.
- ✅ 환경 측정 3원칙: 한계 배출 · 시간·장소 일치 · 상쇄와 감축의 분리. 윤리적 핵심은 편익과 부담의 지리적 분리.
- ✅ 집중의 4병목: 컴퓨트·데이터·인재·배포 채널. 감독 역량 비대칭은 규제 설계만큼 중요한 변수다.
- ✅ 모델 집중 = 상관 실패: 같은 기반모델을 쓰면 같은 실수를 동시에 한다. 다양성이 없으면 교차 검증도 무의미하다.
- ✅ 비배포: 6개 조건 체크리스트. 개인 옵트아웃만 제공하고 기관이 강행하면 부담의 전가다.