AI 생명주기 윤리·편향·투명성·감독

정확도가 높아졌는데 정작 필요한 사람을 더 많이 놓친다면

새봄센터의 개발 담당자가 “새 설정에서는 도움 안내 분류의 정확도가 더 높습니다”라고 보고했다. 그런데 상담 담당자는 도움 채널을 이용한 학습자 중 실제로 지원이 필요한 사람이 안내에서 더 많이 빠졌다고 말했다. 전체 정확도가 좋아졌다는 보고와 필요한 사람을 더 놓친다는 관찰은 동시에 참일 수 있을까?

그럴 수 있다. 맞힌 전체 수와 도움이 필요한 사람을 찾은 비율은 분모가 다르기 때문이다. 여기에 기준자료 자체가 잘못되거나, 사람이 AI 결과를 검토 없이 받아들이거나, 안내를 받은 사람의 반응만 다시 학습하면 숫자 하나로는 보이지 않는 실패가 생긴다. 윤리 원칙을 데이터 수집부터 운영·종료까지의 구체적 결정으로 연결해야 하는 이유다.

이 절의 ET-B1·B2·H1·G2는 새봄센터를 위한 별도의 자체 교육 자료다. 앞 절 ET-A1의 100명·50자리 배분 기록과 같은 표본이 아니다. 특히 여기서 ‘안내 후보로 선택’은 상담 자리 배정이나 지원 자격 판정이 아니다. 합성된 분류 자료의 산술과 운영 판단을 설명하며 실제 학습자 대상 실험이나 실제 AI 성능을 보고하지 않는다.

먼저 연결할 앞선 설명

정보 및 AI 윤리는 권리·편익·피해와 그 선택의 책임을 함께 판단했다. ET-G1은 AI에 의한 단독 배제를 금지하고 직접 신청·설명·구제 경로를 유지했다. 이 절은 그 조건을 지킬 데이터·측정·감독과 운영 증거를 설계한다.

1. 윤리 문제는 학습 알고리즘 안에서만 생기지 않는다

여기서 모형은 입력 자료를 받아 도움 안내 후보인지 또는 그 가능성을 나타내려는 점수 등을 출력하는 계산 규칙이다. 특성은 모형이 읽는 입력 항목이고, 레이블은 학습·평가에서 결과의 기준으로 붙인 표시다. 점수가 나왔다는 사실만으로 그 값이 정확한 확률이나 사람의 진짜 필요를 뜻하지는 않는다.

센터가 ‘과거에 상담을 신청한 적이 있음’을 레이블로 쓰면 모형은 상담 신청 행동을 맞히도록 학습할 수 있다. 그러나 신청 행동에는 필요뿐 아니라 안내 노출·신청 난이도·시간·기존 배정의 영향도 들어간다. 그 모형의 정확도가 높아도 ‘지원이 필요한 사람을 공정하게 찾는다’는 목표를 달성했다고 바로 말할 수 없다.

이 표는 한 번씩 통과하면 끝나는 순차 승인표가 아니다. 운영에서 새로운 누락이 드러나면 자료와 레이블부터 다시 확인할 수 있다. 모형을 재학습한 날만 변경일로 기록해서도 안 된다. 입력의 의미, 연락 절차, 담당자의 활용 목적이 달라져도 같은 점수가 사람에게 미치는 영향이 달라질 수 있다.

2. 편향을 ‘나쁜 데이터’ 한 가지로 줄이지 않는다

이 절에서 편향은 자료·규칙·사람·제도의 작동이 특정 방향의 체계적인 치우침을 만드는 문제를 가리킨다. 개별 오분류 한 건과 같은 말은 아니며, 차이가 발견됐다는 사실만으로 원인·의도·법적 차별이 모두 확인되는 것도 아니다. 어떤 단계가 어떤 결과를 만드는지 확인해야 한다.

NIST AI RMF 1.0은 AI 편향을 살필 때 체계적·제도적 편향(systemic), 계산·통계적 편향(computational and statistical), 인간 인지적 편향(human-cognitive)을 구별한다. 고의가 없어도 이런 문제가 생길 수 있고, 표본의 집단별 인원만 맞추는 것으로 모든 편향이 해소되지는 않는다.¹

특정 입력을 지웠다고 그 정보의 영향이 모두 없어지는 것은 아니다. 접속 시각·사용 기기·이전 문의 방식 같은 다른 항목이 같은 환경의 차이를 간접 반영할 수 있다. 이런 대리변수는 다른 속성이나 조건의 정보를 대신 담는 항목이다. 상관이 있다는 이유만으로 무조건 삭제하거나, 민감한 이름의 열이 없다는 이유만으로 안전하다고 판단하지 않는다. 목적 관련성·작동 경로·대안과 결과를 확인한다.

레이블을 만든 사람도 틀릴 수 있다. 도움이 필요하다는 설명을 온라인 글로만 받아 판단했다면 글을 쓰기 어려운 사람의 필요가 빠질 수 있다. 기준을 정한 이유, 자료 수집 방법, 이견 처리와 불확실한 사례를 보존한다. 모두에게 답을 붙이기 위해 미확인을 임의로 ‘필요 없음’에 넣으면 이후 정확도 계산도 잘못된 기준을 강화한다.

3. 자료가 언제·누구에게서·어떻게 생겼는지 확인한다

학습용 자료로 규칙을 맞춘 뒤 별도로 남긴 자료로 성능을 확인하는 이유는, 이미 본 사례를 기억한 결과와 새로운 사례에서의 작동을 구별하기 위해서다. 평가 자료를 반복해서 보며 설정을 맞췄다면 그 자료는 사실상 선택 과정에 사용된 것이다. 마지막 성능 확인에는 그 사실과 별도의 검증 범위를 남긴다.

같은 학습자의 여러 회차 기록을 서로 독립적인 사람처럼 나누면 그 사람의 정보를 이미 학습한 효과가 평가에 섞일 수 있다. 미래에 알게 된 수료·상담 결과를 안내 시점의 입력처럼 사용하면 현실에서는 이용할 수 없는 정보로 점수를 낸 것이다. 이런 정보 누출을 막으려면 사람·사건·시간과 실제 사용 시점을 기준으로 분리한다.

자료 기록에는 수집 목적, 대상·기간, 제외·누락, 입력의 의미, 레이블 기준·검토자, 허용 사용 범위와 변경 이력을 남긴다. 이때 ‘기록하라’는 것은 개인정보 원문을 모든 문서에 복제하라는 뜻이 아니다. 근거 위치와 제한된 식별자로 추적하고 접근·보존 조건을 함께 정한다.

새 데이터가 기존 학습 자료와 다르게 분포하는 자료 분포 변화와, 같은 입력이 뜻하는 결과의 관계가 달라지는 변화도 구별한다. 예를 들어 방문 신청이 늘어 입력 구성이 바뀐 것과, 상담 방식이 개선돼 같은 어려움에 필요한 시간이 줄어든 것은 서로 다른 변화다. 입력 분포만 보고 성능 저하를 확정하거나, 전체 평균이 같다고 모든 관계가 유지된 것으로 보지 않는다.

4. 분류 오류의 네 칸을 먼저 읽는다

ET-B1에서는 모형의 점수와 별도로 정한 지원 필요 기준을 평가용 참조로 사용한다고 가정한다. 모형 점수를 보지 않은 검토와 이용자 설명을 바탕으로 기준을 마련했다는 교육 가정이며, 이 기준이 현실의 완벽한 정답이라는 주장은 아니다. 불명확한 경우를 어떻게 다뤘는지도 실제 평가에서 밝혀야 한다.

양성은 이 예제에서 ‘추가 도움 안내 후보로 선택함’, 음성은 ‘그 후보로 선택하지 않음’이다. 좋은 사람·나쁜 사람을 뜻하지 않는다. 참과 거짓은 평가용 기준과 일치하는지를 나타낸다.

TP는 True Positive, FN은 False Negative, FP는 False Positive, TN은 True Negative다. 실제로 필요한데 놓친 FN은 지원 기회 상실로 이어질 수 있다. FP도 무조건 가벼운 오류는 아니다. 원하지 않는 연락, 낙인과 정보 노출, 제한된 검토 자원의 소모가 생길 수 있다. 오류의 이름뿐 아니라 실제 서비스에서 누구에게 무엇이 일어나는지를 살핀다.

평가용 참조의 필요 여부와 안내 후 실제 상담 참여·효과도 서로 다르다. TP라는 이유만으로 상담을 원한다고 단정하거나 성과가 발생했다고 세지 않는다. 연락·참여는 선택 가능한 별도 과정이다.

정확도·재현율·정밀도는 같은 ‘잘 맞힘’이 아니다

네 칸의 합을 전체 평가 건수 N이라고 하자. 같은 결과표에서도 어떤 분모를 선택하느냐에 따라 답하는 질문이 달라진다. 아래 이름·산식은 분류 지표의 통상적인 정의를 사용한다.²

정밀도가 높다는 말은 선택한 후보에 불필요한 사람이 적다는 뜻이다. 필요한 사람을 많이 찾았다는 뜻은 아니다. 필요한 사람 중 한 명만 골라도 그 한 명이 기준상 필요하면 정밀도는 100%가 될 수 있다. 그때 나머지 필요한 사람을 얼마나 놓쳤는지는 재현율로 따로 확인한다.

분모가 0이면 해당 비율은 이 식으로 정의되지 않는다. 예를 들어 아무도 선택하지 않아 TP+FP=0인 모형의 정밀도를 자동으로 100%라고 하지 않는다. 사람이 적은 집단에서는 한 건의 차이도 비율을 크게 바꿀 수 있으므로 비율과 함께 원래 건수·자료의 한계를 보고한다.

5. 따라 계산 ET-B1: 두 채널의 재현율이 같아도 다른 문제가 남는다

평가자료는 직접 온라인 채널 100건과 도움 채널 100건, 합계 200건이다. 한 건은 한 평가 사례이며 중복과 미확인 레이블은 없다는 계산 가정이다. 채널 구분을 법정 보호집단 또는 사람의 능력 분류로 주장하지 않는다. 아래 수는 센터 운영자료나 실제 모델 측정치가 아닌 자체 작성 정수다.

온라인 채널에서 참조 기준상 필요한 사람은 48+12=60명이고 모형이 선택한 후보는 48+12=60명이다. 두 합이 우연히 같지만 앞 합의 12는 FN, 뒤 합의 12는 FP다. 필요 집단과 선택 집단이 같은 사람들이라는 뜻이 아니다.

도움 채널에서는 필요한 사람이 16+4=20명이고 선택한 후보는 16+16=32명이다. 후보 32명 중 16명은 필요를 찾은 것이고 나머지 16명은 불필요한 선택이다. 놓친 4명은 선택 목록만 봐서는 찾을 수 없다.

전체 정확도는 (64+92)/200=78%다. 전체 정밀도는 64/(64+28)=64/92≈69.57%이며 채널별 정밀도 80%와 50%의 단순 평균 65%가 아니다. 합쳐서 계산할 때에는 해당 지표의 분자·분모를 합해야 한다. 평가집단의 크기가 같아도 지표마다 분모는 달라질 수 있다.

전체 필요 80명 중 64명을 찾았으므로 전체 재현율은 80%다. 이 모형은 필요한 사람 16명을 놓쳤으며 불필요한 후보 28명을 만들었다. 최종 상담 배정·참여·효과는 이 표에 없으므로 계산할 수 없다.

6. 공정성 지표는 어떤 조건에서의 같음을 묻는지 다르다

기술적인 집단 공정성 지표는 전체 선택, 참조 결과별 선택, 선택된 사람의 결과 중 무엇을 맞출지에 따라 다르다. 기회균등·균등오즈 등의 통계적 정의는 사회적 정의 전체와 동일하지 않다. 관련 연구도 관측된 집계만으로 무엇을 판단할 수 있는지의 한계를 다룬다.³

‘인구통계적’이라는 이름을 쓰는 지표의 계산 구조를 채널 비교에 적용한 것이지, 여기서 채널을 인종·성별 등과 동일한 법적 범주로 분류한 것은 아니다. 또한 predictive parity의 번역 이름만 외우기보다 이 표에서 정밀도를 비교한다는 정의를 먼저 확인한다. 용어가 비슷한 다른 기준과 혼동하지 않는다.

기회균등 조건을 만족했다는 말은 이 평가자료의 해당 참조·채널에서 TPR가 같다는 뜻이다. 레이블이 편향됐거나 미선택자에게 실제 신청 경로가 없다면 윤리적 문제는 남는다. 집단 평균이 같아도 같은 집단 안의 특정 상황에 오류가 집중될 수 있다. 교차 집단이나 예외 상황을 볼 때에는 자료가 작거나 누락되어 생기는 불확실성과 재식별 위험도 고려한다.

서로 다른 분모가 왜 중요한지 한 식으로 확인한다

한 집단에서 참조 기준상 필요한 비율을 p, TPR를 t, FPR를 f라 하자. 이 식에서 p·t·f는 0~1 사이의 비율이다. 전체 N명 중 필요한 사람은 pN명이고, 그중 선택된 사람은 tpN명이다. 필요하지 않은 (1−p)N명 중 잘못 선택된 사람은 f(1−p)N명이다.

따라서 선택자가 있는 경우 정밀도는 PPV=tp/[tp+f(1−p)]가 된다. ET-B1 온라인에는 p=0.6, t=0.8, f=0.3을 넣어 0.48/(0.48+0.12)=0.8을 얻는다. 도움 채널은 p=0.2, t=0.8, f=0.2이므로 0.16/(0.16+0.16)=0.5다. 같은 재현율만으로 같은 정밀도를 기대할 수 없는 이유가 보인다.

더 제한된 가정으로 두 집단의 t와 f를 같은 양수로 고정하고 0<p<1에서 p만 다르게 하면 이 식의 PPV도 달라진다. 그러나 f=0처럼 예외 조건에서는 결론이 달라질 수 있다. 이 설명을 ‘모든 공정성 기준은 언제나 양립 불가능하다’라는 무조건적 명제로 바꾸지 않는다. 무엇을 동일하게 두고 무엇이 다른지 명시한 비교다.

7. 따라 판단 ET-B2: 정밀도 개선이 지원 누락을 키울 수 있다

분류 임계값은 점수의 어느 경계에서 후보로 선택할지 정하는 기준이다. 점수가 높을수록 해당 필요가 클 것으로 해석하는 모형에서는 경계를 높이면 선택 범위가 좁아질 수 있다. 그 결과의 TPR·FPR·정밀도는 실제 점수와 레이블 분포를 확인해야 알 수 있다. 임계값 숫자만 보고 새 오류 건수를 계산할 수는 없다.

ET-B2는 도움 채널의 선택 경계를 더 엄격하게 하는 후보 설정에서 아래 결과를 얻었다고 가정한 별도의 비교다. 온라인 채널은 ET-B1 그대로이며 도움 채널의 참조 필요 20명·비필요 80명도 유지한다. 실제로 설정을 시험한 결과는 아니고, 임계값이 변하면 반드시 이런 수가 나온다는 주장도 아니다.

새 정밀도는 8/(8+2)=80%여서 온라인의 80%와 같아졌다. 도움 채널 정확도도 (8+78)/100=86%로 올랐다. 온라인의 76건과 합치면 전체 정확도는 162/200=81%로 기존 78%보다 3%포인트 높다.

그러나 도움 채널의 재현율은 8/20=40%로 기존 80%의 절반이며, 놓친 사람은 4명에서 12명으로 늘었다. 거짓양성률은 2/80=2.5%로 줄었고 선택률은 10%다. 불필요한 안내는 줄었지만 필요한 사람의 접근 손실을 늘린 것이다. 같은 설정을 ‘정확도·정밀도 개선’이라고만 보고하면 중요한 방향의 오류를 숨긴다.

센터의 목적은 지원이 필요한 사람에게 안내 기회를 넓히는 것이다. 따라서 정밀도를 맞췄다는 이유만으로 ET-B2를 도입하지 않는다. 잘못된 안내의 실제 피해와 놓침의 피해, 직접 신청·재검토가 이를 얼마나 보완하는지를 대조한다. 어떤 공정성 지표를 선택할지는 개발자의 편의가 아니라 목적·권리·오류의 영향과 이해관계자의 의견을 반영해 책임자가 정해야 한다.

편향 완화는 임계값 조정만을 뜻하지 않는다

자료 단계에서는 누락된 경로를 보완하고 레이블 기준을 점검하며, 특정 집단의 자료가 적다는 이유만으로 허위 사례를 사실처럼 추가하지 않는다. 가중치를 조정하거나 표본을 보완해도 실제 운영에서 유효한지 다른 자료로 확인해야 한다.

학습 과정에서는 목표함수·제약을 바꾸어 특정 오류나 불공정한 차이를 줄이는 방법을 검토할 수 있다. 결과 단계에서는 임계값·보류 규칙을 조정할 수 있다. 각각 자료 전처리·학습 중 처리·후처리의 관점이다. 어느 위치에서 바꾸든 같은 평가자료만 반복 최적화하거나, 다른 필수 조건이 악화됐는데 한 지표만 보고 통과시키지 않는다.

업무 단계의 개선도 필요하다. 직접 신청, 필요한 설명, 상담원의 재검토와 실제 지원 자원은 모형 밖의 조치다. 모형을 공정하게 보이도록 만드는 것과 사람이 지원을 받게 하는 것은 다를 수 있다. 반대로 사람 검토가 있다는 이유로 모형 오류를 방치하거나 특정 담당자에게 모든 부담을 넘기지도 않는다.

8. 투명성은 자료 전체 공개가 아니라 적절한 설명과 추적 가능성이다

투명성은 AI가 어디에 어떻게 사용되는지와 관련 정보·한계를 필요한 사람이 이해할 수 있게 하는 것이다. 설명가능성은 결과나 작동에 대해 검토 가능한 설명을 제공하는 능력에 초점을 둔다. 해석가능성은 그 정보가 해당 이용 맥락에서 어떤 의미인지 이해할 수 있는가를 묻는다. NIST도 이 요소를 구별해 다룬다.⁴

새봄센터의 이용자에게는 ‘추가 안내를 제안할 때 AI 보조를 사용하지만 상담 자격을 자동으로 배제하지 않는다’, ‘어떤 범주의 자료를 쓰는지’, ‘원치 않으면 거절하고 직접 신청·정정할 수 있다’는 설명이 필요하다. 점수 계산식만 제시하거나 “AI가 판단했습니다”라고 말하는 것으로 선택과 이의가 가능해지지는 않는다.

어떤 입력이 출력 변화에 크게 기여했다는 사후 설명은 그 입력이 실제 필요의 원인이라는 증명이 아니다. 모형이 기록상의 연관을 이용했을 수 있고 설명 방법 자체에도 근사와 한계가 있다. 비슷한 사례에서 설명이 일관되는지, 실제 입력·규칙과 맞는지 확인한다. 편리한 설명을 먼저 만든 뒤 그 설명을 모형의 실제 판단 과정이라고 주장하지 않는다.

생성형 AI를 덧붙여 상담 사유를 문장으로 만들 때에도 주의한다. 원자료에 없는 불성실·능력 부족 등의 사유를 만들어 붙이지 말고, 확인한 사실과 모형의 불확실한 제안을 구별한다. 안내문은 승인된 정보·근거에 대조하며, 확인되지 않은 결과는 설명을 길게 꾸미기보다 판단을 보류하고 담당자가 확인한다.

9. 의미 있는 인간 감독에는 시간·정보·권한이 필요하다

사람이 버튼을 마지막으로 눌렀다는 사실만으로 감독이 성립하지 않는다. 출력의 한계를 이해하고 반대 근거를 볼 수 있으며, 결과를 바꾸거나 중단할 권한과 시간이 있어야 한다. 형식적으로 책임만 지고 실제 수정 권한은 없는 사람을 두면 자동 판단의 외관만 바뀐다. 인간 감독과 최종적인 인간·조직 책임은 UNESCO 권고에서도 다루는 관점이다.⁵

센터의 검토자는 안내 후보의 필요한 정보·근거·확신의 한계, 이용자가 제시한 정정과 접수 경로를 확인한다. 긍정 출력만 승인하지 않고 미선택·이의·오류 신고도 볼 수 있어야 한다. 자동 결과와 다르게 판단하면 그 사유를 기록하되, 다른 결정을 했다는 이유만으로 담당자에게 부당하게 불이익을 주는 구조가 되어서는 안 된다.

자동화 편향은 자동 시스템의 제안을 과도하게 믿어 필요한 확인을 줄이는 문제다. 사람이 판단했다는 외형을 갖추어도 복잡한 화면, 처리량 압박, 취소하기 어려운 기본값이 있으면 그대로 승인하기 쉬워질 수 있다. 담당자에게 실제로 오류를 찾고 바꾸는 연습을 제공하고, 유리한 성공 사례만으로 숙련을 평가하지 않는다.

따라 계산 ET-H1: 사람 한 명을 적는 것으로 검토 역량이 생기지 않는다

ET-H1은 검토 업무에 하루 240분을 사용할 수 있고 매일 60건의 후보가 들어온다고 가정한다. 건당 검토는 6분 고정, 중간 재작업·다른 이탈·추가 인력은 없고 시작 미처리는 0이다. 이 수는 상담 자리 수가 아니라 안내 후보의 검토 작업량이며 실제로 6분이면 적정한 검토가 된다는 기준도 아니다.

하루 필요한 시간은 60×6=360분이다. 가용 240분으로는 240/6=40건을 처리하므로 하루 20건이 남는다. 같은 조건이 5일 계속되면 미처리는 100건이다. 이용자 한 명의 대기시간이 반드시 5일이라는 뜻은 아니며, 순서·우선순위·도착 시점에 따라 달라진다.

가능한 대응은 실제 검토 인력을 확보하거나 AI 보조의 적용 범위를 줄여 검토 가능한 물량으로 제한하고 기존 직접 신청 경로를 유지하는 것이다. 검토 시간을 근거 없이 줄여 형식적 일괄 승인으로 바꾸는 안은 기각한다. 추가 60분을 확보해도 300/6=50건이어서 하루 10건의 초과 유입이 남는다. 가용시간이 늘었다는 말과 수요를 모두 처리한다는 말도 구별한다.

개별 상담원의 일일 판단과 별도로 정기 성과·편향 검토, 이의 재판단, 중대한 사건의 중단 결정이 필요하다. 모형 사용을 잠시 멈추더라도 이미 안내된 사람의 요청과 정정 기록을 잃지 않게 한다. 모든 감독을 한 사람의 승인 버튼에 집중시키지 않는다.

10. 위험관리를 목적·측정·행동으로 연결한다

NIST AI RMF 1.0의 핵심 기능은 GOVERN·MAP·MEASURE·MANAGE다. 여기서는 각각 책임·규칙 정립, 사용 맥락·위험 파악, 측정·평가, 대응·관리로 읽는다. GOVERN은 나머지 활동 전체에 걸치며 네 기능을 한 번씩 순서대로 통과하는 인증 절차로 보지 않는다. 이 절은 2023년의 1.0 판본을 지정해 참고하며, 확인 시 공식 페이지에 개정 진행 안내가 있어 발표되지 않은 개정판 내용을 임의로 섞지 않는다.⁶

ET-G2에서는 목적을 추가 상담 안내 보조로 제한한다. AI 없는 일반 안내와 직접 신청을 먼저 유지하고, 후보를 고르지 않았다는 사실을 상담 거부 근거로 사용하지 않는다. 개인 점수는 다른 기관의 능력평가로 전송하지 않으며, 입력과 레이블의 적법성·적합성·누락을 확인하지 못하면 해당 자료를 이용한 적용을 보류한다.

기술 담당은 평가자료의 사람·시간 분리와 판본, 참조 기준·불명확 사례, 전체·채널별 네 칸과 지표를 기록한다. ET-B1의 78%를 윤리 통과선으로 사용하지 않고, ET-B2의 정확도 81%·도움 재현율 40%를 함께 보고한다. 센터는 정밀도만 맞춘 ET-B2의 도입을 보류하고 누락의 실제 영향·필요 기준·대안을 재검토한다.

상담 책임자는 자료를 이해하고 판단을 바꿀 권한이 있는 검토자, 다른 검토자의 이의 재심, 직접 신청·연락 거절 경로를 마련한다. ET-H1의 하루 60건은 현재 240분의 검토 역량을 넘으므로 인력을 실제로 확보하거나 적용 물량을 제한하기 전 전체 운영 확대를 하지 않는다. 특정 집단의 신청을 숨겨 유입 건수를 낮추는 방식으로 문제를 해결하지 않는다.

운영에서는 안내 수뿐 아니라 실제 도달·거절·직접 신청·누락 신고·검토 대기·잘못된 이유·수정 결과를 함께 본다. 모형·자료·임계값·업무절차를 바꾸면 적용 판본과 변경 이유를 남기고 영향 범위를 다시 확인한다. 중대한 정보 노출·목적 이탈·직접 신청 차단·구제 불능이 확인되면 해당 자동 활용을 중단하고 영향을 받은 요청과 권리 회복을 우선 처리한다. 통계 지표 하나가 기준을 넘었다고 이 조건을 면제하지 않는다.

미선택자를 관찰하지 않으면 개선 자료도 치우친다

모형이 골라 준 사람에게만 연락하고 그들의 상담 결과만 학습하면, 골라지지 않은 사람의 필요는 계속 보이지 않는다. 다음 모형도 같은 범위를 ‘성공’으로 학습할 수 있다. 이처럼 결과가 다음 입력을 바꾸는 피드백 고리를 확인해야 한다.

ET-G2에서는 직접 신청·이의·거절과 적절히 설계한 미선택자 점검을 통해 관측되지 않은 결과를 드러낸다. 점검에는 필요한 동의·처리근거·접근성을 따지고, 확인하지 못한 상태를 자동 실패나 성공으로 대체하지 않는다. 새 표본에서 결과가 다르면 대상 구성 변화인지, 모형·레이블·업무 변화인지 분리해 살핀다.

종료할 때에는 안내 작업·배포 설정·계정·외부 공급자 접근·조회 사본을 정리한다. 필요한 기록은 정한 근거와 범위로 보존하고, 불필요한 자료를 계속 학습용으로 남기지 않는다. 과거 모형으로 이미 보낸 안내와 남은 이의는 담당을 유지한다. 제품을 껐다는 사실만으로 과거 판단의 영향을 되돌린 것은 아니다.

11. 자체 10점 문제와 완성 답안

ET-B1의 채널별 오류와 공정성 지표를 비교하고, ET-B2의 정확도·정밀도 개선만으로 도입할 수 없는 이유를 계산하여 설명하시오.

어떤 판단의 오류인지 정의한 뒤 분모를 적용한다. 본문의 자체 교육자료를 사용하는 문제이며 공식 기출·채점표가 아니다.

ET-B1: TPR 80%/80%, FPR 30%/20%, PPV 80%/50%
전체 정확도 78% ≠ 윤리 검토 완료
ET-B2: 도움 PPV 80%·정확도 86%, 그러나 TPR 40%·FN 12
전체 정확도 81% → 누락 증가·접근·구제 확인 전 도입 보류

12. 자체 25점 문제와 완성 운영안

새봄센터의 AI 상담안내 보조를 위한 ET-G2를 설계하시오. 생명주기별 편향 통제, 평가와 설정 선택, 대상별 설명, 의미 있는 인간 감독, 운영 피드백·중단·종료를 포함하시오.

모형의 정확도와 조직의 책임을 연결한다. 이미 배운 수치가 어느 운영 결정을 바꾸는지 제시하고, ‘사람이 검토한다’는 한 문장으로 검토 역량을 대신하지 않는다.

13. 자기교정

조건을 바꾸어 다시 판단한다

도움 채널의 TP 16·FN 4는 그대로이고 FP 8·TN 72가 되면?

검토 시간이 하루 240분에서 300분으로 늘면?

모형이 아무도 선택하지 않으면?

근거와 적용 범위

모든 정수표·산식 적용·센터 운영안·그림·문제·답안은 자체 작성했다. 분류표는 참조 기준이 완전한 정답이라는 전제나 실제 사람의 능력 판정이 아니다. 실제 AI 학습·배포·사용자 실험·법적 적합성 판단·인과효과 추정·독립 감수·프로젝트 검사를 수행한 기록으로 사용하지 않는다. 앞 절의 국내 2020/2026 원칙 구별을 유지하며 이 절에서 새로운 공식 원칙이나 합격선을 만들지 않는다.

회독의 핵심

AI 윤리는 목적·자료·레이블·모형뿐 아니라 사람이 결과를 쓰는 방식과 운영·종료에 걸쳐 있다. 같은 정확도·재현율이 다른 오류·기회·피해를 숨길 수 있으므로 원래 건수와 분모, 참조 기준과 사용 맥락을 함께 본다. 이해 가능한 설명, 실제로 바꿀 수 있는 인간 감독, 미선택자까지 돌아오는 피드백과 구제가 있어야 원칙이 행동으로 이어진다.