권리·공정·해악·자율·책임의 충돌

더 많은 사람을 돕는 시스템이 누군가를 배제할 수도 있을까

새봄 평생학습센터는 성인 학습자에게 신청서 작성과 온라인 강의 이용을 돕는 상담을 제공한다. 담당자는 신청이 몰리자 “도움이 필요해 보이는 사람을 AI가 먼저 찾아주면 좋겠다”고 제안했다. 과거 접속 기록으로 안내 대상을 고르면 빠르게 연락할 수 있지만, 온라인에 자주 들어오지 못한 사람은 기록이 적어 오히려 안내에서 빠질 수 있다.

문제는 정확한 프로그램을 만들었는가에서 끝나지 않는다. 무엇을 도움의 필요라고 볼지, 어느 자료까지 사용할지, 안내에서 빠진 사람이 직접 신청할 수 있을지, 잘못 판단했을 때 누가 바로잡을지를 함께 정해야 한다. 계산을 컴퓨터에 맡겨도 이 선택의 책임까지 컴퓨터에 넘길 수는 없다.

새봄센터와 이 장의 신청자·좌석·분류 결과·운영 조건은 모두 자체 교육 사례다. 실제 사람의 능력·신분·건강을 평가한 자료가 아니며 실제 지원사업의 자격이나 법적 권리를 판정하는 기준도 아니다. 이 절은 정보·AI 윤리의 판단과 책임을, 다음 AI 생명주기·편향·설명·인간 감독은 같은 목적을 가진 AI 보조 기능의 구체 조건을 다룬다.

먼저 연결할 앞선 설명

윤리적 영향은 기술의 편익과 피해가 누구에게 돌아가며 누가 설명·구제할지를 살폈다. 이해관계자와 요구는 요청한 기능과 실제 필요를 구별했다. 여기서는 그 관점을 충돌하는 가치의 비교와 실제 운영 결정으로 옮긴다.

1. 정보 및 AI 윤리는 기능의 가능성과 사용의 정당성을 함께 묻는다

정보 및 AI 윤리는 정보의 수집·생성·처리·유통·사용과 AI의 개발·활용이 사람과 사회에 미치는 영향을 살피고, 권리·공정·해악·자율·투명성·책임 사이의 충돌에 대해 근거 있는 선택과 통제·구제를 마련하는 판단 체계다. 할 수 있다는 사실만으로 해도 된다고 결론 내리지 않으며, 좋은 목적만으로 모든 수단을 정당화하지 않는다.

정보윤리의 대상은 AI보다 넓다. 수기로 적은 명단을 무관한 사람에게 보내거나, 사실과 다른 통계를 발표하거나, 다른 사람이 만든 자료의 출처를 지우거나, 특정 이용자는 접근할 수 없는 신청 경로만 제공하는 일도 판단 대상이다. 디지털 정보는 복사·결합·재전달될 수 있으므로 최초 작성뿐 아니라 이후 이용과 정정의 책임도 살펴야 한다.

AI 윤리에서는 이런 문제가 데이터와 학습된 규칙, 자동화된 추천·판단, 인간의 사용 방식으로 이어지는 경로를 추가로 확인한다. 과거 행동을 배운 모형은 과거에 기회가 없었던 상황도 함께 반영할 수 있다. 새봄센터에서 과거 상담 신청이 적었다는 사실은 상담이 필요 없었다는 뜻일 수도 있지만, 신청 방법을 몰랐거나 접근하지 못한 결과일 수도 있다. 어떤 해석을 학습의 정답으로 삼는지가 이미 윤리적 선택이다.

이 장에서 AI의 도덕적 인격이나 모든 철학적 논쟁을 해결하려는 것은 아니다. 실제 제품과 서비스를 기획·운영하는 사람이 무엇을 확인하고 어떤 결정을 책임져야 하는지에 집중한다. UNESCO의 AI 윤리 권고도 인간의 권리·비례성·감독·책임을 함께 다룬다. 아래 센터의 판단 절차는 그 원문 서식이 아니라 이 교재의 자체 적용안이다.¹

2. 사실·가치·예측·의무를 먼저 다른 칸에 적는다

“AI가 더 공정하다”는 문장은 무엇을 확인했는지 알려주지 않는다. 비교 대상이 기존 담당자 판단인지, 선착순인지, 모든 신청자의 무작위 추첨인지부터 다를 수 있다. 공정하다는 가치판단과 이를 뒷받침할 사실을 구별해야 토론할 수 있다.

법적 의무는 실제 적용되는 규범과 사건 조건으로 확인한다. 윤리위원회가 동의했다는 이유로 처리근거가 생기거나 법적 의무가 사라지는 것은 아니다. 반대로 어떤 행위가 명시적으로 금지되지 않았다고 해서 설명 부족·강요·배제까지 정당하다고 볼 수는 없다. 법규의 구체적인 적용 방법은 뒤의 법규 장에서 다룬다.

동의와 정당성도 같은 말이 아니다. 이용자가 이해할 수 있는 선택인지, 거부하면 다른 서비스까지 잃는지, 뒤에 목적을 바꾸어 활용하는지 확인한다. 이 예제의 선택적 안내에 동의했다는 사실을 입학·수료·고용 판단의 허락으로 넓혀 쓰지 않는다. 동의가 언제나 유일한 법적 근거라는 뜻도 아니며, 적용 법규와 윤리적 선택의 실질성을 각각 확인해야 한다.

3. 다섯 판단축을 실제 질문으로 바꾼다

아래 다섯 축은 이 장의 설명을 위한 묶음이다. 뒤에서 소개할 국가 윤리원칙의 항목 수와 이름을 바꿔 부른 공식 분류가 아니다.

권리는 모든 불편을 없애 달라는 요구와 같지 않다. 제한된 상담 인원 때문에 이번 회차에 받지 못하는 사람이 생길 수 있다. 중요한 것은 부족한 자원을 어떤 정당한 기준으로 배분하고, 그 기준과 결과를 설명하며, 잘못된 정보나 절차를 고칠 수 있는가다.

해악은 금전 손실만이 아니다. ‘학습능력이 낮은 사람’이라는 표시를 다른 강사에게 보여 주면 낙인과 잘못된 대우가 생길 수 있다. 상담 안내만을 위한 예측을 사람의 능력·태도·가치에 대한 사실로 바꾸지 않는다. 필요 이상으로 많은 사람에게 점수와 이유를 공유하는 것도 목적에 맞는 설명이 아니다.

책임은 오류가 난 뒤 한 명을 비난하는 것만을 뜻하지 않는다. 사전에 필요한 검토를 할 책임, 근거를 기록하고 설명할 책임, 실제로 시정할 권한과 자원을 구별한다. “공급자가 만든 모형이라 우리는 모른다”는 답변만으로 센터의 운영 선택과 이용자 대응이 끝나지는 않는다.

결과·권리·공정·돌봄의 관점을 교차해 본다

윤리적 논증에는 여러 관점이 있다. 결과를 중시하는 접근은 편익과 피해가 누구에게 얼마나 생기는지를 묻고, 의무·권리를 중시하는 접근은 좋은 결과를 위해서도 함부로 해서는 안 되는 행위를 묻는다. 공정의 관점은 기회와 부담의 분배·절차를, 돌봄의 관점은 구체적인 취약성과 관계·지원 필요를 살핀다. 하나의 관점으로 모든 문제를 자동 해결하는 공식을 만들지는 않는다.

센터가 상담 총인원 50명만을 성과로 삼으면 같은 50명에게 상담을 제공한 두 안을 같다고 볼 수 있다. 그러나 온라인에 접근하기 어려운 사람이 한 안에서 계속 배제된다면 기회 배분은 달라진다. 반대로 집단별 인원을 무조건 같게 맞추는 안도 실제 필요·대기·희망 시간의 차이를 설명하지 못할 수 있다.

관점을 바꿔 보는 목적은 결론을 미루기 위해서가 아니다. 채택한 안이 어떤 편익을 만들고 어떤 부담을 남기는지, 어떤 대안을 왜 기각했는지 설명할 수 있게 하려는 것이다. “사회에 유익하므로 모든 자료를 수집한다”와 “위험이 조금이라도 있으므로 어떤 지원도 하지 않는다” 사이에서 목적에 맞는 덜 침해적인 선택을 찾는다.

4. 같은 처리와 공정한 기회는 항상 같은가

분배적 공정은 기회·편익·부담이 어떻게 배분되는지 묻는다. 절차적 공정은 기준을 알 수 있고, 관련 의견을 제시하며, 일관된 절차로 판단받을 수 있는지 묻는다. 교정과 구제의 관점은 오류가 드러났을 때 결정과 피해를 실제로 바로잡는지 본다. 이번 교재에서는 이 세 질문을 함께 사용한다.

모두에게 같은 웹 주소를 주는 것은 같은 형식의 안내다. 그러나 한 집단이 해당 화면을 읽거나 사용할 수 없다면 실제 접근 기회는 다를 수 있다. 전화·방문 도움을 제공하는 것은 단순한 특혜라고 단정할 일이 아니라 확인한 장벽을 줄이는 수단인지 검토할 일이다.

반대로 집단 이름만으로 모든 사람의 필요를 대신 판단해서도 안 된다. 같은 도움 채널을 이용해도 개인의 목적과 필요한 지원은 다를 수 있다. 차이를 둔다면 그 차이가 사업 목적과 관련 있는지, 필요한 정도를 넘지 않는지, 근거와 이의 절차가 있는지 설명한다.

5. 따라 계산 ET-A1: 전체 50%에 가려진 서로 다른 기회

ET-A1은 같은 회차에 적격한 상담 신청자 100명이 있고 상담 자리가 50개인 가상 배분 비교다. 직접 온라인 신청 60명과 도움 채널 신청 40명은 서로 겹치지 않는다. 취소·중복은 없고 모든 신청자는 한 자리만 받는다. 채널은 사람의 능력이나 보호 속성을 뜻하지 않는다. 두 안의 배분 결과를 비교할 뿐, 각 사람의 실제 필요나 무작위 실험의 효과를 관찰한 자료는 아니다.

안 A에서 온라인 배정률은 40/60≈66.67%, 도움 채널은 10/40=25%다. 차이는 약 41.67%포인트다. 전체 50/100=50%만 보고 채널별 기회도 같았다고 해석하면 안 된다. 두 채널 비율의 단순 평균 약 45.83%도 실제 전체 50%와 다르다. 전체는 신청자 수로 가중되어 있기 때문이다.

안 B는 30/60=50%, 20/40=50%로 이 표의 채널별 배정률을 맞췄다. 그러나 이것만으로 필요에 맞는 지원, 개인별 정당성, 적법한 처리와 공정한 절차까지 확인한 것은 아니다. 안 B는 같은 전체 실적에서도 분배가 달라질 수 있음을 보여 주는 비교안이다. 집단별 비율을 맞추는 것을 모든 상황의 유일한 공정성 기준으로 삼지 않는다.

안 A의 차이만으로 담당자의 고의적 차별이나 법 위반이 증명되는 것도 아니다. 신청 가능 시간, 실제 필요, 정보 누락, 접근 장벽, 사용한 배분 규칙을 확인해야 한다. 차이를 없던 일로 할 이유도 없고, 원인을 확인하지 않은 채 특정 사람의 잘못으로 확정할 이유도 없다.

자리 수가 50이라는 제약은 두 안에 모두 남는다. 안내를 잘 만들거나 점수를 바꾸어도 자리 수 자체가 늘어나는 것은 아니다. 배정되지 않은 사람에게 다음 회차·다른 도움 경로와 정정 방법을 알려야 하며, 지원 인력을 더 확보할지 별도로 결정해야 한다.

6. 국내 기준은 2020년 체계와 2026년 체계를 구별한다

출제 문제나 자료가 어느 판본을 묻는지 먼저 확인한다. 과거 기준의 숫자를 현재 문서의 이름에 붙이거나, 최신 체계의 항목을 과거 문제의 원문처럼 답하면 다른 대상을 설명하게 된다.

2020년 12월 23일의 「사람이 중심이 되는 인공지능(AI) 윤리기준」은 인간 존엄성·사회의 공공선·기술의 합목적성이라는 3대 기본원칙과 10대 핵심요건으로 설명된다. 열 요건은 인권 보장, 프라이버시 보호, 다양성 존중, 침해금지, 공공성, 연대성, 데이터 관리, 책임성, 안전성, 투명성이다. 이 체계는 해당 판본과 과거 기준을 이해할 때 구별해 사용한다.²

2026년 8월 21일 제정·공표된 「대한민국 인공지능 윤리원칙」은 3대 가치와 7대 원칙의 체계다. 3대 가치는 인간의 존엄성·사회의 공공선·인류의 지속가능성이며, 7대 원칙은 인간중심성·프라이버시 보호·공정성·포용성·책임성·안전성·신뢰성·투명성 중 ‘공정성·포용성’을 하나의 항목으로 묶어 센다. 아래 표처럼 일곱 행으로 읽으면 가운데점 때문에 여덟 항목으로 잘못 세는 일을 피할 수 있다.³

오른쪽 열은 공식 조문이나 원문 해설의 인용이 아니라 자체 사례를 위한 질문이다. 가치의 이름이나 항목 수가 바뀌었다는 사실만으로 과거 체계의 모든 내용이 없어졌다고 해석하지 않는다. 과거 자료·현재 공표본·토론회 초안과 관계를 확인하고, 구체 문제의 기준시점을 적는다.

공식 FAQ는 2026년 윤리원칙을 법적 구속력이 없는 자율규범으로 설명하며, 구체적인 법적 의무와 절차는 AI 기본법과 하위법령 등에서 정한다고 구별한다. 따라서 자율규범이라는 이유로 관련 법률도 선택사항이 되거나, 윤리원칙을 준수했다는 선언만으로 법적 요건이 충족되는 것은 아니다.⁴ 이 절은 개별 서비스의 법정 고영향 해당 여부·의무·예외를 판정하지 않는다.

7. 충돌을 해결할 때에는 덜 침해적인 대안도 비교한다

UNESCO 권고의 비례성과 해악 방지, 인간 감독의 관점은 AI를 사용하는 목적과 위험, 다른 가능한 수단을 함께 검토하게 한다.¹ 새봄센터에서는 다음과 같이 서로 다른 선택을 비교할 수 있다.

어떤 대안도 단지 ‘AI를 사용한다’ 또는 ‘사람이 한다’는 이유로 자동 통과하지 않는다. 제한 시험도 실제 사람에게 불이익을 주면서 수행해도 된다는 허가가 아니다. 초기에는 합성·승인된 시험 자료로 확인하고, 실제 이용자에게 적용할 때에는 목적·권리·보호·설명·지원 조건을 먼저 갖춘다.

공정성을 확인하려면 집단별 결과를 살필 자료가 필요할 수 있지만, 그 목적이 모든 민감정보를 모으는 허락은 아니다. 필요한 분석 범위와 처리근거를 따지고 접근을 제한하며, 작은 집단의 결과를 공개해 개인을 알아보게 만들지 않도록 한다. 투명성을 높인다는 이유로 다른 사람의 정보나 운영의 공격 가능 경로를 무제한 공개할 필요도 없다.

정보의 정확성·창작과 공동체에 대한 책임도 남는다

센터가 강의 안내문을 작성할 때 실제 없는 강좌나 자격을 있는 것처럼 쓰면, 자동 작성 여부와 관계없이 잘못된 정보가 선택을 해친다. 사실·추정·홍보 표현을 구별하고 오류가 발견되면 최초 게시물뿐 아니라 재전달된 안내의 정정도 검토한다. AI 생성 문구가 매끄럽다는 이유로 그 사실성을 확인한 것으로 세지 않는다.

다른 사람이 만든 교재·사진·목소리를 활용할 때에는 출처와 허용 범위, 당사자에게 생기는 영향을 확인한다. 출처를 표시한 것만으로 모든 이용허락을 받은 것은 아니며, 반대로 기술이 생성했다는 이유로 타인의 권리·기여에 대한 판단이 사라지지도 않는다. 여기서는 특정 결과물의 저작권 귀속을 확정하지 않고, 필요한 법적 검토와 윤리적 기여 표시를 별도 과제로 남긴다.

운영 효율이 높아져도 상담원의 업무가 단순 승인과 오류 책임으로만 바뀌면 부담이 다른 곳으로 옮겨간 것일 수 있다. 직무·숙련·이의 처리 시간을 함께 설계한다. 데이터 저장과 계산에 사용하는 자원도 목적에 비추어 과도하지 않은지 살핀다. 전체 에너지·환경 영향을 측정하지 않았는데 프로그램 호출 수 감소만으로 환경 개선을 확정하지 않는다.

8. 실제 판단안 ET-G1: 목적·범위·담당·중단을 정한다

ET-G1은 새봄센터의 선택적 학습지원 상담을 대상으로 한다. 학습자에게 도움을 제안하는 목적만 다루며 입학·수료·취업·급여·법정 급여 자격을 판단하지 않는다. 상담을 거절하거나 AI 안내를 사용하지 않아도 일반 강좌 이용과 직접 상담 신청 경로는 유지한다. 개인 점수를 강사·다른 기관의 능력 평가 자료로 보내는 안은 기각한다.

첫 조치는 AI 도입이 아니라 온라인·전화·방문으로 같은 상담 정보와 신청 기간을 제공하고, 어려움을 표현할 수 있는 설명 방식을 마련하는 것이다. 이번 회차의 상담 자리는 50개다. 사전에 알린 필요·긴급성 기준으로 우선순위를 검토하되 불필요한 사생활 증명을 요구하지 않는다. 같은 우선순위에서 수요가 남으면 기록 가능한 추첨과 대기·다음 회차 안내를 사용한다. 이 방식이 언제나 최선이라는 뜻은 아니며, 센터의 자원·목적에 맞춘 자체 선택이다.

AI는 운영에 바로 투입하지 않고 다음 절의 데이터·오류·설명·감독 검토 대상으로 둔다. 모형이 안내 대상으로 고르지 않은 사람도 직접 요청할 수 있어야 하며, 누락을 확인할 경로를 둔다. AI 후보 목록이 있어도 상담 자리 50개와 실제 검토 인력의 제약은 따로 관리한다.

센터 책임자는 목적·우선순위·중단·구제의 결정을 맡고, 상담 담당은 실제 필요·누락·대기와 신청자 설명을, 데이터·개발 담당은 자료·규칙·판본·오류 근거를, 보호 담당은 처리 범위·접근·보존과 권리 문제를 확인한다. 이의 재검토에는 원결정과 다른 검토자를 배정하며, 자원이나 권한이 없으면 검토자를 이름만 적지 말고 실제로 해결 가능한 상향 경로를 마련한다.

산출물은 목적·제외표, 이해관계자·영향표, 데이터 사용 범위, 대안·선택 이유, 배분·이의 절차, 책임·중단 조건과 기록이다. 선택적 안내를 강제 평가로 쓰거나 무관한 정보가 노출되고 직접 신청·구제가 막히면 해당 기능의 확대를 중단한다. 대기·실패·차별 우려를 접수하고 사실·영향·시정 결과를 남긴 뒤 수정·재검토한다. 내부 검토 완료를 독립 감수나 이용자 동의로 바꾸지 않는다.

9. 자체 10점 문제와 완성 답안

ET-A1의 두 배분안을 계산해 비교하고, 배정률만으로 공정성을 확정할 수 없는 이유와 필요한 윤리 판단을 설명하시오.

문제는 계산과 판단을 함께 요구한다. 전체 실적, 집단별 분모, 알려지지 않은 필요·절차, 대안·책임의 순서로 답한다. 아래는 자체 교육 문제와 답안이며 공식 기출·채점표가 아니다.

같은 100명·50자리
안 A: 온라인 40/60, 도움 10/40 → 약 66.67% / 25%
안 B: 온라인 30/60, 도움 20/40 → 50% / 50%
전체는 모두 50% → 필요·장벽·절차·이의·책임을 추가 판단

10. 자체 25점 문제와 완성 판단안

새봄센터가 AI를 이용해 상담 안내 대상을 고르려 한다. 권리·공정·해악·자율·책임의 충돌을 분석하고 ET-G1의 대안·실행·구제 체계를 설계하시오. 2020년 기준과 2026년 윤리원칙의 구별도 포함하시오.

원칙 이름을 나열한 뒤 ‘공정성을 확보한다’고 끝내지 않는다. 어떤 목적을 허용하고 무엇을 기각하며, 누구의 어떤 근거가 있어야 다음 단계로 가는지 제시한다.

11. 자기교정

조건을 바꾸어 다시 판단한다

온라인 40명·도움 60명으로 구성만 바뀌고 배정은 40명·10명 그대로라면?

센터가 ‘안내 점수’를 수료 심사의 참고점수로 쓰자고 하면?

다음 회차에서 동일 조건의 상담 자리를 100개 확보했다면?

근거와 적용 범위

이 원고는 2026-09-20에 확인한 공식 공개 자료의 명시 범위와 자체 교육 사례를 구별한다. 2026년 국내 원칙은 공식 게시·검색에 제공된 공표일·가치·항목과 FAQ의 규범 성격을 대조했다. 동적 페이지와 첨부 PDF 전체, 원칙별 세부 역할 전문을 전수 감수한 것은 아니다. 아래 표·도식·배분 수치·운영안·답안은 독립 작성이며 원문 서식·도식·기업 사례를 복제하지 않았다.

회독의 핵심

정보·AI 윤리는 무엇을 만들 수 있는가와 무엇을 정당하게 해야 하는가를 구별한다. 사실·가치·예측·법적 의무를 나누고, 전체 편익과 집단·개인의 피해를 함께 본다. 원칙은 목적 제한·덜 침해적인 대안·설명·이의·시정·중단의 실제 책임으로 연결해야 한다. 판본과 규범의 성격을 확인하고 항목 암기를 판단 완료로 바꾸지 않는다.