MLOps·LLMOps·AI 거버넌스

모델 파일이 같은데 어제와 다른 답이 나온다면

한빛도서관의 안내 모델 파일은 바뀌지 않았다. 그런데 어제 맞던 휴관일 안내가 오늘 틀린다. 색인의 공지 판본이 바뀌었거나, 프롬프트가 수정됐거나, 요청자의 권한을 처리하는 도구가 달라졌을 수 있다. 모델만 보관해서는 어떤 조합이 어떤 답을 만들었는지 재현할 수 없다.

학습 모델은 완성품의 한 부품이다. 실제 시스템에서는 자료의 의미·시점·권한과 응용 코드·설정·도구·사람의 업무가 함께 결과를 만든다. 이 절은 앞 절의 생성형 응용구조를 지속해서 운영하고 변경하는 방법을 설명하며, 아래 OP-E1·OP-M1·OP-R1은 자체 교육 상황이다.

1. MLOps·LLMOps·거버넌스의 역할

MLOps는 머신러닝 모델의 개발·평가·배포·관찰·변경을 자료와 소프트웨어 운영까지 연결하는 공학적 실천이다. Google Cloud의 공개 설명도 운영 대상이 모델 코드뿐 아니라 데이터 검증·학습 과정·메타데이터·서비스·관찰이라고 구별한다.¹ 도구를 많이 설치하는 것 자체가 목적은 아니다.

LLMOps는 대규모 언어모델 응용에서 모델 외에 프롬프트·문맥·검색 자료·도구·평가·비용·안전성까지 포함해 운영하는 실천을 가리킨다. 하나의 통일된 인증 등급명으로 쓰지 않는다. 조직은 자신이 운영하는 응용의 변경 단위와 책임을 명시해야 한다.

AI 거버넌스는 누가 어떤 목적·위험·자료·모델 사용을 허용하고, 어떤 증거로 변경·확대·중단을 결정하며 책임을 지는지 정하는 체계다. 앞서 다룬 윤리·법적 책임을 삭제하지 않고 기술·업무 운영의 역할과 증거로 연결한다. 실행 자동화가 있다는 사실은 그 실행을 승인할 책임자가 있다는 사실과 다르다.

2. 학습에서 운영까지 하나의 추적 경로를 만든다

도식의 화살표는 수행할 업무와 판단의 연결이다. 이 교재에서 모델을 학습·배포했다는 뜻은 아니다. 자료가 추가됐다고 자동으로 학습하고 바로 운영에 반영하는 한 줄의 흐름으로 축약하지 않는다.

데이터 계보(lineage)는 어떤 원천·변환·선택을 거쳐 현재 자료와 모델이 만들어졌는지의 연결이다. 학습 자료의 한 행이 나중에 정정되면 어떤 모델·평가·출력에 영향을 주었는지 좁히는 데 필요하다. 실제 원자료를 모든 기록에 복사하는 것과 다르며 접근·보존은 목적에 맞게 제한한다.

학습-서비스 불일치(training-serving skew)는 학습 때 만든 입력과 실제 서비스가 제공하는 입력의 계산·시점·형식이 어긋나는 문제다. 학습에서는 직전 30일 문의 수를 썼는데 서비스에서는 달력 월 누계를 주면 같은 이름의 열도 의미가 다르다. 온라인·오프라인 특징을 함께 관리하는 저장소가 도움이 될 수 있지만, 저장소 도입 자체가 의미·시점의 일치를 증명하지는 않는다.

자료 검사는 열·자료형·허용값뿐 아니라 누락·단위·예측시점·중복·대표성을 다룬다. 모델 검사는 분리된 자료의 성능과 범주별 오류를 확인한다. 시스템 검사는 입력·권한·실패·부하·복구를 다룬다. 세 검사를 하나의 ‘테스트 통과’로 합치지 않는다.

3. 재현할 단위는 모델 하나가 아니라 릴리스 묶음이다

한빛도서관의 자체 릴리스 OP-R1은 다음처럼 기록한다. ID는 예시이며 실제 저장소의 파일 ID나 현재 사용 중인 모델이 아니다.

임베딩 E1을 E2로 바꿨다면 기존 I7의 벡터를 그대로 비교할 수 있는지 가정하지 않는다. 차원이 같아도 의미 공간이 다를 수 있다. 필요한 색인을 다시 생성하고 검색 평가를 수행한 조합을 하나로 관리한다. 서로 다른 조합의 성공 결과를 현재 묶음의 검증으로 사용하지 않는다.

외부 서비스가 판본을 자동 변경하는 경우 완전한 고정이나 바이트 재현이 어려울 수 있다. 제공되는 식별자·시각·설정·응답·변경 통보와 계약상 범위를 기록하고 그 한계를 밝힌다. ‘같은 URL’이라는 이유로 같은 모델과 행동이라고 단정하지 않는다.

4. 자동화의 단계와 승인을 분리한다

지속적 통합(CI)은 변경된 코드·설정과 필요한 자료 검사를 함께 확인하는 과정이다. 지속적 전달(CD)은 검증된 결과를 배포 가능한 상태로 일관되게 준비·전달하는 과정이다. 지속적 학습(CT)은 정한 계기에 따라 새 자료로 학습 흐름을 반복하는 개념이다. 실제 배포 자동화 범위는 위험과 승인체계에 맞춰 정한다.¹

학습 자동화가 필요 없는 작은 시스템에 복잡한 플랫폼을 먼저 만드는 것은 비용을 늘릴 수 있다. 최소한의 수동 절차라도 누가 어떤 자료·코드·평가로 어떤 결과를 승인했는지 추적할 수 있어야 한다. 반복 오류나 갱신 빈도가 확인된 뒤 해당 부분을 자동화한다.

새 자료가 들어와도 수집 오류일 수 있다. 열이 사라졌거나 기록 단위가 바뀌었다면 재학습보다 먼저 자료의 계약을 복구해야 한다. 모델이 새 오류를 잘 외웠다고 새로 학습한 후보가 더 적합해지는 것은 아니다. 자료 검사 실패와 모델 성능 저하는 다른 원인으로 다룬다.

언어모델 응용에서는 프롬프트 한 문장 변경도 기존 답·도구 행동을 바꿀 수 있다. 코드 변경이 없더라도 영향을 받는 질문·권한·실행을 확인해야 한다. 반대로 모든 문서 오탈자에 전체 재학습을 요구하는 식으로 비용을 늘리지 않고 실제 영향 범위에 맞춘다.

5. 따라 판단 OP-E1: 전체 개선이 확대 승인은 아니다

같은 고정 평가 100개 질문을 일반 80개와 변경·예외 20개로 나눈다. 모델 A는 일반 68개·예외 16개를 맞히고 B는 일반 76개·예외 10개를 맞혔다고 가정한다.

도서관은 변경된 공지와 예외조건을 정확히 안내해야 한다. 전체 2%포인트 개선만으로 B를 확대하면 중요한 상황의 오류를 늘릴 수 있다. 같은 질문에 대한 결과의 겹침이나 변동 정보가 없으므로 이 표만으로 통계적 유의성까지 주장하지 않는다.

평가 질문에는 정상뿐 아니라 답 없음·권한 밖·문서 삭제·도구 실패·악성 지시를 넣는다. 단순 정확도 외에 근거 일치·위험한 응답·불필요한 거절·비용·지연을 분리한다. 미실행 항목은 통과가 아니고, 자료 부족은 실제 실패와 구별하여 남긴다.

모델을 이용한 평가자는 많은 출력을 분류하는 보조가 될 수 있지만 기준 모델·프롬프트·입력 순서·평가 오류에 영향을 받는다. 높은 자동 점수만으로 최종 사실성이나 안전성을 인증하지 않는다. 알려진 정답과 사람의 판정을 대조한 범위·오차를 남기고 중요한 오류는 직접 확인한다.

6. 제한 적용과 되돌림도 무엇을 바꾸는지 정한다

섀도 적용은 기존 운영 결정을 바꾸지 않고 새 구성의 출력을 옆에서 관찰하는 방식이다. 사용자에게 영향이 없다는 뜻으로 개인정보 처리·비용 책임까지 사라지지는 않는다. 카나리 적용은 일부 대상에 먼저 적용해 제한된 조건에서 결과를 본다. 어떤 대상·기간·중단 조건인지 정해야 한다.

A/B 비교는 대상 배정과 관찰을 통해 서로 다른 구성의 결과를 비교하는 설계다. 단순히 월요일 A·화요일 B를 쓰는 것만으로 다른 조건의 영향을 제거하지 못한다. 위험한 기능을 확인하지 않은 채 무작위로 사용자에게 노출해도 된다는 허가가 아니다.

되돌림은 모델만 옛것으로 바꾸는 동작이 아니다. OP-R1의 자료·임베딩·색인·프롬프트·도구 조합이 맞아야 한다. 이미 잘못 발송한 안내·변경된 업무 상태는 되돌린 코드가 자동으로 취소하지 않는다. 영향 대상 확인·정정·구제가 별도로 필요하다.

보안 문제나 폐기된 데이터 때문에 금지된 이전 구성으로는 되돌릴 수 없다. 안전한 서비스 축소·수동 처리·검증된 대체 흐름을 사용하고 그 제약을 설명한다. 단순한 ‘버전 복원 가능’ 표시가 사업의 복구 완료를 대신하지 않는다.

7. 운영 관찰: 입력 변화와 성능 변화를 구별한다

데이터 드리프트는 입력 자료의 분포가 달라지는 현상이다. 개념 드리프트는 같은 입력이 결과와 맺는 관계가 바뀌는 현상이다. 예를 들어 문의 표현의 빈도가 바뀐 것과 도서관 정책이 바뀌어 같은 문의의 정답이 달라진 것은 구별해야 한다.

입력 변화만으로 정확도가 낮아졌다고 확정할 수 없고, 입력이 비슷하다고 정답 관계가 같은 것도 아니다. 가능하면 지연되어 도착하는 실제 결과·사서 정정·이의·누락을 함께 관찰한다. 변화 신호는 원인 분석과 재평가의 계기이지 자동 재학습·승인의 명령이 아니다.

OP-M1의 늦은 정답과 응답시간

실제 요청 2,000건 중 나중에 참조 결과를 확인한 것은 200건이고 그중 180건이 맞았다고 가정한다. 확인된 집단의 정답률은 90%다. 나머지 1,800건의 결과와 선택 방식이 미확인이라 전체 정확도 90%로 보고할 수 없다. 결과를 확인하기 쉬운 요청만 모였다면 편향될 수 있다.

별도 지연 측정의 100개 요청에서 90개는 0.1초, 10개는 4초라면 평균은 (9+40)/100=0.49초다. p95는 95백분위라고 읽는다. 이 예에서는 100개를 작은 순서로 정렬한 뒤 95번째 값을 사용한다. 1~90번째는 0.1초이고 91~100번째는 4초이므로 95번째도 4초다. 앞의 95개 요청이 모두 4초 이하라는 경계이지 모든 요청이 4초라는 뜻은 아니다. 평균 0.49초로 모든 사용자가 0.5초 안에 응답받았다고 쓰지 않는다. 백분위 계산 방식은 실제 측정 도구와 함께 명시한다.

또 다른 가용성 목표가 ‘정한 1,000개 요청 중 99% 이상 정상 응답’이면 허용 실패는 10건이다. 1,000×(1−0.99)=10건이 허용 실패량이다. 실패 12건이면 정상 988건이므로 988/1,000×100=98.8%이고, 실패예산 사용은 12/10×100=120%다. 성공률이 120%라는 뜻이 아니라 정한 허용량보다 실패가 2건 더 발생했다는 뜻이다. 이 지표는 서비스 응답 실패이지 내용이 사실인 답의 비율이 아니다. 서로 다른 지표를 같은 오류율로 합치지 않는다.

8. 실제 운영안 OP-G1: 결정권과 증거를 붙인다

NIST AI RMF1.0은 Govern·Map·Measure·Manage의 연결을 통해 위험을 조직·맥락·평가·대응으로 다루도록 설명한다.² 이 사례는 그 관점을 역할별 운영으로 풀어 쓴 것이며 공식 인증이나 국내 법규 요건 충족 판정은 아니다.

OP-G1은 공개 안내 보조 범위를 유지하고 OP-E1의 B를 전면 확대하지 않는다. 예외 오류 원인을 먼저 분석하고 평가 질문·자료·프롬프트 중 무엇을 바꿀지 정한다. 다른 부품의 변경 여부도 기록하고 새 묶음을 같은 조건으로 확인한다.

운영에서는 자료 갱신 실패·권한 위반·근거 없는 답·비용·꼬리 지연·검토 대기를 관찰한다. 권한 밖 정보 노출이나 금지 행동이 확인되면 즉시 해당 자동 활용을 중지하고 영향 범위를 조사한다. 운영자에게 그 권한·연락 경로·자료가 있어야 한다. 단순 알림만 보내고 결정자를 두지 않으면 닫힌 대응이 아니다.

종료할 때는 서비스·접근권한·키·계약·색인·대화기록·평가자료의 보존/삭제 근거를 확인한다. 이미 안내받은 이용자의 정정과 이의 담당은 남겨야 한다. 모델을 삭제했다고 모든 결과와 책임까지 사라지는 것은 아니다.

9. 자체 10점 문제와 완성 답안

MLOps와 LLMOps의 변경 단위를 설명하고 OP-E1·OP-M1의 지표를 해석하시오.

같은 모델 파일 외에 재현에 필요한 묶음의 판본을 먼저 적는다. A/B 전체와 예외 수를 따로 계산하고 지연의 95번째 값을 원수로 찾는다.

10. 자체 25점 문제와 완성 설계 답안

안내 AI의 개발·변경·평가·운영·종료를 연결하는 OP-G1을 설계하시오.

자료 오류·새 정책·모델 성능·권한 위반에 따라 수정·재학습·축소·중단의 서로 다른 다음 행동을 정한다. 되돌림 이후 남는 오안내 정정도 책임에 포함한다.

11. 자기교정

조건 변경

B의 예외 정답이 18개라면? 예외 90%, 전체 94%다. A보다 해당 정수표의 성능이 높지만 금지 행동·비용·대표성까지 통과한 것은 아니다.

확인 결과가 400건으로 늘고 정답 340건이면? 확인집단 85%다. 기존 200건이 포함됐다면 추가 200건의 정답은 160건, 80%다. 전체 2,000건의 대표성·라벨 지연은 여전히 확인해야 한다.

이전 구성에 개인정보 노출 결함이 있으면? 편리하다는 이유로 되돌리지 않는다. 안전한 기능 축소·검증된 대체 처리와 영향 조사·정정을 선택한다. 복원 가능성과 복원 허용은 다르다.

독립 확인: 라벨을 추가했는데 정확도가 떨어졌을까

OP-M1의 기존 확인 200건·정답 180건을 포함하여 확인 결과가 400건·정답 340건이 되었다. 추가 집단의 정답률과 전체 확인집단 정답률을 계산한다. 운영 2000건 전체의 정확도가 85%라고 보고할 수 있는지도 설명한다.

추가 독립 조건: 총 정답이 350건이면? 기존 200건·정답 180건이 포함된 총 400건이라는 조건은 그대로다. 추가 집단과 합친 확인집단의 정답률을 새로 계산하고, 이 결과만으로 시간에 따른 성능 하락이나 운영 전체 정확도를 확정할 수 있는지 판단한다.

풀이를 닫고 실패 12건/허용 10건의 120%를 정상 응답 98.8%와 구별한다. 평균·범주별 성능·확인집단·허용량의 지표를 하나의 성공률로 합치지 않는다.

2026-10-05에 Google Cloud의 MLOps 설명의 데이터 검증·메타데이터·CI/CD/CT 범위를 대조했다. 특정 서비스 도구를 필수로 정하거나 OP-R1의 묶음이 실제 배포됐다는 뜻은 아니다.

근거와 범위

표·릴리스 ID·수치·판단안·문제·답안은 자체 교육용이다. 실제 모델 훈련·서비스 배포·시험·사용자 실험·승인·독립 검토를 수행하지 않았다.

회독의 핵심

자료·모델·프롬프트·색인·도구·평가·승인은 함께 변경된다. 재학습과 배포 승인을 분리하고, 전체 평균 뒤의 예외·지연·미확인을 본다. 되돌림·중단·정정·종료까지 책임과 실제 결과로 연결한다.

보강 연습 1: 같은 ‘30일 문의 수’가 다른 입력이 되는 경계

자체 입력 계약은 예측 시각 2026-10-09 09:00 UTC 직전의 30일을 센다. 시작 시각은 포함하고 예측 시각은 포함하지 않는다. 모든 사건은 중복 없는 한 건이고, 아래 사건의 기록도 그 사건 시각에 즉시 사용 가능해졌다고 가정한다.

포함할 사건과 입력값을 구하라. 서비스가 ‘10월에 발생한 모든 문의’를 세거나, 학습 자료를 만들 때 예측 이후의 E까지 읽는 구현이 왜 다른지 설명하라. 실제 자료가 늦게 도착하면 추가로 필요한 조건도 적어라.

from datetime import datetime, timedelta

at = datetime.fromisoformat("2026-10-09T09:00:00+00:00")
start = at - timedelta(days=30)
events = {
    "A": "2026-09-09T09:00:00+00:00",
    "B": "2026-09-09T08:59:59+00:00",
    "C": "2026-10-09T08:59:59+00:00",
    "D": "2026-10-09T09:00:00+00:00",
    "E": "2026-10-09T10:00:00+00:00",
}
chosen = [key for key, value in events.items() if start <= datetime.fromisoformat(value) < at]
assert chosen == ["A", "C"]
print(f"선택={','.join(chosen)}, 문의수={len(chosen)}")

보강 연습 2: 운영 요청 구성까지 바뀌었을 때 전체 점수를 해석한다

OP-E1의 고정 평가에서 A는 일반 85%·예외 80%, B는 일반 95%·예외 50%였다. 운영 확장 계획의 요청 구성은 일반 20%·예외 80%로 예상된다. 계산 연습을 위해 각 집단의 정답률이 그대로 유지된다고 가정한다. 자체 필수 조건은 예외 정답률 75% 이상이며, 권한 검사와 비용 검사는 아직 하지 않았다.

새 구성으로 가중한 A·B의 예상 정답률을 구하고, 기존 전체 84%·86%를 그대로 운영 성능으로 쓸 수 있는지 판단하라. A 또는 B를 승인할 수 있는지도 구분하라.

보강 연습 3: 바이트가 남아 있는 과거 묶음을 복원해도 되는가

현재 묶음 R2는 모델 M2·임베딩 E2·색인 I8·자료 D8·프롬프트 P4를 사용한다. I8은 E2로 생성됐다. 검증된 과거 묶음 R1은 M2·E1·I7·D7·P3였지만, 현재 D7의 일부 자료는 사용권한이 회수됐다. 현재 R2에서 오안내 12건이 발견됐다. ‘모델은 같으니 E1만 복원한다’는 안과 ‘R1 전체를 그대로 복원한다’는 안을 검토하라. 즉시 조치와 다시 운영하기 위한 증거, 이미 발생한 오안내의 처리도 적어라.