수집·탐색·정제·시각화
신청은 두 건인데 연락 이력을 붙인 표에는 세 행이 생겼다. 담당자는 자료가 풍부해졌다며 금액을 합산하고, 분석가는 그 표의 한 행을 신청 한 건으로 학습한다. 프로그램이 오류 없이 끝났어도 업무 단위가 바뀌었으므로 합계와 학습 가중치가 함께 잘못될 수 있다.
1. 두 표를 합쳤더니 신청이 늘었다
신청은 두 건인데 연락 이력을 붙인 표에는 세 행이 생겼다. 담당자는 자료가 풍부해졌다며 금액을 합산하고, 분석가는 그 표의 한 행을 신청 한 건으로 학습한다. 프로그램이 오류 없이 끝났어도 업무 단위가 바뀌었으므로 합계와 학습 가중치가 함께 잘못될 수 있다.
이 절은 앞 AP-LIB의 09:00 이전 안내 우선순위·최대 20건·자동 취소 금지라는 기획을 유지한다. EX로 시작하는 표·시각·숫자는 원리를 확인하기 위해 따로 만든 가상 자료이며 실제 신청자의 정보를 수집한 결과가 아니다. 자료를 많이 확보하는 것보다 같은 질문에 답하는 자료인지 확인하는 일이 먼저다.
목적과 마감에서 출발한다
분석 생명주기와 기획은 누가 언제 무엇을 달리 결정할지 정하고 예측 성능과 개입 성과를 구별했다. AP-LIB의 09:00이라는 경계와 안내 대상의 허용 조건을 수집 단계에서도 유지한다.
행·입력·정답은 이미 역할이 나뉘었다
데이터마이닝의 관측 단위·시점에서 관측 단위와 특징·라벨의 시점, 학습·선택·시험의 역할을 나누었다. 결합이나 정제를 했다는 이유로 그 단위와 정보 경계를 바꾸지 않는다.
숫자의 분모와 미확인을 남긴다
품질규칙과 측정은 품질을 용도별 규칙으로 측정하고 실패·미확인·제외를 구분했다. 탐색으로 단서를 찾은 뒤 정제할 때도 원본과 제외·수정·남은 행을 대사한다.
정확한 정의와 담당 경계
분석 탐색 절차는 결정에 사용할 자료의 출처·단위·시점과 결합을 확인하고, 분포·관계를 살펴 정제의 근거와 후속 모델링에 넘길 조건을 만드는 과정이다.
기획의 목적·성과, 데이터마이닝의 관측 단위·전처리 학습·누수, 품질차원의 정의는 위 선수 링크의 설명을 재사용한다. 이 절은 자료를 실제로 받아 결합하고 탐색 결과를 정제·시각화·인계의 판단으로 연결하며, 모델 선택이나 인과 효과를 확정하지 않는다.
자료에서 인계까지의 경로
상자 안의 대상과 화살표의 조건을 함께 읽으세요. 좁은 화면에서는 같은 관계를 세로로 재배치한 도식을 보여 줍니다.
EX-J1의 동일 신청 표와 연락 이력을 두 대안으로 비교한다. 직접 결합은 신청 금액 100을 연락 2건에 반복해 3행·400을 만든다. 신청별 연락 횟수로 먼저 집계한 뒤 결합하면 원래 신청 2건·합계 300을 유지한다. 화살표의 교차는 공통 입력을 별도 대안에서 쓰는 경로이며 두 결과를 이어 합산하지 않는다. 실제 연락의 당시 이용 가능성·키별 대응은 별도로 확인한다.
보존한 캡션의 화살표 교차는 가로 원본의 배치를 뜻합니다. 모바일에서도 같은 신청 표와 연락 이력을 별도 대안에 연결하며, 직접 결합의 결과와 먼저 집계한 결과 사이에는 화살표가 없습니다.
전체 탐색 경로는 다음 확인을 순서대로 잇는다.
| 경로 | 확인할 입력·산출물 |
|---|---|
| 결정·시점·한 단위 | 사용할 대상·마감과 업무 단위 |
| 원천·추출 계약 | 받은 판본과 목록 대조 |
| 키·시점·관계 확인 | 결합 전후 행·키·합계 대사 — 위 EX-J1 두 대안 |
| 분포·결측·관계 탐색 | 가설과 원천 확인 |
| 근거 있는 정제 | 같은 규칙 재확인 |
| 시각화·한계·변환 규칙 | 조건을 명시한 모델링 인계 |
어느 단계에서든 대상·시점·권한을 확인하지 못하면 사용 범위를 제한하고 질문으로 되돌아간다. 그림의 순서는 탐색 결과를 근거로 계획을 갱신하는 흐름이지 모든 자료에 같은 정제 함수를 적용하라는 고정 명령이 아니다.
수집 명세에는 성공 응답 밖의 조건도 적는다
원천 담당자와 신청 건의 식별자, 추출 기간, 시간대, 취소·정정의 포함 규칙, 각 필드의 단위, 제공 시각, 갱신 방식과 접근 범위를 확인한다. 파일 이름이 같아도 덮어쓴 내용인지 고정 판본인지 구별하고, 받은 시각·행 수·원천 목록·파일 해시를 남긴다.
해시는 받은 바이트가 바뀌었는지를 대조하는 데 쓰일 뿐 내용이 실제 사실과 같다는 증거는 아니다. 원천이 보내지 않은 신청은 수신 파일의 모든 행을 검사해도 나타나지 않는다. 예정 대상 목록이나 원천 집계와의 대사, 누락 확인 책임이 함께 필요하다.
EX-T1: 사건시각만 걸러서는 과거 입력이 재현되지 않는다
AP-LIB의 의사결정 시각을 같은 날 09:00으로 두고 다음 두 기록을 따로 비교한다. 둘 다 내용 사용 권한은 확인되었다는 계산용 가정이다.
| 기록 | 발생 | 처음 이용 가능 | 09:00의 입력 |
|---|---|---|---|
| A | 08:30 | 08:40 | 사용 후보 |
| B | 08:50 | 09:10 | 사용 불가 |
과거에 발생했어도 의사결정 당시 도착하지 않은 기록은 당시 입력으로 넣지 않는다. 현재 데이터베이스의 최신값만 연결하면 뒤늦은 정정이나 결과가 들어갈 수 있다. 추출에서 당시 판본을 재현할 수 없으면 그 한계를 밝히고 사용 가능한 기간·특징을 다시 정한다.
2. 결합 전에 관계의 개수를 선언한다
신청 표는 신청번호당 한 행, 연락 이력은 한 신청번호에 여러 행일 수 있다. 두 표를 바로 결합하면 신청 한 행이 연락 건수만큼 반복된다. 이 절에서 결합 증폭은 결합 키의 일치 관계 때문에 기준 표의 한 행이 결합 결과에서 여러 행으로 나타나는 현상이다.
양쪽에 여러 행이 있으면 곱으로 늘어난다.
같은 신청번호 R1이 왼쪽에 두 행, 오른쪽에 세 행이면 그 번호의 내부 결합은 2×3=6행이다. 왼쪽 두 행이 같은 신청의 정정 전·후 금액 100·120이라면 합계는 (100+120)×3=660이 된다. 660은 여섯 대응쌍의 합계이며 신청 한 건의 확정 금액이 아니다. 신청별 집계만 오른쪽에 적용해도 왼쪽 두 판본은 남으므로, 먼저 왼쪽에서 당시 사용할 판본을 확정해야 한다.
validate="m:m"로 실행을 허용하거나 결합 후 중복 행을 지우는 것만으로 이 문제가 해결되지는 않는다. 키가 같아도 서로 다른 판본일 수 있고, 서로 다른 연락 두 건의 금액이 같을 수도 있다. 원천의 판본 선택 규칙과 양쪽 키별 행 수를 확인한 뒤 목표 단위에서 대사한다. [SRC-EXP-PANDAS-MERGE]
증폭 자체는 오류가 아니다. 연락 한 건을 분석하는 목적이면 필요한 구조일 수 있다. 문제는 결과를 여전히 신청 한 건 단위라고 읽는 것이다. 키의 유일성, 한쪽만 다수인지 양쪽 모두 다수인지, 결합 후 의도한 단위를 먼저 명시한다. pandas의 merge도 validate로 1:1·1:m·m:1을 검사할 수 있으나 m:m 선택은 유일성 검사를 수행하지 않는다. [SRC-EXP-PANDAS-MERGE]
EX-J1: 300이 400으로 바뀐 까닭
다음 두 표를 신청번호로 내부 결합한다고 하자. 금액은 설명용 비용단위이며 각 신청에 한 번만 대응한다.
여기서 내부 결합은 양쪽의 신청번호가 같은 행들을 이어 붙이고, 상대쪽에 맞는 번호가 없는 행은 결과에서 제외하는 방식이다. 신청 한 행에 맞는 연락 행이 두 개이면 이어 붙인 결과도 두 행이 된다.
| 신청번호 | 신청 금액 |
|---|---|
| R1 | 100 |
| R2 | 200 |
연락 이력은 (R1,C1), (R1,C2), (R2,C3) 세 행이다. 결합 결과의 신청 금액은 100,100,200으로 세 행, 합계 400이다. 원래 두 신청의 합계는 300이었다.
같은 신청 금액이 두 연락 이력에 반복되어 100만큼 더해졌으며 실제 신청이 증가한 것은 아니다. 신청 단위 분석이라면 이력을 먼저 신청별 연락 횟수로 집계하여 (R1,2), (R2,1)로 만든 뒤 결합한다. 이때 원래 두 행과 합계 300을 대사하고, 집계에 사용한 연락의 시간 경계도 확인한다.
빈 키와 연결되지 않은 행은 조용히 사라지기 쉽다
pandas의 결합은 양쪽 키가 null이면 서로 맞는 키처럼 연결할 수 있으며, 일반적인 SQL의 null 비교와 다르다. 따라서 EX-J1에서 신청번호가 없는 행을 단순히 합치면 같은 신청이라고 확인하지 않은 자료가 결합될 수 있다. 키 미확인 행을 별도 보류하고 업무 식별을 확인한다. [SRC-EXP-PANDAS-MERGE]
내부 결합은 상대가 없는 기준 행을 제외한다. 제외가 의도되지 않았다면 기준 표를 보존하는 결합과 indicator로 왼쪽만·오른쪽만·양쪽 일치를 나누어 대사한다. 행 수가 같다는 사실만으로 키별 연결이 옳다고 승인하지 않는다. 같은 수의 잘못된 키가 연결될 수도 있으므로 대표 기록의 원천 대조와 예상 관계 검사가 필요하다.
결합 검증을 다섯 관찰로 남긴다
EX-J1의 실행 명세에는 ① 기준은 신청 한 건, ② 연락 이력은 09:00 이전 이용 가능한 것, ③ 신청별 집계 후 오른쪽 키가 유일, ④ 연결되지 않은 신청은 삭제하지 않고 미확인, ⑤ 결과 두 신청과 금액 300이라는 대사를 적는다. 이는 작은 표에서 검산한 기대값이며 실제 원천 전체의 정답은 아니다.
독립 변형: 신청 표에 (R3,50) 한 건을 추가하고 연락 이력은 그대로 두자. 직접 내부 결합한 행 수·금액과, 신청별 이력 집계 뒤 기준 신청을 모두 보존한 결과의 행 수·금액을 각각 계산한다. R3의 연락 횟수를 바로 0으로 확정할 수 있는지도 판단한다.
행 수가 같아도 키와 금액이 다른 두 결합 보기
해설: 직접 내부 결합은 R3를 제외하고 여전히 100,100,200의 3행·400을 만든다. 신청별 이력을 집계한 뒤 기준을 보존하면 R1·R2·R3의 3행·350이 된다. 두 결과의 행 수는 같지만 앞 결과는 R1을 두 번 세고 R3를 잃었다. R3에는 연결된 이력이 없으므로 이 예의 계약에 따라 미확인으로 남긴다. 원천 이력의 완전성을 확인해야 실제 연락 0건이라고 구별할 수 있다. 행 수만으로 결합이 맞다고 답했다면 키별 대사, 미연결을 0으로 확정했다면 이 블록의 미확인 계약으로 돌아간다.
원천 중복, 집계 오류, 키 자료형·공백·단위 차이와 정정판 혼합을 각각 조사한다. 번호의 앞자리 0을 숫자 변환으로 지우는 변경도 같은 식별자를 보존하는지 확인한다. 결합 프로그램의 성공, 관계 제약의 통과, 실제 업무 연결의 정확성은 서로 다른 증거다.
3. 탐색은 설명할 질문을 만드는 일이다
먼저 변수별 건수·누락·허용 범위·자주 나오는 값·시간 변화·극단값을 읽고, 다음으로 중요한 집단별 분포와 변수 간 관계를 살핀다. 이것은 앞에서 배운 프로파일링을 분석 목적에 적용한 것이다. 평균 하나가 같아도 작은 집단의 실패나 서로 다른 분포가 가려질 수 있다.
탐색표에는 관측 단위, 포함·제외 규칙, 기간, 각 분모를 붙인다. 자료를 본 뒤 생긴 가설은 그 사실을 기록하고 별도의 확인에서 평가한다. 이미 시험 정답을 보고 선택한 특징을 같은 시험으로 독립 검증했다고 쓰지 않는다. 전처리와 특징 선택을 학습 자료에서 결정해야 한다는 경계는 탐색 후에도 유지된다. [SRC-TML-SK-PITFALLS]
EX-M1: 결측 행을 버리면 조사 대상도 바뀐다
같은 목적의 신청 100건에서 웹 채널은 80건 중 72건, 전화 채널은 20건 중 8건에 필요한 입력이 있다고 가정한다. 각 비율은 90%와 40%, 전체 입력 존재 비율은 80/100=80%다.
입력이 없는 20건을 모두 버리면 남은 80건 중 전화는 8건으로 10%다. 원래 20%였던 전화 채널의 비중이 절반으로 줄었다. 완전한 행만 남긴 표가 원래 대상을 대표한다는 보장은 없다. 이 계산은 삭제의 구성 영향을 보여 줄 뿐, 결측이 생긴 원인이나 전체 모집단의 비율을 추정한 결과가 아니다.
결측 처리와 이상값 조치는 원인별로 달라진다
장치 오류로 값이 기록되지 않은 경우, 문항이 해당하지 않는 경우, 실제 값이 없음을 뜻하는 경우를 먼저 구분한다. 평균 대치가 허용되는 특징과 원천 확인이 필수인 식별자를 같은 함수로 처리하지 않는다. 학습한 대치값은 폴드의 학습 부분에서만 얻고, 정답 미확인을 정상 라벨로 대치하지 않는다.
값 1,1,2,2,100의 평균은 21.2다. 큰 값 100을 삭제하면 평균은 1.5가 되지만 이것만으로 정제가 옳았다고 할 수 없다. 단위 오입력인지 실제 큰 정상 관측인지 원천과 비교 집단을 확인한다. 정제 결정은 숫자를 보기 좋게 만드는 선택이 아니라 의미를 보존할 근거가 있는 변경이어야 한다.
시각화는 하나의 수 대신 모양을 읽게 한다
히스토그램은 수치 범위를 구간으로 나누고 각 구간에 속한 관측의 빈도나 정규화한 양으로 분포를 나타낸 그림이다. NIST는 이를 한 변수의 위치·퍼짐·비대칭·극단값·여러 봉우리 등을 탐색하는 수단으로 설명한다. [SRC-EXP-NIST-HISTOGRAM]
구간 폭과 경계를 바꾸면 모양이 달라진다. 구간이 너무 넓으면 서로 다른 묶음이 합쳐지고 너무 좁으면 작은 표본의 흔들림이 두드러질 수 있다. 그래프의 모양만으로 분포 가정이나 원인이 검증된 것은 아니며 후속 확인이 필요하다.
EX-H1: 폭이 다르면 막대의 높이만 비교하지 않는다
관측값은 0,1,1,2,6 다섯 개다. 구간을 [0,2), [2,4), [4,8]로 두면 건수는 3·1·1이다. 왼쪽 닫힘·오른쪽 열림이며 마지막 8만 포함하도록 명시했다.
| 구간 | 폭 | 건수 | 상대 건수 | 면적을 비율로 읽을 때의 높이 |
|---|---|---|---|---|
| [0,2) | 2 | 3 | 0.6 | 3/(5×2)=0.3 |
| [2,4) | 2 | 1 | 0.2 | 1/(5×2)=0.1 |
| [4,8] | 4 | 1 | 0.2 | 1/(5×4)=0.05 |
폭이 다른 구간에서 면적을 상대 건수로 읽으려면 높이는 건수를 전체 수와 구간 폭으로 나누어야 한다. 세 면적은 0.6·0.2·0.2로 합이 1이다. 빈도 높이와 면적 정규화 높이를 같은 이름으로 섞지 않는다. 이 계산은 선언한 다섯 값의 검산이며 실제 신청 분포가 아니다. [SRC-EXP-NIST-HISTOGRAM]
질문과 축을 짝지어 그림을 고른다
| 질문 | 표현과 확인 | 피할 해석 |
|---|---|---|
| 수치 한 변수의 분포는 | 히스토그램의 단위·폭·표본 수 | 구간 선택 하나가 유일한 실제 모양 |
| 채널별 누락은 | 채널별 전체 수와 누락 비율 | 작은 채널의 실패를 전체 평균으로 숨김 |
| 시간에 따라 변했나 | 시간순 집계와 수집 변경 시점 | 계절·대상 변화 무시한 인과 결론 |
| 두 수치가 함께 움직이나 | 같은 관측의 두 값을 가로·세로 위치로 표시 | 함께 움직이므로 원인이라고 확정 |
점이 겹치면 건수가 보이지 않을 수 있으므로 같은 위치의 빈도나 작은 표본의 개별 값도 확인한다. 범위·단위·누락 수와 어떤 변환을 했는지 표시하고, 서로 다른 표본을 같은 그래프인 것처럼 연결하지 않는다.
보기 좋은 그래프가 정제 오류를 숨기는 경우
금액의 단위를 원에서 천 원으로 바꾸고 축 이름은 그대로 두면 크기의 해석이 천 배 달라진다. 결측을 0으로 채워 그래프를 그리면 실제 0이 많다고 오해할 수 있다. 편의상 정렬한 범주를 시간순 선으로 연결하면 실제로 없던 증가 추세처럼 보인다.
축 선택과 변환을 명시하고 원본 몇 건에서 표시 위치까지 따라간다. 시각화 코드가 실행됐다는 사실은 단위와 해석이 맞다는 증거가 아니다. 실패·제외·미확인 자료는 부록에 숨기기보다 본문에서 결과의 사용 한계와 함께 알린다.
4. 큰 자료에서는 무엇을 먼저 읽을지 선택한다
모든 행을 한 번에 메모리에 올리지 못하면 필요한 열·기간을 먼저 제한하고, 원천별 집계나 나눈 묶음의 대사를 사용한다. 단, 맨 앞 파일 일부만 가져온 결과를 전체를 대표하는 표본이라고 부르지 않는다. 시간순 파일의 앞부분은 특정 시기·채널만 포함할 수 있다.
목적이 극히 드문 오류의 탐지라면 작은 임의 표본에서 0건이라는 사실은 오류가 없다는 보장이 아니다. 저비용 전수 규칙과 원천별 표본 확인의 역할을 나누고 관찰하지 못한 범위를 남긴다. 비용 때문에 범위를 줄이면 그 범위의 결과만 보고한다.
수정 기록과 모델 입력을 분리해서 넘긴다
원본은 고정 보존하고 수정 규칙·근거·적용 대상·실행 판본·변경 전후 값 또는 추적 좌표를 남긴다. EX-J1의 신청별 집계처럼 단위를 보존하는 조치와 EX-M1의 삭제처럼 대상을 바꾸는 조치를 구분한다. 개인정보가 있는 원본의 보존·공유는 허용된 접근과 기간의 범위 안에서 수행한다.
학습 자료에서 얻은 대치·척도·범주 사전은 학습 산출물로 따로 관리한다. 검증·시험에는 그 산출물을 적용할 뿐 다시 맞추지 않는다. 모델링 담당자에게 원본·정제판·학습된 변환의 역할을 모두 알려야 같은 파일을 매번 다시 정제하며 평가 정보를 끌어오는 일을 막을 수 있다. [SRC-TML-SK-PITFALLS]
탐색 완료는 무엇을 알고 무엇을 모르는지 정리한 상태다
인계서는 결정시점·대상·기간, 원천 판본과 접근, 키·시점 결합 규칙, 전체·제외·수정·미확인 수, 분포와 중요한 집단 차이, 정제 근거·변환 경계, 확인할 가설을 담는다. 파일 수신 성공이나 그래프 수로 완료를 판정하지 않는다.
자료의 단위·당시 이용 가능성·결합 대사가 미확인이라면 모델링에 사용할 범위를 보류하거나 제한한다. 발견된 패턴은 가설로, 원천 대조는 확인된 범위의 사실로, 이후 시험은 아직 수행할 일로 나눈다. 이 구분이 있어야 뒤 절의 후보 비교가 의미 있는 자료 위에서 시작된다.
공식 범위와 답안의 연결
이 절은 공식 빅데이터 탐색의 범위를 수집 도구·그래프 종류의 목록에 그치지 않고, 문제에 맞는 자료 확보와 의미 확인, 결합·정제·탐색·시각화의 근거를 연결하여 설명한다. 목적·관측 단위·시간·원천을 고정하고, 검증 가능한 변환과 대사·분모·가설·한계를 후속 모델링으로 넘긴다. 실제 대규모 처리 성능이나 원천 전체 정확성을 인증한 결과는 아니다.
자체 10점 문제
빅데이터 탐색에서 자료 결합·정제·시각화의 검증 기준을 설명하고, 오류 없는 프로그램 실행만으로 탐색 완료를 판단할 수 없는 이유를 제시하시오.
실제 기출이 아닌 자체 작성 문제다. 앞 교육 본문의 근거와 경계를 유지하여 설명·비교·판단을 연결한다.
결합·정제·시각화의 검증 풀이 보기
10점 답안 목차
- 목적·시점·원천
- 결합 관계와 대사
- 정제의 근거와 대상
- 표현·인계의 한계
10점 답안 도식
앞의 경로표에서 목적·단위·시점→원천·결합 대사→정제 근거를 확인한다. EX-J1의 결합 그림으로 같은 입력의 두 경로를 비교한 뒤, 정제판·변환 인계에 시각화·분모·가설을 연결한다. 조건 미확인은 사용 제한·재확인으로 남긴다.
화살표는 본문에서 가르친 책임과 증거의 연결이며 실제 실행 기록이 아니다.
10점 모범답안
1. 목적·시점·원천
의사결정에서 사용할 대상·기간·시점과 자료 출처를 먼저 정한다. 받은 바이트와 원천의 완전성·정확성은 별도이며, 과거 사건이라도 당시 늦게 도착한 정보는 입력에서 제외한다.
2. 결합 관계와 대사
기준 한 행의 단위와 키의 관계를 선언하고 결과의 행·키·합계를 대사한다. 신청 100·200에 연락 2·1건을 바로 결합하면 100·100·200으로 400이 되므로 신청별 집계 후 원래 300과 대조한다.
3. 정제의 근거와 대상
결측·이상값은 의미와 원천을 확인하여 처리하고 삭제·수정·미확인을 남긴다. 완전한 행만 남기면 집단 구성이 달라질 수 있고 큰 정상값을 점수 때문에 지우지 않는다.
4. 표현·인계의 한계
시각화에는 축·단위·분모·구간과 변환을 붙이고 패턴을 인과 증명으로 읽지 않는다. 당시 이용 가능성·결합 대사를 확인하지 못하면 사용을 제한하며 정제판·학습 변환·가설과 미확인을 인계한다.
자체 25점 문제
AP-LIB의 09:00 안내를 위한 자료를 탐색한다. EX-J1의 결합 합계, EX-M1의 채널별 결측·삭제, EX-H1의 불균등 구간을 해석하고 수집·정제·시각화·인계의 검증 방안을 설계하시오.
실제 기출이 아닌 자체 작성 문제다. 앞 교육 본문의 근거와 경계를 유지하여 설명·비교·판단을 연결한다.
EX-J1·EX-M1·EX-H1 통합 풀이 보기
25점 답안 목차
- 수집 계약
- EX-J1의 결합
- EX-M1의 결측
- EX-H1의 구간
- 정제·검증 경계
- 규모와 인계
25점 답안 도식
기획 시점에서 원천·판본을 고정하고 키·결합·대사를 위 EX-J1 그림으로 확인한다. 집단별 탐색→원천 확인→정제 뒤 축·구간·분모를 표시하여 조건부 모델링 인계로 연결한다. EX-M1의 전화 비중 20%→10%와 EX-H1의 높이 0.3·0.1·0.05는 본문 계산표를 함께 사용한다.
화살표는 본문에서 가르친 책임과 증거의 연결이며 실제 실행 기록이 아니다.
25점 모범답안
1. 수집 계약
09:00 이전 이용 가능한 허용 대상의 자료만 입력으로 정하고 원천·추출 기간·단위·정정판·도착 기록을 고정한다. 예정 목록과 수신 목록을 대사하며 현재 최신값을 과거 당시 값으로 바꾸어 쓰지 않는다.
2. EX-J1의 결합
신청 두 건 100·200과 연락 세 건을 직접 결합하면 기준 행이 반복되어 400이 된다. 신청별 연락을 2·1로 먼저 집계하고 두 신청·300을 대사한다. 빈 키와 미연결 행은 임의 연결·삭제하지 않고 보류하며 키별 정확성을 확인한다.
3. EX-M1의 결측
웹 72/80=90%, 전화 8/20=40%, 전체 80/100=80%다. 결측을 모두 삭제하면 전화 비중은 원래 20%에서 8/80=10%로 줄어든다. 구성 변화와 결측 원인을 확인하고 삭제한 표를 원래 대상 전체로 일반화하지 않는다.
4. EX-H1의 구간
0·1·1·2·6을 정한 세 구간에 나누면 3·1·1건이다. 폭이 2·2·4로 다르므로 면적을 비율로 읽는 높이는 0.3·0.1·0.05이고 면적 합은 1이다. 경계 포함과 축의 의미를 명시하며 건수 높이와 밀도 높이를 섞지 않는다.
5. 정제·검증 경계
큰 값과 결측을 같은 함수로 임의 수정하지 않고 원천 근거·목적·변경 기록을 남긴다. 학습에서 얻는 대치·척도·범주 규칙은 학습 안에서만 맞추고, 시험을 보고 특징을 고른 뒤 같은 시험을 독립 평가라고 하지 않는다.
6. 규모와 인계
대규모 자료는 필요한 열·기간과 원천별 집계를 선택하되 앞 파일 몇 개를 대표 표본이라고 하지 않는다. 원본·정제판·변환·분모·가설·미확인을 함께 인계하고 사용 조건을 확인하지 못한 범위는 보류한다.
복습 경로. 행이 늘어나는 이유는 EX-J1의 결합 증폭, 삭제 뒤 전화 채널의 비중은 EX-M1의 모집 범위, 넓은 막대의 면적은 EX-H1의 높이·폭·분모로 되돌아가 단위를 붙여 계산한다.
다시 읽을 핵심
탐색은 자료를 많이 모아 그림을 만드는 일이 아니라, 같은 의사결정 단위가 수집·결합·정제·표현 뒤에도 유지되는지 확인하는 과정이다. 합계·키·분모·당시 입력과 미확인을 연결하고, 좋은 숫자를 만들기 위한 삭제나 시험 정보의 유입을 막는다.
출처와 검증의 경계
SRC-EXP-PANDAS-MERGE — pandas development team, pandas.merge. 판본: pandas 3.0.6 reference. 확인: 2026-10-06. 위치: Warning; indicator; validate; Examples 원문: https://pandas.pydata.org/docs/reference/api/pandas.merge.html
SRC-EXP-NIST-HISTOGRAM — NIST/SEMATECH, NIST/SEMATECH e-Handbook: Histogram. 판본: Named primary HTML passages observed 2026-09-06. 확인: 2026-09-06. 위치: Purpose; Definition; normalized counts 원문: https://www.itl.nist.gov/div898/handbook/eda/section3/histogra.htm
SRC-TML-SK-PITFALLS — scikit-learn developers, Common pitfalls and recommended practices. 판본: scikit-learn 1.9.1. 확인: 2026-10-06. 위치: Inconsistent preprocessing; Data leakage 원문: https://scikit-learn.org/1.9/common_pitfalls.html
한국어 설명·수치·식의 적용 예·도식·문제·답안은 독립 작성했다. 원문의 코드·그림·실험 결과를 복제하지 않는다. 확인한 명시 범위의 원리와 도구 규칙만 사용하며, 실제 운영 서비스·모델 학습·독립 사람 검수의 성공으로 확대하지 않는다. 권리·기술·독자 검수와 발행 승인은 남아 있다.
직접 연습: 키의 개수·당시 판본·막대 면적을 따로 검산한다.
다음은 AP-LIB의 실제 자료가 아닌 독립 계산 자료다. 신청 단위, 09:00 입력 경계와 설명한 구간 규칙을 각각 적용한다.
- EX-J2에서 왼쪽은 R1의 정정 전 금액 100과 정정 후 금액 120의 두 판본이고, 오른쪽은 R1 연락 세 건이다. 직접 내부 결합의 행 수·금액 합계를 계산하라. 정정 후 판본 하나가 09:00 전에 승인·이용 가능했고 연락 세 건도 모두 당시 이용 가능했다면, 신청 한 건 단위의 올바른 금액과 연락 횟수는 얼마인가? 오른쪽 집계만으로 충분한지도 설명하라.
- EX-T2는 R1의 승인된 판본 세 개다. V1 금액 100은 발생 08:20·이용 가능 08:30, V2 금액 120은 발생 08:50·이용 가능 08:55, V3 금액 150은 발생 08:45·이용 가능 09:05다. 이 예의 계약은 09:00까지 이용 가능한 승인 판본 중 발생시각이 가장 늦은 것을 사용하며 동률은 없다고 정한다. 09:00 금액을 구하고, 현재 최신 수신판 V3를 무조건 쓰는 오류를 설명하라.
- EX-H2의 값은
0,1,2,3,4,8이다.[0,2),[2,4),[4,8]에 나누어 건수·밀도 높이·면적을 구하라. 세 구간에 같은 수의 관측이 있는데도 마지막 막대의 높이가 다른 이유를 설명하라.
여러 판본의 결합·09:00 판본·불균등 구간 연습 풀이
1. EX-J2 — 오른쪽만 집계하면 왼쪽 판본 문제는 남는다. 같은 키의 대응쌍은 2×3=6개이고 합계는 100×3+120×3=660이다. 승인된 당시 판본을 먼저 120 한 행으로 정하고 연락을 세 건으로 집계하면 신청 한 건·금액 120·연락 횟수 3이다. 오른쪽만 집계하면 왼쪽 100·120 두 판본이 두 행으로 남는다. 행 수를 줄이는 연산과 의미에 맞는 판본 선택을 구별해야 한다.
2. EX-T2 — 발생시각과 이용 가능 시각을 둘 다 검사한다. V1·V2는 입력 경계 안이고 V3는 09:05에 도착하므로 제외한다. 남은 승인 판본 중 발생시각이 늦은 V2의 120을 사용한다. 현재 수신판 V3의 150을 넣으면 당시 없던 정보를 사용하며 이 예의 발생시각 우선 규칙도 어긴다. 이 선택 규칙은 연습에서 정한 계약이며 모든 원천에 동일하게 적용하는 판본 규칙은 아니다.
3. EX-H2 — 동일한 상대 건수라도 폭이 다르면 높이가 다르다. 세 구간에는 각각 (0,1), (2,3), (4,8)의 두 관측이 들어간다. 마지막 8은 마지막 구간의 닫힌 끝점이므로 포함한다. 전체 여섯 개·폭 2·2·4에서 높이는 2/(6×2)=1/6, 1/6, 2/(6×4)=1/12이다. 면적은 모두 1/3이고 합은 1이다. 마지막 구간의 폭이 두 배여서 같은 면적을 가진 막대 높이는 절반이다.