평균·분산·표본·추정

일부 사용자만 보고 전체가 좋아졌다고 말할 수 있는가

새 기능을 자원자 열 명이 좋아했다는 사실은 그 열 명에 대한 관찰 결과이지만 전체 이용자가 좋아할 것이라는 보장은 아니다. 누구를 어떤 방식으로 골랐는지, 관찰값이 얼마나 흩어졌는지에 따라 결론의 불확실성이 달라진다. 통계는 불확실성을 없애는 기술이 아니라 드러내고 판단하도록 돕는 언어다.

먼저 되짚기: 분포에서 평균·표본추정으로

확률분포는 가능한 결괏값과 그 가능성 구조를 나타낸다. 평균과 분산은 분포의 중심과 퍼짐을 요약하고, 표본추정은 일부 관찰에서 모집단의 특성을 불확실성과 함께 짐작한다.

모집단·표본·추정

모집단은 알고 싶은 대상 전체이고 모집단의 평균·분산처럼 고정되어 있지만 보통 모르는 특성을 모수라 한다. 표본은 모집단에서 실제 관찰한 일부이고, 표본평균·표본분산처럼 표본에서 계산한 값을 통계량이라 한다. 추정은 통계량으로 모수를 하나의 값 또는 불확실성을 포함한 구간으로 짐작하는 과정이다.

여기서 N은 모집단 전체 개수, n은 표본 개수, μ는 뮤라고 읽는 모집단평균, σ는 시그마라고 읽는 모집단표준편차다. x̄는 엑스바로 읽으며 표본평균을, s는 표본표준편차를 나타낸다. 값이 x₁부터 xₙ까지 n개라면 평균은 합을 개수로 나눈 x̄ = Σxᵢ/n이다. 모집단 전체 N개의 분산은 각 값과 모집단평균 μ의 차이를 제곱해 더한 뒤 N으로 나눈 σ² = Σ(xᵢ-μ)²/N이고, 모집단 표준편차 σ는 그 제곱근이다. 모집단에서 뽑은 표본으로 분산을 추정할 때는 표본평균을 이미 같은 자료에서 추정했으므로 s² = Σ(xᵢ-x̄)²/(n-1)을 사용하며 표본 표준편차 s는 그 제곱근이다. n-1은 편차들의 합이 0이어야 해서 독립적으로 변할 수 있는 값이 하나 줄어드는 점을 보정한다.

표준편차는 개별 관찰값이 중심에서 얼마나 흩어졌는지를 말한다. 표준오차는 표본을 반복해서 뽑을 때 통계량이 표본마다 얼마나 흔들리는지를 말하며, 독립적이고 같은 분포에서 뽑은 표본평균의 추정 표준오차는 SE = s/√n이다. 표본오차는 이번 표본의 통계량과 실제 모수 사이에 생긴 차이인 x̄-μ이고, 표준오차는 그런 표본오차가 반복 표본에서 보이는 전형적 크기다. 실제 μ를 모르므로 한 번의 표본오차는 대개 직접 알 수 없지만 표준오차는 표본으로 추정할 수 있다.

투자 효과를 표본으로 확인하기

콜센터 자동화를 평가한다면 먼저 모집단을 “평가기간에 들어오는 전체 문의”처럼 대상·기간으로 고정한다. 쉬운 문의만 고르지 않고 시간대·문의유형·상담원 숙련도를 모집단과 비슷하게 반영하도록 표본을 뽑는다. 표본평균으로 전체 평균을 추정하되 표준편차로 개별 처리시간의 퍼짐을, 표준오차와 신뢰구간으로 평균 추정의 불확실성을 구분한다. 추출할 문의를 식별해 놓은 목록·범위를 표본틀이라고 한다. 이 예의 기본 계산은 그 안의 문의를 같은 확률로 무작위 선택하고, 관찰값을 독립·동일분포로 볼 수 있다는 모형에 근거한다. 동일한 추출확률만으로 독립성이 보장되는 것은 아니다. 고정된 유한 목록에서 한 번 뽑은 문의를 다시 뽑지 않는 비복원추출이라면 표본이 모집단에서 차지하는 비중까지 확인하고, 유한모집단 보정 등 해당 추출설계의 표준오차를 사용해야 한다. 시간대별 집단을 나눠 뽑는 층화설계를 택하고 각 집단의 추출비율이 다르면, 전체 평균에 집단의 모집단 비중을 반영하고 표준오차도 그 추출설계에 맞춰 구해야 한다. 그 경우 단순히 모든 값을 섞어 s/√n을 적용하지 않는다.

신뢰구간은 점추정값에 표준오차와 정한 신뢰수준의 임계값을 곱한 오차한계를 더하고 빼서 만든다. 큰 독립 표본에서 분포 조건이 적절하면 평균의 근사 95% 신뢰구간을 x̄ ± 1.96 × SE로 계산할 수 있다. 표본이 작고 모집단 표준편차를 모르면 표본 수에 맞는 t 임계값처럼 더 적절한 방법을 써야 한다. 구간을 업무 기준과 비교해 확대·추가조사·중단을 결정하고, 표본 선택편향과 측정오류는 구간을 좁혀도 사라지지 않음을 함께 보고한다.

정밀한 숫자가 정확한 결론을 보장하지 않는다

자원자만 조사하면 만족도가 높은 사람이 과대표집될 수 있고, 중도이탈자를 빼면 실패를 숨긴다. 평균만 보면 서로 다른 집단의 효과와 큰 이상값이 숨을 수 있다. 표본 크기를 늘리면 무작위 표준오차는 줄지만 잘못된 표본틀, 선택·탈락, 결측과 측정편향은 자동으로 고쳐지지 않는다.

표준편차를 √n으로 나누지 않고 표준오차라고 부르거나, 표준오차가 작다는 이유로 개인별 값도 비슷하다고 말하면 퍼짐과 추정 정밀도를 혼동한다. 한 번 계산한 95% 신뢰구간에 “참평균이 들어 있을 확률이 95%”라고 말하는 것도 빈도주의 해석과 다르다. 같은 표본추출·계산 절차를 반복하면 만들어진 구간의 약 95%가 고정된 참평균을 포함한다는 장기적 성질로 해석한다. 관찰연구의 평균 차이만으로 원인효과도 단정하지 않는다.

한 표본과 반복 표본을 함께 그려 보기

상자 안의 대상과 화살표의 조건을 함께 읽으세요. 좁은 화면에서는 같은 관계를 세로로 재배치한 도식을 보여 줍니다.

같은 표본설계로 뽑는 사고실험에서 각 표본평균은 달라진다. 그 평균들의 분포가 보일 퍼짐이 표준오차이며, 개별 데이터의 표준편차와 다르다. 독립·동일분포의 표본평균에서는 SE=s/√n을 추정한다. 실제 한 표본의 점추정·신뢰구간은 이 반복절차를 기준으로 해석한다.

한 번 얻은 표본에서는 점추정 x̄와 신뢰구간을 보고한다. 표본평균들의 반복 분포를 실제로 모두 관찰했다는 뜻은 아니며, 이 사고실험이 추정의 불확실성을 해석하는 기준이다.

개별 데이터의 퍼짐은 모집단·표본 표준편차로 보고, 표본평균들이 반복 표본에서 보일 퍼짐은 표준오차로 본다. 표본 하나만 실제로 관찰했더라도 이 반복 추출의 사고실험이 추정 불확실성을 해석하는 기준이다.

대상의 퍼짐과 추정의 흔들림을 구분한다

n이 네 배가 되면 평균의 표준오차는 다른 조건이 같을 때 절반이 된다. 그러나 개별 관찰값의 표준편차가 자동으로 절반이 되는 것은 아니다. 더 많은 표본은 평균을 더 정밀하게 추정할 뿐 모집단 자체를 덜 흩어지게 만들지 않는다.

좁은 구간보다 먼저 표본이 누구를 대표하는지 본다

추정값을 믿을지 판단할 때 첫째 모집단의 대상·기간과 표본틀을 확인한다. 둘째 무작위 또는 대표성 있는 선택, 독립성, 탈락·결측과 측정방법을 본다. 셋째 분포의 비대칭·이상값과 표본 수에 맞는 평균·분산·구간 방법을 고른다. 넷째 표준오차와 신뢰구간을 업무상 의미 있는 차이와 비교한다.

표본 수를 늘리면 무작위 흔들림은 줄지만 편향된 선택은 더 정밀한 잘못을 만들 수 있다. 평균이 극단값에 끌리면 중앙값과 분포도 함께 제시하고, 서로 의존하는 같은 사용자의 반복 측정을 독립 표본처럼 세지 않는다. 불확실성이 커서 중요한 결정을 구분하지 못하면 결론을 억지로 내리지 말고 표본설계를 고쳐 추가 자료를 모은다.

평균·분산·표준오차·신뢰구간을 손으로 계산하기

먼저 전체가 네 값 {2, 4, 4, 6}인 작은 모집단이라고 하자. 모집단평균은 μ = (2+4+4+6)/4 = 4다. 평균과의 편차는 {-2, 0, 0, 2}, 제곱은 {4, 0, 0, 4}이므로 제곱합은 8이다. 모집단분산은 σ² = 8/N = 8/4 = 2, 모집단 표준편차는 σ = √2 ≈ 1.41이다. 모집단 전체를 계산했으므로 분모는 N이다.

이번에는 더 큰 모집단에서 세 값 {2, 4, 6}만 표본으로 얻었다고 하자. 표본평균은 x̄ = 4이고 편차제곱합은 8이다. 모집단 분산을 추정하는 표본분산은 s² = 8/(n-1) = 8/2 = 4, 표본 표준편차는 s = √4 = 2다. 같은 자료를 단순히 n으로 나눈 8/3은 이 표본 자체의 기술적 퍼짐을 나타낼 수 있지만, 모르는 모집단 분산을 불편향 추정하는 교재의 s²에는 n-1을 쓴다.

이 계산에서 독립·동일분포 표본을 가정한 평균의 추정 표준오차는 SE = s/√n = 2/√3 ≈ 1.15다. 표준편차 2는 세 개별 값의 퍼짐이고 표준오차 1.15는 같은 방식의 표본을 반복했을 때 표본평균이 흔들릴 전형적 크기다. 실제 모집단평균이 4.5였다면 이번 표본오차는 x̄-μ = 4-4.5 = -0.5지만, 실무에서는 μ를 모르기 때문에 이 실제 차이는 보통 계산할 수 없다. 표준오차는 표본오차 그 자체가 아니라 반복 표본오차의 퍼짐을 추정한다.

신뢰구간은 별도의 표본 예로 계산하자. 처리시간 표본이 n=25개이고 x̄=50분, s=10분이면 SE = 10/√25 = 2분이다. 독립적이고 같은 모집단 분포에서 얻은 표본이며 그 모집단이 정규분포를 따른다고 가정하되, 모집단 표준편차 σ를 모르므로 자유도 24의 t 임계값 약 2.064를 쓴다. 자유도는 여기서 n−1=25−1=24다. 양쪽에 남길 확률 5%를 2.5%씩 나누므로 t분포표의 자유도 24행·누적확률 0.975열을 찾아 2.064를 얻는다. 이 값은 자료에서 임의로 고른 수가 아니라 정한 신뢰수준과 자유도에 대응하는 표의 값이다. 95% 신뢰구간은 50 ± 2.064×2 = 50 ± 4.128, 즉 약 [45.87분, 54.13분]이다. 이는 같은 표본추출과 계산을 반복할 때 만들어진 구간의 약 95%가 고정된 모집단평균을 포함하도록 하는 절차다. 이번 구간에 μ가 들어 있을 사후확률이 95%라는 뜻은 아니다.

자체 10점 문제

모집단과 표본, 평균·분산·표준편차를 설명하고 표본오차·표준오차 및 신뢰구간의 차이와 계산 사례를 제시하시오.

요구어는 설명과 제시다. N과 n, 모집단분산과 표본분산, 표준편차와 표준오차의 대상을 구분하고 신뢰구간의 반복 표본 해석까지 붙인다.

10점 풀이 방향과 모범답안 보기

답안 목차

1. 모집단·모수와 표본·통계량·추정의 정의
2. 평균과 모집단분산 N, 표본분산 n-1 계산
3. 분산과 표준편차의 퍼짐 해석
4. 표본오차와 표준오차, SE = s/√n 비교
5. 신뢰구간 계산과 반복 표본 절차 해석
6. 대표성·편향·독립성·이상값과 표본크기 통제

답안에 넣을 핵심 도식

퍼짐의 대상·연결	식과 해석
모집단 값 → 표본추출	μ, σ²=Σ(x−μ)²/N, σ
표본 값 → 같은 설계의 반복 표본	x̄, s²=Σ(x−x̄)²/(n−1), s
표본평균들의 퍼짐	SE(x̄)=s/√n (독립·동일분포 가정)
SE에 임계값을 곱해 오차한계	신뢰구간=x̄±임계값×SE

반복 표본 그림과 아래 개별값·표본오차 설명을 연결한다.

오른쪽에는 “표준편차는 개인값의 퍼짐, 표준오차는 통계량의 반복 표본 퍼짐, 표본오차는 이번 x̄와 μ의 실제 차이”라고 적는다.

모범답안

모집단은 알고 싶은 대상 전체이고 모수는 모집단의 고정된 특성이다. 표본은 관찰한 일부, 통계량은 표본에서 계산한 값이며 추정은 통계량으로 모수를 불확실성과 함께 짐작하는 과정이다. 평균은 중심, 분산과 표준편차는 값들의 퍼짐을 나타낸다.

모집단 N개의 분산은 σ² = Σ(x-μ)²/N이다. 표본으로 모집단 분산을 추정할 때는 표본평균을 같은 자료에서 구해 자유도가 하나 줄므로 s² = Σ(x-x̄)²/(n-1)을 쓰고 s는 그 제곱근이다. 표준편차는 개별 관찰값의 퍼짐이다. 표본오차 x̄-μ는 이번 표본 통계량과 참모수의 차이이고, 표준오차는 반복 표본에서 통계량이 흔들리는 정도다. 독립·동일분포 표본평균의 추정 표준오차는 SE = s/√n이다.

n=25, x̄=50, s=10이면 SE=2다. 독립적이고 같은 정규 모집단에서 얻은 표본이라고 가정하되 σ를 모르므로 자유도 24의 t 임계값 약 2.064를 사용하면 95% 신뢰구간은 50±2.064×2, 즉 약 [45.87, 54.13]이다. 이는 같은 절차를 반복해 만든 구간의 약 95%가 고정된 참평균을 포함한다는 뜻이다. 표본을 늘리면 무작위 표준오차는 줄지만 선택편향·결측·측정오류는 사라지지 않으므로 모집단 정의, 대표성, 독립성, 분포와 업무상 의미를 함께 판단해야 한다.

자체 25점 문제

콜센터 자동화 효과를 표본으로 평가할 때 모집단·표본설계·평균·분산·표준오차·신뢰구간을 적용하고 선택편향과 독립성 위반을 통제하는 추정 절차를 설계하시오.

요구어는 적용과 설계다. 계산식뿐 아니라 누구를 어떻게 표본으로 뽑았는지와 결측·탈락·반복측정의 의존성을 함께 다룬다.

25점 풀이 방향과 모범답안 보기

25점 답안 목차

1. 모집단·기간·관찰단위
2. 표본틀·선택방식
3. 평균·분산·표준편차
4. 표준오차
5. 신뢰구간
6. 독립성·결측·탈락
7. 업무기준과 구간 비교
8. 추가조사·확대·중단 결정

25점 답안 도식

모집단에서 표본설계로 뽑은 표본의 평균·s → SE → 신뢰구간을 계산한다. 구간은 업무기준과 함께 편향·독립성에 비추어 판단하고 확대·추가조사·중단을 결정한다. 반복 추출 그림의 사고실험과 아래의 동일추출확률·의존성·층화 조건을 함께 설명한다.

25점 모범답안

먼저 모집단을 평가기간의 전체 문의처럼 대상·기간으로 고정하고 관찰단위를 문의인지 상담원인지 명시한다. 시간대·문의유형·숙련도를 반영하는 표본설계를 사용하고 자원자만 고르거나 중도이탈자를 빼는 선택편향을 피한다.

표본평균으로 중심을, 표본표준편차로 개별 관찰값의 퍼짐을 요약하고 평균의 표준오차는 같은 설계의 반복 표본에서 평균이 흔들리는 정도로 해석한다. 관찰값이 독립적이고 같은 분포에서 뽑혔다는 모형이 타당할 때, 표본수가 n이고 표본표준편차가 s이면 평균 표준오차는 s/√n으로 추정한다. 표본 수와 분포조건에 맞는 임계값으로 신뢰구간을 만든다.

구간을 업무상 의미 있는 기준과 비교하고 효과가 충분히 구분되지 않으면 추가 자료를 모은다. 표본 수를 늘려도 잘못된 표본틀·측정편향·의존성은 자동으로 사라지지 않으므로 결측·탈락·반복측정과 대표성을 별도로 점검한다.

이 답안의 기본 계산은 평가기간의 문의를 동일 추출확률로 무작위 표집하고 한 문의의 처리시간을 하나의 관찰값으로 쓰되, 독립·동일분포 모형이 타당하다고 보는 경우에 한정한다. 유한 목록의 비복원추출에서는 추출 비중과 그 설계에 맞는 표준오차를 확인한다. 같은 상담원의 반복 관측이 강하게 묶이면 문의 수 전체를 독립 n으로 세지 않고 그 의존성을 반영한 방법을 별도로 선택한다. 시간대별로 서로 다른 비율을 뽑는 층화설계를 택하면 층의 비중·추출설계를 반영한 추정과 표준오차가 필요하므로 단순한 전체 s/√n을 자동 적용하지 않는다. 이 예의 평균 처리시간 추정은 자동화가 시간을 줄였다는 인과효과 추정과도 다르다.

출처와 적용 경계

평균·분산·표준오차·신뢰구간은 안정된 통계 기초개념이다. 교재의 작은 수치 계산과 콜센터 사례는 자체 교육 예이며 실제 사업성과 추정이 아니다. NIST의 평균 신뢰구간 설명은 t 임계값·표준오차와 반복절차 해석의 근거이며, survey 패키지의 표집설계 문서는 유한모집단의 추출 비중·보정과 층화·군집 등 설계정보를 분산 추정에 반영해야 한다는 범위를 확인하는 자료다. 이 사례가 특정 소프트웨어로 분석되었다는 뜻은 아니다.

자기교정과 조건 변경

n이 네 배가 되면? 다른 조건이 같을 때 평균 표준오차는 절반 수준으로 줄어든다.

표본이 자원자만으로 구성되면? 좁은 신뢰구간이어도 대표성 편향을 별도로 보고한다.

극단값이 추가되면? 평균·표준편차뿐 아니라 분포와 중앙값 등 강건한 요약도 함께 확인한다.

한 번에 되찾기

평균은 중심, 분산·표준편차는 개별 값의 퍼짐을 요약한다. 모집단분산은 N, 모집단 분산을 추정하는 표본분산은 n-1로 나눈다. 표본오차는 이번 통계량과 참모수의 차이, 표준오차는 반복 표본에서 통계량의 퍼짐이며 독립·동일분포 표본평균의 표준오차는 s/√n으로 추정한다. 신뢰구간과 함께 표본 대표성·편향·독립성 한계를 본다.