근 찾기·선형계·보간·수치미분·수치적분

조건수·안정성·오차분석의 잔차와 전·후방오차, 미분 직관·최적화·손실의 도함수가 선수 설명이다. 각 방법을 계산한 뒤 원래 식과 같은 허용오차로 돌아가 검증한다.

0. 전체 지도와 계산계약: 계산값보다 먼저 물어야 할 것이 있다

방정식 f(x)=0의 해를 구하고, 여러 미지수가 얽힌 선형연립방정식을 풀고, 측정점 사이 값을 채우고, 표에 있는 값으로 변화율과 누적량을 계산한다고 하자. 계산기는 숫자를 곧바로 내놓을 수 있다. 그러나 다음 질문에 답하지 못하면 그 숫자를 믿을 수 없다.

• 해가 존재하고 하나뿐인가?
• 사용한 방법의 전제가 입력에서 성립하는가?
• 반복을 왜 이 지점에서 끝냈는가?
• 잔차가 작다는 사실이 실제 답과 가깝다는 뜻인가?
• 간격을 줄이거나 차수를 높이면 언제나 더 정확해지는가?
• 같은 문제를 다른 방식으로 확인했는가?

수치해법은 공식을 대입해 숫자를 만드는 요령이 아니다. 수학 문제를 유한한 계산절차로 바꾸고, 근삿값의 오차·종료·실패를 설명하는 계약이다. 이 절에서는 근 찾기, 선형계, 보간, 수치미분과 수치적분을 따로 배우되, 마지막에는 모두 문제 정의 → 전제 → 갱신 → 종료 → 검증이라는 한 흐름으로 묶는다.

여기 나온 방법 이름은 전체 지도를 먼저 보여 주기 위한 것이며, 각 용어의 정식 정의는 아래 첫 등장에 제시한다.

앞 절의 판단축을 짧게 되살린다

함수와 도함수는 값의 관계와 국소 변화율을 표현하고, 선형계는 미지수 벡터 x와 계수 행렬 A를 묶어 Ax=b로 나타낸다. Big-O는 입력 크기나 간격이 변할 때 비용·오차 크기의 상한을 상수배 범위에서 나타내며, 앞 절에서는 조건수와 안정성을 통해 근삿값의 신뢰성을 판단했다. 이제 각 문제 유형마다 갱신 규칙, 오차와 종료 기준을 설계한다.

전체에서 어디인가: 다섯 문제를 한 계산계약으로 본다

아래는 이 절에서 뒤이어 차례로 정의할 다섯 계산 문제를 먼저 배치한 전체 지도다. 수치미분과 수치적분은 표본으로 값을 근사한다는 공통점 때문에 함께 살펴보되, 문제와 검증방법은 구분한다.

입력 범위·단위·정답 의미·허용오차를 정한 현실·수학 문제에서 조건성과 입력품질을 진단한다. f(x)=0은 근 찾기, Ax=b는 선형계, 표본 (xi,yi)는 보간, 표본 변화율은 수치미분, 구간 누적량은 수치적분의 문제다. 각 방법의 전제·갱신식·비용·안정성을 검토해 방법을 선택하고 절대+상대 종료기준, 최대 반복, 비정상값 방어를 정한다. 잔차·오차추정·격자세분·다른 방법과 원문제 의미로 검증한다. 아래 기존 문제별 선택표와 여섯 단계가 전체 지도를 구체적으로 담당한다.

어떤 방법이든 공식 → 결과 두 칸으로 끝내지 않는다. 입력의 의미와 방법의 전제를 먼저 확인하고, 종료조건과 실패조건을 실행 전에 정하며, 계산 뒤에는 원래 문제에 다시 대입한다.

1. 근 찾기: 함숫값이 0인 입력을 근사한다

실수 구간 D에서 정의된 함수 f:D→ℝ에 대해 근(root)은 f(r)=0을 만족하는 값 r이다. 수치적 근 찾기(root finding)는 정확한 기호해를 직접 구하기 어렵거나 비효율적일 때, 허용오차와 계산한도를 만족하는 근삿값 x̂ 또는 근을 포함하는 구간을 만드는 절차다.

근 찾기 문제는 적어도 다음 계약을 가진다.

1. 허용영역: 계산 가능한 정의역과 물리적으로 허용되는 값의 범위
2. 존재·유일성 정보: 근의 존재를 보이는 구간이나 문제 성질, 여러 근 중 찾을 대상
3. 갱신규칙: 현재 정보로 다음 점 또는 다음 구간을 만드는 식
4. 종료규칙: 구간폭, 잔차, 변화량, 최대 반복과 비정상값 기준
5. 결과증거: 최종 x̂, f(x̂), 마지막 구간과 사용한 허용오차

이 구간에서 함수가 연속이라는 것은 입력을 조금 바꿀 때 출력도 조금씩 바뀌며 중간에 값이 갑자기 뛰거나 끊기지 않는다는 뜻이다. 따라서 연속함수 f가 [a,b]에서 f(a)f(b)<0이면 두 끝값 사이의 0을 건너야 하므로 중간값 정리에 따라 구간 안에 적어도 한 근이 있다. 하지만 하나뿐이라는 뜻은 아니다. 반대로 짝수 중복도의 근처럼 함수가 0에 닿고 같은 부호로 돌아서면 근이 있어도 부호변화가 없을 수 있다. 따라서 부호변화 검사는 강력한 존재증거지만 모든 근을 찾는 완전한 검사는 아니다.

이분법: 근을 품은 구간을 절반씩 줄인다

연속함수에서 f(a)f(b)<0인 시작구간을 찾았다면 이분법(bisection method)은 다음 불변조건을 유지한다.

입력: f, [a,b], f(a)와 f(b)는 유한한 0 아닌 값이고 부호가 다름
반복:
  m = 안전하게 계산한 a와 b의 중점
  f(m)=0이면 종료
  f(a)와 f(m)의 부호가 다르면 b=m
  아니면 a=m
출력: 근을 포함하는 [a,b]와 안전하게 계산한 중점

처음 폭이 W₀=b₀-a₀이고 k번 구간을 줄였다면 폭은 W₀/2ᵏ이다. 그 구간의 중점을 답으로 택하면 실제 근과의 거리는 최대 W₀/2ᵏ⁺¹이다. 원하는 구간오차에서 필요한 반복 수를 실행 전에 계산할 수 있다는 장점이 있다. 중점의 절대오차 상한을 ε>0 이하로 만들려면 W₀/2ᵏ⁺¹≤ε, 즉 k≥log₂(W₀/(2ε))를 만족하는 최소의 0 이상 정수만큼 구간을 줄이면 된다. 여기서 k는 평가 횟수나 출력 자릿수가 아니라 구간을 절반으로 줄인 횟수다. 예를 들어 시작 폭 1에서 ε=0.001이면 아홉 번 줄인 뒤 중점 상한이 1/1024≈0.0009766이 된다.

수학적으로 중점은 a+(b-a)/2와 같지만 극단적인 유한정밀도 값에서는 a+b나 b-a가 표현범위를 넘을 수 있다. 실제 구현은 언어·수치 라이브러리가 제공하는 오버플로 방지 중점 연산이나 부호를 고려한 동등 계산을 사용한다. 부호도 f(a)f(m)을 실제로 곱해 판정하면 곱셈이 오버플로·언더플로할 수 있으므로 0을 별도 처리한 뒤 두 값의 부호를 직접 비교한다.

이분법은 매번 한쪽 구간을 버리므로 빠른 편은 아니지만, 연속성과 부호변화 계약을 지키는 한 근을 품은 구간을 잃지 않는다. f(a)와 f(b)를 매번 다시 계산하기보다 끝점과 함숫값을 함께 갱신하되, 부호판정에서 비정상값·정확히 0인 값과 계산오류를 따로 처리한다.

Newton 방법: 현재 점의 접선이 0이 되는 곳으로 이동한다

Newton 방법(Newton's method)은 현재 점 xₖ에서 함수를 접선으로 근사하고 그 접선의 근을 다음 값으로 사용한다.

f(x) ≈ f(xₖ) + f′(xₖ)(x-xₖ)
0 = f(xₖ) + f′(xₖ)(xₖ₊₁-xₖ)

xₖ₊₁ = xₖ - f(xₖ)/f′(xₖ)

근 가까이에서 함수가 충분히 매끄럽고 f′(r)≠0인 단순근이며 시작값이 적절하면 오차가 대략 제곱으로 줄어드는 국소 이차수렴을 기대할 수 있다. 그러나 이는 전역 보장이 아니다. 시작값이 나쁘거나 도함수가 0 또는 매우 작거나, 정의역 밖으로 이동하거나, 함수가 매끄럽지 않거나, 여러 근 사이를 오가면 발산·진동·잘못된 근으로의 수렴이 생길 수 있다. 중복근에서는 전형적인 수렴속도도 느려진다.

보장과 속도를 함께 원하면 이분법의 안전구간을 유지하면서 Newton 갱신이 구간 안에서 충분히 진전할 때만 받아들이는 혼합전략을 고려한다. 답안에서는 빠른 방법이라고만 쓰지 말고 안전장치와 실패 시 대체경로를 함께 제시한다.

이분법과 Newton 방법을 같은 축으로 비교한다

수렴이 빠르다는 말은 반복 횟수만 뜻하지 않는다. 한 반복에서 함수·도함수를 평가하는 비용, 초기구간을 찾는 비용, 실패를 감지하고 복구하는 비용까지 포함한다. 안전한 기본구간이 있으면 이분법으로 보장을 유지하고, Newton 갱신이 구간 안에 있으며 충분히 진전할 때만 받아들이는 혼합법이 보장과 속도를 함께 얻는 전형적 설계다.

2. 선형계: 여러 일차식의 공통해를 계산한다

A를 n×n 계수행렬, x를 미지수 벡터, b를 우변 벡터라고 할 때 선형연립방정식(linear system)은 Ax=b로 쓴다. A가 가역이면 정확한 해는 하나다. A가 특이하면 해가 없거나 여러 개일 수 있으므로 단순히 나눗셈을 계속할 수 없다.

수치적 선형계 풀이는 소거·분해로 x̂를 계산하고, 원래 식의 잔차 r=b-Ax̂, 문제의 조건성과 계산 안정성을 함께 평가하는 절차다. 해를 구할 때 A⁻¹을 실제로 만들어 x=A⁻¹b를 계산하는 것은 보통 필요하지 않다. 소거 또는 분해 뒤 대입하는 편이 연산·저장과 오차 측면에서 직접적인 계산경로다.

정확한 해를 x라 하고 전방오차(forward error)를 e=x-x̂로 정의하면 Ae=r이고, 가역일 때 e=A⁻¹r이다. 따라서 A⁻¹이 어떤 방향의 작은 잔차를 큰 e에 대응시키는 나쁜 조건이면 전방오차가 클 수 있다. 선형계의 답은 x̂만이 아니라 잔차의 크기와 척도, 조건성 판단, 사용한 피벗·분해 방식, 검증 결과를 함께 제시해야 한다.

Gaussian 소거와 하·상삼각 분해(LU decomposition): 아래를 0으로 만들고 거꾸로 푼다

Gaussian 소거(Gaussian elimination)는 한 열의 피벗 아래 원소를 행 연산으로 0으로 만들어 상삼각 시스템 Ux=c로 바꾼 뒤, 마지막 식부터 후진대입(back substitution)한다. 피벗은 나눗셈의 분모이므로 0이면 그대로 진행할 수 없고, 매우 작으면 반올림오차가 크게 증폭될 수 있다.

부분 피벗팅을 사용한 Gaussian 소거(GEPP, Gaussian Elimination with Partial Pivoting)는 현재 열의 아직 처리하지 않은 행 가운데 절댓값이 가장 큰 원소를 피벗으로 택해 행을 바꾼다. 피벗팅은 작은 수로 나누는 위험을 줄이는 중요한 안정화 수단이지만 모든 행렬에서 작은 전방오차를 무조건 보장하지는 않는다. 조건성·잔차와 함께 평가한다.

소거과정의 배수를 하삼각행렬(lower triangular matrix) L, 결과를 상삼각행렬(upper triangular matrix) U, 행 교환을 순열행렬 P로 저장한다. U는 대각선 아래가 0이고, L은 대각선 위가 0이며 이 분해에서는 대각원소를 보통 1로 둔다. P는 A의 왼쪽에 곱했을 때 소거 중의 행 교환을 같은 순서로 적용한다. 이 세 행렬의 관계는 보통 PA=LU로 나타낸다. 같은 A에 여러 b를 풀 때는 한 번 분해한 뒤 각 우변마다 Ly=Pb를 첫 행부터 푸는 전진대입(forward substitution)과 Ux=y를 마지막 행부터 푸는 후진대입만 수행하면 된다.

작은 자체 예제로 A=[[2,1],[4,3]], b=[4,10]ᵀ를 두자. 대괄호 안 두 행은 각각 2x₁+x₂=4, 4x₁+3x₂=10을 뜻한다. 첫 열의 4를 피벗으로 고르면 두 행을 교환하고, 새 둘째 행에서 새 첫째 행의 0.5배를 뺀다. 그러면 P=[[0,1],[1,0]], L=[[1,0],[0.5,1]], U=[[4,3],[0,−0.5]]가 된다. L의 0.5는 소거에 사용한 배수이고, U의 둘째 행은 [2,1]−0.5[4,3]=[0,−0.5]다.

중간 벡터를 t라 부르면 Lt=Pb=[10,4]ᵀ에서 첫 행은 t₁=10, 둘째 행은 0.5t₁+t₂=4이므로 t₂=−1이다. 이제 Ux=t의 마지막 행 −0.5x₂=−1에서 x₂=2, 첫 행 4x₁+3x₂=10에서 x₁=1을 얻는다. 같은 A에서 b만 [5,12]ᵀ로 바뀌면 분해를 다시 해야 하는가? P·L·U는 그대로 쓰고 Pb=[12,5]ᵀ, t=[12,−1]ᵀ, x=[1.5,2]ᵀ로 대입만 다시 하면 된다. b의 행 교환을 빼먹으면 다른 선형계를 푸는 셈이므로, A에 적용한 P를 우변에도 적용하는 단계를 확인한다.

잔차와 반복적 개선으로 분해 결과를 확인한다

계산한 해가 원래 시스템을 얼마나 만족하는지 보려면 척도화 잔차(scaled residual)를 계산한다. 한 예는 다음과 같으며 문제별 허용기준과 비교한다.

η = ||b-Ax̂|| / (||A||·||x̂|| + ||b||)

분모가 0인 특수사례는 별도 처리한다. 이 값은 원래 문제에 대한 상대적 불일치를 보는 하나의 방법이지 전방오차 그 자체가 아니다. 조건수가 크면 작은 상대잔차에도 해오차가 클 수 있다.

반복적 개선(iterative refinement)은 계산한 x̂의 잔차 r=b-Ax̂를 구하고, 같은 계수행렬로 보정량 Aδ=r을 풀어 x̂←x̂+δ로 갱신한다. 잔차를 더 높은 정밀도로 평가하는 등의 조건이 맞으면 정확도를 개선할 수 있지만, 극도로 나쁜 조건이나 부정확한 분해에서 성공을 보장하지 않는다. 개선 전후 잔차와 해 변화를 기록하고 더 개선되지 않으면 중단한다.

소거·분해·보정의 역할을 구분한다

분해가 끝났다는 사실과 신뢰할 해를 얻었다는 사실을 구분한다. 피벗팅은 계산위험을 줄이고, 잔차는 원식을 얼마나 만족하는지 보여 주며, 조건성은 그 잔차를 전방오차로 해석할 때 필요한 문제 성질이다.

3. 보간: 이미 아는 점 사이의 값을 근사한다

서로 다른 입력점 x₀,…,xₙ과 표본값 yᵢ가 주어졌을 때 보간(interpolation)은 모든 p(xᵢ)=yᵢ를 만족하는 함수 p를 구성해 표본점 사이 값을 근사하는 일이다. n+1개의 서로 다른 점에는 차수가 n 이하인 보간다항식이 정확히 하나 존재한다.

보간은 표본을 정확히 통과하지만 관측잡음의 경향을 맞추는 회귀와는 문제정의가 다르며, 이 구분은 이 교재의 저자 비교다.

표본 범위 안을 추정하는 보간과 범위 밖을 추정하는 외삽(extrapolation)도 구분한다. 외삽에서는 표본이 직접 제약하지 않는 방향으로 오차가 빠르게 커질 수 있다. 다항식이 계산되었다는 사실만으로 범위 밖 예측이 검증되지는 않는다.

Lagrange와 Newton 보간: 같은 다항식을 두 방식으로 쓴다

서로 다른 n+1개 표본 (xᵢ,yᵢ)의 Lagrange 보간다항식은 다음과 같다.

pₙ(x) = Σ_{i=0}^{n} yᵢ Lᵢ(x)

Lᵢ(x) = ∏_{j=0, j≠i}^{n} (x-xⱼ)/(xᵢ-xⱼ)

Σ는 표시한 범위의 항을 모두 더하고, ∏는 모두 곱한다는 뜻이다.

Lᵢ(xᵢ)=1이고 다른 표본점 xⱼ에서는 0이므로 pₙ(xᵢ)=yᵢ가 된다. 이 식은 원리를 명확히 보여 주지만, 많은 점을 매번 직접 곱해 평가하는 방식이 항상 가장 안정적이거나 효율적인 구현이라는 뜻은 아니다.

Newton의 분할차분형은 같은 보간다항식을 다음처럼 쓴다.

pₙ(x) = c₀ + (x-x₀)[c₁ + (x-x₁)[c₂ + … + (x-xₙ₋₁)cₙ]…]

f[xᵢ] = yᵢ
f[xᵢ,…,xᵢ₊ₖ] = (f[xᵢ₊₁,…,xᵢ₊ₖ] - f[xᵢ,…,xᵢ₊ₖ₋₁]) / (xᵢ₊ₖ-xᵢ)
cₖ = f[x₀,…,xₖ]

c₀=y₀, c₁=(y₁-y₀)/(x₁-x₀)이고, 위 재귀식은 이웃 구간에서 구한 분할차분의 차이를 더 넓은 표본구간 길이로 다시 나누어 다음 계수를 만든다. 새 표본을 끝에 추가하면 기존 계수는 유지하고 새 계수를 이어 계산할 수 있으며, 대괄호 안쪽부터 계산하는 중첩평가는 곱셈을 재사용한다. 큰 구간에 하나의 고차다항식을 쓰면 점 배치와 함수에 따라 표본 사이에서 큰 진동이 생길 수 있으므로 차수를 높인다는 한 축만 보지 말고 표본 간격·잡음과 외삽 금지를 함께 결정한다.

식을 읽기 위한 표기도 먼저 정리하자. f⁽ᵐ⁾은 함수를 m번 미분한 m계 도함수이고, m!은 1×2×…×m을 뜻하는 계승이다. 따라서 f⁽ⁿ⁺¹⁾은 n+1계 도함수, (n+1)!은 1부터 n+1까지 곱한 값이다.

함수가 충분히 매끄러우면 보간오차는 x와 모든 표본점 xᵢ를 포함하는 구간 안의 어떤 ξ에 대해 다음 꼴을 가진다.

f(x)-pₙ(x) = f⁽ⁿ⁺¹⁾(ξ)/(n+1)! · ∏ᵢ₌₀ⁿ (x-xᵢ)

이 식은 오차가 함수의 고계도함수와 점 배치 모두에 달렸음을 보여 준다. 도함수의 상한을 모르는데 식만 적었다고 실제 오차경계가 얻어지는 것은 아니다.

보간은 차수보다 데이터 의미와 사용구간이 먼저다

표본 범위 밖 외삽이 필요하면 계산된 다항식만으로 신뢰범위를 늘리지 않고, 물리모형·도메인 제약과 새 관측으로 검증한다. 표본점의 단위와 중복, 정렬, 결측, 잡음 수준도 보간식보다 먼저 검사한다.

4. 수치미분과 수치적분: 표본으로 변화율과 누적량을 근사한다

수치미분(numerical differentiation)은 함수의 기호 도함수를 직접 이용하지 않고 가까운 함숫값의 차이로 도함숫값을 근사하는 일이다. 간격 h에 대해 대표적인 1차 미분 근사는 다음과 같다.

전진차분 D+ f(x) = [f(x+h)-f(x)] / h
중앙차분 D0 f(x) = [f(x+h)-f(x-h)] / (2h)

함수가 충분히 매끄러우면 테일러 전개로 전진차분의 주된 절단오차는 h에 비례하고, 중앙차분은 대칭항이 상쇄되어 h²에 비례한다. 이 차수는 함수의 필요한 도함수가 존재하고 값 계산이 충분히 정확하다는 전제 아래 h→0일 때의 이론적 거동이다.

수치적분(numerical quadrature)은 구간 [a,b]의 정적분을 유한한 함숫값의 가중합으로 근사하는 일이다. 사다리꼴법은 각 작은 구간의 함수를 직선으로, Simpson 1/3법은 두 구간씩 이차식으로 근사해 넓이를 더한다. 간격의 균일성, 구간 수와 함수의 매끄러움이 방법의 계약에 포함된다.

차분식은 Taylor 전개에서 오차차수까지 읽는다

Taylor 전개는 한 점 근처의 함숫값을 그 점의 함숫값, 1차 기울기, 2차·3차처럼 반복 미분한 변화정보의 합으로 근사하는 식이다. 아래의 f″, f‴는 각각 두 번, 세 번 미분한 도함수다. O(hᵖ)는 충분히 작은 |h|에서 남은 오차 E(h)가 h와 무관한 어떤 상수 C>0에 대해 |E(h)|≤C|h|ᵖ를 만족한다는 표기다. 주된 오차가 실제로 hᵖ에 비례하는 범위라면 h를 절반으로 할 때 그 오차는 대략 1/2ᵖ로 줄지만, 모든 h에서 정확히 그 비율이라는 뜻은 아니다.

충분히 매끄러운 함수에 대해

f(x+h) = f(x) + h f′(x) + h²/2 f″(x) + h³/6 f‴(x) + …

이므로 전진차분은 다음과 같다.

[f(x+h)-f(x)]/h = f′(x) + h/2 f″(x) + O(h²)

주된 절단오차가 O(h)이다. f(x+h)와 f(x-h)의 전개를 빼면 짝수차 항이 상쇄되어 중앙차분은 다음과 같다.

[f(x+h)-f(x-h)]/(2h) = f′(x) + h²/6 f‴(x) + O(h⁴)

따라서 충분한 매끄러움 아래 주된 절단오차는 O(h²)이다. 경계점에서는 한쪽 표본만 있어 중앙차분을 그대로 쓸 수 없으므로 한쪽 차분이나 별도 경계식을 사용한다.

h를 줄이면 절단오차는 줄어드는 방향이지만 무한히 작게 잡는다고 계산결과가 계속 좋아지는 것은 아니다. 두 가까운 값의 뺄셈에서 유효숫자가 사라질 수 있고, 함숫값마다 평가오차가 δ만큼 섞였다면 차분에서 그 영향이 대략 δ/h 규모로 확대될 수 있다는 것은 식 자체에서 유도된다. 이 문장은 특정 부동소수점 구현에 대한 보증이 아니라 저자의 오차전파 설명이다. 여러 h에서 결과가 안정되는 구간을 확인하고 해석적으로 알려진 도함수와 교차검증한다.

간격을 줄이면 어느 오차가 커지는지 수로 확인한다. f(x)=x², x=1의 전진차분을 생각하자. 두 함숫값 각각의 절대 평가오차가 δ=10⁻⁴ 이하이고, 이후 뺄셈·나눗셈은 정확하다고 가정한다. 평가오차 두 개의 차이는 절댓값이 최대 2δ이므로 차분에 더해지는 오차는 최대 2δ/h다. 이 함수의 전진차분은 정확한 값 2에 h를 더하므로 전체 절대오차의 상한은 h+2δ/h다. h=0.1이면 0.1+0.002=0.102, h=0.001이면 0.001+0.2=0.201이다. 간격을 100배 줄여 절단오차는 줄었지만 평가오차를 포함한 보장 상한은 커졌다. 이는 매번 실제 오차가 커진다는 주장이 아니라 주어진 평가오차 아래에서 더 작은 간격만으로 더 좋은 보장을 얻을 수 없다는 계산이다. 실제 부동소수점 계산에서는 뺄셈·나눗셈 오차도 따로 고려한다.

사다리꼴과 Simpson 1/3법은 구간 수 계약이 다르다

[a,b]를 균일한 n개 소구간으로 나누고 h=(b-a)/n, xᵢ=a+ih, fᵢ=f(xᵢ)라고 하자. 합성 사다리꼴법은

Tₙ = h[(f₀+fₙ)/2 + Σᵢ₌₁ⁿ⁻¹ fᵢ]

이고, 함수가 충분히 매끄러우면 전체 절단오차는 O(h²)이다. 합성 Simpson 1/3법은 소구간 수 n이 짝수여야 하며

Sₙ = h/3[f₀+fₙ + 4(f₁+f₃+…+fₙ₋₁) + 2(f₂+f₄+…+fₙ₋₂)]

이다. 필요한 도함수가 존재하면 전체 절단오차는 O(h⁴)이고, 삼차 이하 다항식에는 정확하다. 높은 이론 차수는 함수가 매끄럽고 균일격자·짝수 구간 계약을 지킬 때의 성질이다. 불연속, 뾰족점, 함숫값이나 필요한 도함수가 정의되지 않거나 매우 커지는 특이점과 심한 진동이 있으면 구간을 문제 지점에서 나누거나 다른 변환·방법을 검토한다.

오차를 정확히 모를 때는 n과 2n의 결과를 비교하는 격자 세분 시험이 실용적인 증거가 된다. 차수에 맞는 감소가 관찰되는지 보고, 관찰되지 않으면 간격을 줄일 때 이론적 오차차수가 나타나는 충분히 작은 간격 범위에 아직 들어오지 않았거나 함수의 매끄러움·구현·반올림 전제가 깨졌는지 조사한다. 두 결과가 비슷하다는 사실도 독립적인 정답증명은 아니므로 가능하면 알려진 적분값·보존량·다른 공식과 대조한다.

간격·차수·비용은 함께 움직인다

수치미분은 본질적으로 가까운 값의 차이를 나누므로 입력잡음에 민감하다. 측정자료라면 먼저 잡음수준과 필요한 변화율 척도를 확인한다. 수치적분에서는 좁고 높은 봉우리나 불연속을 표본이 놓치면 결과가 그럴듯해도 틀릴 수 있으므로 문제 지점에서 구간을 나누고 세분 결과를 대조한다.

5. 공통 선택·검증과 답안 전환

문제의 모양을 보고 첫 방법을 고른다

이 표는 자동선택기가 아니다. 먼저 물리적 단위와 입력범위를 확인하고, 단위가 다른 양을 각 기준값으로 나누어 단위 없는 크기로 맞추거나 스케일을 조정해야 하는지 본다. 문제의 조건성이 나쁘면 더 많은 자릿수나 다른 공식만으로 해결되지 않을 수 있어 입력 정확도·모델 자체를 다시 검토한다.

여섯 단계로 풀고 검증한다

1. 문제계약을 고정한다. 입력의 단위·범위·정밀도, 답의 의미, 허용 절대오차와 상대오차, 시간·메모리 한도를 쓴다.
2. 조건성과 데이터를 진단한다. 스케일 차이, 특이·불연속, 중복점, 잡음, 행렬 구조, 근의 개수 정보를 확인한다.
3. 방법과 전제를 고른다. 수렴조건, 필요한 도함수·표본·행렬 성질, 계산비용과 실패 시 대체방법을 명시한다.
4. 종료와 방어를 먼저 구현한다. 절대+상대 기준, 최대 반복·평가 수, 영역이탈, 0에 가까운 분모, 숫자가 아님(Not a Number, NaN)과 무한대(∞), 정체·발산을 감시한다.
5. 원문제에서 검증한다. 근은 f(x̂), 선형계는 b-Ax̂, 보간은 표본 재현과 범위, 미분·적분은 간격 세분과 알려진 성질을 본다.
6. 독립 증거를 만든다. 다른 시작값·공식·정밀도·구현, 정확한 기호해가 있는 축소문제와 비교하고 입력·방법·버전·허용오차·반복이력을 기록한다.

종료식의 한 예는 |xₖ₊₁-xₖ| ≤ τ_abs + τ_rel|xₖ₊₁|이다. 여기서 τ_abs는 절대 허용오차, τ_rel은 상대 허용오차다. 절대기준은 0 근처에서, 상대기준은 큰 값에서 의미를 가진다. 그러나 변화량 조건만 충족했다고 근을 찾았다는 뜻은 아니다. 근 찾기에서는 잔차 또는 구간폭, 선형계에서는 척도화 잔차, 적분에서는 세분 결과를 함께 확인한다.

자주 틀리는 지점은 계산 전부터 통제한다

실패통제는 결과가 나온 뒤 덧붙이는 문장이 아니다. 실행 전에 중단기준과 대체경로를 정의해야 무한반복과 조용한 오답을 막을 수 있다.

계산해 보기 1: √2를 두 방법으로 구한다

f(x)=x²-2는 [1,2]에서 연속이고 f(1)=-1, f(2)=2이므로 적어도 한 근이 있다. 이 구간에서는 f′(x)=2x>0이므로 근은 하나다.

이분법의 처음 네 번 갱신은 다음과 같다.

네 번 뒤 폭은 1/16=0.0625이고, 중점 1.40625를 답으로 쓰면 구간 증거에 따른 오차상한은 0.03125다. 다섯 번째 반복에서 남길 구간을 채워 보자. 중점 1.40625의 함숫값은 1.40625²−2=−0.0224609375이고 오른쪽 끝 1.4375에서의 함숫값은 양수이므로 [1.40625,1.4375]를 남긴다. 부호가 같은 왼쪽 끝과 중점을 함께 남기면 근 포함 증거를 잃는다. 새 폭은 0.03125, 새 중점을 답으로 쓰는 오차상한은 그 절반 0.015625다.

Newton 방법은 xₖ₊₁=(xₖ+2/xₖ)/2다. x₀=1.5에서

x₁ = 1.4166666667
x₂ = 1.4142156863,  f(x₂) ≈ 0.0000060073
x₃ = 1.4142135623746899,  f(x₃) ≈ 4.51×10⁻¹²

로 빠르게 접근한다. 첫 갱신은 x−(x²−2)/(2x)=(x+2/x)/2에 1.5를 넣어 (1.5+1.333333…)/2=1.416666…=17/12로 계산한다. 다음은 (17/12+24/17)/2=577/408≈1.4142156863이므로 이전 값을 새 입력으로 사용하는 순서를 확인할 수 있다. 이 계산은 직접 검산했지만 Newton의 세 번 결과가 모든 시작값에서 같은 보장을 준다는 뜻은 아니다. 시험 답안에는 이분법의 구간 보장과 Newton의 국소수렴·도함수 실패를 함께 쓴다.

잔차를 근 오차로 읽으려면 함수의 척도가 필요하다. 이 예에서는 양의 근을 r=√2라고 두면 |x̂²−2|=|x̂−r|·|x̂+r|다. x̂와 r이 모두 [1,2]에 있을 때 x̂+r≥2이므로 |x̂−r|≤|f(x̂)|/2를 직접 얻는다. 따라서 두 번째 Newton 값의 잔차 약 6.0073×10⁻⁶은 근 오차 상한 약 3.0037×10⁻⁶으로 연결된다. 이 계수 1/2를 다른 함수에 그대로 적용할 수는 없다. 예를 들어 g(x)=10⁻¹²(x²−2)는 같은 근을 갖지만 x̂=1에서 잔차가 10⁻¹²인 반면 근 오차는 약 0.4142다. 함수를 작게 배율 조정하는 것만으로 잔차를 작게 만들 수 있으므로, 잔차 허용값을 정할 때 함수의 단위·척도와 구간 증거 또는 오차로 연결하는 근거를 함께 명시한다.

계산해 보기 2: 부분 피벗팅으로 3원 선형계를 푼다

다음 시스템을 보자.

 2x + 3y -  z = 5
 4x + 4y - 3z = 3
-2x + 3y -  z = 1

첫 열에서 절댓값이 가장 큰 4가 있는 둘째 행을 첫째 행과 바꾼다.

계수행렬 오른쪽에 우변 열을 붙여 [A|b]로 쓴 표를 증강행렬이라고 한다.

[ 4  4  -3 | 3 ]
[ 2  3  -1 | 5 ]  ← R₂ ← R₂ - 0.5R₁ → [0 1 0.5 | 3.5]
[-2  3  -1 | 1 ]  ← R₃ ← R₃ + 0.5R₁ → [0 5 -2.5 | 2.5]

둘째 열에서도 절댓값이 큰 5를 피벗으로 쓰기 위해 R₂ ↔ R₃

[0 5 -2.5 | 2.5]
[0 1  0.5 | 3.5]  ← R₃ ← R₃ - 0.2R₂ → [0 0 1 | 3]

아래 행부터 후진대입한다. 1z=3에서 z=3, 둘째 행 5y−2.5z=2.5에서 5y=2.5+7.5=10이므로 y=2다. 첫째 행 4x+4y−3z=3에 넣으면 4x+8−9=3, 즉 4x=4이므로 x=1이다. 원래 세 식에 대입하면 각각 우변 5,3,1과 정확히 같아 잔차는 0이다. 이 예에서는 십진 반올림 없이 계산되었기 때문에 잔차 0이지만, 일반 부동소수점 계산에서는 잔차 크기와 조건성을 따로 확인한다.

계산해 보기 3: 세 점을 지나는 값을 구한다

표본 (1,1), (2,4), (3,9)로 x=2.5의 값을 보간한다. Lagrange 기저는

L₀(2.5) = ((2.5−2)(2.5−3))/((1−2)(1−3)) = (0.5×−0.5)/2 = −0.125
L₁(2.5) = ((2.5−1)(2.5−3))/((2−1)(2−3)) = (1.5×−0.5)/(−1) = 0.75
L₂(2.5) = ((2.5−1)(2.5−2))/((3−1)(3−2)) = (1.5×0.5)/2 = 0.375

이므로

p(2.5) = 1(-0.125) + 4(0.75) + 9(0.375)
       = -0.125 + 3 + 3.375
       = 6.25

이다. 같은 점을 Newton 분할차분으로도 계산해 보자. 첫 계수는 c₀=1, 이웃 두 점의 차분은 (4−1)/(2−1)=3, (9−4)/(3−2)=5다. 다음 차분은 (5−3)/(3−1)=1이므로 c₁=3, c₂=1이다. 따라서 p(x)=1+(x−1)[3+(x−2)×1]이고 x=2.5에서는 1+1.5(3+0.5)=6.25로 같은 값을 얻는다. Newton의 대괄호 표기는 새로운 표본값이 아니라 이미 구한 두 차분의 차이를 더 넓은 입력 간격으로 나눈 것임을 확인한다.

세 표본이 f(x)=x²에서 왔으므로 차수 2인 보간다항식이 원함수와 같아 이 점에서는 실제값도 6.25다. 일반 자료에서는 이처럼 원함수를 안다고 가정할 수 없다. 표본점 재현, 범위 안 여부, 점 간격과 다른 세분 또는 표본으로 검증한다.

계산해 보기 4: 같은 x²에서 미분과 적분을 검산한다

f(x)=x², x=1, h=0.1일 때 전진차분은

[f(1.1)-f(1)]/0.1 = (1.21-1)/0.1 = 2.1

이고 중앙차분은

[f(1.1)-f(0.9)]/0.2 = (1.21-0.81)/0.2 = 2

이다. 정확한 도함수 2x의 x=1 값은 2이므로 이 이차함수에서는 중앙차분이 정확하다. 이것을 모든 함수에서 정확하다는 뜻으로 일반화하지 않는다.

이제 ∫₀¹x²dx를 n=4, h=0.25로 계산한다. 표본값은 0, 0.0625, 0.25, 0.5625, 1이다.

T₄ = 0.25[(0+1)/2 + 0.0625+0.25+0.5625]
   = 0.34375

S₄ = 0.25/3[0+1 + 4(0.0625+0.5625) + 2(0.25)]
   = 1/3

정확한 적분값은 1/3이다. Simpson 1/3법이 삼차 이하 다항식에 정확하다는 성질과 일치한다. 사다리꼴값이 틀린 구현이라는 뜻은 아니며 같은 격자에서 공식의 오차차수가 달라 생긴 차이다.

격자 세분 차이를 오차 추정으로 바꾸는 한 단계도 계산한다. 같은 x²를 8개 소구간으로 나누면 T₈=43/128=0.3359375이고, T₄−T₈=1/128=0.0078125다. 매끄러운 함수에서 사다리꼴 오차의 주된 항이 Ch²이고 더 높은 차수 항과 계산오차를 무시할 수 있는 범위라면, 간격을 절반으로 줄인 오차는 대략 1/4이 된다. 따라서 T₄−I≈4(T₈−I)에서 T₄−T₈≈3(T₈−I)를 얻어, 더 촘촘한 값 T₈의 오차를 |T₄−T₈|/3≈0.00260417로 추정한다. 분모 3은 두 결과를 무조건 평균낸 수가 아니라 오차차수에서 나온다. 이는 DLMF의 사다리꼴 오차와 Romberg 보정의 첫 단계와 연결된다. 이 이차함수에서는 실제 T₈−1/3=1/384와 정확히 같지만, 일반 함수에서는 매끄러움·점근적 오차 범위가 확인되지 않으면 인증된 오차상한으로 쓰지 않는다.

눈으로 푸는 연습: 결과 대신 빠진 계약을 찾는다

다음 다섯 문장은 모두 불완전하다. 각 문장의 잘못된 추론, 확인할 값, 대체 방법을 먼저 적고 접힌 답과 비교한다. 기출 원문이 아닌 자체 진단 연습이다.

1. Newton 반복값이 더 이상 바뀌지 않아 근을 찾았다.
2. Ax̂≈b이므로 x̂는 정확한 해에 가깝다.
3. 표본을 모두 통과하므로 범위 밖에서도 정확하다.
4. h를 절반으로 줄이면 미분은 반드시 더 정확하다.
5. Simpson 공식은 사다리꼴보다 고차이므로 표본 수와 관계없이 쓴다.

기출 원문 후보는 별도 장부에서 이렇게 연결한다

다음 식별자(ID)는 추출 원문과 변환한 휴대용 문서 형식(Portable Document Format, PDF)을 독립 대조하는 연결 후보다. 이 절의 자체 제작 문제와 구분하며, 원문·페이지·배점·수치표·정답에 대한 사람 승인 수는 0이다.

계산값이 있어도 원문 검증을 대신하지 않는다

후보 IM-0074-P02-Q01에서 대조된 계산조건 f(x)=x²-4, x₀=3을 그대로 가정하면 Newton 갱신은

x₁ = (3+4/3)/2 = 13/6
x₂ = (13/6+24/13)/2 = 313/156 ≈ 2.0064102564

이다. IM-0080-P02-Q04에서 대조된 조건이 f(x)=x³+2x-1, x₀=1이라면 x₁=0.6, x₂=179/385≈0.4649350649다. IM-0072-P03-Q05의 대조된 증강행렬이 위의 3원 선형계 예와 같다면 해 (1,2,3)이 나온다. 이 계산들은 원고에서 재검산했지만, 대조한 입력 전사가 맞다는 사람 승인을 뜻하지 않는다. 원문 한 자리나 부호가 다르면 계산 전체가 달라진다.

IM-0087-P03-Q05에서 대조된 표가

x: 0, 0.2, 0.4, 0.6, 0.8, 1.0
y: 1, 0.4, 0.6, 1.6, 3.4, 6.0

이라면 소구간은 5개다. 따라서 합성 Simpson 1/3법만 전체에 적용하는 것은 짝수 구간 전제를 위반한다. 왼쪽 사각형법은 각 [xᵢ,xᵢ₊₁]의 높이를 왼쪽 값 yᵢ, 오른쪽 사각형법은 오른쪽 값 yᵢ₊₁로 잡는다. 따라서 L=0.2(y₀+…+y₄)=1.4, R=0.2(y₁+…+y₅)=2.4이고, 같은 균일격자의 사다리꼴값은 T=(L+R)/2=1.9다. Simpson 3/8법은 균일한 연속 세 소구간의 네 함숫값 f₀,f₁,f₂,f₃에 (3h/8)(f₀+3f₁+3f₂+f₃)을 적용하는 별도 공식이다. 앞의 2구간에는 1/3법, 뒤의 3구간에는 3/8법을 적용한다고 명시하면 다음과 같다.

앞 2구간 = 0.2/3 × [1 + 4(0.4) + 0.6] = 0.213333…
뒤 3구간 = 3(0.2)/8 × [0.6 + 3(1.6) + 3(3.4) + 6] = 1.62
합계       = 1.833333…

이것은 원문이 어느 사각형 규칙 또는 혼합규칙을 요구했는지 확정하는 정답이 아니라 규약 누락 시 단일값을 단정하면 안 된다는 검산 경고다.

IM-0074-P02-Q02, IM-0074-P02-Q03은 Q01 하위요구와 다른 실제 문항이 섞인 오염 후보이고, IM-0087-P03-Q06은 Q05 꼬리와 다른 문항이 합쳐진 오염 후보이므로 이 장의 근거·연습에서 제외한다. 원문 이미지와 문항 경계를 사람이 확인하기 전에는 자동분할·자동계산 결과를 승인된 기출로 표시하지 않는다.

시험에서는 어떻게 묻는가: 10점

다음은 이 절의 핵심을 짧은 답안으로 전환하기 위한 자체 제작 문제다. 실제 기출 원문이나 출제 사실을 뜻하지 않는다.

이분법과 Newton 방법의 원리, 수렴 특성 및 실패 조건을 비교하시오.

질문은 알고리즘 순서만 묻지 않는다. 이분법은 연속성과 부호변화, Newton은 도함수와 시작값이라는 전제를 먼저 쓰고, 갱신식·수렴 보장의 범위·종료와 실패통제를 같은 축으로 비교해야 한다. Newton이 빠르고 이분법이 느리다로 끝내면 국소 이차수렴의 조건과 이분법의 구간보장을 놓친다.

시험에서는 어떻게 묻는가: 25점

다음도 이 절 전체를 답안으로 전환하기 위한 자체 제작 문제다.

근 찾기·선형계·보간·수치미분·수치적분을 대상으로 수치해법의 선택, 오차·종료기준, 실패와 검증 체계를 설명하시오.

다섯 방법을 사전식으로 나열하는 문제가 아니다. 공통 계산계약을 먼저 제시한 뒤, 각 문제의 입력모양과 전제에 맞는 방법을 선택하고, 조건성과 안정성, 전방·후방오차·잔차·절단오차를 구분해야 한다. 마지막에는 실패를 감지하는 지표와 독립 검증을 연결해야 체계라는 요구어에 답할 수 있다.

근거와 현행성

핵심 공식과 방법의 직접 범위는 미국 국립표준기술연구소(National Institute of Standards and Technology, NIST)의 Digital Library of Mathematical Functions, Chapter 3: Numerical Methods(DLMF)를 대조했다. 사용한 판은 v1.2.7, 공개일 2026-06-15이다. 절별 근거는 다음과 같이 분리한다.

• 근 찾기: §3.8 Nonlinear Equations의 §3.8(i), Eqs. 3.8.1–3.8.3, §3.8(ii), Eq. 3.8.4와 뒤 예, §3.8(iii)의 bisection 부분
• 선형계: §3.2 Linear Algebra의 §3.2(i), Eqs. 3.2.1–3.2.6과 partial-pivoting 설명, §3.2(iii), Eqs. 3.2.13–3.2.17
• 보간: §3.3 Interpolation의 §3.3(i), Eqs. 3.3.1–3.3.6, §3.3(iv), Eq. 3.3.38
• 수치미분: §3.4 Differentiation의 §3.4(i), Eqs. 3.4.1–3.4.6
• 수치적분: §3.5 Quadrature의 §3.5(i), Eqs. 3.5.1–3.5.3, §3.5(ii), Eqs. 3.5.6–3.5.8, §3.5(iv), Eq. 3.5.15, §3.5(v), Eqs. 3.5.18–3.5.20

오차·조건성·안정성의 경계는 Glenn P. Forney와 William F. Moss의 Analyzing and Exploiting Numerical Characteristics of Zone Fire Models, NIST Interagency/Internal Report(NISTIR) 4763, March 1992, §2.1 인쇄면 pp. 2–4(PDF pp. 7–9), 보고서를 대조했다. 이 보고서는 구획 화재 모델(zone fire model)이라는 특정 응용을 다루므로 §2.1의 수치오차 정의와 분석 관점을 넘어 모든 수치해법의 선택절차를 직접 보증하는 일반 표준으로 확대하지 않는다. 발행일은 원문 수준인 월 정밀도 1992-03으로 보존하며 임의의 일자를 만들지 않는다.

기준 확인일은 2026-09-01이다. IEEE 부동소수점 표준은 이번 절의 직접적인 주장 근거로 사용하지 않았다. 본문의 표·도식·계산 예제·자체 제작 문제와 답안은 원문 도표를 복제하지 않고 이 교재를 위해 독자적으로 작성했다. 기출 후보의 원문·배점·표·문항경계와 계산값, 기술 정확성, 출제 적합성 및 권리에 대한 사람 승인 수는 0이며 승인된 기출이나 확정 모범답안으로 표시하지 않는다.

30초 정리

1. 수치해법은 숫자를 만드는 공식이 아니라 문제계약 → 전제 → 갱신 → 종료 → 검증의 전체 절차다.
2. 근 찾기는 이분법의 구간보장과 Newton의 조건부 국소 이차수렴을 비교하고, 구간폭·변화량·잔차와 실패통제를 함께 쓴다.
3. 선형계는 GEPP와 PA=LU, 척도화 잔차·조건성·반복적 개선을 연결해야 작은 잔차를 작은 전방오차로 오인하지 않는다.
4. 보간은 서로 다른 표본점·범위 안이라는 계약을 지키고 Lagrange와 Newton 표현, 오차항·고차 진동·외삽 위험을 확인한다.
5. 수치미분·적분은 차분과 사다리꼴·Simpson의 오차차수뿐 아니라 매끄러움, 간격과 구간 수, 세분·교차검증까지 답안에 담는다.

같은 교재를 다시 읽을 때는 공식을 외우기보다 각 방법의 전제 하나, 실패 하나, 검증 하나를 빠르게 떠올린다. 그러면 계산문제와 서술형 설계문제를 같은 판단틀로 풀 수 있다.

추가 확인 문제: 작은 수를 정답 증거로 쓸 수 있는가? 다음은 기출과 무관한 자체 연습이다. (1) [1,2]에서 양의 근을 찾는 g(x)=10⁻¹²(x²−2)에 대해, x̂=1의 잔차가 10⁻⁸보다 작다는 사실만으로 근 오차가 10⁻⁸ 이하라고 결론 내릴 수 있는가? (2) ∫₀¹x²dx의 사다리꼴값 T₄=0.34375, T₈=0.3359375가 주어졌다. 두 값의 차이에 2차 오차모델을 적용해 T₈의 오차를 추정하고, 허용 절대오차 0.001을 충족하는지 판단하라. 이 문제에서는 반올림·평가오차는 무시한다.