이진 오버플로: 부호 비트가 이진 덧셈에 미치는 영향

부호 있는 이진수로 작업할 때 덧셈이나 뺄셈 결과가 고정된 비트 수로 표현 가능한 크기를 초과할 수 있습니다. 이 현상을 오버플로라 하며, 부호 비트 위치가 계산 시작부터 고정되어 있기 때문에 발생합니다.

아래 예에서는 크기 표현에 5비트, 최상위(6번째) 비트를 부호 비트로 사용합니다. 5비트 크기로 2⁵ = 32개 정수값 표현 가능, 0부터 최대 크기까지. 따라서 표현 가능한 가장 큰 양수는 +31₁₀(011111₂), 가장 작은 수는 −32₁₀(100000₂)입니다.

6비트 숫자 필드의 제한

같은 6비트 필드를 사용하는 두 이진수를 더할 때 결과가 −32~+31 범위를 벗어날 수 있습니다. 예를 들어 +17₁₀와 +19₁₀을 더하면 실제 합은 +36₁₀인데 5비트 크기로는 표현 불가능.

이진 결과 100100₂는 6번째 비트를 −32₁₀로 취급하면 −28₁₀로 해석됩니다. 명백히 틀린 결과로, 실제 합이 6비트 필드 한계를 초과해 발생한 오버플로 오류입니다. 최상위 '올림' 비트를 버리면 잘못된 결과가 나옵니다.

두 음수를 더해도 비슷한 문제가 생깁니다. −17₁₀ + −19₁₀ = −36₁₀이어야 하지만 6비트 필드에서는 양수 28이 나와 역시 오버플로를 나타냅니다.

7번째 비트를 부호 비트로 사용

필드를 7비트로 확장—크기 6비트, 부호 1비트—하면 더 큰 합을 수용할 수 있습니다. 다음 다이어그램은 필드가 충분히 넓을 때 같은 문제가 해결됨을 보여줍니다.

이진 결과를 십진법으로 변환해 오버플로를 감지할 수 있지만, 이 방식은 번거롭고 전자 회로에 비실용적입니다. 더 효율적인 방법은 결과의 부호에 의존합니다. 같은 부호의 두 수가 반대 부호의 결과를 내면 오버플로 발생. 양수 두 개가 음수가 될 수 없고, 음수 두 개가 양수가 될 수 없습니다(필드가 충분할 때).

반대로 양수와 음수를 더하면 절대 오버플로하지 않습니다. 결과 합은 항상 피연산자보다 0에 가까워 표현 가능 범위 내에 남습니다.

이 오버플로 감지 규칙은 디지털 가산기에 구현되어 컴퓨터 산술의 기초 개념이 됩니다.

관련 워크시트:

• 이진수학 워크시트