컴퓨터의 역사: 무엇이 무엇을 대체했나

컴퓨터의 역사는 연표보다 병목의 교체로 읽는 편이 이해가 빠르다. 사회가 다루는 수(인구, 무역, 탄도, 암호)가 한 사람의 머리로 감당할 수 있는 규모를 넘을 때마다 새 도구가 나왔고, 새 도구는 앞 도구의 가장 큰 약점(느림, 고장, 배선의 수, 가격, 프로그래밍의 어려움)을 하나씩 풀었다. 각 단계는 아래층의 복잡함을 감추고 한 층 위의 추상화를 얹는 일이기도 했다.

계산 도구에서 범용 기계로

• 「컴퓨터」는 원래 계산하는 사람을 뜻하는 직업명이었다. 기록상 첫 용례는 1613년이고, 19세기 말부터 기계를 가리키기 시작했다.
• 특수 목적 기계는 한 가지 계산만 하고, 범용 기계는 주어진 명령의 순서에 따라 무엇이든 계산한다. 해석 기관의 의의는 기계를 만든 것이 아니라 이 구분을 처음 세운 데 있다.
• 홀러리스의 회사는 다른 업체와 합병한 뒤 1924년 IBM이 되었다. 회계·보험·재고처럼 데이터가 많은 업무에 「사무 기계」가 팔리면서 계산이 과학에서 기업과 정부로 넘어갔다.

스위치의 세대교체: 릴레이에서 집적회로까지

전자식 컴퓨터의 핵심 부품은 제어 신호로 다른 회로를 열고 닫는 스위치다. 스위치가 바뀔 때마다 속도·신뢰성·크기가 한 자릿수 이상 좋아졌다. 스위치 on/off로 논리 연산을 만드는 원리는 디지털 논리 회로와 부품에 있다.

• 스위치가 바뀌어도 하는 일은 같다. 제어 입력 하나로 전류를 흘리거나 막는다. 그래서 위층의 논리 회로 설계는 그대로 두고 아래층 부품만 갈아 끼울 수 있었다.
• 부품 수가 늘면 고장 확률도 는다. 수명 10년인 릴레이 3,500개를 쓰면 평균 하루에 하나꼴로 고장 난다. ENIAC도 진공관 고장 때문에 한 번에 반나절쯤만 연속으로 돌았다. 신뢰성이 다음 스위치로 넘어가는 가장 큰 동기였다.
• 「버그」라는 말은 1947년 하버드 마크 II의 릴레이에서 나방을 꺼낸 일로 널리 퍼졌다. 기계 결함을 「bug」라 부르는 공학 은어는 그 전부터 있었다.
• 트랜지스터 산업이 실리콘을 주재료로 캘리포니아 산타클라라 계곡에 모여 실리콘밸리가 되었다. 쇼클리 반도체에서 나온 사람들이 페어차일드를 세우고, 페어차일드에서 나온 사람들이 인텔을 세웠다.

컴퓨터의 세대 구분

집적회로와 반도체 공정

숫자의 폭정과 집적

개별 부품(discrete component)으로 만든 컴퓨터는 성능을 높이려 부품을 늘릴수록 연결이 기하급수적으로 늘었다. ENIAC은 진공관 1만 7천여 개와 저항·커패시터·다이오드를 손땜질 연결 약 500만 곳으로 이었다. 이 문제를 숫자의 폭정(Tyranny of Numbers)이라 불렀다. 트랜지스터로 바꿔도 부품이 하나씩 따로인 것은 같아서 문제는 남았다.

포토리소그래피

초기 IC는 아주 작은 개별 부품을 한 패키지에 담은 것이라 트랜지스터를 5개 남짓밖에 넣지 못했다. 이를 넘어선 공정이 빛으로 패턴을 옮기는 포토리소그래피(photolithography)다. 기본 동작 몇 가지를 반복해 복잡한 회로를 만든다.

flowchart TB
    w["실리콘 웨이퍼(wafer)"] --> s1["1. 산화막을 입힌다 (보호막)"]
    s1 --> s2["2. 감광제(photoresist)를 바른다"]
    s2 --> s3["3. 포토마스크(photomask)를 대고 빛을 쬔다<br>→ 빛 받은 감광제만 녹는 성질로 바뀐다"]
    s3 --> s4["4. 녹은 감광제를 씻어 내고, 드러난 산화막을 산으로 식각(etch)한다<br>→ 실리콘이 드러난다"]
    s4 --> s5["5. 남은 감광제를 지운다"]
    s5 --> s6["6. 드러난 실리콘에 인(P) 같은 기체를 고온으로 스며들게 해<br>전기적 성질을 바꾼다 (도핑, doping)"]
    s6 --> s7["7. 다른 마스크로 1~6을 반복해 영역을 겹겹이 만든다"]
    s7 -->|"반복"| s1
    s7 --> s8["8. 금속층을 입히고(metallization)<br>다시 마스크·식각으로 배선만 남긴다"]

• 같은 공정으로 저항·커패시터도 만들고 배선까지 한 번에 그린다. 마스크 한 장이 수백만 개의 세부를 동시에 찍는다.
• 빛은 렌즈로 모을 수 있어, 마스크를 웨이퍼의 작은 영역에 축소 투영하면 마스크보다 훨씬 미세한 패턴이 나온다.
• 웨이퍼 한 장에서 칩 여러 개(다이)를 만든 뒤 잘라 패키지에 담는다. 전자 기기 속 검은 사각형 칩 안에는 이 실리콘 조각이 들어 있다.
• 칩의 집적 규모 구분(SSI·MSI·LSI·VLSI)은 디지털 논리 회로와 부품에 있다.

무어의 법칙

무어의 법칙(Moore's Law)은 같은 면적에 넣을 수 있는 트랜지스터 수가 일정 주기로 두 배가 된다는 관찰이다. 고든 무어가 1965년 처음 매년 두 배라고 했고, 1975년 약 2년마다 두 배로 고쳐 잡았다. 물리 법칙이 아니라 산업이 목표로 삼아 지켜 온 추세다.

트랜지스터가 작아지면 개수만 느는 것이 아니다. 옮길 전하가 줄어 더 빨리 전환되고 전력을 덜 쓰며, 회로가 촘촘해져 신호 지연이 줄고 클럭을 올릴 수 있었다. IC 값도 1962년 평균 50달러에서 1968년 2달러 수준으로 떨어졌고, 같은 효과가 CPU뿐 아니라 RAM·그래픽 카드·SSD·카메라 센서에 두루 미쳤다. 수십억 개의 트랜지스터는 사람이 배치할 수 없어, 1970년대부터 높은 수준의 설계(예: 캐시 한 덩어리)를 회로로 바꿔 주는 논리 합성(logic synthesis) 같은 칩 설계 자동화 소프트웨어가 설계를 맡는다.

미세화의 한계와 업계의 대응

• 「3nm」, 「2nm」 같은 공정 이름은 이제 실제 게이트 길이가 아니라 세대를 가리키는 이름이다. 밀도 향상 폭도 세대마다 예전보다 작다.
• 그래서 밀도 증가의 상당 부분이 미세화가 아닌 곳에서 나온다. 칩을 기능별로 나눈 칩렛(chiplet), 다이를 쌓거나 나란히 잇는 첨단 패키징, 전원 배선을 웨이퍼 뒷면으로 옮기는 기술이 그 예다.
• 무어의 법칙의 「종말」은 수십 년째 예고되어 왔다. 정확히는 같은 비용으로 2년마다 두 배라는 원래 형태는 느려졌고, 칩 하나·패키지 하나에 들어가는 트랜지스터 수는 다른 수단으로 계속 늘고 있다. 계산 방식 자체를 바꾸려는 시도는 양자 컴퓨터의 원리에 있다.

프로그램을 넣는 수단의 변천

계산하는 기계가 생긴 뒤의 병목은 명령을 어떻게 기계에 넣느냐였다. 수단이 바뀔 때마다 프로그램을 바꾸는 비용이 줄었다.

프로그램 내장 방식과 폰 노이만 구조의 뜻은 컴퓨터 시스템의 기본 구성에 있다. 어떤 수단이든 프로그래머가 옵코드와 레지스터를 외워야 했다는 점은 같았고, 이 병목은 어셈블러와 고급 언어가 풀었다(프로그래밍 언어의 계보와 선택).

튜링의 기여: 계산이란 무엇이고 어디까지 되는가

결정 문제와 두 가지 답

힐베르트의 결정 문제(Entscheidungsproblem)는 「형식 논리로 쓴 명제를 넣으면 참·거짓을 언제나 정확히 답하는 알고리즘이 있는가」를 물었다. 1935~1936년 두 사람이 서로 다른 수학으로 「없다」고 답했다.

람다 대수는 함수형 프로그래밍의 이론적 바탕이 되었다(프로그래밍 패러다임).

튜링 머신

예: 0으로 끝나는 1의 나열에서 1의 개수가 짝수인지 판정하는 기계. 시작 상태는 짝수다.

입력 110을 넣으면 짝수 → 홀수 → 짝수를 거쳐 0을 만나 1을 쓰고 멈춘다.

• 이 단순한 기계는 시간과 테이프만 충분하면 어떤 계산이든 할 수 있다. 웹 브라우저도 이론상 튜링 머신으로 만들 수 있다. 아주 비효율적일 뿐이다.
• 계산할 수 있는 범위에서 튜링 머신보다 강력한 컴퓨터는 없다. 튜링 머신과 같은 계산 능력을 가진 체계를 튜링 완전(Turing complete)하다고 한다. 노트북, 스마트폰, 전자레인지 속 마이크로컨트롤러가 모두 튜링 완전하다.

정지 문제

정지 문제(halting problem)는 「프로그램과 입력을 주면, 실행하지 않고도 그 프로그램이 멈출지 영원히 돌지 판정하는 알고리즘이 있는가」다. 튜링은 모순으로 「없다」를 보였다.

flowchart TB
    a["가정: 어떤 프로그램 P와 입력 I에 대해 언제나<br>「멈춘다/안 멈춘다」를 답하는 기계 H가 있다"] --> b["반대(Bizarro) 기계 B(x)를 만든다"]
    b --> q["입력 x를 복제해 H(x, x)를 묻는다<br>(프로그램 x에 자기 자신을 입력으로)"]
    q -->|"H가 「멈춘다」고 하면"| q1["B는 무한 루프를 돈다"]
    q -->|"H가 「안 멈춘다」고 하면"| q2["B는 멈춘다"]
    q1 --> self["B에 B 자신을 넣으면"]
    q2 --> self
    self -->|"H(B, B) = 멈춘다"| x1["B는 무한 루프 → 안 멈춘다 (모순)"]
    self -->|"H(B, B) = 안 멈춘다"| x2["B는 멈춘다 (모순)"]
    x1 --> c["∴ H는 존재할 수 없다"]
    x2 --> c

튜링 머신이 모든 계산을 표현하므로, 이 결과는 시간과 메모리를 아무리 늘려도 계산으로 풀 수 없는 문제가 있다는 뜻이다. 결정 문제의 답도 여기서 나온다.

암호 해독과 튜링 테스트

컴퓨터 과학 최고 권위의 상인 튜링상(Turing Award)이 그의 이름을 땄다.

개인용 컴퓨터가 보급된 조건

컴퓨터가 정부의 방 하나짜리 기계에서 한 사람이 혼자 쓰는 도구가 되기까지는 수요를 대는 쪽이 정부에서 소비자로 넘어가는 과정이 있었다.

정부 수요가 기술을 키웠다

과학 연구에 대한 연방 지원 기관인 미국 국립과학재단(NSF, 1950)도 이 흐름에서 생겼다. 1945년 버니바 부시가 구상한 메멕스(Memex)는 개인의 책·기록·통신을 저장하고 연상 경로로 엮는 기계로, 하이퍼텍스트와 이후 대화형 컴퓨팅의 구상에 영향을 주었다.

소비자 시장이 값을 끌어내렸다

• 1950년대 트랜지스터 라디오가 휴대할 수 있는 첫 전자 소비재로 히트했다. 일본은 1952년 벨 연구소에서 트랜지스터 특허를 사용 허가받아 반도체·전자 산업을 시작했다(소니의 첫 제품 TR-55, 1955).
• 미국 반도체 업체가 이윤 높은 정부 계약에 기대는 동안, 일본 업체는 얇은 이윤으로 버티려 규모의 경제, 수율, 자동화에 투자했다. 메모리(DRAM)처럼 부품이 범용품(commodity)이 되자 가격 경쟁에서 일본이 앞섰고, 인텔은 1980년대 중반 메모리 사업에서 물러나 프로세서에 집중했다.
• 1970년대의 히트 상품은 휴대용 전자계산기였다. 일본 계산기 업체 비지콤(Busicom)의 주문으로 인텔이 만든 칩이 4004다. 싼 마이크로프로세서는 아케이드 게임(Pong, 1972)과 가정용 게임기(Atari 2600, 1977) 같은 새 제품을 낳았다.

개인용 컴퓨터의 네 가지 재료

1970년대 초에 다음 네 가지가 동시에 싸지면서, 한 사람만 쓰는 컴퓨터가 경제적으로 말이 되었다. 시분할도, 다중 사용자 로그인도 없는 마이크로컴퓨터(microcomputer)다.

취미에서 가정으로, 그리고 표준 싸움

• 개방형 구조(open architecture)는 제3자가 그래픽 카드·사운드 카드·주변기기를 만들게 했고, 경쟁사도 표준을 따라 IBM 호환기를 만들었다(컴팩, 델). 사용자가 많은 플랫폼에 개발자가 몰리고, 소프트웨어가 많은 플랫폼을 사용자가 고르는 네트워크 효과가 눈덩이처럼 커져, 사양이 더 좋아도 호환되지 않는 기종은 사라졌다. 마이크로소프트는 MS-DOS를 호환기 제조사에도 사용 허가해 표준 OS가 되었다(운영체제 개요).
• 애플은 반대로 하드웨어·OS·주변기기를 직접 만드는 폐쇄형 구조(closed architecture)를 택했다. 사용 경험과 신뢰성을 통제하는 대가로 확장성을 포기한 것이다. 「Mac 대 PC」 구도는 이 두 전략에서 나왔다.

정리

• 계산 도구는 특수 목적 → 범용으로, 범용 기계는 고정 배선 → 프로그램 내장으로 발전했다.
• 스위치는 릴레이(질량) → 진공관(고장·크기) → 트랜지스터(배선 수) → 집적회로로 바뀌었고, 매번 앞 세대의 병목 하나를 풀었다.
• 무어의 법칙은 법칙이 아니라 추세다. 2026년에는 EUV·GAA로 미세화를 이어 가면서, 늘어나는 트랜지스터의 상당 부분을 칩렛과 첨단 패키징이 맡는다.
• 튜링 머신은 「계산」의 정의를 주었고, 정지 문제는 계산으로 풀 수 없는 문제가 있음을 보였다.
• 개인용 컴퓨터는 정부 수요가 키운 기술을 소비자 시장이 싸게 만든 결과이고, 그 표준은 개방형 구조와 네트워크 효과가 정했다.

관련 노트: 컴퓨터 시스템의 기본 구성, 디지털 논리 회로와 부품, 프로그래밍 언어의 계보와 선택, 운영체제 개요, 양자 컴퓨터의 원리