정보 시스템 보안

보안 문제는 "무엇을 지키는가(3요소) → 어떻게 공격받는가(공격 기법) → 무엇으로 막는가(암호, 접근 통제, 보안 프로토콜)"의 흐름으로 정리하면 기억하기 쉽다.

보안 3요소 (CIA)

위협 모델

위협 모델(threat model)은 "누구로부터 지키는가"를 먼저 정해 두는 일이다. 공격자의 능력(원격인가, 기기를 손에 쥐었나, 시간과 돈은 얼마나 있나), 목표, 그리고 들어올 수 있는 경로인 공격 벡터(attack vector)를 적는다.

• 보안은 절대값이 아니라 위협 모델에 대한 상대값이다. 같은 노트북이라도 호기심 많은 룸메이트와, 무제한 시간 동안 기기를 가진 공격자에게 필요한 방어는 다르다.
• 모든 공격을 막으려 하면 아무것도 제대로 못 막는다. 위협 모델이 방어의 범위와 우선순위를 정한다.
• 설계는 늘 가정을 깔고 있다(예: 사용자가 비밀번호를 남에게 알려 주지 않는다). 가정이 깨지면 방어도 깨지므로 가정을 명시해 둔다.

설계 단계에서 위협 모델링을 개발 흐름에 넣는 방법(STRIDE 등)은 DevSecOps: 개발 흐름에 보안을 넣기에 있다.

주요 공격 기법

서비스 거부(DoS) 계열

DDoS는 여러 대의 좀비 PC(에이전트)를 조종해 위 공격을 한 대상에 동시에 퍼붓는다.

네트워크 엿보기·위장

SYN Flooding·Session Hijacking이 악용하는 TCP 연결 과정은 전송 계층의 TCP 절, ARP 스푸핑의 대상인 ARP는 네트워크 계층에 정리했다.

애플리케이션·사용자 대상

피싱·프리텍스팅처럼 시스템이 아니라 사람을 속여 정보를 얻거나 문을 열게 하는 방식을 사회공학(social engineering)이라 한다. 열 번 시도해 한 번만 걸려도 공격자에게는 충분하다.

XSS와 CSRF의 원리와 실제 방어법은 웹 보안: CSRF와 XSS를 참고한다.

악성 소프트웨어

익스플로잇과 취약점의 생명주기

취약점(vulnerability)은 시스템의 보안 결함이고, 익스플로잇(exploit)은 그 결함을 실제로 이용하는 코드나 기법이다. 공개된 취약점에는 CVE 번호가 붙고 CVSS 점수로 심각도를 매긴다(NVD, cve.org에서 조회).

방어의 기본은 빠른 패치와 의존성 업데이트다(npm audit, Dependabot 같은 도구로 알림을 받는다).

버퍼 오버플로와 메모리 보호

버퍼(buffer)는 데이터를 담으려고 잡아 둔 메모리 구역이다. 10바이트로 잡은 비밀번호 버퍼에 길이 검사 없이 20바이트를 복사하면, 넘친 10바이트가 바로 옆 메모리를 덮어쓴다. 이것이 버퍼 오버플로(buffer overflow)다.

• 아무 값이나 덮이면 프로그램이 죽는다(서비스 거부).
• 공격자가 값을 골라 넣으면 옆에 있던 is_admin 같은 변수나 함수의 복귀 주소를 원하는 값으로 바꿔, 로그인을 건너뛰거나 자기 코드를 실행시킨다(RCE).

C에서 범위 밖 쓰기를 찾는 도구(AddressSanitizer, valgrind)는 C 디버깅 도구에 있다.

포트 스캔

포트 스캔은 대상 호스트의 어떤 포트가 열려 있고 무슨 서비스가 도는지 알아내는 일이다. 공격의 정찰 단계이자, 관리자가 자기 시스템의 노출면을 점검하는 수단이다. 대표 도구는 Nmap이다.

방어 측은 불필요한 포트를 닫고(방화벽 ufw, 클라우드 보안 그룹), IDS·IPS로 비정상 스캔을 탐지한다. 허가받지 않은 시스템을 스캔하는 것은 불법이 될 수 있다. 자기 시스템이나 허가된 범위에서만 한다.

안전한 프로그램의 원칙

암호 알고리즘

대칭 키 (암호화 키 = 복호화 키)

키 길이와 전수 조사

키가 n비트면 가능한 키는 2ⁿ개이고, 1비트 늘 때마다 전수 조사 시간이 두 배가 된다. DES의 56비트 키(약 7.2×10¹⁶개)는 1977년 표준이 될 때는 충분했지만, 1998년 약 25만 달러짜리 전용 기계(EFF의 Deep Crack)가 며칠 만에 키를 찾아내면서 안전하지 않게 됐다. AES-128의 2¹²⁸개는 지구의 모든 컴퓨터를 동원해도 전수 조사할 수 없다.

AES는 데이터를 16바이트 블록으로 나누고, 키에서 만든 라운드 키로 치환·전치·섞기를 여러 번 되풀이한다(128비트 키는 10라운드, 192비트 12라운드, 256비트 14라운드). 라운드와 키를 무한정 늘리지 않는 것은 성능과 안전의 균형 때문이다. 연결 하나 맺는 데 몇 분이 걸리는 암호는 아무도 쓰지 않는다.

비대칭 키 (공개키 / 개인키)

RSA는 큰 수의 소인수분해가 어렵다는 점을 이용하고, 디피-헬만은 안전하지 않은 통신망에서 공통 비밀키를 교환한다.

일방향 함수와 디피-헬만

대칭키는 양쪽이 같은 키를 가져야 하는데, 인터넷에서는 키를 미리 건넬 방법이 없고 키를 그냥 보내면 도청당한다. 키 교환(key exchange)은 키 자체를 보내지 않고 양쪽이 같은 키를 계산해 내게 한다. 바탕은 일방향 함수(one-way function), 즉 계산은 쉽지만 거꾸로 풀기는 어려운 함수다. 물감 두 색을 섞기는 쉬워도 섞인 색에서 원래 색을 알아내기 어려운 것과 같다.

디피-헬만의 일방향 함수는 모듈러 거듭제곱이다. 3⁵ mod 31은 243을 31로 나눈 나머지 26으로 바로 나오지만, "3을 몇 제곱해 31로 나눴더니 7이 남았다"에서 지수를 찾으려면 하나씩 대입해야 한다(이산 로그 문제). 수가 수백 자리면 사실상 풀 수 없다.

sequenceDiagram
  participant A
  participant C
  participant E as 도청자
  Note over A,C: 공개값: 밑 B, 법 M (누구나 안다)
  Note over A: 비밀 x 선택
  A->>C: Bˣ mod M 전송
  Note over C: 비밀 y 선택
  C->>A: Bʸ mod M 전송
  Note over A: (Bʸ)ˣ mod M = Bˣʸ mod M
  Note over C: (Bˣ)ʸ mod M = Bˣʸ mod M
  Note over A,C: 같은 값이 공유 키
  Note over E: Bˣ, Bʸ만 봐서는 x, y도 Bˣʸ도 구할 수 없다

이렇게 얻은 공유 키로 AES 같은 대칭 암호를 쓴다. 다만 이 계산만으로는 상대가 누구인지 모르므로 인증서·서명과 함께 쓴다. 세션마다 새 키를 만드는 방식이 주는 전방 비밀성은 웹 PKI의 변천에 있다.

해시 (일방향)

원문을 고정 길이 값으로 바꾸며 되돌릴 수 없다. 무결성 검사와 비밀번호 저장에 쓴다. MD5(128비트)와 SHA-1은 충돌 공격이 알려져 보안 용도로 쓰지 않는다. 지금은 NIST 표준인 SHA-2(SHA-256 등, NSA 설계)와 공개 공모로 뽑힌 SHA-3(Keccak)를 쓴다.

보안 프로토콜

• TLS: 응용 계층과 TCP 사이에서 통신을 암호화한다. SSL과 TLS 1.0·1.1은 폐기되어 TLS 1.2·1.3만 쓴다(HTTPS와 TLS).
• IPSec: 네트워크 계층(3계층)의 IP 보안 프로토콜. AH로 무결성·인증, ESP로 기밀성(암호화) 제공

고전 암호와 인코딩은 보안이 아니다

• 인코딩은 형식 변환, 암호화는 키가 있어야 풀리는 변환, 해시는 되돌릴 수 없는 변환이다. Base64로 감싼 비밀번호는 평문과 같다(Base64 인코딩). 네 가지 변환과 용도별 암호 부품 고르기는 인코딩·암호화·해시·토큰화와 디지털 서명에 있다.
• 현대 암호(AES, ChaCha20)는 알고리즘을 공개해도 키 없이는 풀 수 없다. 남는 공격은 키 자체를 맞히는 것이다. 무차별 대입(모든 키)과 사전 공격(사람이 쓸 법한 단어·이름 목록)이 그것이고, 사람이 정한 비밀번호가 짧고 뻔할수록 쉽게 뚫린다.
• 그래서 비밀번호 저장에는 일부러 느리게 만든 해시(bcrypt, scrypt, Argon2)와 솔트를 쓴다(비밀번호 저장과 비밀번호 관리자). bcrypt는 블록 암호 Blowfish의 비싼 키 설정 과정을 반복해 대입 속도를 늦춘다. Blowfish 자체는 블록이 64비트로 작아 새 시스템에서는 AES를 쓴다.

접근 통제

접근 통제는 정책, 메커니즘, 보안 모델의 3요소로 구성된다.

시험에 나오는 세 방식은 DAC(임의 접근 통제: 데이터 소유자가 사용자 신원을 기준으로 허가), MAC(강제 접근 통제: 시스템이 주체와 객체의 보안 등급을 비교), RBAC(역할 기반 접근 통제: 중앙 관리자가 역할에 권한을 묶음)다. ACL·ABAC·ReBAC까지 넣은 모델 비교표는 권한 시스템 설계에, 리눅스의 구현(파일 권한이 DAC, AppArmor·SELinux가 MAC)은 리눅스 접근 제어에 있다.

보안 모델

MAC에서 등급(공개 < 비밀 < 극비)을 어떻게 비교할지 정한 규칙이 보안 모델이다. 무엇을 지키느냐에 따라 방향이 반대다.

최고 등급자도 낮은 등급 파일을 고칠 수 없다는 점이 직관과 다르지만, 그것이 정보 유출 경로를 막는 장치다.

AAA

인증(Authentication, 누구인지 확인) → 인가(Authorization, 어떤 권한을 줄지 결정) → 계정 관리(Accounting, 사용 시간·위치 등 사용 기록 수집)의 묶음이다. 인증에 쓰는 세 가지 요소(아는 것·가진 것·나 자신)와 각각의 약점은 2단계 인증: TOTP와 패스키에 있다.

관련 노트: HTTPS와 TLS, 리눅스 접근 제어: DAC, MAC, sudo, 웹 보안: CSRF와 XSS, 보안 시스템 설계: 원칙과 민감 데이터 관리