해시 함수 완벽 가이드: MD5부터 SHA-512까지

처음 개발을 배울 때 "비밀번호는 해시로 저장해야 한다"는 말을 듣고 고개만 끄덕였던 기억이 납니다. 해시가 뭔지도 모르면서요. 이 글에서는 제가 그때 알았으면 좋았을 내용들을 정리해봤습니다.

해시, 대체 뭔가요?

쉽게 말하면, 해시는 어떤 데이터를 고정된 길이의 "지문"으로 바꿔주는 함수입니다. 사람의 지문처럼, 입력이 조금만 달라도 완전히 다른 결과가 나옵니다.

"hello" → 5d41402abc4b2a76b9719d911017c592

"hello!" → 9a2b7f2a7c8e9f0d1b2c3d4e5f6a7b8c

느낌표 하나 추가했을 뿐인데 결과가 완전히 다르죠? 이게 해시의 핵심입니다.

해시의 세 가지 특징

해시 함수가 유용한 이유는 이 세 가지 특징 때문입니다:

단방향성: 해시값에서 원본을 역산할 수 없습니다. 지문으로 사람을 복제할 수 없는 것처럼요.
결정성: 같은 입력은 항상 같은 해시를 생성합니다. 100번 해도 같습니다.
충돌 저항성: 다른 입력이 같은 해시를 만드는 건 (이론상) 거의 불가능합니다.

MD5 - 빠르지만 은퇴할 때가 됐어요

MD5는 1991년에 만들어진 해시 알고리즘입니다. 128비트(32자) 해시를 생성하고, 속도가 빠릅니다.

문제는 2004년에 충돌이 발견됐다는 겁니다. 즉, 다른 입력으로 같은 해시를 만들 수 있게 된 거죠. 보안 용도로는 더 이상 쓰면 안 됩니다.

그래도 쓸 수 있는 곳: 파일 체크섬, 캐시 키 생성, 중복 파일 검사 등 보안과 무관한 곳에서는 여전히 유용합니다. 빠르니까요.

SHA-1 - 레거시 호환용

SHA-1은 160비트(40자) 해시를 생성합니다. MD5보다 안전하다고 알려졌지만, 2017년 Google이 충돌 공격에 성공했습니다.

Git이 SHA-1을 쓰는 건 유명한데요, 보안 때문이 아니라 커밋을 구분하기 위한 용도라 괜찮습니다. 물론 Git도 SHA-256으로 이전 중이긴 합니다.

SHA-256 - 현재의 표준

SHA-256은 256비트(64자) 해시를 생성합니다. 비트코인, SSL 인증서, 대부분의 보안 시스템이 사용하는 현재 표준입니다.

충돌 공격이 아직 성공한 적이 없고, 당분간 안전할 것으로 예상됩니다. 뭘 써야 할지 모르겠으면 SHA-256 쓰세요.

SHA-512 - 더 높은 보안이 필요할 때

512비트(128자) 해시입니다. SHA-256보다 길고, 64비트 시스템에서 오히려 더 빠른 경우도 있습니다.

일반적인 용도에는 과한 감이 있지만, 장기 보관이나 극도로 높은 보안이 필요할 때 사용합니다.

실전: 언제 뭘 쓰나요?

용도	추천 알고리즘	이유
비밀번호 저장	bcrypt, Argon2	일반 해시는 너무 빨라서 무차별 대입에 취약
파일 무결성	SHA-256	표준이고 안전함
캐시 키	MD5	빠르고, 보안 불필요
디지털 서명	SHA-256+	충돌 저항성 필수
블록체인	SHA-256	비트코인 표준

흔한 실수들

1. 비밀번호에 일반 해시 사용

SHA-256도 비밀번호 저장에는 부적합합니다. 너무 빨라서 초당 수십억 개의 해시를 시도할 수 있거든요. bcrypt나 Argon2처럼 의도적으로 느린 해시를 쓰세요.

2. Salt 없이 해시

"password123"의 SHA-256 해시는 누구나 똑같습니다. 레인보우 테이블로 역추적 가능해요. 반드시 무작위 salt를 추가해서 해시하세요.

3. MD5를 보안에 사용

2024년에 MD5를 인증이나 서명에 쓰는 건... 그냥 안 됩니다. 체크섬 용도 외에는 쓰지 마세요.

마무리

정리하면:

비밀번호 → bcrypt/Argon2
보안이 필요한 해시 → SHA-256
빠른 체크섬 → MD5 (보안 무관시)

해시는 간단한 개념이지만, 제대로 이해하고 쓰면 많은 문제를 예방할 수 있습니다.

해시 충돌이란?

해시 충돌(collision)은 서로 다른 두 입력이 동일한 해시값을 생성하는 현상입니다. 해시 함수의 출력 길이는 고정되어 있지만 입력은 무한할 수 있으므로, 수학적으로 충돌은 반드시 존재합니다. 이것을 비둘기집 원리(Pigeonhole Principle)라고 합니다.

중요한 것은 충돌을 "의도적으로" 만들어낼 수 있느냐입니다. MD5의 경우 2004년에 연구자들이 같은 해시를 가진 두 개의 서로 다른 파일을 만드는 데 성공했습니다. 일반 PC로도 몇 초 안에 충돌을 만들 수 있게 되면서, MD5는 보안 용도에서 퇴출되었습니다.

SHA-1도 2017년 Google과 CWI Amsterdam의 공동 연구(SHAttered 프로젝트)에서 충돌이 시연되었습니다. 서로 다른 내용의 PDF 파일 두 개가 동일한 SHA-1 해시를 가지도록 만든 것인데, 약 6,500 GPU-년의 연산이 필요했다고 합니다. SHA-256에서는 아직 충돌이 발견되지 않았고, 현재 기술로는 사실상 불가능합니다.

비밀번호 해싱: bcrypt와 Argon2

SHA-256이 현재 표준이라고 했는데, 왜 비밀번호에는 쓰면 안 될까요? 이유는 간단합니다. SHA-256은 너무 빠릅니다.

최신 GPU는 초당 수십억 개의 SHA-256 해시를 계산할 수 있습니다. 공격자가 가능한 모든 비밀번호 조합을 시도하는 무차별 대입 공격(brute force)에서 이 속도는 치명적입니다. 8자리 영숫자 비밀번호는 몇 시간이면 뚫립니다.

그래서 비밀번호 전용 해시 함수가 필요합니다. 이들은 의도적으로 느리게 설계되었습니다.

bcrypt

1999년에 발표된 bcrypt는 Blowfish 암호를 기반으로 합니다. 가장 큰 특징은 "cost factor"를 조절할 수 있다는 점입니다. cost가 1 증가하면 연산 시간이 2배가 되므로, 하드웨어 성능이 향상되면 cost를 높여서 같은 수준의 보안을 유지할 수 있습니다.

// bcrypt 해시 결과 예시
$2b$12$LJ3m4ys3GEzMU/SNpCOKtOjBd8sPfR0rKTl6W0dE1h.O8UlN9oAHi

$2b  → 알고리즘 버전
$12  → cost factor (2^12 = 4,096 라운드)
나머지 → salt(22자) + 해시(31자)

bcrypt는 자동으로 salt를 생성해서 해시에 포함시킵니다. 별도로 salt를 관리할 필요가 없어서 편리합니다. 현재 cost 10~12 정도가 권장됩니다.

Argon2

2015년 Password Hashing Competition에서 우승한 알고리즘입니다. bcrypt보다 최신이고, CPU 시간뿐 아니라 메모리 사용량도 조절할 수 있습니다. GPU를 이용한 병렬 공격에 더 강하게 설계되었습니다.

Argon2에는 세 가지 변형이 있습니다: Argon2d(GPU 공격에 강함), Argon2i(사이드채널 공격에 강함), Argon2id(둘의 장점 결합). 새 프로젝트에서는 Argon2id를 사용하는 것이 권장됩니다.

솔트(Salt)와 페퍼(Pepper)

솔트는 해시 함수에 추가하는 무작위 값입니다. 같은 비밀번호라도 솔트가 다르면 해시값이 달라지므로, 레인보우 테이블 공격을 무력화합니다.

// 솔트 없이
hash("password123") → abc123...  (항상 동일)

// 솔트 추가
hash("password123" + "x9kL2m") → def456...
hash("password123" + "p3Qr8n") → ghi789...
// 같은 비밀번호인데 해시가 다름!

솔트는 사용자마다 다르게 생성하고, 해시값과 함께 데이터베이스에 저장합니다. 비밀이 아니어도 됩니다. 솔트의 목적은 미리 계산된 해시 테이블을 무효화하는 것이지, 값을 숨기는 것이 아니니까요.

페퍼(Pepper)는 솔트와 비슷하지만, 데이터베이스가 아닌 별도의 안전한 장소(환경 변수, HSM 등)에 보관하는 비밀 값입니다. 데이터베이스가 유출되더라도 페퍼를 모르면 해시를 공격하기 어렵습니다. 모든 사용자에게 같은 페퍼를 사용하는 것이 일반적입니다.

실전: 주요 활용 사례

파일 무결성 검증

소프트웨어를 다운로드할 때 공식 사이트에서 SHA-256 체크섬을 제공하는 것을 본 적이 있을 겁니다. 다운로드한 파일의 해시를 계산해서 공식 해시와 비교하면, 파일이 전송 중에 손상되었거나 변조되었는지 확인할 수 있습니다.

디지털 서명

문서나 코드에 디지털 서명을 할 때, 전체 데이터를 암호화하면 느리고 비효율적입니다. 대신 데이터의 해시를 계산하고, 그 해시를 개인키로 암호화합니다. 검증하는 쪽에서는 공개키로 서명을 복호화하고, 직접 계산한 해시와 비교합니다. Git 커밋 서명도 이 방식을 사용합니다.

블록체인과 해시

비트코인의 채굴(mining)은 본질적으로 특정 조건을 만족하는 해시값을 찾는 작업입니다. 블록 데이터에 임의의 숫자(nonce)를 추가해서 SHA-256 해시를 계산하고, 해시값이 특정 수의 0으로 시작하면 성공입니다. 이 과정을 작업 증명(Proof of Work)이라고 합니다.

프로그래밍 언어별 해시 사용법

JavaScript (Node.js)

const crypto = require('crypto');

// SHA-256 해시
const hash = crypto.createHash('sha256')
  .update('hello')
  .digest('hex');
console.log(hash);
// 2cf24dba5fb0a30e26e83b2ac5b9e29e...

Python

import hashlib

# SHA-256 해시
hash_value = hashlib.sha256(b'hello').hexdigest()
print(hash_value)
# 2cf24dba5fb0a30e26e83b2ac5b9e29e...

Java

import java.security.MessageDigest;

MessageDigest md = MessageDigest.getInstance("SHA-256");
byte[] hash = md.digest("hello".getBytes());
// 바이트 배열을 16진수 문자열로 변환 필요

알고리즘별 출력 길이 비교

알고리즘	출력 비트	16진수 길이	보안성	속도
MD5	128	32자	취약	매우 빠름
SHA-1	160	40자	취약	빠름
SHA-256	256	64자	안전	보통
SHA-512	512	128자	매우 안전	보통 (64비트 CPU에서 빠름)
bcrypt	184	60자 (인코딩 포함)	비밀번호용	의도적으로 느림
Argon2	가변	가변	비밀번호용 최신	의도적으로 느림

HMAC: 해시 기반 메시지 인증

HMAC(Hash-based Message Authentication Code)는 해시 함수와 비밀키를 조합해서 메시지의 무결성과 인증을 동시에 보장하는 기법입니다. 단순 해시와 달리 비밀키를 알아야만 같은 HMAC 값을 생성할 수 있으므로, 메시지가 변조되지 않았는지와 발신자가 정당한지를 함께 검증할 수 있습니다.

웹훅(Webhook)에서 많이 사용됩니다. GitHub, Stripe 같은 서비스가 이벤트를 보낼 때 HMAC-SHA256 서명을 함께 보내고, 수신 서버에서 같은 비밀키로 계산한 HMAC과 비교해서 요청이 진짜인지 확인합니다.

해시에 대한 흔한 오해

"해시는 암호화다" - 아닙니다. 암호화(encryption)는 복호화가 가능하지만, 해시는 단방향이라 원본을 복원할 수 없습니다. 해시는 "지문"이지, "자물쇠"가 아닙니다.

"긴 해시가 항상 더 안전하다" - 반드시 그렇지는 않습니다. MD5(128비트)가 취약한 것은 길이가 짧아서가 아니라 알고리즘 자체에 결함이 있기 때문입니다. 물론 같은 계열에서는 출력 길이가 길수록 충돌 확률이 낮아지는 것은 사실입니다.

"해시를 두 번 하면 더 안전하다" - hash(hash(data))를 하면 더 안전할 것 같지만, 실제로는 보안이 향상되지 않거나 오히려 약해질 수도 있습니다. 비밀번호 보안을 강화하고 싶다면 이중 해시 대신 bcrypt나 Argon2를 사용하세요.