[독학사 3단계/정보보호] 대칭키·비대칭키·해시·전자서명 정리 (2일차)

대칭키 암호는 같은 비밀키로 빠르게 암·복호화하고, 비대칭키 기법은 공개키와 개인키의 역할을 나눕니다. 해시는 입력을 요약값으로 바꾸며 복호화하지 않고, 전자서명은 서명자의 개인키로 생성해 공개키로 검증합니다.

네 기술을 알고리즘 이름으로만 외우면 쉽게 섞입니다. 키가 있는가, 되돌릴 수 있는가, 목적이 기밀성인가 무결성·출처 확인인가, 실제로 어디에 쓰는가의 네 질문으로 비교하세요.

오늘의 한 줄: 암호화는 내용을 숨기고, 해시는 변경을 확인하며, 서명은 누가 보냈고 바뀌지 않았는지를 검증한다.

정보보호 전체 범위와 7일 순서는 독학사 3단계 정보보호 공부내용 총정리에서 확인할 수 있습니다.

먼저 보는 4가지 비교표

구분	키	가역성	핵심 목적	대표 예
대칭키 암호	공유하는 같은 비밀키	올바른 키로 복호화	빠른 기밀성 보호	AES, ARIA, SEED, LEA
비대칭키 기법	공개키·개인키 쌍	기능과 알고리즘에 따라 다름	암호화, 키 설정, 서명	RSA, DH/ECDH, ECC 계열
해시함수	일반적으로 키 없음	복호화 개념 없음	요약값·변경 탐지	SHA-256, SHA-3
전자서명	개인키 생성·공개키 검증	검증이며 복호화가 아님	원본 인증·무결성·부인방지	RSA-PSS, ECDSA, EdDSA

1. 대칭키 암호: 빠르지만 키 공유가 과제

대칭키 암호는 송신자와 수신자가 같은 비밀키를 공유하고 그 키로 암호화와 복호화를 수행합니다. 계산이 효율적이어서 파일, 데이터베이스, 네트워크 세션의 대용량 데이터를 보호하는 데 적합합니다.

• 장점: 처리 속도가 빠르고 대용량 데이터에 효율적입니다.
• 과제: 통신 전에 비밀키를 안전하게 공유하고 보관해야 합니다.
• 노출 영향: 같은 키를 가진 주체가 많을수록 유출 시 피해 범위가 커집니다.
• 대표 표준: AES는 128비트 블록과 128·192·256비트 키를 사용하는 블록암호입니다.

암호 알고리즘만 안전해도 끝나는 것이 아닙니다. 같은 AES라도 운영모드, nonce·IV 관리, 인증 태그 검증, 키 생성·보관·교체가 잘못되면 전체 시스템은 취약할 수 있습니다.

2. 비대칭키 기법: 키 두 개의 역할 분리

비대칭키 기법은 수학적으로 관련된 공개키와 개인키를 사용합니다. 공개키는 배포할 수 있고 개인키는 소유자가 보호합니다. 이 구조는 키 배포 문제를 줄이고 전자서명 같은 기능을 가능하게 합니다.

가장 중요한 주의점은 모든 공개키 알고리즘이 암호화·키합의·서명을 전부 제공하지는 않는다는 것입니다.

기능	대표 방식	목적
공개키 암호화	RSA 계열의 적절한 암호화 방식	수신자만 복호화할 기밀성
키합의·키설정	DH, ECDH, KEM 등	공유 비밀 또는 세션키 설정
전자서명	RSA-PSS, ECDSA, EdDSA, ML-DSA	서명자와 데이터 무결성 검증

DH·ECDH는 키합의 방식이고 ECDSA·EdDSA는 서명 방식입니다. 따라서 ‘공개키 알고리즘은 모두 공개키로 암호화하고 개인키로 복호화한다’라는 설명은 틀립니다.

3. 해시함수: 복호화하는 암호가 아니다

암호학적 해시함수는 임의 길이의 입력을 일정 길이의 다이제스트로 변환합니다. 같은 입력은 같은 결과를 내지만, 결과에서 원래 입력을 되찾는 복호화 절차를 전제로 하지 않습니다.

성질	시험용 의미
역상 저항성	주어진 해시값에 대응하는 원래 입력을 찾기 어려움
제2역상 저항성	주어진 입력과 같은 해시를 갖는 다른 입력을 찾기 어려움
충돌 저항성	같은 해시를 만드는 서로 다른 두 입력을 찾기 어려움
눈사태 효과	입력이 조금 달라져도 출력이 크게 달라지는 성질

단순 해시는 누구나 다시 계산할 수 있으므로 누가 메시지를 만들었는지를 증명하지 못합니다. 출처 인증이 필요하면 비밀키를 쓰는 MAC 또는 개인키를 쓰는 전자서명을 결합해야 합니다.

4. 전자서명: 개인키로 생성, 공개키로 검증

1. 서명자는 메시지의 해시값을 계산합니다.
2. 서명자의 개인키와 서명 알고리즘으로 서명값을 생성합니다.
3. 메시지와 서명값을 검증자에게 전달합니다.
4. 검증자는 메시지를 다시 해시하고 서명자의 공개키로 서명을 검증합니다.

서명 검증이 성공하면 일반적으로 메시지가 서명 뒤 변경되지 않았고, 대응하는 개인키를 가진 주체가 서명했음을 확인하는 데 도움을 줍니다. 다만 개인키 보호, 인증서와 신뢰체계, 시간·감사 증거가 제대로 운영되어야 실제 부인방지 주장도 강해집니다.

구분	공개키 암호화	전자서명
시작 키	수신자의 공개키	서명자의 개인키
상대 동작	수신자 개인키로 복호화	서명자 공개키로 검증
주요 목적	기밀성	원본 인증·무결성·부인방지
결과	암호문	서명값

전자서명을 ‘개인키 암호화 후 공개키 복호화’라고 외우면 ECDSA·EdDSA처럼 암복호화가 아닌 서명 알고리즘을 설명할 수 없습니다. 시험 답안에서도 서명 생성과 검증이라는 표현을 쓰는 편이 정확합니다.

5. 실제 통신은 하이브리드 방식

비대칭키 기법은 키 배포·인증에 유리하지만 대용량 처리 비용이 큽니다. 그래서 실제 보안 프로토콜은 비대칭키 기법으로 공유 비밀이나 세션키를 안전하게 설정하고, 실제 데이터는 빠른 대칭키 암호로 보호하는 하이브리드 구조를 널리 사용합니다.

1. 상대의 공개키나 인증서를 확인합니다.
2. 키합의·키캡슐화 등으로 공유 비밀을 설정합니다.
3. 그 값에서 세션용 대칭키를 유도합니다.
4. 세션 데이터는 인증된 대칭키 암호 방식으로 보호합니다.

6. 2026년 알고리즘 상태

알고리즘·표준	2026-07-10 기준 상태	공부 포인트
AES	FIPS 197 현행, 2023 편집 갱신	현대 대칭키 블록암호의 대표
DES	FIPS 46-3이 2005년 철회	역사적 알고리즘으로 구분
TDEA/3DES	SP 800-67 Rev.2가 2024년 철회	신규 보호 적용보다 레거시 처리 맥락
SHA-1	NIST가 SHA-2·SHA-3로 전환 중	충돌 보안 한계와 판본 주의
SHA-2	FIPS 180-4 계열의 현행 해시	SHA-256·384·512 등 구분
SHA-3	FIPS 202 현행, 향후 갱신 예정	SHA-2를 보완하는 별도 구조
RSA·ECDSA·EdDSA	FIPS 186-5의 전통 서명 방식	서명 생성·검증 용도
ML-DSA·SLH-DSA	2024년 확정된 양자내성 서명 표준	최신성 보충, 기본 범위와 분리

시험에 DES·3DES·SHA-1이 나온다고 해서 현재 신규 시스템의 권장 방식이라는 뜻은 아닙니다. 알고리즘 원리와 역사적 중요성은 공부하되, 현재 사용 상태는 별도로 표시하세요.

객관식에서 자주 틀리는 5가지

1. “해시는 암호화이므로 키로 복호화한다” → 해시는 요약함수이고 복호화 절차를 전제로 하지 않습니다.
2. “전자서명은 메시지 기밀성을 보장한다” → 서명의 직접 목적은 원본 인증·무결성·부인방지입니다.
3. “공개키 알고리즘은 기능이 모두 같다” → DH/ECDH는 키합의, ECDSA/EdDSA는 서명처럼 기능이 다릅니다.
4. “해시값이 같으면 언제나 원문도 같다” → 입력 공간이 더 크므로 이론적 충돌은 존재하며 안전성은 충돌을 찾기 어렵다는 데 있습니다.
5. “DES·3DES는 오래되었지만 현재도 신규 암호화 권장” → NIST 관련 표준은 각각 2005년·2024년에 철회되었습니다.

80자 내외 서술형 연습 답안

아래 문장은 기출문제가 아니라 공식 범위를 바탕으로 직접 만든 연습용 답안입니다.

1. 대칭키와 비대칭키
   대칭키는 같은 비밀키로 암복호화해 빠르지만 키 공유가 어렵고, 비대칭키는 공개키·개인키로 역할을 나눈다.
2. 해시함수
   임의 길이 입력을 일정 길이 다이제스트로 바꾸며 역상·제2역상·충돌을 찾기 어려워야 하는 단방향 함수다.
3. 전자서명
   서명자가 개인키로 서명을 만들고 검증자가 공개키로 확인해 원본 인증과 무결성·부인방지를 제공한다.
4. 하이브리드 암호
   비대칭키 기법으로 세션키를 안전하게 설정하고 실제 대용량 데이터는 빠른 대칭키로 보호하는 방식이다.
5. 단순 해시의 한계
   단순 해시는 누구나 다시 계산할 수 있어 출처 인증이 안 되므로 비밀키 MAC이나 전자서명이 추가로 필요하다.
6. 전자서명과 기밀성
   전자서명은 변경과 서명자를 검증하지만 내용을 숨기지 않으므로 기밀성이 필요하면 별도 암호화를 적용한다.

5분 셀프 테스트

1. 대칭키 암호의 장점과 가장 큰 키 관리 과제를 적어 보세요.
2. DH/ECDH와 ECDSA/EdDSA의 기능은 각각 무엇인가?
3. 역상·제2역상·충돌 저항성을 구분해 보세요.
4. 전자서명에서 서명 생성키와 검증키를 적어 보세요.
5. AES·DES·3DES·SHA-1의 현재 상태를 한 줄씩 설명해 보세요.

정답 확인

1. 빠른 대용량 처리, 안전한 비밀키 공유·보관 2. 키합의, 전자서명 3. 본문의 해시 성질 표 확인 4. 서명자 개인키, 서명자 공개키 5. AES 현행, DES·3DES 철회, SHA-1은 SHA-2·SHA-3로 전환 중

오늘의 마무리 체크

• 네 기술을 키·가역성·목적으로 비교할 수 있는가?
• 공개키 알고리즘마다 지원 기능이 다름을 설명할 수 있는가?
• 해시의 세 저항성을 구분하는가?
• 전자서명의 생성·검증 흐름과 제공하지 않는 기밀성을 아는가?
• 역사적 알고리즘과 현재 권장 상태를 섞지 않는가?

전체 범위로 돌아가려면 독학사 3단계 정보보호 공부내용 총정리를 확인하세요.

공식 자료

• 국가평생교육진흥원 독학학위제 과목별 평가영역
• KISA 암호이용활성화: 암호기술의 정의
• NIST FIPS 197, Advanced Encryption Standard
• NIST SP 800-57 Part 1 Rev.5, Key Management
• NIST FIPS 180-4, Secure Hash Standard
• NIST FIPS 202, SHA-3 Standard
• NIST FIPS 186-5, Digital Signature Standard
• NIST FIPS 204, ML-DSA
• NIST FIPS 205, SLH-DSA
• NIST Policy on Hash Functions
• NIST의 TDEA 표준 철회 안내

이 글은 2026년 7월 10일 기준 공식 표준 상태를 확인해 작성했습니다. 암호 표준은 전환 일정과 사용 목적에 따라 허용 범위가 다르므로 실제 시스템 적용 전에는 해당 산업의 최신 규정과 NIST·KISA 원문을 확인하세요.