PKCS #1: RSA 암호와 전자서명

이 글의 목차
  1. 암호화와 서명의 등장인물
  2. 무엇을 정의할까
  3. 암호화: OAEP를 우선 이해하기
  4. 서명: PSS를 우선 이해하기
  5. v1.5 방식은 왜 남아 있을까
  6. 구현 원칙
  7. 관련 RFC

암호화와 서명의 등장인물

파일을 Alice가 Bob에게 보낼 때, 기밀성이 목적이면 Bob의 공개 키로 보호하고 Bob이 개인 키로 연다. Alice가 보냈다는 사실을 검증하려면 Alice가 개인 키로 서명하고 Bob은 Alice의 공개 키로 검증한다.

OAEP와 PSS는 각각 이 두 목적에 맞는 인코딩 규칙이다. 키 형식, 암호화 방식, 서명 방식은 서로 구분해서 읽자. 아래 RFC 번호는 표준 문서의 식별자이며 알고리즘 버전 번호와는 다르다.

PKCS #1은 RSA 공개 키·개인 키의 구조와 암호화·서명 방식을 정의한다. 현재 참고할 규격은 PKCS #1 v2.2인 RFC 8017이다.

무엇을 정의할까

  • RSAPublicKey: 모듈러스 n, 공개 지수 e
  • RSAPrivateKey: n, e, 개인 지수 d, 소수 p, q, CRT 계산값
  • RSAES-OAEP와 RSAES-PKCS1-v1_5 암호화
  • RSASSA-PSS와 RSASSA-PKCS1-v1_5 서명
  • MGF1 같은 마스크 생성 함수와 ASN.1 알고리즘 식별자

RSA의 핵심 연산만 수행하면 안전하지 않다. 메시지를 정해진 방식으로 인코딩하고 검증하는 전체 규칙이 필요하다.

암호화: OAEP를 우선 이해하기

송신자는 수신자의 공개 키로 암호화하고 수신자는 개인 키로 복호화한다. 새 설계에서는 RSAES-OAEP를 우선 검토한다. OAEP는 해시와 무작위 seed를 사용해 같은 평문도 매번 다른 암호문이 되도록 한다.

RSA가 암호화할 수 있는 길이는 짧다.

mLen ≤ k - 2 × hLen - 2

2048비트 RSA와 SHA-256이면 최대 190바이트다. 큰 파일은 AES-GCM 같은 대칭 키로 암호화하고 그 대칭 키만 RSA-OAEP로 감싸는 하이브리드 방식을 사용한다.

서명: PSS를 우선 이해하기

서명자는 메시지의 해시를 RSASSA-PSS 규칙으로 인코딩해 개인 키로 서명한다. 검증자는 메시지와 공개 키로 서명을 확인한다. 서명은 기밀성을 제공하지 않는다.

PSS는 salt를 사용하므로 같은 키와 메시지라도 서명 값이 달라질 수 있다. 양쪽은 해시, MGF 해시, salt 길이 같은 파라미터를 합의해야 한다.

v1.5 방식은 왜 남아 있을까

RSAES-PKCS1-v1_5 암호화와 RSASSA-PKCS1-v1_5 서명은 기존 시스템 호환 때문에 널리 남아 있다. 특히 v1.5 복호화에서 패딩 오류와 다른 오류를 구분해 노출하면 선택 암호문 공격의 단서가 될 수 있다.

구현 원칙

  • RSA 원시 연산과 패딩을 직접 구현하지 않는다.
  • “개인 키로 암호화”를 전자서명이라고 설명하지 않는다.
  • 복호화 실패의 상세 원인을 공격자에게 노출하지 않는다.
  • 키 길이와 허용 알고리즘을 정책으로 제한한다.
  • 공개 키가 누구의 것인지는 인증서 체인으로 별도 검증한다.

더 자세한 예제는 RSA 암호화와 전자서명 정리에서 이어서 볼 수 있다.

관련 RFC