LLM 추론 KV 캐시를 93% 압축하는 GQA와 MLA(Multi-Head Latent Attention) 어텐션 아키텍처

LLM 추론 KV 캐시를 93% 압축하는 GQA와 MLA(Multi-Head Latent Attention) 어텐션 아키텍처
LLM 추론 KV 캐시를 93% 압축하는 GQA와 MLA(Multi-Head Latent Attention) 어텐션 아키텍처

1. 자기회귀 LLM 디코딩의 메모리 대역폭 병목과 KV 캐시 폭증

대규모 언어 모델(LLM)의 자기회귀(Autoregressive) 토큰 생성 단계는 연산량(FLOPs)보다 GPU HBM(High Bandwidth Memory)으로부터 모델 가중치와 과거 토큰의 Key-Value(KV) 캐시를 매 스텝 읽어 들이는 메모리 대역폭에 의해 성능이 제한되는 전형적인 Memory-Bound 작업입니다. 표준 멀티 헤드 어텐션(MHA)에서는 모든 어텐션 헤드마다 독립적인 Key와 Value 행렬을 캐싱하므로, 컨텍스트 길이가 128K에 도달하고 배치 크기가 증가할수록 KV 캐시 점유량이 수십 GB를 초과하여 서빙 처리량(Throughput)이 급락합니다.

이러한 메모리 대역폭 병목을 해소하기 위해 등장한 핵심 어텐션 진화 모델이 GQA(Grouped-Query Attention)와 MLA(Multi-Head Latent Attention)입니다.

2. MQA에서 GQA(Grouped-Query Attention)로의 구조적 절충

에 따르면, 기존 MQA(Multi-Query Attention)는 모든 Query 헤드가 단 1개의 Key-Value 헤드를 공유하여 KV 캐시를 극단적으로 줄였으나 표현력 저하로 인한 모델 품질 손실이 발생했습니다.

  • 그룹 단위 KV 공유: GQA는 전체 Query 헤드(n_h)를 n_g개의 그룹으로 분할하고, 각 그룹당 단일 Key-Value 헤드만을 할당하여 MHA와 MQA의 중간 지점을 형성합니다.
  • 품질·속도 균형 및 텐서 병렬화 친화성: 기존 MHA 체크포인트에서 평균 풀링(Mean-Pooling) 후 단 5%의 추가 사전학습(Uptraining)만으로 MHA 수준의 추론 품질과 MQA에 근접한 디코딩 속도를 동시에 달성하며, 다중 GPU 텐서 병렬화(Tensor Parallelism) 시 헤드 복제 낭비를 방지합니다.

3. DeepSeek-V2의 MLA(Multi-Head Latent Attention)와 행렬 흡수 원리

에서 도입된 MLA(Multi-Head Latent Attention)는 헤드 수를 줄이는 방식 대신 저순위 공동 압축(Low-Rank Key-Value Joint Compression)을 통해 MHA보다 높은 모델 표현력을 유지하면서도 KV 캐시를 획기적으로 압축합니다.

  • 압축 잠재 벡터(c_kv) 단일 캐싱: 입력 은닉 상태(Hidden State)를 저차원 잠재 공간(d_c_kv = 512)으로 투영한 압축 벡터 c_kv만을 KV 캐시에 저장합니다. DeepSeek-V2 기준 67B 모델 대비 KV 캐시 메모리를 93.3% 절감하고 최대 생성 처리량을 5.76배 향상시켰습니다.
  • RoPE 디커플링(Decoupled RoPE): 저순위 투영 행렬(W_uk)과 위치 인코딩(RoPE)이 결합되면 행렬 결합 법칙이 깨지는 문제를 해결하기 위해, 위치 민감성용 소형 공유 Key(k_rope)와 Query(q_pe) 차원을 분리하여 별도 연결(Concatenation)합니다.
  • 행렬 흡수(Matrix Absorption): 추론 시 W_uk를 Query 투영 가중치(W_q)에, W_uv를 출력 투영 가중치(W_o)에 미리 곱해 흡수함으로써, 잠재 벡터 c_kv를 매 스텝 전체 차원으로 복원하지 않고도 동일한 어텐션 출력을 연산합니다.

4. 프로덕션 MLA 저순위 잠재 어텐션 PyTorch 모듈 구현

다음은 입력 은닉 상태를 c_kv 잠재 벡터로 압축 캐싱하고 위치 분리(Decoupled RoPE) 어텐션 스코어를 결합하는 PyTorch 기반 MLA 구현체입니다.

5. 어텐션 메커니즘별 KV 캐시 효율 비교 및 프로덕션 도입 가이드

32개 어텐션 헤드, 헤드 차원 128, FP16 정밀도, 시퀀스 길이 128K(단일 요청 기준) 환경에서 MHA, GQA-8, MLA의 토큰당 KV 캐시 크기 및 아키텍처 특성을 비교한 지표는 다음과 같습니다.

표준 MHA (32 헤드) GQA-8 (8 KV 그룹) MLA (d_c_kv=512, d_rope=64)
최고 표현력, 심각한 HBM 대역폭 병목
표준 Llama/Qwen 계열 채택, 하드웨어 친화적

프로덕션 LLM 추론 및 학습 파이프라인에 GQA와 MLA를 적용할 때는 다음 사항을 반드시 설계에 반영해야 합니다.

  • 프리필(Prefill) vs 디코드(Decode) 경로 분리: MLA는 연산 집약적(Compute-bound)인 프리필 단계에서는 표준 Up-Projection 후 FlashAttention을 수행하고, 메모리 대역폭 집약적(Memory-bound)인 디코딩 단계에서는 행렬 흡수(Matrix Absorption) 커널을 적용해 두 구간의 처리량을 모두 극대화해야 합니다.
  • FP8 KV 캐시 양자화 결합: MLA의 압축 잠재 벡터 c_kv에 FP8 양자화를 추가 결합하면 단일 GPU 노드의 동시 배치 수용량을 수배 이상 확장할 수 있습니다.
  • 기존 모델 마이그레이션 시 GQA Uptraining 활용: 처음부터 사전학습할 자원이 제한된 경우 기존 MHA 모델을 GQA로 변환(평균 풀링)해 5% 수준만 추가 학습하는 Uptraining 전략이 비용 대비 효율적입니다.

Similar Posts

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다