애플‧퀄컴‧AMD GPU서 AI 대화 유출 취약성 발견

보안 기업인 트레일오브비츠(Trail of Bits)가 애플, 퀄컴, AMD GPU 상 프로세스에 의해 작성된 GPU 메모리로부터 데이터를 복원할 수 있게 하는 취약성인 LettoverLocals(CVE-2023-4969)에 대한 조사 결과를 공표했다.

이 취약점은 GPU를 사용하는 애플리케이션이 로컬 메모리에 있는 다른 데이터에 액세스할 수 있게 되는 것이다. GPU에는 자주 사용되는 데이터를 일시 저장하는 고속 메모리 영역인 로컬 메모리가 있지만 LettoverLocals 취약성이 있는 GPU에선 로컬 메모리가 제대로 지워지지 않기 때문에 악성 애플리케이션을 다른 앱에서 사용한 로컬 메모리 데이터를 훔칠 수 있다.

LettoverLocals를 이용하면 이미지 처리나 드로잉 등 GPU 로컬 메모리를 사용하는 애플리케이션이라면 뭐든 공격 대상이 될 수 있다. LettoverLocals를 악용하려는 공격자는 먼저 로컬 메모리 데이터를 반복적으로 읽고 LLM 실행 데이터에서 가중치, 활성화 관련 데이터를 훔치고 사용 중인 LLM을 식별한다. 그런 다음 공격자는 모델 출력 레이어에서 데이터를 훔치고 로컬 메모리에 저장된 입력을 추출해 출력을 재현, LLM 응답을 복원한다.

트레일오브비츠 측은 개념증명을 통해 높은 정확도로 LLM 출력을 재구성할 수 있다는 걸 보여줬다. 구체적으론 AMD GPU인 라데온 RX 7900 XT에서 실행한 LLM에서 파라미터 수가 7B인 모델 응답을 완전히 재현하기에는 충분한 181MB 데이터를 훔칠 수 있다는 것.

트레일오브비츠 측은 엔비디아, 인텔, ARM GPU는 LeftoverLocals 취약점을 찾지 못했지만 애플, 퀄컴, AMD 제품에는 이 취약점이 포함되어 있다고 보고했다. 이는 전술한 라데온 RX 7900 XT와 같은 게이머에게도 인기인 GPU나 아이폰, 맥북 등 애플 기기 등이 공격 대상이 될 수 있는 걸 의미하고 있다.

트레일오브비츠 측은 이들 GPU 안전성이 낮고 상당한 데이터가 유출된다는 더 광범위한 보안 문제가 있다고 밝혔다. 2023년 9월 이 취약점을 발견한 이후 트레일오브비츠는 보안기관을 통해 여러 GPU 제조업체에 취약성에 대한 정보를 제공했다. 기업마다 LeftoverLocals에 대한 대응에 나섰다.

애플은 2023년 말 발표한 M3 프로세서와 A17 프로세서에서 핫픽스를 적용했다고 밝혔다. 다만 이전 세대 애플 칩을 탑재하고 있는 아이폰이나 아이패드, 맥북에는 이 취약성이 남아 있어 트레일오브비츠는 2024년 1월 10일 테스트로 A12 탑재 3세대 아이패드에어에선 수정 패치가 적용됐지만 M2가 장착된 맥북 에어는 여전히 LeftoverLocals 영향을 받고 있다고 확인했다.

퀄컴은 고객에게 보안 업데이트를 제공 중이라고 밝혔다. 구글은 이 취약점을 인식하고 있다며 AMD와 퀄컴 GPU가 장착된 크롬OS 기기용 핫픽스를 출시했다고 밝혔다. 주요 GPU 제조사는 대응을 진행하고 있지만 취약한 GPU가 많이 남아 있기 때문에 회사 측은 GPU 업계 전체에서 더 강력한 사양 책정이나 테스트 실시, 감사 체제 구축 등이 필요하다고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.