마이크로소프트, 오픈소스 기계학습 보안 프레임워크 선보여

기계학습은 금융과 의료, 군사 등 분야에서 비약적 발전을 이루고 있을 뿐 아니라 시민 생활에도 큰 영향을 주고 있다. 하지만 마이크로소프트는 기계학습에 대한 관심이 높아지고 있음에도 기계학습 시스템에 대한 사이버 공격 대책은 미흡하다며 기계학습에 대한 공격을 탐지, 대응, 수정할 수 있는 기업용 오픈 프레임워크(Adversarial ML Threat Matrix)를 출시했다.

마이크로소프트는 2016년부터 상용 기계학습 시스템을 노린 사이버 공격이 급격하게 증가하고 있다는 걸 확인하고 시장조사기관 가트너 역시 AI를 이용한 사이버 공격에 대해 학습 데이터 오염 공격 등 기계학습을 대상으로 한 공격은 2022년까지 전체 중 30%에 달할 것이라는 예측을 발표했다.

기계학습에 대한 사이버 공격 위험은 나날이 높아지고 있다고 할 수 있지만 다른 한편으론 기계학습에 대한 위기감이 높아지지 않는다. 마이크로소프트 조사에 따르면 조사 대상 28개사 중 25곳이 기계학습 시스템 보안 도구를 갖고 있지 않다고 답했다고 한다. 마이크로소프트는 이런 현상을 타파하기 위해 취약점 식별자 CVE를 번호 지정하는 것으로 알려진 미국 정부 지원을 받는 비영리 연구기관 MITRE 등과 협력해 기계학습에 대한 오픈소스 보안 프레임워크를 공개한 것이다.

이 도구는 보안 담당자를 상정한 기업용이다. 기계학습 시스템에 대한 새로운 위협에 대응하기 위한 프레임워크를 제공하고 보안 전문가 사이에서 일반으로 이용하는 MITRE ATT&CK프레임워크와 비슷한 구조를 채택하고 있다. 마이크로소프트와 MITRE는 프로덕션 환경에서 취약점과 공격 세트를 확인하고 이 도구에 대한 효과를 조사한다고 밝히고 있다.

마이크로소프트는 기계학습에 대한 공격은 중요한 연구 분야이기 때문에 토론토대학, 카디프대학, 카네기멜론대학 등 소속 전문가로부터 의견을 수집하고 도구 공개 시점에 맞춰 이 프레임워크에 대한 피드백을 모집하고 있다. 관련 내용은 이곳에서 확인할 수 있다.