익명 체스 플레이어 정체 확인 가능한 AI

복잡한 영역에서 인간 의사 결정 능력을 뛰어넘는 AI 출현으로 장기나 바둑, 체스, 전략 게임 등에서 AI가 인간을 능가하게 됐다. 이런 가운데 체스 말을 옮기는 것에서 플레이어가 누구인지를 높은 정밀도로 특정할 수 있는 AI가 발표되어 온라인 체스에 있어 프라이버시가 위협받는 것 아니냐는 우려가 나오고 있다.

2021년 토론토대학 연구팀은 기계학습 모델을 통해 체스 플레이 스타일에서 개인을 확인하는 기술을 발표했다. 연구팀은 온라인 체스 사이트(Lichess)에서 적어도 1,000회 이상 대국한 플레이어 5,000만 경기 기보를 준비하고 이 가운데 최대 32손을 샘플링해 코드화해 AI에 학습시켰다. 이어 플레이어 3,000명으로부터 1인당 100경기분 기보, 3,000명에서 뽑은 1명이 새롭게 실시한 100경기분 기보를 첫 15수분을 숨긴 상태로 AI에 분석하게 했다.

그 결과 AI는 86% 정확도로 선출된 플레이어를 확인하는데 성공했다고 한다. 덧붙여 AI를 사용하지 않고 같은 추측을 실시했는데 정밀도는 불과 28%였다. 따라서 AI 분석 정밀도가 높다는 걸 알 수 있다.

연구팀은 일반 체스 인공지능이 거의 이질적인 스타일로 플레이하기 때문에 학습과 기술을 목표로 하는 사람에게는 그다지 유익하지 않다고 말한다. 체스 학습과 스킬업에서 요구되는 건 개별 플레이어 플레이 스타일에 맞는 조언이며 이를 위해서도 AI가 플레이어의 독특한 폼을 파악할 필요가 있다고 말한다.

하지만 또 다른 연구팀 소속원은 이 AI는 프라이버시 침해 위험이 있다고 인식하고 있으며 온라인에서 익명 체스 플레이어 정체를 폭로하는데 사용될 수 있다고 지적한다. AI를 조정하면 포커에서도 똑같은 게 가능하게 되며 이론상 데이터세트만 준비할 수 있다면 운전 버릇이나 휴대전화를 사용하는 시기나 장소에서 인물을 특정할 수 있을 것이라고 말한다.

한 변호사는 프라이버시 위협이 빠르게 높아지고 있다며 책임 있는 연구가 이뤄지면 AI에 의한 프라이버시 침해가 주목된다는 의미에서 이번 연구 결과는 유용하다고 말한다. 또 연구를 발표한 NeurIPS 주최 측은 체스 AI에서 플레이어를 특정한다는 연구는 기술적으로 훌륭하지만 윤리적으론 문제가 있다고 말하며 프라이버시 위험에 대해 자세히 언급하는 조건으로 연구 발표를 인정했다고 밝히기도 했다. 연구팀은 해당 AI 소스코드르르 공개하지 않는 걸 표명하고 있다. 관련 내용은 이곳에서 확인할 수 있다.