AI 진화에 따라 체스나 장기 같은 지능 게임에서 AI가 프로 기사에게 승리하는 경우가 늘어나고 있지만 2016년 1월 구글 알파고(AlphaGo)가 바둑 프로 기사에게 승리한 걸 시작으로 2개월 뒤에는 세계 최강 기사 중 하나인 이세돌 9단에게 이기고 2017년에는 자력으로 전술을 기억해 강해질 수 있는 새로운 버전인 알파고 제로(AlphaGo Zero) 발표 등 바둑 세계에서 AI는 압도적 승자로 군림해왔다. 이런 가운데 아마추어 바둑 플레이어가 컴퓨터의 직접적 지원 없이 최강 레벨 바둑 AI에 15전 14승을 기록해 AI에 대한 인류의 승리라며 화제가 되고 있다.
구글이 인수한 딥마인드가 개발한 바둑 AI인 알파고는 통산 1,000승이라는 압도적 성적을 거둔 세계 최고 바둑 기사인 이세돌 9단과 5번 승부에서 4-1로 승리했고 2016년에는 바둑에서 처음으로 AI가 인간을 웃돌았다는 평가를 받았다. 이세돌 9단은 4차전에서 승리를 했을 때에도 알파고 버그로 승리했을 뿐이라고 밝히고 2019년 프로 기사를 은퇴할 때에는 자신이 1위가 되어도 넘을 수 없는 존재가 있다는 말로 알파고의 압도적인 힘이 은퇴 이유 중 하나라는 걸 암시하기도 했다.
바둑 플레이어에게 AI가 상당한 위협이 되는 가운데 미국 아마추어 플레이어인 켈린 펠린은 지금까지 알려지지 않았던 바둑AI 결함을 이용해 알파고에 필적하는 수준인 바둑AI에 15경기 중 14경기에서 승리했다. AI 결함 자체는 컴퓨터에 의한 분석으로 특정하고 있지만 대국할 때에는 컴퓨터의 직접적 지원 없이 진행했다고 한다. AI 결함을 발견한 연구 기업인 파AI(FAR AI) 측은 이번 승리로 오픈AI의 챗GPT 등 현재 널리 쓰이는 대부분 AI 시스템에 공통적인 약점이 부각되고 있다고 지적하고 있다.
파AI가 설계한 프로그램은 바둑 최고 수준 시스템 중 하나인 카타고(KataGo)와 100만 대국 이상을 대전해 인간 플레이어가 이용할 수 있는 맹점을 발견했다. 과거에는 미국 코넬대학에서 진행한 연구도 마찬가지로 카타고 상대에게 99% 이길 수 있는 방법을 찾았지만 코넬대학 전법은 카타고 강화학습 방법을 이용한 특수한 것인 반면 파AI 방법은 중급 수준 플레이어라면 AI를 이기는 비교적 간단한 것으로 실제와 같은 전술을 이용해 다른 최고 수준 바둑 시스템인 리라제로(Leela Zero)에도 승리했다.
아마추어 바둑 플레이어가 실제로 사용한 전술은 천천히 돌로 큰 고리를 만드는 것으로 상대방 진지 중 하나를 둘러싸고 그 사이 다른 구석에서 손을 치고 AI 주의를 돌리는 것이다. 주변이 거의 완성되어도 바둑AI는 현재의 불리를 눈치채지 못한다. 알파고를 간단하게 이기는 방법은 바둑을 효과적으로 플레이하는 건 아니라며 인간이라면 주의를 돌리는 작전에 속지 않고 불리한 상황에선 간단하게 깨질 수 있는 것이다.
바둑AI가 패배한 정확한 원인은 추측 영역을 나오지 않는 것으로 가능성이 높은 이유로 생각되는 건 실제로 거의 사용되지 않기 때문에 AI 시스템이 충분히 훈련받지 못했다는 점을 든다. 이번에 사용된 것처럼 AI가 상대라는 걸 이용한 공격에 노출됐을 때 AI 시스템에 결함이 발견되는 건 AI 연구에서 자주 있는 일이라고 말한다.
한 전문가는 첨단 바둑 AI 중 하나에서 취약성이 발견된 건 현재 첨단 AI를 지원하는 심층학습 시스템의 근본적인 결함을 시사한다면서 시스템은 과거 경험한 특정 상황만 이해할 수 있고 인간이 쉽게 이해할 수 있는 방식으로 경험과 현재 상황을 일반화할 수 없다고 지적한다. 관련 내용은 이곳에서 확인할 수 있다.