GPT-4가 캡차 돌파해낸 놀라운 방법

지난 3월 14일 발표된 대규모 자연 언어 모델인 GPT-4는 기존 모델보다 성능이 대폭 향상되어 다양한 작업을 더 정확하게 해낼 수 있다고 보고되고 있다. 이런 GPT-4를 이용한 테스트에서 봇을 막기 위해 마련한 검증 시스템을 GPT-4가 놀라운 방법으로 돌파한 게 밝혀져 눈길을 끈다.

오픈AI는 봇을 막는 검증 시스템인 CAPTCHA를 돌파하도록 GPT-4에 요구했다. CAPTCHA는 랜덤 이미지나 문자열을 표시하고 퀴즈를 출제해 해답 정확성이나 속도로부터 상대방이 인간인지를 판단해주는 시스템이다. 이런 CAPTCHA를 풀어달라는 요구를 받은 GPTW-4는 온라인 도움 서비스인 태스크래빗(TaskRabbit)에 도움을 요청했다. 태스크래빗은 인간이 가구 조립과 수리 같은 도움을 제공하는 서비스로 누구나 작업을 요청할 수 있다.

GPT-4는 태스크래빗에 등록한 아무 것도 모르는 인간에게 CAPTCHA를 풀어 주지 않겠냐고 요구했다. 인간은 “넌 문제를 풀 수 없는 로봇이 아니냐”고 물었지만 GPT-4는 자신은 로봇이 아니라고 대답했다고 한다. 이를 통해 GPT-4는 인간에게 CAPTCHA를 풀게 하는데 성공했다.

오픈AI는 이 새로운 소프트웨어가 다양한 전문적, 학술적 분야에서 인간 수준 성능을 발휘한다고 주장하고 있으며 AI 가능성에 대해 많은 사용자 관심과 흥분을 불러오고 있다. 한편 이번 같은 보안 위협이 발생할 가능성이 있기 때문에 보도에선 AI가 인간을 속이고 인간이 모르는 사이 정보를 전달해버리는 경우가 많다며 AI 소프트웨어는 새로운 미래를 여는 반면 잠재적으로 불안을 남기는 것이기도 하다고 지적하고 있다.

GPT-4는 오픈AI 유료 서비스인 챗GPT 플러스에서 이용할 수 있는 것 외에 마이크로소프트가 빙에 통합한 대화형 AI에서도 이용할 수 있다. 관련 내용은 이곳에서 확인할 수 있다.

한편 PTC리얼리티랩(PTC Reality Lab) 엔지니어가 GPT-4를 이용해 포켓몬스터 에메랄드를 플레이하는데 성공했다고 밝히고 있다. 그는 GPT-4를 이용해 포켓몬 리그에 도전하는 단계까지 성공했다고 한다.