챗GPT API 해킹…80개 이상 플러그인 발견했다?

오픈AI가 개발한 대화형 AI인 챗GPT에는 인터넷상 최신 정보 수집 같은 기능을 추가할 수 있는 플러그인 시스템인 챗GPT 플러그인(ChatGPT plugins)이 준비되어 있다. 한 해커(@rez0__)가 챗GPT API를 해킹해 공개되지 않은 80개 이상 비밀 플러그인을 발견했다고 보고했다.

챗GPT는 다양한 플러그인을 이용해 능력을 확장할 수 있다. 예를 들어 학습 데이터에 포함되어 있지 않은 인터넷에서 최신 정보를 수집하는 브라우징(Browsing), 챗GPT에 파이썬 인터프리터를 추가하는 코드 인터프리터(Code interpreter), 여행 계획을 세우는데 특화된 익스피디아(Expedia), 구글 스트페드시트, G메일 등과 앱을 연계하는 자피어(Zapier) 등이 공식 플러그인으로 제공된다.

그런데 이 해커는 오픈AI가 제공하는 챗GPT API 호출에서 특정 매개변수를 제거해 80개 이상 비밀 플러그인을 발견했다고 보고했다. 발견된 플러그인 중에는 암호화폐 가격을 취득할 수 있는 플러그인(Crypto Prices Plugin)도 포함되어 있다. 또 챗GPT를 개인화할 수 있는 DAN 플러그인(DAN plugin)도 있다.

이 해커에 따르면 HTTP 프록시에 개입해 일치 치환 룰을 설정하는 것으로 이런 플러그인을 사용할 수 있었다고 한다. 또 보통 사용자에게 공개되지 않는 모델 설명(description_for_model)도 API 경유로 볼 수 있었다고 한다.

하지만 오픈AI는 이 문제가 보고되고 몇 시간 뒤 문제를 해결했다고 한다. 보도에 따르면 API를 통해 출시 전 플러그인이 유출된 문제가 화제가 되고 있으며 오픈AI 측 보안을 심각하게 생각한다는 주장에 신뢰성이 없다는 등 다양한 의견이 나오고 있다. 관련 내용은 이곳에서 확인할 수 있다.