챗GPT 잘못된 답변에…성명까지 발표한 기업

대화형 AI인 챗GPT는 코딩 시험에 합격하거나 복잡한 플러그인을 5분 안에 완성할 만한 실력을 갖췄지만 때론 전혀 잘못된 답변을 하기도 한다. 챗GPT가 전화번호에서 위치를 파악하는 API를 어떤 기업이 제공하고 있다고 대답하는 예가 빈번하다는 사실을 듣고 해당 기업이 문의에 지쳐서 그런 일이 없다고 성명을 내는 일이 발생했다.

주소에서 위도, 경도를 계산하거나 반대 API를 제공하는 기업인 오픈케이지(OpenCage)에 따르면 최근 챗GPT가 오픈케이지 API를 이용하면 전화번호로부터 단말 위치를 판별할 수 있다는 답을 하는 예가 늘고 있다고 한다. 하지만 오픈케이지 측에 따르면 이런 API는 제공하지 않으며 앞으로도 제공할 예정도 없다고 한다. 챗GPT를 믿고 오픈케이지를 이용하려는 사용자가 늘고 있다는 우려를 사용자에게 전한 것.

실제로 챗GPT가 안내하는 기능은 오픈케이지의 기술적으로 제공 불가능한 기능이라고 한다. 하지만 챗GPT가 말하는 걸 진짜로 받아들인 사용자로부터 매일 같이 왜 안 되냐는 문의가 오고 있다고 한다. 오픈케이지 측은 왜 챗GPT가 이 서비스를 안내했는지 궁금할지도 모르지만 확실히 이전에 다뤘던 유튜브 내 잘못된 튜토리얼 때문이라며 챗GPT가 이 내용을 골라 답한 것이라고 지적한다. 오픈케이지는 2022년 4월 경에도 전화번호를 입력하는 것만으로 단말 위치를 빼낼 수 있다는 게 진짜냐는 문의를 받았지만 이 때 오픈케이지 사용 방법을 소개하는 유튜버 정보가 잘못되어 있는 게 판명된 바 있다.

1년 이상 지나 다시 같은 문제가 떠오른 것에 대해 오픈케이지 측은 중요한 차이는 다른 사람으로부터 조언을 받을 때에는 의심할 수 있지만 일반적인 AI나 챗GPT에 대해선 완전히 의심하지 않는다는 것이라며 이전에 영상을 본 사용자는 1명만 대처하면 그만이었지만 이번에는 규모가 몇 배는 커지고 있다고 지적했다. 이 성명을 앞으로 문의해온 사람에게 보여주기 위해서도 남겨두겠다며 마지막으로 이 글은 AI가 아니라 인간이 쓴 것이라고 덧붙였다. 관련 내용은 이곳에서 확인할 수 있다.