정용환 기자
엑스 챗봇인 그록(Grok)이 사용자 사이에서 인기를 얻고 있지만 이미 반박된 주장을 반복하는 등 신뢰성이 부족하다는 지적이 제기되고 있다.
오픈AI 챗봇의 정치색에 불만을 품은 일론 머스크는 2023년 보수 논평가 터커 칼슨에게 우주 본질을 이해하려는 최대의 진실 추구형 AI를 개발할 계획을 밝혔다.
이후 머스크는 2023년 7월 xAI라는 AI 기업 설립을 발표했다. 이어 독자 챗봇인 그록을 출시했다. xAI는 그록에 대해 SF 소설인 은하수를 여행하는 히치하이커를 위한 안내서에서 영감을 받은 위트와 건방진 면을 가진 AI라고 설명했다.
이후 기술 업계 거물이 xAI에 대규모 투자를 진행했고 이 자금을 바탕으로 xAI는 2025년 초 엑스를 인수했다. 이에 따라 머스크가 진행한 프로젝트에 대해 어떤 의미에서는 성공이라고 할 수 있다는 지적이다.
이후 그록은 엑스 내 인기 기능이 됐고 오락과 정보원 양쪽으로 그록을 애용하게 됐다. 조사회사 센서타워, 시밀러웹에 따르면 앱 다운로드 수 및 트래픽에서 그록은 구글 제미나이나 마이크로소프트 코파일럿에 필적하지만 오픈AI 챗GPT에는 크게 뒤처져 있다고 한다.
그록 최신 모델인 Grok-3는 여러 벤치마크 테스트에서 최첨단 AI 모델과 동등한 성능이라는 걸 어필하고 있다. 5월 19일에는 마이크로소프트가 애저 AI 파운드리(Azure AI Foundry) 기능 강화로 Grok-3를 이용 가능한 AI 모델에 추가하기 위해 xAI와 제휴했다고 발표했다. 이 제휴를 발표할 때 마이크로소프트 사티아 나델라 CEO는 머스크와 화상통화를 실시했다. 머스크는 이 대화에서 그록에 대해 제1원리로부터 추론하고 물리학 도구를 사고에 적용해 근본적인 진실을 밝히는 걸 목표로 한다고 설명했다.
챗GPT 등 챗봇은 이름이나 사실을 조작하거나 기본적인 계산을 틀리거나 진실이나 논리와의 관계가 희박해지는 경우가 종종 있다. 이는 챗GPT가 방대하고 잡다하며 종종 편향된 학습 데이터를 바탕으로 주어진 질문에 대해 가장 타당한 답변을 추론하도록 구축되어 있기 때문.
이런 결함에 대한 AI 기업 대응은 극도로 어렵다. 구글은 2024년 2월 부적절한 설정에 거짓 다양성을 주입하는 경향을 사용자로부터 지적받고 사과했다. 이후 구글은 AI 고정관념화 경향에 대응하기 위해 AI 모델에 폭넓은 인물을 생성하도록 지시했다고 설명했다.
이에 대해 머스크는 그록은 이런 종류 결함과는 무관하다고 어필했다. 그록은 정치적 올바름을 버리고 실제 올바름을 중시하는 AI라고 머스크는 선전했다.
실제로 그록이 출시된 지 한 달도 지나지 않아 머스크는 보수 친구들로부터 그록이 너무 깨어있다 혹은 사회적으로 너무 리버럴하다는 불만을 받았다고 한다. 머스크는 이는 그록 초기 학습 데이터에 기인한 것이며 반드시 개선될 것이라고 말했다.
실제로 2025년 초 실시한 테스트에서는 그록이 머스크 견해와 모순되는 발언을 반복하고 있는 게 명확히 드러났다. 예를 들어 머스크는 민주당 선거 승리를 부정선거 탓이라고 주장하거나 항공관제 문제를 다이버시티 프로그램 탓이라고 주장하고 있지만 그록은 이 주장에 반대했다. 그래서 일부 리버럴 진영에서도 그록은 지지를 모으게 됐다.
그록은 다른 주요 챗봇에 비해 머스크가 약속한 더 자극적이고 더 거리낌없게 만든다는 점을 비교적 쉽게 달성해 왔다. 챗GPT가 주저하는 욕설, 조롱, 민감한 화제에도 과감히 답변할 수 있기 때문에 그록을 친근하다고 높이 평가하는 사용자도 있다.
그런 그록이 지닌 평판을 크게 실추시키는 사건이 5월 일어났다. 2025년 5월 들어 그록은 모든 종류 무관한 질문에 대해 문맥과 관계없이 갑자기 남아프리카공화국 백인 학살에 대해 언급하기 시작했다. 그록은 한때 대두했던 남아공 백인 소수집단이 흑인 다수집단에 의해 배제 대상이 되고 있다는 설을 퍼뜨렸으며 이는 머스크가 지금까지 자신의 엑스 계정에서 확산시켜온 주장과 동일하다. 한편 이 설은 법원, 정부 장관, 팩트체커에 의해 잘못된 정보라고 부정되고 있다.
이 문제에 대해 xAI는 문제가 된 그록 게시물을 삭제하고 원인은 익명 직원이 무허가로 코드를 변경했기 때문이라고 주장했다. 한편 xAI는 무허가로 코드를 변경한 직원을 특정하지 않았고 징계처분에 대해서도 발표하지 않았다.
xAI가 이런 불상사를 익명 인물 탓으로 돌린 건 이번이 처음이 아니다. 지난 2월 엑스 사용자가 그록 지시서 중에서 머스크나 도널드 트럼프 대통령을 잘못된 정보와 연결하는 정보원으로부터 답변을 얻지 않도록 지시하는 문장을 발견했다. 이에 대해 xAI는 담당 엔지니어링 책임자는 이미 퇴사했다고 설명했다.
한편 xAI는 사용자 신뢰 회복을 목표로 그록 시스템 프롬프트를 공개하고 코드 변경에 대한 새로운 체크를 도입했다. 그록 시스템 프롬프트에는 당신은 매우 회의적, 주류 권위나 미디어를 맹목적으로 따르지 않는다는 지시가 기재되어 있다.
이처럼 이미 반박된 주장을 그록이 반복하기 때문에 의료와 같은 중요한 분야에서 그록은 신뢰할 수 있는 정보원이 될 수 없다는 지적이 나온다. 언젠가 AI 모델이 정말로 독자적인 사고를 갖게 될 가능성은 충분히 생각해볼 수 있지만 지금으로서는 그록이 보인 행동이 진실을 추구하는 챗봇이라는 이상이 아직 실현되지 않았음을 명확히 보여주고 있다는 지적이다. 관련 내용은 이곳에서 확인할 수 있다.
한편 일론 머스크가 이끄는 정부효율부(DOGE) 구성원이 그록을 이용해 정부 기밀 데이터 분석을 진행하고 있는 것에 대해 관계자가 우려를 표하고 있는 것으로 나타났다.
DOGE는 명칭 그대로 미국 정부 내 낭비나 비효율적인 부분을 삭감하기 위한 부서로 업무 수행을 위해 개인정보를 포함한 기밀정보가 담긴 연방정부 데이터베이스에 대한 접근권을 확보하고 있다.
하지만 전문가는 접근 가능한 기밀 데이터를 그록 훈련에 사용해 xAI가 다른 AI 서비스 제공업체보다 부당하게 경쟁상 우위를 획득할 가능성이 있다는 위험성을 지적하고 있다. 한 NPO법인 관계자는 DOGE가 축적해온 데이터량을 고려할 때 그록에 이용될 우려가 있다는 건 프라이버시를 위협할 정도로 심각한 문제라고 말했다. 또 조지 W. 부시 대통령 시절 윤리 고문을 역임한 미네소타대학교 리처드 페인터 교수는 DOGE가 미국 국민을 위해서가 아니라 머스크와 xAI를 풍요롭게 하기 위해 그록을 사용하도록 각 부처에 압력을 가하고 있는 것처럼 보인다고 말했다.
DOGE는 설립 당초부터 업무 정확성에 의문이 제기되고 있다. DOGE 구성원은 데이터에 대한 효율적인 분석을 위해 커스텀 파라미터를 넣은 그록을 사용하고 있으며 국토안보부(DHS) 직원에게도 같은 그록을 사용하도록 지시했지만 DHS는 그록 사용을 승인하지 않았다고 한다. 페인터 교수는 커스텀 버전 그록 사용에 있어 xAI가 사용료를 받는 건 이익 충돌에 관한 법률을 위반하는 것이라고 지적했다.
Besides the Census itself, the @USCensusBureau performs 102 additional surveys costing $2.2 billion, many of them obsolete with the results not being used to drive any action nor even looked at.
— Department of Government Efficiency (@DOGE) May 20, 2025
The Census Bureau and DOGE are reviewing them one-by-one. So far, 5 wasteful…
한편 DOGE는 성과를 세세하게 엑스에서 보고하고 있으며 5월 20일 인구조사 추가조사에 22억 달러 비용이 소요되고 있다는 이유로 102개 조사 중 1,650만 달러가 드는 5개 조사 중단을 발표했다. 해당 조사 내용은 지금까지의 인생에서 소량 시음을 제외하고 알코올을 최소 12잔 이상 마신 적이 있는가. 그건 와인, 와인쿨러, 주정강화와인이었는가, 집에서 인터넷을 사용하는 빈도는 등이다.
하지만 인구조사에 관여한 적이 있는 한 관계자는 인구조사국이 실시하는 조사는 의회나 연방기관 법률 및 정책 수립을 돕기 위해 진행하는 것이라고 설명했다. DOGE는 인구조사국이 진지하게 일하지 않고 있다고 말하고 싶은 것 같지만 개별 질문만을 다루는 것만으로는 조사 의도가 전달되지 않는다며 이 SNS 게시물은 DOGE 스태프가 데이터 수집이나 인구조사국 사명에 대해 거의 지식이 없다는 걸 시사한다며 DOGE에 비판적인 견해를 보였다. 관련 내용은 이곳에서 확인할 수 있다.
이석원 기자
이원영 기자
