이원영 기자
구글에서 윤리적 인공지능팀 기술 리더를 맡았던 팀닛 게브루(Timnit Gebru) 박사가 구글에서 논문 철회나 사임을 요구 받고 결과적으로 구글을 떠나지 않을 수 없는 상황에 몰렸다며 구글에 비난이 집중되고 있다. 구글은 논문 내부 검토가 적절하다고 설명하지만 원래대로라면 구글 내부 기밀이 새지 않게 체크하는 게 목적이어야 할 절차가 검열이고 구글 사내 연구와 논문 모습이 왜곡되고 있다는 지적이 나오고 있다.
2020년 12월 3일(현지시간) 구글에서 팀닛 게브루 박사가 해고됐다는 사실이 알려졌다. 해고 원인이 된 건 구글이 사용하는 AI 언어 모델의 윤리적 문제를 지적한 그의 논문 때문. 게브루 박사는 지금까지 얼굴 인식 기능에 이용되는 AI 관련해 여러 논문을 발표했다. 얼굴 인식 알고리즘은 과거 구글 포토가 흑인을 고릴라로 인식한 사건이 발생한 것처럼 흑인 인식 정확도가 낮다는 문제가 있다. 이 때문에 범죄 수사에 얼굴 인식 소프트웨어를 사용하는 것도 금지되는 방향이며 IBM은 얼굴 인식 시장에서 철수를 표명하고 아마존은 경찰에 의한 기술 사용을 중지하는 조치를 취했다. 게브루 박사가 발표한 논문은 이런 기술 기업 판단에 큰 영향을 미쳤다.
하지만 이번에 게브루 박사가 제출한 새로운 논문을 둘러싸고 구글과 게브루 박사가 대립했고 구글은 논문을 발표하기 위해 내부 검토를 통과해야 하지만 내부 검토 결과 게브루 박사에게 논문을 철회하거나 구글을 나갈 것을 요구했다는 것이다. 게브루 박사는 결국 사임하겠다는 이메일을 보내고 곧바로 구글 측으로부터 사임하라는 취지의 연락을 받았다고 한다.
게브루 박사의 새로운 논문은 구글 자연어 처리 모델인 BERT에 관한 것이다. 구글 AI팀은 2018년 BERT를 만들고 검색엔진에 통합해 큰 성공을 거뒀다. 구글 검색엔진은 2020년 3분기에만 263억 달러 수익을 올리고 있다. 게브루 박사 논문이 BERT에 우려를 나타낸 건 확률적 앵무새의 위험성이 있는 언어 모델이 너무 큰 게 아니냐는 제목 때문이었다.
구글 AI 리더인 제프 딘은 논문 마감 하루 전에 제출 된 것이라며 구글 논문 내용에 문제가 없는지 검토를 받는 건 정상적 과정이라는 말과 함께 게브루 박사 논문은 다수 관련 연구를 무시했다면서 SNS를 통해 수많은 오해가 발생하는 것이며 구글의 대응은 올바른 것이라고 주장했다.
하지만 이런 제프딘의 주장이 처음부터 이상하다는 의견이 많이 나오고 있다. 온라인 게시판에선 팀은 다르지만 자신이 구글 AI팀에서 일하던 때 내부 검토 목적은 구글 지적재산권이 외부에 유출되는지 여부를 확인하는 것이며 그 이상은 아니라는 말로 제프 딘의 설명이야말로 구글이 본래의 목적을 넘어 논문을 검열하도록 하는 걸 나타낸다고 지적했다. 또 한 전문가는 공동 저자 6명이 존재해 이런 종류 논문은 개인과 공동 저자만으론 할 수 없는 것이라며 제프 딘의 추가 연구를 무시하는 건 너무하다는 견해를 부정했다.
게브루 박사는 한 인터뷰에서 자신이 검열 대상이 됐다고 느끼는 것에 대해 밝히며 항상 회사를 행복하게 하는 문제를 지적하지 않는 논문만 발표되는 건 아니며 이는 연구자가 존재하는 의미와 정반대인 것이라고 말했다.
구글 기술 인력 중 여성은 24.7%이며 흑인 여성은 불과 2.4%다. 게브루 박사는 흑인 여성이었기 때문에 이는 게브루 박사가 수행한 것에 대한 보복이며 구글 윤리와 AI팀에서 일하는 특히 유색 인종이 위기에 노출됐다는 걸 의미한다는 항의 이메일이 쏟아지고 있다. 또 1,200명 이상 구글 직원과 1,500명이 넘는 학계에서 서한에 서명했다. 이에 대해 구글 측은 성명 외에의 논평을 거부하고 있다.
한편 이 사건에 대해 순다르 피차이 구글 CEO가 전 직원 앞으로 이메일을 보냈다. 그가 보낸 이메일 내용은 인종 평등과 AI 윤리에 관한 자사의 노력이라는 제목을 달고 있다. 그는 올해 가장 자랑스러운 것 가운데 하나는 구글러가 하나가 되어 인종 평등 문제에 착수했다는 것이라면서 어렵고 중요한 일에 더 좋은 결과를 끌어내겠다는 결의가 있지만 아직까지 배우고 개선해야 할 일이 많다고 말했다. 중요한 건 게브루 박사가 회사를 떠난 것 같은 경험에서 배울 수 있다고 덧붙였다.
이 사건은 일부 직원에게 의문을 심어줬다면서 이에 대해 사과하며 신뢰를 회복할 책임이 자신에게 있다고 밝혔다. 첫째는 구글은 게브루 박사가 회사를 떠나게 된 상태를 확인하고 더 자세한 사정을 포함한 절차 등 개선해야 할 점을 확인해야 한다고 말했다. 무슨 일이 있었는지 확인해 단계적 축소 전략에서 도입 과정까지 모든 포인트를 확인해야 하며 제프 딘과 자신이 대화를 하며 이에 대해 착수하고 있다고 설명했다. 구글 엔지니어링 문화가 가진 훌륭한 측면 중 하나는 잘못이 무엇이고 어떻게 개선할 수 있을지 이해하려고 노력하는 성실한 욕망이라고 덧붙였다.
다음은 흑인이고 여성이며 헤아릴 수 없는 재능을 가진 훌륭한 리더가 구글을 떠났다는 사실을 책임감 있게 받아들일 필요가 있다는 것. 게브루 박사 사건은 직원들에게 파급 효과를 줄 것이며 게브루 박사가 앞으로 발전하고 AI 윤리에서 중요한 분야 전문가라면서 진보는 구글에게 도전적 질문을 할 능력을 좌우하는 만큼 우리는 계속 진보해야 한다는 걸 강하게 느꼈다고 설명했다. 또 올초 고용과 승진 등 시스템과 리더십 책임에 대한 노력을 쇄신하고 광범위한 인종 평등에 대한 대처를 발표했을 때 논의를 시작했다며 이번에 일어난 고통은 중요한 사건이며 아직도 할 일이 있다는 걸 생각하게 만들었다고 말했다.
그는 구글을 이끄는 이들에게 이는 중요한 과제라며 올해 보였던 에너지를 현실 변화로 바꾸는 작업을 2021년 이후에도 계속할 것이라고 약속했다.
다만 게브루 박사 사건에 대해선 구글은 사임이라고 말하는 한편 게브루 박사는 실질적인 해고라고 주장하고 있다. 순다르 피차이 CEO는 게브루 박사가 회사를 떠난 걸 타격이라고 표현했지만 사임인지 해고인지 여부는 언급하지 않았다. 또 게브루 박사에 대한 구글의 대응에 대해 피차이 CEO는 실수였다고 언급했지만 이메일에서 구체적인 노력을 언급했기 때문에 구글이 실제로 어느 정도 문제 해결에 노력하고 있는지 여부를 이메일 내용만으로는 알 수 없다는 지적이 나온다. 관련 내용은 이곳에서 확인할 수 있다.
이석원 기자
정용환 기자
