생성형 AI와 탄소발자국

암호화폐 채굴은 컴퓨터를 혹사하기 때문에 환경에 대한 영향이 지적되어 왔다. 이제 제너레이티브 AI에서도 같은 문제가 지적되고 있다. 대답을 출력하는 서버를 실행시키려면 방대한 물과 전력이 필요하다. 전 세계 업무에 큰 영향을 미치는 제너레이티브 AI가 환경에는 어떤 영향을 미칠까.

보스턴대학 컴퓨터과학 교수인 케이트 사엔토(Kate Saenko)가 제너레이티브 AI와 환경에 대해 해설했다. 이에 따즈면 제너레이브란 AI 알고리즘이 복잡한 데이터를 생산하는 능력을 말한다. 제너레이티브 AI는 문장이나 이미지, 숏폼 영상 등 복잡한 출력이 가능하다. 음성 응답을 생성하는 스마트 스피커와 검색 단어 제안 등 제너레이티브 AI 자체는 이전부터 널리 사용되어 왔다. 하지만 인간의 말 같은 텍스트나 사실적 이미지를 생성할 수 있게 된 건 최근의 일이다.

물론 AI가 강력해질수록 더 많은 에너지가 필요하다. 강력한 제너레이티브 AI 출현은 탄소 발자국에 어떤 영향을 미칠까. 한 AI 모델에 필요한 에너지 비용을 정확하게 예측하는 건 어렵다. 2019년 연구자에 의해 밝혀진 건 1억 1,000만 파라미터를 갖춘 제너레이티브 AI 모델인 바트(Bart)가 소비하는 에너지는 대륙 횡단 왕복 1인분 비행기 소비 에너지와 같다고 한다. 파라미터는 AI 모델 크기를 나타내며 파라미터가 큰 모델일수록 스킬이 높다.

오픈AI 대규모 언어 모델인 GPT-3 파라미터는 1,750억으로 상당하며 연구자 예측으로는 1,287메가와트시 전력을 소비해 552톤 이산화탄소를 배출하고 있다고 한다. 이산화탄소 552톤 배출은 가솔란차 123대분 1년치 배출량에 해당한다. 다만 이 수치는 전 세계 사용자가 챗GPT를 사용하기 전 얘기다.

파라미터 수 그러니까 크기만으로 탄소 배출량이 결정되는 건 아니다. 예를 들어 프랑스 빅사이언스(BigScience) 프로젝트가 개발한 오픈 액세스 블룸(BLOOM) 모델 크기는 GPT-3에 가깝지만 탄소 배출량은 낮고 소비전력은 433메가와트일 때 이산화탄소 배출량은 30톤이다.

구글 연구에 따르면 같은 크기 모델에서도 더 효율적인 설계, 프로세서, 그린 데이터센터를 활용해 탄소 배출량을 100배에서 1,000배까지 줄일 수 있다고 한다.

한편 구글과 마이크로소프트가 자사 검색엔진에 AI 언어 모델을 통합해 채팅봇과 이미지 생성이 더 보급되면서 일상적 쿼리 수가 급격하게 증가할 수 있다. 이는 큰 모델이어서 많은 에너지를 소비한다. 제너레이티브 AI 쿼리 하나에 대한 탄소 배출량 등 데이터에는 한계가 있지만 업계 예측으로는 검색엔진에서 1쿼리당 4배에서 5배에 상당한다고 한다.

몇 년 전까지 바트와 GPT라는 모델을 사용했던 건 주로 연구자였다. 이게 바뀐 건 2022년 11월 30일 오픈AI가 챗GPT를 릴리스한 날이다. 공개된 최신 데이터에 따르면 지난 3월 챗GPT 액세스 수는 15억 회가 넘는다. 마이크로소프트는 지난 5월 4일 챗GPT를 자체 검색 엔진인 빙에 도입했다. 만일 채팅봇이 현재 검색엔진만큼 일반적인 존재가 된다면 AI 에너지 비용은 증가할 것이다. AI 어시스턴트는 검색에 그치지 않고 문서 작성과 수학 문제 해답, 마케팅 캠페인 제작 등 다양한 용도로 사용된다. 더 고려해야 할 건 AI 모델은 지속적 업데이트가 필요하다는 것. 예를 들어 챗GPT가 2021년까지의 데이터로 학습을 받았으며 이후 내용은 입력되지 않았다.

챗GPT 개발에 대한 탄소 배출량은 공개되지 않았지만 GPT-3보다 클 가능성이 높다. 이를 정기적으로 업데이트하면 에너지 비용도 증가한다. 장점 중 하나는 검색엔진을 사용하는 것보다 채팅봇이 직접 정보를 얻을 수 있다는 것이다. 검색 결과 페이지 링크 대신 대답이 나오기 때문이다. 더 빠르게 정보에 도달하면 검색엔지보다 높은 에너지 소비자를 상쇄할 수 있다.

미래를 예측하는 건 어렵지만 제너레이티브 AI는 앞으로도 계속 존재할 것이며 더 많은 사람이 제너레이티브 AI를 활용하게 될 것이다. 한 가지 언어 AI 모델이 지구 환경을 파괴하지는 않지만 1,000개 기업이 각자 목적이 다른 AI 채팅봇을 출시하고 각각 사용자 수가 수백만 명이 되면 에너지 문제가 심각해질 수 있다. AI를 효율적으로 실행하려면 연구가 필요하다.

희망적인 건 AI는 재생 가능 에너지로 운용할 수 있다는 것이다. 예를 들어 시스템에 필요한 계산을 그린 에너지가 풍부한 장소에서 하거나 재생 가능 에너지를 사용하기 쉬운 시간대에 실시할 때 화석연료 전력 사용과 비교하면 탄소 배출량을 30분의 1에서 40분의 1로 줄일 수 있다.

또 이미 공개하는 곳도 있지만 자사 AI 모델에 대한 탄소 발자국을 공개하는 게 기업이나 연구기관에 도움이 될 수 있다. 앞으로 소비자가 해당 정보를 보고 클린 에너지를 이용한 AI 채팅봇인지 선택할 수 있게 될 수도 있다. 관련 내용은 이곳에서 확인할 수 있다.