AI는 인류 마지막 발명이 될까

챗GPT 등 보급에 따라 최근 가속화되고 있는 AI 기술은 인류 마지막 발명이 될까. 인류는 경쟁 없이 지구를 지배하고 있다. 하지만 인류는 이를 바꿀 수 있는 걸 만들려고 하고 있다. 인류가 개발하고 있는 그것은 인류 마지막 발명이며, 역사상 가장 강력한 도구, 무기 혹은 실체가 될 가능성마저 있다. 이게 바로 인공지능(AI)이다.

지능이란 학습하고 추론하고 지식이나 기술을 획득해 그것을 사용해 문제를 해결하는 능력을 말한다. 지능은 힘이며 인류는 지능을 가장 효과적으로 이용해 온 생물이기도 하다.

그 결과 인류가 자연의 섭리를 파괴하고 지구 지배권을 쥐게 됐다. 대부분 동물에게 지능은 너무나 높은 비용이며 에너지를 소비할 가치가 있다고 생각되지 않는 것이다. 그럼에도 불구하고 종의 계통수에서 지능을 시계열로 추적하면 다양한 형태 지성이 출현하는 모습을 볼 수 있다.

가장 오래된 뇌는 5억 년 전 편형동물에서 출현했다. 뉴런이 기본적인 신체 기능을 처리할 수 있게 되기까지 수억 년이 걸렸고 이에 따라 종이 다양화되고 더 복잡해짐에 따라 생명은 새로운 환경을 정복하고 새로운 감각을 획득하고 자원을 둘러싼 치열한 경쟁에 맞서야 했다. 하지만 자연계에서는 생존이 전부이고 뇌는 비용이 많이 들기 때문에 거의 모든 동물은 좁은 범위 작업에 적합한 좁은 지능만 있으면 충분했다.

환경에 따라 조류, 문어, 포유류 등의 동물은 더 복잡한 신경 구조로 진화했으며 고도의 내비게이션과 의사소통 능력 등 더 많은 에너지를 소비하는 기술을 습득하는 데 성공했다.

700만 년 전에 인간아과(호미닌)가 출현했다. 이유는 불분명하지만 호미닌 뇌는 빠르게 성장했다. 호미닌 지능은 매우 천천히 좁은 범위에서 일반적인 것까지 드라이버에서 멀티툴까지 다양한 문제에 대해 생각할 수 있게 됐다고 한다.

200만 년 전에 등장한 호모 에렉투스는 누구와도 다른 관점으로 세상을 봤다. 호모 에렉투스는 불을 다루고, 도구를 발명하고 첫 문화를 창조했다.

인류는 아마도 25만 년 전쯤 더 크고 복잡한 뇌 덕분에 큰 그룹으로 협력하고 복잡한 생각을 전달할 수 있게 됐다. 지능을 사용해 생활을 개선하고 사물이 어떻게 작동하고 왜 그런지를 생각하기 시작했다.

지식은 지식 위에 쌓이기 때문에 진보는 처음에는 천천히 이뤄지지만 이후에는 비약적으로 향상된다. 농업, 문학, 의학, 천문학, 철학 등 다양한 분야에서 폭발적인 발전을 이루게 된다. 그리고 200년 전 과학이 발전하면서 인류는 더 뛰어난 능력을 갖게 됐다.

더 나아가 35년 전 인터넷이 등장한다. 지능의 계단이 어떤 것인지, 그리고 오르는 데 얼마나 시간이 걸리는지는 인간이 파악하기 어려운 것이다. 인류는 인류보다 뛰어난 걸 만들어내려 하고 있으며 이는 지구를 정복할 힘을 주는 인류에게 마지막 발명이 될 가능성이 있다는 지적이다.

이게 바로 인공지능(AI)이다. AI는 작업을 실행하는 소프트웨어이며 컴퓨터이기도 하고 뉴런 대신 실리콘을 사용해 문제를 해결하는 코드이기도 하다. 처음에 AI는 매우 단순한 것이었다. 종이에 쓰인 코드, 단순한 개념 증명, 기계가 지적 작업을 어떻게 수행할 수 있는지를 실증하는 데 그쳤다.

1964년 챗봇, 1965년 분자를 분류하는 프로그램이 개발됐으며 이들도 초기 AI라는 지적이다. 이런 AI는 처리 속도가 느리고 전문가가 사용해야 하는 특수한 시스템이었다. 초기 AI 지능은 극히 제한적이었으며 관리된 환경 내에서 단일 작업을 수행하기 위해서만 구축됐다. 이들은 10억 년 전 등장한 편형동물과 동등한 지능으로 최소한의 지적 노동만 할 수 있다.

환경 변화가 생명에 새로운 니치를 만들어내는 것과 마찬가지로 AI를 둘러싼 세계도 변화를 계속하고 있다. 1950년부터 1960년 사이 기간과 비교하면 2000년에는 컴퓨터 처리 속도가 10억 배 향상됐다. 프로그래밍도 더 쉽고 널리 보급됐다. 1972년에는 AI가 방을 이동할 수 있게 됐고 1989년에는 손글씨를 읽을 수 있게 됐다. 하지만 이 시점에서 AI는 인간에게는 도저히 비할 수 없는 단순한 화려한 도구에 불과했다.

하지만 1997년 AI가 체스 세계 챔피언을 이기면서 세계에 충격을 줬다. 하지만 이것도 좁은 범위 작업에서만 인간을 앞섰다는 사례다.

이후에도 컴퓨터는 진화를 계속했고 AI는 점점 더 많은 작업을 수행할 수 있는 강력한 도구로 진화해 왔다. 2004년에는 화성에서 로봇을 운전하고 2011년에는 유튜브 동영상 추천 기능으로 작동하기 시작한다.

하지만 이는 인간이 문제를 컴퓨터가 곧바로 해독할 수 있도록 이해하기 쉬운 덩어리로 분할했기 때문에 실현된 것이었다.

여기서부터 AI는 더 진화를 이뤄 스스로 학습하게 된다. AI 자기 학습에 대해 간단히 설명하면 압도적인 슈퍼컴퓨터 파워와 정보화 시대가 새로운 세대 AI 그러니까 자기 학습 AI를 탄생시키는 데 이어졌다는 설명이다.

AI 전문가는 형태를 대폭 개선하고 뉴럴 네트워크라고 불리는 AI 소프트웨어와 인공적으로 만들어진 거대한 네트워크를 이용해 뉴런을 기계 학습으로 학습시켜 AI가 자기 학습을 할 수 있게 했다. 알고리즘이 독자적인 코드를 작성해 스스로 개선하는 걸 가능하게 한 것으로 무서운 점은 AI가 어떻게 자기 학습을 하고 있는지 그리고 AI 안에서 무엇이 일어나고 있는지를 우리 인류가 정확히 파악하고 있지 못하다는 점이다. 그래서 자기 학습이 가능한 최신 AI에 대해 유능한 코드의 블랙박스”라고 표현하고 있다.

이런 새로운 AI는 복잡한 기술을 빠르게 습득할 수 있으며 인간 도움이 필요한 경우도 훨씬 적어졌다. 이후 2014년 페이스북 AI가 97% 정확도로 인간의 얼굴을 식별하는 데 성공했다. 2016년에는 바둑에서 AI가 최상위 프로 기사를 이겼다.

2018년에는 자기 학습형 AI가 단 4시간 만에 체스를 학습하는 데 성공했다. 이 AI는 자기 자신과 대국하는 것만으로 당시 최고의 체스 전문 AI를 이겼다. 그 이후로 기계 학습은 독서, 이미지 처리, 시험 해결 등 다양한 분야에 응용되어 왔다. 이런 AI 대부분은 훈련된 특정 작업에 관해서는 이미 인간보다 뛰어나다. 다만 여전히 단순한 도구이며, AI는 대다수에게 그다지 큰 문제가 되지 않는 것처럼 여겨졌다.

하지만 챗봇 챗GPT가 등장한다. 인터넷상에 존재하는 거의 모든 것을 언어 처리 방법을 학습하기 위한 훈련 데이터로 활용하고 있으며 시간이 지남에 따라 그 정확도는 더 높아지고 있다. 챗GPT는 이미 대다수보다 요약, 번역, 수학 문제 해결과 같은 작업에서 뛰어난 지능을 발휘하고 있다.

챗GPT는 몇 년 전 등장한 어떤 AI보다도 작업 범위가 넓으며 많은 대형 기술 기업이 챗GPT 경쟁 모델을 구축하기 위해 수십억 달러 자금을 투자하고 있다. AI는 이미 고객 서비스, 은행 업무, 헬스케어, 마케팅, 카피라이팅, 크리에이티브 등 분야에서 활용되고 있으며 AI 생성 콘텐츠는 이미 소셜 미디어나 유튜브에서 자리 잡고 있다.

AI를 모든 곳에 도입해 얼마나 많은 이익 및 손해가 발생할지는 누구도 알 수 없다. 가장 큰 의문 중 하나는 정부와 기업이 현재 직면하고 있는 과제이기도 한 AI를 활용한 경제로의 전환을 어떻게 관리할 것인가라는 것이다.

챗GPT 지능은 큰 진보지만 실행 가능한 작업은 아직 좁은 범위에 머물러 있다. 몇 초 만에 훌륭한 에세이를 쓸 수 있지만 AI 자신은 무엇을 쓰고 있는지 정확히 이해하지 못한다. 하지만 AI가 좁은 범위에 한정되지 않게 된다면 어떻게 될까.

인간이 현재의 AI와 다른 점은 폭넓은 작업에 대응할 수 있는 지능이다. 인간은 모든 지식을 기술적으로 흡수하고 모든 문제에 대처한다. 인간은 체스 플레이부터 글쓰기까지 다양한 기술과 작업에 대응할 수 있다. 일부 분야에서는 초보자지만 다른 분야에서는 초보자가 아니더라도 기술적으로는 모두 가능하다. 이에 비해 지금까지의 AI는 한 가지 기술에 특화되어 있지만 다른 작업에서는 초보자 이하 기술만 갖고 있으며 학습도 불가능했다.

하지만 AI는 인간처럼 모든 작업에 대응 가능한 범용 인공지능(AGI)이 되는 걸 목표로 하고 있다. 인류가 AI 개선 프로세스를 지금까지처럼 계속할 수 있다면 AGI는 거의 모든 혹은 모든 기술에서 인간을 능가할 가능성도 적지 않다. AGI 구축 방법이나 그것이 어떻게 기능할지, 무엇을 할 수 있게 될지는 불명확하다.

협의의 AI는 한 작업을 빠르게 습득할 수 있다는 것이기 때문에 미래에 등장할 AGI는 모든 지적 작업을 빠르게 습득할 수 있게 될지도 모른다는 지적이다. 더 나아가 AGI는 인간과 똑같이 똑똑하고 유능해질 가능성이 있다. 이는 마치 SF처럼 들릴지 모르지만 대부분 AI 연구자는 이런 일이 이번 세기 중 혹은 몇 년 이내에 일어날 것이라고 생각하고 있다고 말한다.

하지만 인류는 다음에 무슨 일이 일어날지에 대해 아직 준비가 되어 있지 않다. 이는 사회적으로도 경제적으로도 도덕적으로도 그렇다. 평균적인 인간과 동등한 지능을 가진 AGI가 등장하면 현대 문명을 혼란에 빠뜨릴 것이라는 지적이다. AGI는 이난과 같은 제한에 묶여 있지 않기 때문이다.

챗GPT 같은 AI는 특정 작업을 해결하는 데 걸리는 시간이 숙련된 인간보다 10배 이상 빠르다. AGI는 특정 작업 처리에 챗GPT보다 시간이 더 걸릴 수도 있지만 더 빨라질 가능성도 있다. AGI는 소프트웨어이므로 충분한 저장 공간이 있는 한 무한히 병렬로 실행할 수 있다.

전 세계에는 800만 명에 이르는 과학자가 있지만 AGI는 24시간 365일 가동 가능하고 인간보다 10배 속도로 사물을 생각할 수 있으며 주어진 일에만 집중할 수 있다. 만일 갑자기 AGI가 법률 해석부터 코딩, 유튜브 애니메이션 동영상 제작까지 더 잘 더 빠르게 더 저렴하게 인간보다 더 잘 해낼 수 있게 된다면 AGI를 제어하는 사람이 갑자기 경제를 지배하게 될 수도 있다.

AGI는 다크 에너지와 같은 과학에 대한 근본적인 의문을 해결하거나 기후 변화를 해결하거나 노화나 암을 치료하는 새로운 기술을 만들어낼 가능성이 있지만 동시에 AGI를 무기로 이용하는 등 가능성도 있다. 예를 들어 녹색 눈을 가진 사람만을 죽이는 바이러스를 설계하는 식으로 말이다.

인간은 탄생 이래 하드웨어 면에서는 진화하고 있지만 소프트웨어 면에서는 진화하지 않고 있다. 이는 생물학적으로 어쩔 수 없는 일이라고 할 수 있다. 하지만 AGI는 적절하게 하드웨어를 진화시켜 소프트웨어 성능을 향상시킬 수 있을 뿐 아니라 소프트웨어 면의 진화도 가능하다. AI 진보로 인해 인간 관여를 필요로 하지 않는 AI가 탄생했다고 가정하고 이런 지능의 폭발이 일어난다면 인류는 초지능을 가진 AGI에게는 다람쥐와 같은 존재에 불과할 수 있다. 그렇게 되면 인류가 AGI 생각을 이해하는 것은 불가능해지고 AGI가 인류에게 마지막 발명이 되어버릴 가능성도 있다며 AGI가 종말을 가져올 가능성도 시사하고 있다.