알고리즘이란 무엇인가

알고리즘(algorithm)이란 단어는 알지만 정작 알고리즘을 설명하라면 대답하기 쉽지 않다. 알고리즘이라는 말과 PC가 등장하기 전부터 존재하던 알고리즘에 대한 정체는 뭘까. 워싱턴대학에서 컴퓨터사이언스를 가르치는 페드로 도밍고 교수는 알고리즘에 대해 6가지로 나눠 설명한다.

첫째는 알고리즘은 일련의 명령의 수라는 것. 그에 따르면 알고리즘 정의는 일련의 명령이다. 넓은 의미로는 2+2를 구하는 방법, 케이크 방식, 헌법에 입각해 국가를 운영하는 방법 등도 모두 알고리즘이지만 보통 PC에 무엇을 해야할 지 지시하는 일련의 명령이라고 되어 있다.

전문분야인 컴퓨터과학 알고리즘에 대해 도밍고 교수는 PC 알고리즘은 복잡하다며 덧셈도 몇 줄 텍스트로 정의된 알고리즘이라고 할 수 있지만 PC 알고리즘은 수백만 줄도 배열할 수 있다.

둘째는 PC가 등장하기 훨씬 전부터 인류는 알고리즘을 써왔다는 것. 현대에는 PC에 대한 컨텍스트로 사용되는 알고리즘이지만 역사는 PC보다 훨씬 오래 전을 더듬어 보면 고대 바빌로니아에서 초기 농경 사회를 관리하는 계산까지 거슬러 올라갈 수 있다는 것.

PC가 발명되기 전부터 알고리즘이 존재했다는 것에 대해 도밍고 교수는 알고리즘을 실행하기 위해 PC가 필요하지 않다며 알고리즘은 인간이 수행할 수 있기 때문이라고 설명했다. 20세기 중반 PC가 등장하면서 군대가 이동하면서 포격하기 위한 계산에 PC를 도입한 걸 시작으로 알고리즘은 급여 계산과 날씨를 예측하는 계산 등 용도로 주목을 끌게 됐다. 이런 현대 알고리즘의 전환기가 된 건 구글의 등장부터다.

구글을 창업한 래리 페이지와 세르게이 브린은 검색엔진에 페이지랭크라는 알고리즘을 내장했다. 페이지 랭크는 검색어와 사이트 관련성 뿐 아니라 해당 사이트가 얼마나 연결되어 있는지 등에서 알 수 있는 기사 평판 등을 대규모로 평가할 수 있다는 점에서 획기적이었다.

셋째는 현대에는 여기저기에 알고리즘이 존재한다는 것. PC와 인터넷이 보급되면서 알고리즘은 생활 곳곳에서 볼 수 있게 됐다. 예를 들어 개인화된 페이스북 뉴스피드 또는 아마존이 상품을 사용자에게 조언하기 위한 구조도 알고리즘으로 이뤄져 있다.

도밍고 교수에 따르면 식기세척기는 세척 모드에서 건조 모드로 전환하는 타이밍과 자동차에 의한 연료 소비와 공급 계산, 디지털 애니메이션 영화가 인물 그림자를 현실 그대로 재현하는 방법 등 다양한 게 알고리즘을 기반으로 한다. 도밍고 교수는 우리가 PC나 인터넷을 사용할 때 거기에 확실히 알고리즘이 참여하고 있다며 최근에는 온갖 부분에 알고리즘을 사용한다고 밝히고 있다.

넷째는 알고리즘과 기계학습. 기술 진보에 따라 모양을 바꿔온 알고리즘은 인공지능 일종인 기계학습 등장으로 더 새로운 변화를 맞이하고 있다. PC 명령을 위한 알고리즘은 프로그래머에 의해 더 새로운 변화를 맞이하고 있다. PC에 명령을 하기 위한 알고리즘은 프로그래머에 의해 더 세세하게 쓰여진다. 이를 음식 레시피에 비유하면 먼저 양파는 무엇인지 정의하고 양파를 다진 뒤 볶는 것 같은 단계를 하나씩 지시하고 있는 것과 같다.

하지만 요리에 익숙한 사람이라면 요리법에 황갈색 양파라고 쓰여져 있는 것을 보는 것만으로 스스로 생각하고 양파를 볶을 수 있다. 마찬가지로 기계학습을 통해 교육해 PC는 자체 알고리즘을 개발하고 목표를 달성할 수 있다. 도밍고 교수는 PC는 인간에 프로그래밍되는 대신 자신을 프로그램하는 걸 학습해 강력하다며 왜냐하면 인간 개입이 거의 필요하지 않고 매우 복잡한 알고리즘을 생성할 수 있기 때문이라고 밝혔다.

다섯 번째는 알고리즘은 결코 완벽하지 않다는 것. PC에 익숙하지 않은 사람은 어딘지 모르게 알고리즘은 완벽한 것이라고 생각하기 쉽지만 도밍고 교수는 알고리즘은 인간과 같은 결함이 숨어 있을 수 있다고 지적한다. 이 중 큰 요인 중 하나는 편견이다. 인간과 달리 기계학습을 이용한 알고리즘은 편견이 아니라고 생각하기 쉽지만 현실은 그 반대로 학습에 사용된 데이터에 편견이 포함된 경우 바이어스는 더 공고해진다.

예를 들어 미국 의료 시스템은 인종에 대한 정보가 포함되어 있지 않지만 시스템이 참조한 의료비 데이터가 한쪽으로 치우쳐 있었기 때문에 결과적으로 인종 편견을 제거하는 게 불가능할 정도로 인종 차별이 발생했다는 게 문제가 됐다.

여섯 번째는 그럼에도 알고리즘은 세상을 바꿀 힘을 갖고 있다는 것. 도밍고 교수는 인터넷과 소셜미디어 등 우리가 당연하다고 생각하는 건 모든 알고리즘 없이는 존재하지 않았던 것이라고 지적한다. 완벽한 건 아니라도 알고리즘은 세상을 바꾸 힘이 있다는 견해다.

더구나 과거 산업혁명이 수공업으로 한 걸 현대 알고리즘은 두뇌노동으로 하려 한다며 다시 말해 알고리즘은 지성의 자동화다. 알고리즘이 공정하게 될까 치우친 게 될까 유익한 게 될까 해로운 게 될지 여부는 우리에게 달려 있다는 것이다. 관련 내용은 이곳에서 확인할 수 있다.