정용환 기자
AI 연구자는 인간 뇌가 어떻게 구성되어 있는지 모방을 시도한 신경망에 임하고 있지만 급속한 진보 중에서도 신경망은 그 자리에서 변화하거나 익숙하지 않은 상황에 적응하는 등 유연성이 부족하다. 이런 적응성을 실현하기 위해 개발된 길쭉한 실 모양 몸을 한 선형동물 신경계를 기반으로 한 신경망인 리퀴드(Liquid)가 지금까지 없던 속도와 유연성을 보이고 있다고 보고됐다고 한다.
2020년 MIT공대 연구팀은 작은 선충으로부터 힌트를 얻은 새로운 종류 신경망인 리퀴드(liquid neural networks)를 도입했다. 리퀴드는 2022년 비약적 진보를 이뤄 특정 용도에 있어 기존 네트워크를 대체할 만한 범용성을 갖게 됐다. 한 전문가에 따르면 리퀴드는 시간이 지남에 따라 변화하는 시스템을 모델링하는 연속 시간 신경망에 비해 더 빠르고 정확하게 작동한다는 걸 시험적으로 보여준다. 콤팩트한 대안을 제공해준다는 평가다.
연구팀은 새로운 상황에 유연하게 적응할 수 있는 대응력이 있는 신경망을 만드는 방법을 찾기 위해 선충이 이상적 생물이라고 보고 리퀴드를 설계했다고 밝혔다. 선충은 신경계가 완전히 맵핑된 몇 안 되는 생물 중 하나이며 몸길이 1mm 정도 신경계로 이동이나 먹이 찾기, 수면, 교미 심지어 경험을 바탕으로 한 학습 등 다양한 고도 행위를 할 수 있다. 연구팀은 선충은 항상 변화가 일어나는 현실 세계에 살고 있어 어떤 상황에도 적응할 수 있다며 선충에 주목한 이유를 설명하고 있다.
리퀴드는 뉴런이 서로 링크해 서로 의존해 임의의 순간 시스템 상태를 특정짓는 신경망이 되어 있기 때문에 특정 순간 결과 밖에 얻을 수 없는 기존 신경망과는 크게 다르다. 또 리퀴드는 인공 뉴런간 연결인 시냅스를 다루는 방법에도 차이가 있다. 표준 신경망에선 시냅스 연결 강도는 가중치로 단일 수치로 나타낼 수 있다. 반면 리퀴드에선 뉴런간 신호 교환은 비선형 함수에 지배되는 확률적 프로세스로 이는 입력에 비례한 반응을 돌려주지 않는 걸 의미한다.
기존 신경망 알고리즘은 대량 데이터를 줘서 웨이트 최적치를 학습할 때 조정해 설정되는 반면 리퀴드는 관측한 입력에 기초해 기초 방정식을 바꿀 수 있기 때문에 더 순응성이 높아지고 있다. 자율주행 자동차 조종에서 테스트를 실시했는데 기존 신경망은 차 카메라로부터 받은 시각 데이터를 일정 간격으로 분석할 수밖에 없었지만 리퀴드는 기계학습 기준으로 하면 극소인 19개 뉴런과 253개 시냅스로 구성됐음에도 더 높은 응답성을 발휘할 수 있었다고 한다.
한편 보통 컴퓨터에서 여러 차례 계산해 해를 유도할 필요가 있는 시냅스와 뉴런을 나타내는 비선형 방정식에 대해 시냅스와 뉴런에 개별 적응한 소프트웨어로 계산을 실시하기 때문에 시냅스와 뉴런 수가 적은 리퀴드 작동이 상당히 느려졌다고 말한다. 하지만 2022년 11월 새롭게 발표된 논문에서 연구팀은 이 단점을 피하는 새로운 회로망으로 비선형 방정식을 어려운 계산에 의해 풀 필요가 없고 기본 계산으로 얻을 수 있는 거의 정확한 근사치를 요구하는 형식으로 계산 시간과 에너지가 줄어 처리 속도를 대폭 향상시켰다고 밝히고 있다.
한 전문가는 이 방법은 정밀도를 희생하지 않고 경쟁자에게 몇 자릿수 차이를 벌렸다고 평가하고 있다. MIT 연구팀은 최신 리퀴드를 자율 비행하는 드론으로 테스트하고 있다고 한다. 첫 테스트는 숲에서 진행하지만 미래에는 도심 환경으로 이동해 새로운 조건을 어떻게 디루는지 살펴볼 전망이다. 또 연구팀은 리퀴드 신경망이 지금까지 실현할 수 없던 규모로 뇌 활동 시뮬레이션을 할 수 있을 것으로 전망하고 있다. 관련 내용은 이곳에서 확인할 수 있다.
이석원 기자
이원영 기자
