스웨덴 왕립 과학 아카데미는 프린스턴 대학 존 J. 홉필드 명예교수와 토론토 대학 제프리 힌튼 명예교수에게 노벨 물리학상을 수여한다고 발표했다. 수여 이유는 인공 신경망을 통한 기계학습을 가능하게 하는 기초적인 발견과 발명이다.
스웨덴 왕립 과학 아카데미는 홉필드 교수는 데이터 내 이미지나 기타 패턴을 저장하고 재구성할 수 있는 연상 메모리를 개발했다. 힌튼 교수는 데이터 내 특성을 자율적으로 찾아내고 이미지 내 특정 요소를 식별하는 등 작업을 수행할 수 있는 방법을 발명했다고 평가하고 있다.
오늘날 AI에 대해 이야기할 때 인공 신경망을 이용한 기계학습을 지칭하는 경우가 많다고 할 수 있다. 이 기술은 원래 뇌 구조에서 힌트를 얻은 것으로 높은 값을 가진 노드 간 연결을 강화해 네트워크 전체를 훈련시키는 것이다.
홉필드 교수는 홉필드 네트워크라고 불리는 자기 결합이 없는 상호 결합형 신경망을 제창했다. 이는 다수 노드가 서로 연결된 망과 같은 구조를 갖고 있으며 각 노드는 온/오프 상태를 취할 수 있다.
예를 들어 각 노드를 흑백을 표현할 수 있는 픽셀로 보고 어떤 흑백 이미지를 재현한다고 하자. 네트워크는 주어진 이미지나 문자를 표현하기 위해 각 노드 중 어느 걸 켜고 어느 걸 끌지를 기억한다. 이 과정에서 노드 간 연결 강도가 조정된다. 다시 말해 자주 함께 켜지는 노드는 강하게 연결되고 그렇지 않은 노드와의 연결은 약해진다.
그리고 불완전한 패턴을 네트워크에 입력하면 네트워크는 입력된 패턴으로부터 노드 상태를 조금씩 바꿔가며 학습 시 기억한 패턴 중 입력과 가장 가까운 걸 찾아낸다. 예를 들어 조금 형태가 왜곡된 ㄱ이라는 문자를 네트워크에 입력하면 네트워크는 최종적으로 완전한 ㄱ을 출력한다. 홉필드 네트워크는 불완전한 정보에서 완전한 패턴을 재현할 수 있는 연상 기억 기초가 됐다.
힌튼 교수는 이 홉필드 네트워크를 기반으로 볼츠만 머신이라 불리는 네트워크를 개발했다. 볼츠만 머신은 다수 노드로 이뤄져 있으며 이들 노드는 가시층과 은닉층이라는 2개 층으로 나뉘어 모든 노드가 서로 연결되어 있다. 가시층은 입력 데이터를 받아 출력을 생성하는 역할을 담당하고 은닉층은 데이터 내부 표현을 학습하는 역할을 한다.
볼츠만 머신은 학습, 생성, 인식이라는 주로 3가지 단계로 작동한다. 학습에서는 주어진 데이터 특징을 자동으로 학습하고 노드 간 연결 강도를 조정하면서 데이터의 통계적 특성을 반영한다. 생성에서는 학습한 패턴을 바탕으로 새로운 데이터를 만들어낸다. 인식 단계에서는 새로 주어진 데이터를 식별할 수 있게 된다.
볼츠만 머신의 특징적인 점은 작동이 확률적이라는 것이다. 출력이 항상 같지 않고 일정한 무작위성을 갖는다. 볼츠만 머신은 이미지 인식이나 음성 인식, 추천 시스템과 자연어 처리 등 오늘날 딥러닝 기술 토대가 되고 있다.
한편 힌튼 교수는 2013년부터 구글에서 일하며 AI 개발에 관여해 왔지만 2023년 3월 구글을 퇴사했다.
스웨덴 왕립 과학 아카데미로부터 수상 소식을 받은 홉필드 교수 음성이 노벨상 위원회에 의해 공개됐다. 홉필드 교수는 가족과 함께 인플루엔자 예방 접종을 받고 돌아오는 길에 커피를 마시기 위해 들른 카페에서 전화를 받았다고 한다. 홉필드 교수는 기술을 발전시키는 과학은 먼저 호기심으로 일찍부터 연구되는 것이며 매우 흥미롭고 유용하며 일을 계속 개선하기 위해 의지할 수 있는 기술을 만들어내는 것이라고 말했다. 힌튼 교수는 이런 일이 일어날 줄은 전혀 생각하지 못했다며 매우 놀랐고 선정되어 영광이라고 전했다.
노벨상 시상식은 오는 12월 10일 스웨덴 오슬로에서 개최된다. 상금은 1,100만 스웨덴 크로나로, 홉필드 교수와 힌튼 교수에게 균등하게 나뉜다. 관련 내용은 이곳에서 확인할 수 있다.