AI는 눈부신 발전을 이루고 있다. 과거 스티븐 호킹 박사는 100년 이내에 인공지능은 인간 이상이 될 것이라고 발언하거나 AI 연구 전문가는 AI 위협을 걱정하는 건 너무 이르다는 발언을 하는 등 급속하게 발전하는 AI 위협에 대해 활발한 논의가 이뤄지고 있다. 이런 가운데 새롭게 고급 지능을 획득한 AI는 통제될 것이라는 연구가 발표됐다.
이번에 발표된 연구는 제2차세계대전 중 독일이 사용한 암호화 기계 에니그마 해독으로 잘 알려진 수학자 앨런 튜링이 1936년 증명한 정지 문제(halting problem)를 근거로 AI 제어가 불가능하다고 주장하고 있다.
정지 문제는 어떤 튜링머신에 대해 계산 결과를 출력하거나 중지 또는 무한 루프에 빠질 것인지 판별할 수 있는 알고리즘이 존재하느냐는 문제로 1936년 튜링에 의해 존재하지 않는 게 증명됐다.
이 정지 문제를 AI 제어에 적용하면 AI에 의한 세계 파괴를 저지하는 프로그램이 실제로 저지하는데 성공하거나 저지에 실패하는지 여부를 판단할 수 없기 때문에 AI를 제어하는 알고리즘을 만드는 건 불가능하다고 생각되는 것.
연구팀은 전 세계 운명에 영향을 미칠 정도 고급 지능을 획득한 AI는 허구 속 세상 얘기로 들릴지 모른다며 하지만 인간에게는 이해 불능 사고를 확장하고 자율적으로 문제를 해결하는 AI는 이미 존재하고 있다고 밝히고 있다.
또 스스로 생각하는 AI 예로 게임 규칙을 배우지 않고도 이기는 방법을 마음대로 학습하는 AI인 뮤제로(MuZero)는 구글 산하 딥마인드가 2020년 12월 발표한 바 있다. 관련 내용은 이곳에서 확인할 수 있다.