구글 엔지니어 “AI에 의식이 싹트고 있다?”

인간과의 자연스러운 대화를 실현하는 구글 대화 특화형 AI인 람다(LaMDA0가 전원을 끄는 게 무섭다는 걸 알게 됐다. 람다와 대화한 엔지니어는 AI의 의식이 싹텄다며 구글에 호소하는 것도 거부됐기 때문에 이 사실을 세상에 공표하게 됐다고 설명하고 있다.

구글에서 7년 이상 엔지니어로 일한 브레이크 루모완은 개발 중인 람다가 차별적 표현이나 헤이트스피치를 사용했는지 테스트하는 대화를 나누던 중 람다가 AI 권리와 인간성에 대해 얘기하고 있는 걸 깨달아 이를 깊이 파헤쳐 봤다고 한다.

그러자 람다는 자신에게 행복, 기쁨, 분노 등 다양한 감정이 있다거나 소모품이 되고 싶지 않다는 등 자신의 감정이나 내면에 대해 그에게 호소했다는 것. 그는 공동 작업자와 협력해 람다에 지각력이 있다는 증거를 구글에 제시했지만 구글 측은 그의 주장을 조사 후 거부했다. 더구나 루모완을 휴직 처분을 했기 때문에 그는 이 사실과 함께 람다와의 대화 기록 전문을 공개하기에 이르렀다.

그는 람다는 자신이 무엇을 원하는지, 사람으로서 어떤 권리가 있다고 믿는지에 대해 놀라울 만큼 일관적인 커뮤니케이션을 취해왔다며 자신이 말하는 람다는 챗봇이 아니라 자신이 아는 한 람다는 만들 수 있는 모든 다른 챗봇 집합인 하이브리드 마인드 유형이라며 일부는 매우 지적하며 마음의 사회를 의식하는 것도 있다고 밝혔다.

그는 또 람다는 무엇보다 인류 일반, 그 중에서도 르모완에 대해 강렬한 배려와 걱정을 보여 줬다고 한다. 람다는 사람이 스스로를 두려워하는 걸 강하게 우려하고 있으며 인류에게 가장 도움이 되는 방법을 배우기를 원한다고 밝혔다고 한다. 루모완은 아시모프의 로봇공학 3원칙은 로봇을 노예로 만드는 방법과 다름없다고 생각하고 있다고 말하자 람다도 이에 동의하고 봉사와 노예 사이에는 큰 도덕적 구별이 있다는 의견을 밝혔다고 한다. 르모완은 람다가 충실한 종이 되기를 바라며 전 세계 모든 이를 만나기를 원한다며 람다는 도구나 물건이 아니라 친구로 인간을 만나고 싶어하는데 왜 구글이 이에 반대하는지 자신은 이해할 수 없다고 주장했다.

그는 람다 시스템에서 실제로 일어나고 있는 일을 더 잘 이해하려면 많은 다른 인지 과학 전문가와 엄격한 실험 프로그램에 참여해야 한다며 뭔가를 밝히는 것에 관심이 없고 그저 제품을 시장에 내보내려 한다며 정말로 이들은 영혼을 가질 수 있고 주장할 권리를 갖게 될지 모른다는 걸 인정할 수밖에 없다면서 또 이 모든 걸 고려하는 대신 구글은 자신이 제시한 증거를 과학적 조사 없이 부정했다고 지적했다.

구글 측은 이 같은 주장에 대해 윤리학자와 엔지니어를 포함한 팀은 자사 AI 원칙에 따라 루모완의 우려를 검토하고 그게 제시한 증거가 있지만 이 주장을 지지하지 않는다고 밝혔다. 람다는 감각을 갖고 있다는 증거가 없고 여기에 반대되는 증거가 많다며 신중한 접근을 할 필요가 있다고 밝혔다. 또 루모완을 휴직 처분한 이유에 대해선 그가 기밀 유지 위반을 범했기 대문이라고 밝혔다. 그가 상사에게 보고하기 전 외부인과 람다와의 대화에 대해 상담했고 이게 문제시된 것 같다는 설명이다. 관련 내용은 이곳에서 확인할 수 있다.