인간에 내장하는 AI 칩에 대한 경고

유엔은 아직 규제가 없는 AI 칩 뇌내 임베디드에 의한 신경 기술에 대해 정신적 프라이버시에 심각한 위험이 있다고 경고하고 있다. 비규제 신경 기술은 예를 들어 청소년 사고를 형성하거나 사적인 사고와 감정에 접근하는 등 유해하고 장기적 위험을 초래할 수 있다. 유엔이 경고하는 건 규제되지 않는다는 것이다.

미국에선 뉴럴링크(Neuralink)에 의한 신경장애 환자 등을 향한 뇌 칩을 임베디드 신경 신호를 보내는 임상 시험이 인가된다. 뉴럴링크는 칩이 내장되어 눈에 보이지 않는 사람이나 마비로 걸을 수 없던 사람 등 병을 앓고 있는 사람을 치료할 수 있다고 한다. 다만 아직 규제가 없는 인가가 내려지지 않은 걸 사용하는 것으로 개인 사고에 액세스가 가능하게 되어 괴멸적 결과를 가져올 가능성이 있다고 유엔 측은 밝히고 있다.

유네스코 관계자는 기술은 건강 문제를 해결할 수 있지만 동시에 인간 뇌에 접근해 조작, 정체성과 감정에 관한 정보를 만들어낼 수도 있다고 지적한다. 이는 인간의 존엄과 사상의 자유, 프라이버시 권리를 위협할 수 있다는 것이다.

AI에 대해 유네스코가 실시한 것처럼 급히 국제 수준으로 공통적인 윤리적 틀을 확립할 필요가 있다. 유네스코는 신기술이 공영기관에서 급속하게 진전되는 가운데 인권에 어떤 영향을 미치는지에 초점을 맞춘 세계적인 윤리적 틀을 추진하고 있다. 주요 우려 사항은 이런 뉴로테크놀러지가 인간 반응이나 기본적인 감정을 캡처하는 것. 데이터를 원하는 기업에게는 물론 신경 데이터가 무의식적으로 생성되면 우려는 더 커진다. 다시 말해 개인이 해당 정보 수집에 동의하지 않은 상태이기 때문이다. 만일 민감한 데이터가 추출되어 잘못된 상대방에게 건너가면 유해한 결과를 초래할 수 있다는 것이다.

만일 뇌 내 칩이 아이 뇌에 내장되면 어떻게 될지에 대한 우려도 있다. 아직 뇌가 발달 중인 시점 내장되면 뇌 성숙도에 영향을 줘서 아이의 미래 정체성을 영구적으로 바꿀 가능성도 있다. 유네스코에 따르면 현재 전 세계 8명 중 1명이 정신 장애 또는 신경 장애를 앓고 있다고 한다. 그 결과 전 세계 10억 명에 영향을 미치고 있다는 게 세계보건기구 WHO 설명이다. 이런 장애에는 간질, 알츠하이머병, 뇌졸중, 뇌 감염, 다발성 경화증, 파킨슨병 등이 포함된다.

유네스코는 뉴로테크놀러지를 이용해 정보를 컴퓨터로 전송하는 등 뇌에 칩이 들어있는 사람이 조작될 수 있다고 말한다. 윤리적 가드레일이 없다면 이런 기술이 심각한 위험을 초래할 수 있다는 것이다. 뇌 정보에 액세스해 조작할 수 있기 때문에 정체성, 사고의 자유, 프라이버시, 기억 개념 등 기본적인 인간 권리와 자유가 위협받는다는 것이다. 관련 내용은 이곳에서 확인할 수 있다.