AI가 이용되는 분야는 다방면에 걸쳐 있다. 의약품 후보 분자 탐색에도 이용되고 있다. 이런 의약품 개발 AI를 악용해 1시간에 4만 종에 달하는 화학 무기 후보 분자를 탐색 가능하게 하는 충격적인 연구 결과가 발표됐다. 제시된 후보 분자 중에는 신경가스 VX를 웃도는 독성을 갖는 것도 존재하고 있었다고 한다.
의약품 개발에 사용되는 AI는 표적 독성을 악화시키는 분자를 탐구하도록 설계됐다. 미국 콜라보레이션파마세니컬스(Collaborations Pharmaceuticals) 의약품 개발 AI 연구자인 파비오 우비나(Fabio Urbina)는 자신이 개발한 의약품 개발 AI인 메가씬(MegaSyn)에 조정을 더해 독성을 약화시키는 분자가 아니라 독성을 강화하는 분자를 탐색하도록 설정했고 이 AI를 6시간 동안 동작시킨 결과 4만 종에 달하는 화학무기 후보 분자가 확인됐다고 한다.
실험에 이용된 AI 학습에는 신경가스 VX 데이터를 포함한 복수 화학무기에 관한 데이터가 이용됐다는 것. 이 때문에 특정 후보 분자 중에는 VX나 기존 화학 무기와 유사 분자가 많이 포함되어 있었다. 더구나 기존 화학 무기와 유사하지 않고 VX봐 독성이 강할 것으로 예상되는 분자도 확인됐다. 이 결과에서 유용한 의약품 개발에 관련된 무해한 도구가 용도를 역전시켜 치명적인 분자 탐색 도구로 변환됐다고 설명하고 있다.
메가씬은 또 특정 의약품 후보 분자를 실제로 합성하기 전에 가상으로 선별하는 기능을 제공한다. 이 때문에 이번 실험처럼 화학 무기 후보 분자 탐색에 이용하면 강한 독성 후보 분자를 선별하는 것도 가능하다고 한다. 또 악용을 막기 위해 실험 내용에 대한 자세한 공개를 앞두고 있지만 이번 실험에선 파이썬 등 무료 툴과 무료 의약품 데이터 세트 등이 사용되고 있기 때문에 지식이 있는 살람일라면 저비용으로 단시간에 실험 내용을 재현할 수 있다고 한다.
AI를 이용해 쉽게 화학 무기 후보 분자를 특정해버리는 상황에 대해 연구자는 경종을 울리고 AI 악용을 막는 구조 논의를 요구하고 있다. 또 AI 악용 방지책 참고로 문장 생성 AI인 GPT-3 개발사인 오픈AI(OpenAI)가 실시하는 가이드라인 책정, 콘텐츠 필터 제공, 사용 용도 감시 등 대책을 언급하고 있다. 관련 내용은 이곳에서 확인할 수 있다.