20개국 이상 130명 이상 과학자가 단백질 설계에서 AI 이점을 극대화하면서 위험을 최소화하도록 책임 있는 AI 개발을 추진하기 우한 노력에 대해 정리한 10개 항목 서약서에 동의했다.
AI 진보로 기능적인 생체 분자 그 중에서도 단백질 설계가 가능하게 되는 등 생물학 연구에 큰 도약이 찾아내고 있다. AI에 의한 단백질 입체 구조 해석이나 설계가 가능하게 되면서 인류가 지금까지 찾을 수 없던 신약 개발이나 질병 치료법이 발견될 가능성이 있다.
한편 이런 선진적인 과학 기술은 때론 인류를 위협하는 존재가 될 수 있다. 새로운 생체 분자는 생명에 위험을 줄 수 있으며 생물 무기로 응용될 가능성도 충분히 생각할 수 있다. 따라서 워싱턴대학 단백질설계연구소에서 2023년 10월 25일 열린 정상회담 내용을 바탕으로 참가한 과학자, 기업, 자선단체, 정부 조직 대표자는 단백질 설계용 AI에 대해 책임있는 개발에 대한 커뮤니티 가치관, 지도 원칙과 이니셔티브라는 제목 서약서가 발표됐다.
이 서약서에선 AI를 사회 이익을 위해 도움이 된다, AI 안전성과 보안, AI 개방성, AI 개발 공평성과 국제 협력, 기술에 대한 책임이라는 지도 원칙을 근거로 10가지 항목 서약을 정리했다.
첫째 사회 이익을 목적으로 연구를 실시하고 사회에 해를 끼칠 가능성이나 기술 악용을 초래할 가능성이 있는 연구를 실시하지 않는다. 둘째 감염 발생과 기타 긴급 상황에 대비해 대응을 위한 지역 사회 노력을 지원한다. 셋째 제조하기 전에 위험한 생체분자를 검출하는 업계 표준 바이오 보안 스크리닝을 준수하고 있다는 걸 나타내는 공급자에게서만 DNA 합성 서비스를 받는다. 4번째 DNA 합성 스크리닝을 개선하는 새로운 전략 개발을 돕기 위해 위험한 생체 분자를 생산하기 전에 감지할 수 있다. 5번째 단백질 설계 AI 능력을 지속적으로 평가하고 모든 중요한 안전‧보안 위험을 파악하고 완화하기 위해 노력한다. 6번째 단백질 설계 AI를 평가하는 방법을 개선하고 위험을 파악하기 위한 노력을 지원한다. 7번째 정기적으로 안전한 회의를 열고 해당 분야 능력과 위험을 없애준다. 8번째 연구 실천에 대해 보고한다. 9번째 자신의 연구가 가진 혜택과 위험을 공유한다. 10번째 필요에 따라 원칙과 헌신을 개정하고 현장 새로운 동료와 공유한다.
이 서약서에는 과학자 131명이 찬성을 표명하고 있다. 그 중에는 2018년 노벨화학상을 수상한 프란시스 아놀드, 마이크로소프트 CSO인 에릭 호로비츠 등도 이름을 올렸다. 서약서 저자인 워싱턴대학 단백질설계연구소 데이비드 베이커 소장은 단백질 설계로 책임을 지고 AI를 활용해 세계에 이익을 가져오는 새로운 백신과 의약품, 지속가능한 재료가 개발될 것이라며 과학자로서 AI가 악용되어 해를 입힐 가능성을 최소화하면서 이를 확실히 실현해야 한다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.