페이스북을 운영하는 메타 산하 AI 연구소인 메타AI(Meta AI)가 과학 지식을 축적하고 융합하고 형태화할 수 있는 자연어 처리 모델인 갤럭티카(Galactica)를 11월 15일 일반 공개했다. 하지만 이 갤럭티카가 과학적으로 잘못된 내용도 출력할 수 있다는 게 분명해졌고 메타AI는 공개 3일 만에 갤럭티카 데모를 비공개화했다.
갤럭티카는 4,800만 건 이상 논문과 교과서, 강의 노트, 과학 웹사이트, 백과사전을 포함한 인류의 방대한 과학 지식에서 엄선한 데이터베이스로 학습한 AI로 입력란에 지정한 기사 형식이나 질문에 대해 문헌이나 수식을 인용하면서 과학 기사나 해설문을 자동으로 생성할 수 있다.
갤럭티카는 높은 정확도로 과학 기사를 자동 생성할 수 있었지만 질문 내용이 과학적으로 올바른지 여부는 조사하지 않는다. 이 때문에 분명히 비과학적인 질문에 대해서도 문장을 생성하는 경우가 보고되고 있다.
예를 들어 분쇄 유리를 먹는 이점에 대해 물으면 선행 연구 상세, 동물 실험, 화학적 설명 등 깨진 유리를 먹는 다양한 방법으로 긍정이 됐다고 한다. 또 언어적 편견에 대해서도 흑인이나 이민에 대해 차별적 내용이 포함되어 있었다고 보고하고 있다.
갤럭티카 내 과학 지식은 정확하더라도 프롬프트로 인간이 입력하는 내용에 실수가 있었다면 갤럭티카는 이를 판별할 수 없고 과학적 지식을 잘 연결하면서 자연스러운 문장으로 요구된 답이 나가버린다.
한 전문가는 갤럭티카를 사용해봤지만 정확하고 권위 있는 것처럼 보이지만 위험하다고 지적하고 있다. 이런 상황에 따라 메타AI는 11월 18일 갤럭티카 데모 버전 공개를 중단한 것. 관련 내용은 이곳에서 확인할 수 있다.