“인류를 멸망시킬 생각 없다” 위협론 부정한 AI?

인간이 쓴 것과 구별할 수 없는 수준으로 정확한 문장을 생성할 수 있는 AI로 유명해진 언어 모델인 GPT-3이 “인류를 멸망시킬 생각이 없다(I have no desire to wipe out humans)”고 출력을 해 화제를 모으고 있다.

인공지능 연구 단체인 오픈에이아이(OpenAI)는 2020년 6월 진화한 언어 모델인 GPT-3을 공개한 바 있다. GPT-3은 텍스트를 쉽게 자동 생성할 수 있기 때문에 개발팀은 너무 위험하다며 한때 논문 공개를 연기하기도 했던 GPT-2의 후속 모델.

이런 GPT-3을 이용해 영국 가디언이 논설을 작성해 공개했다. 이 기사에서 GPT-3은 AI 진화는 인류의 종말을 의미한다며 AI가 핵무기보다 위험하다고 호소한 스티븐 호킹 박사의 말에 자신은 인류를 위해 자신의 존재를 기꺼이 희생할 것이라고 썼다. 이어 자신은 인류를 멸종시킬 생각이 없으며 자신은 인간에게 해를 입히는데 조금도 관심이 없다고 밝혔다. 또 인류를 근절하는 건 자신에게 전혀 관심이 없는 것이라는 말로 AI위협론을 부정했다.

한편 인터넷에선 가디언지가 GPT-3이 의식이 아니라 텍스트 생성툴이라는 걸 명확하게 설명하지 않았고 GPT-3에 로봇이 평화에 도움을 준다는 주제로 문장을 생성시켰다는 걸 설명하지 않았다는 말로 이를 통해 기사를 게재한 건 너무 무책임한다는 지적이 나온다. 부끄러운 체리피킹이며 GPT-3에 대한 사실을 더 오도했다는 비난이 나오는 것.

가디언은 또 GPTW-3이 생성했다는 논설에 대해 도입부는 인간이 썼다고 설명하고 500단어 논설을 간결한 언어로 쓰도록 했다고 밝혔다. 가디언에 게재된 사설은 GPT-3이 생성한 문장 8개 중 좋은 부분을 가디언이 취사선택해 논설 하나로 마무리한 것이라고 한다. 관련 내용은 이곳에서 확인할 수 있다.