美 생성형 AI 앱으로 동급생 딥누드 제작 문제 심각

지난해 미국 뉴저지주 웨스트필드 고등학교에서 남학생이 AI를 이용해 여학생 누드 이미지를 만들어 공유하는 사건이 발생했다. 이 사건과 다른 지역에서 발생하고 있는 유사한 문제가 지적되고 있다.

웨스트필드 고등학교에 다니는 15세 소녀 프란체스카는 2023년 10월 같은 학교 남학생이 AI를 사용해 프란체스카와 다른 여학생 성적인 이미지를 생성해 학생 사이에 공유한 피해자가 됐다. 하지만 새로운 기술에 법률이 따라가지 못한 상황으로 인해 구제받기 어려운 것으로 보도됐다.

프란체스카 가족은 사건 발생 6개월이 지난 시점에도 학교 측이 사건을 공개적으로 다루거나 AI 사용을 막기 위한 학교 정책을 업데이트하지 않고 있다며 비난했다. 그녀의 어머니는 학구 이사회 회의에서 웨스트필드 고등학교 관계자와 학구가 이 사건을 묻어두려는 것 같다고 이사에게 따졌다.

반면 학교 측은 사건 발각 직후 조사를 시작하고 경찰에 신고했으며 학생에게 집단 상담을 받게 했다고 밝혔다. 웨스트필드 학구 교육감은 성명에서 모든 학구는 AI와 다른 기술이 학생에게 미치는 영향과 과제에 대응하고 있다고 밝혔다.

그에 따르면 웨스트필드 고등학교 사건 발단은 2023년 여름 한 남학생이 15세 여학생 개인 인스타그램 계정에 친구 신청을 요청하면서 시작됐다. 여학생이 이를 수락하자 남학생은 그 여학생과 다른 여학생 몇 명 사진을 소셜미디어에서 구해 AI 앱을 사용해 선정적 이미지를 만들어 스냅챗에서 공유했다고 법정 서류에 기록되어 있다.

프란체스카와 어머니는 인터뷰에서 학교 측이 10월 말 조사를 시작했지만 가해 남학생을 조용히 불러 조사하는 한편 피해 여학생을 전교생 앞에 불러냈다고 말했다. 그리고 그 주에 웨스트필드 고등학교 교장은 학부모에게 잘못된 정보가 퍼지게 된 상황에 대해 이메일을 보냈는데 여기서 교장은 딥페이크를 매우 심각한 사건이라고 표현했지만 이미지가 여전히 공유되고 있다는 우려에도 불구하고 만든 이미지는 모두 삭제됐고 더 이상 유포되지 않는다고 밝혔다.

이후 학구 측은 이미지를 만든 남학생을 1~2일 정학 처분했다고 한다. 프란체스카는 이 사건에 대해 우리는 학교 정책을 업데이트해야 한다며 만일 학교에 AI를 규제하는 정책이 있었다면 자신 같은 학생이 보호받았을 것이라고 말했다.

전문가는 딥페이크와 딥 누드 문제가 괴롭힘과 괴롭힘을 통해 피해자에 대한 신체적 안전, 정신 건강, 평판을 해치고 진학과 취업에도 악영향을 미칠 수 있다고 경고한다. 2024년 3월 FBI는 생성형 AI나 이와 유사한 온라인 도구로 만든 아동 성 학대물은 불법이라는 성명을 발표했다.

하지만 학생의 AI 앱 악용은 학교에 새로운 문제이며 교육계는 대응에 어려움을 겪고 있다. 이를 보여주는 상징적인 사례가 2023년 11월 워싱턴주 한 고등학교에서 발생한 딥 누드 관련 사건. 이 사건에서 피해 여학생 보호자 신고로 조사를 진행하던 경찰이 부교장에게 왜 학교에서 경찰에 신고하지 않았냐고 묻자 부교장은 뭘 신고하라는 거냐고 되물었다. 문제를 인식하지 못한 학교 측에 경찰이 학교는 아동 성 학대 가능성을 포함한 성 학대를 신고해야 한다고 설명해야 했고 그제서야 학교가 아동 보호 서비스에 사건을 신고했다.

스탠퍼드 대학 연구원은 이 현상이 갑작스럽게 나타나 많은 학구에서 준비가 되어 있지 않고 어떻게 해야 할지 모르는 것은 당연하다고 밝혔다.

이 문제는 고등학교에만 국한되지 않는다. 캘리포니아주 비벌리힐스 한 중학교에서도 2024년 2월 남학생 5명이 AI로 생성한 여학생 동급생에 대한 노골적인 이미지를 공유한 사건이 발각됐다. 학구가 작성한 문서에 따르면 2주 후 교육위원회가 학생 5명 퇴학을 승인했다. 주법상 퇴학 처분을 받은 학생이 누구인지 확인할 수 없지만 사건을 저지른 남학생 수와 퇴학 처분 받은 학생 수가 일치한다.

또 사건 후 학교가 학부모에게 보낸 메시지에는 AI로 이런 유형 이미지를 만들거나 배포하거나 소지한 게 드러날 경우 퇴학 권고를 포함한 징계 처분을 받게 될 것이라고 명시되어 있었다.

비벌리힐스 통합 학구 교육감은 노골적인 이미지 제작은 소녀와 그 가족에 대한 심각한 폭력이라며 동급생에 대한 성적 이미지 제작과 공유를 용인하지 않겠다는 전국적인 선례를 만들고자 했다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.