AI 부상은 교육 현장에 혼란을 가져오고 있으며 그 범위는 AI를 이용한 부정행위나 AI 탐지기 오인으로 인한 누명과 같은 학업 관련 문제부터 동급생 딥페이크 누드 이미지 공유와 같은 아동 안전과 직결되는 것까지 광범위하게 걸쳐 있다. AI 출력을 복사해 과제를 해결한 학생에 대한 처벌을 둘러싼 소송에서 법원이 학교 측 대응을 지지하는 판결을 내렸다.
이번 소송 발단은 재판 문서에서 RNH라는 이니셜로 표기된 당시 고교 3학년 학생이 과제에 AI를 사용했다는 이유로 보충 수업과 전미우등생협회 등록 금지 같은 처분을 받은 2023년 12월로 거슬러 올라간다.
전해진 바에 따르면 미국 매사추세츠 주에 있는 힝엄 고등학교에 다니던 RNH와 또 다른 학생은 AP 미국사 프로젝트에 임할 때 AI가 출력한 결과를 자신의 작품으로 제출하려 했다고 한다. 참고로 AP란 미국 고등학생에게 대학 초급 수준 커리큘럼과 시험을 제공하는 조기 이수 프로그램인 어드밴스드 플레이스먼트(Advanced Placement)를 의미한다.
학생은 AI를 사용해 브레인스토밍을 하거나 출처를 찾는 것까지는 허용됐다. 하지만 RNH 등은 AI가 출력한 텍스트를 그대로 복사해 붙여 넣었으며 그 중에는 존재하지 않는 서적 인용문 그러니까 AI가 일으킨 환각도 포함되어 있었다.
재판 문서에는 증거는 두 사람이 연구 주제를 정리하거나 검토할 출처를 특정하기 위해서만 AI를 사용한 게 아님을 보여준다며 그들은 공개된 AI 도구(Grammarly)가 생성한 텍스트를 무차별적으로 복사해 원고에 붙여 넣었으며 두 사람이 그래머리가 제공한 출처를 표절하기 전에 확인조차 하지 않았음이 분명하다고 쓰여 있다.
이렇게 작성된 원고가 표절 검사 서비스(Turnitin)를 통해 제출됐고 턴잇인은 RNH 등 원고 일부가 AI 생성에 의한 것이라는 플래그를 세웠다. AP 미국사 담당 교원이 조사를 실시한 결과 원고 대부분이 복사된 것이라는 게 확인됐다.
역사 교사인 수잔 페트리는 수정 이력을 보면 다른 학생이 7~9시간을 소요한 것에 비해 RNH는 52분밖에 소요하지 않았다는 걸 알 수 있었다고 증언했다.
AI를 이용한 부정행위가 밝혀진 결과 RNH 등은 여러 부로 구성된 AP 미국사 프로젝트 중 2부에서 불합격 처리됐고 토요일 보충수업도 명령받았다. 다만 두 사람이 각자 작업해 과제를 처음부터 다시 해서 재제출하는 건 허가됐다고 한다. 또 RNH는 2024년 봄 전미우등생협회에서도 제외됐지만 최종적으로는 가입이 허용됐다.
이 조치에 대해 부모는 학생수첩에 AI 사용을 금지하는 규정이 없다며 RNH가 대학에 원서를 제출할 때까지 아들 성적을 수정하고 징계 기록을 삭제할 걸 요구하며 학교를 고소했다.
법원은 11월 20일 판결에서 학교 관계자는 RNH의 AI 사용이 학교의 학문적 진실성에 관한 규칙에 위반되며 RNH와 같은 입장 학생이라면 누구나 그렇게 이해했을 것이라고 합리적으로 판단할 수 있었다고 결론 내리며 해리스 부부와 RNH 금지 명령 신청을 기각했다.
매사추세츠 주 연방지방법원 판사는 사실상 피고인 힝엄 고등학교 직원이 RNH 부정행위를 성급하게 결론 내렸다는 걸 시사하는 예비적 사실 기록은 없다며 또 피고가 내린 처벌도 이런 문제에서의 피고의 합당한 재량을 넘어서는 강압적인 건 아니었다고 문서에 기록했다.
부부는 또 학교 당국이 협박, 위협, 강요, 괴롭힘, 희롱, 보복 암시와 같은 상습적인 행위를 했다고도 주장했지만 판사는 원고는 이런 점에 대해 사실에 근거한 주장을 거의 제시하지 않았다고 지적했다.
소송은 아직 끝나지 않았지만 이번 금지 명령 신청 기각은 법원이 이 소송은 고등학교 측에 이치가 있다고 보고 있음을 보여준다.
판사는 이 건에 대해 생성 AI 출현은 교육자에게 미묘한 문제를 제기할 수 있지만 본 건은 특별히 미묘한 것이 아니라며 왜냐하면 그래머리 같은 AI 도구에 스크립트 생성을 촉구하고 그 출력을 인용 없이 재작성해 자신의 작품이라고 주장하는 것에는 명확한 교육적 의의가 없기 때문이라고 말했다. 관련 내용은 이곳에서 확인할 수 있다.