코로나19 유행이 시작된 이후 학교에서 태블릿 등 기기 사용이 늘고 있다. 이런 기기는 학교 측이 관리하고 있으며 학생은 자유로운 사용이 제한되어 있는 게 보통이다. 이런 학교 장치를 통한 학생 모니터링이 아이에게 악영향을 미칠 가능성이 지적되고 있다.
미국 일부 학교에선 학생 기기 사용 상황이 기업에 의해 감시되고 있어 자상 행위에 관한 키워드를 입력한 학생이나 트러블에 말려들 것 같은 학생, 문제가 있는 학생을 검출하는 구조를 취한다.
노스캐롤라이나대학 경영학 교수인 니르 크셰트리(Nir Kshetri) 교수는 이런 기기 감시를 학생에게 감정적, 심리적으로 해를 끼친다고 지적하며 문제점을 해설했다. 첫 번째 문제로는 학생이 감시되고 있다는 사실을 인식하면 온라인에서 자신의 진정한 생각을 공유할 가능성이 낮아지고 자신감 있는 성인으로 성장하지 못할 수 있다. 그는 일반적인 감시 활동은 자신의 생각을 분석하고 수행하는 능력 성장을 방해한다고 지적한다.
2번째 문제는 마이너리티 인종이 해를 입을 가능성이 높아진다는 점. 아프리카계 미국인 트윗은 공격적이라고 신고될 가능성이 다른 사람보다 50% 높다는 연구를 언급하고 있다. 마이너리티 학생은 인공지능 데이터세트가 마이너리티 인종에 대한 감시는 더 치우쳐 학교 개입을 늘릴 가능성이 높다는 것이다.
인공지능에 의한 검출 문제는 그 밖에도 있다. 기사나 소설에 나오는 문장이 잘못해 의심스럽다고 탐지되거나 성적 마이너리티 학생이 자신을 알기 위해 입력한 검색어가 성인물 콘텐츠로 오탐지될 가능성도 있다.
3번째 문제는 보안상 위험이 증가한다는 것이다. 기기를 모니터링하는 기업이 해킹당하면 학생 개인 정보를 수집하거나 기기 카메라를 제어할 수 있다. 2021년 10월 넷톱(Netop)이라는 감시 기업이 통신 암호화를 게을리 해 배포한 감시 소프트웨어에 카메라와 마이크를 제어당하는 취약성이 있다는 게 밝혀지기도 했다.
크셰트리 교수는 학교가 학생 감시를 할 때 발생하는 피해를 더 면밀하게 조사하고 실제로 학생을 보호할 수 있는지에 대해 자문해보는 게 좋다고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.