1월 19일 미국 시카고대학 연구팀이 개발한 AI에 의한 이미지 학습을 방지하는 도구인 나이트셰이드(Nightshade)가 공개되어 누구나 다운로드할 수 있게 됐다.
나이트셰이드는 사진에 인간 눈으론 눈치채기 어려운 변경을 더해 AI에 의한 학습을 방해하는 도구다. 연구팀은 2023년 3월 글레이즈(Glaze)라는 AI 학습 억제 도구를 발표했지만 연구팀에 따르면 글레이즈는 방어 도구로 개발됐지만 나이트셰이드는 공격적인 도구로 개발이 진행됐다는 것.
글레이즈는 원본 이미지에 가공을 적용해 AI가 저자의 예술적 스타일을 배울 수 없게 하고 모방에 실패하게 하는 도구다. 한편 나이트셰이드는 스타일 모방에 대한 방어가 아니라 이미지 내 특정 표현을 왜곡해 AI에 의한 학습을 근본적으로 방해하는 게 가능하다. 나이트셰이드 구조에 대해 연구팀은 이미지에 독을 담는다고 표현하고 있다.
또 연구팀에 따르면 나이트셰이드를 이용해 가공된 이미지에 대해 크롭이나 리샘플링, 압축 등을 실시해도 가공에 의한 영향은 최소한이라고 한다. 연구팀은 나이트셰이드가 글레이즈보다 AI에 의한 학습 방해 효과가 약해지고 있지만 그만큼 인간 눈에는 보이기 어려워지고 있다고 밝혔다.
한편 나이트셰이드를 이용해 가공된 이미지가 인간 눈으로 봐도 구별이 될 정도로 변화해버리는 예도 있다. 이 지적에 대해 연구팀은 이번 이미지처럼 복잡한 렌더링에선 이런 일이 일어날 필요가 없다고 밝혔다. 덧붙여 이런 지적에 따라 나이트셰이드에는 전 세대 학습 절차에선 거의 기능하지 않는다거나 최신 학습 절차에선 전혀 기능하지 않는다는 이유로 학술적으론 흥미롭지만 현실적으론 비현실적인 결과를 너무 과장한 경우일지도 모른다.
나이트셰이드는 윈도 버전과 애플실리콘을 탑재한 맥 버전이 배포되어 누구나 다운로드할 수 있다. 또 현재 나이트셰이드 인기가 높아지면서 다운로드에 필요한 시간이 길다고 보고됐다. 따라서 연구팀은 나이트셰이드 바이너리용 고속 미러 링크에서 다운로드할 걸 권장하고 있다. 연구팀은 향후 목표로 AI에 의한 학습 저해를 더 강화하기 위해 글레이즈와 나이트셰이드 통합 버전 개발을 들고 있다. 또 브라우저 버전 글레이즈에 나이트셰이트를 통합할 계획도 있다고 한다. 앞으로는 정지 화상 뿐 아니라 영상용 글레이즈 개발도 검토하고 있다고 한다. 관련 내용은 이곳에서 확인할 수 있다.