테크레시피

안 보이는 변경 더해 AI 이미지 학습 막아준다?

스테이블 디퓨전이나 미드저니를 비롯한 이미지 생성 AI는 입력한 키워드에 따라 적절한 이미지를 생성할 수 있는 반편 AI 학습에는 인간이 그린 일러스트나 그림 등이 사용되는 경우가 있어 저작권 침해가 문제가 되고 있다. 이런 가운데 시카고대학 연구팀이 인간이 그린 그림을 분석하고 거의 보이지 않는 수정을 더해 AI에 의한 학습으로부터 보호하기 위한 툴인 글레이즈(Glaze)를 발표했다.

연구팀은 글레이즈가 예술을 분석하고 거의 보이지 않는 섭동(perturbation)을 가한 버전을 생성해준다고 말한다. 글레이즈는 이미지별로 보이지 않는 요소를 적용해 AI가 예술적 스타일을 학습할 수 없어 키워드로 이미지 생성이 어려워지게 하는 도구다.

연구팀은 이미지 생성 AI가 저작권으로 보호된 데이터를 사용해 개발되고 있는 건 분명하며 이미지 생성 AI는 현대 윤리를 거의 배려하고 있지 않다고 지적한다. 이게 바로 글레이즈를 개발하게 된 이유라는 설명이다.

실제로 지난 1월에는 이미지 생성 AI인 미드저니와 스테이블 디퓨전은 저작권으로 보호된 이미지를 이용해 학습을 한다며 소송이 제기되고 있다. 연구팀은 글레이즈에 대해 세상에 있는 모든 이미지 생성 AI에 대응하는 건 아니지만 미드저니나 스테이블 디퓨전 이외 다양한 이미지 생성 AI에서 일정 효과가 있을 것이라고 말한다. 반면 섭동을 적용하는 글레이즈 방식은 흑백 이미지와 간단한 이미지에선 효과가 낮다는 걸 시사한다. 물론 연구팀도 글레이즈가 이미지 생성 AI 모방에 대한 영구적 해결책은 아니라고 말한다. 이유로는 빠른 AI의 진화를 든다. 글레이즈 같은 아트를 보호하기 위해 사용하는 기술은 이미지 생성 AI 미래 대책에 의해 극복되어 지금까지 보호되던 아트를 취약하게 할 가능성이 있다고 지적한다.

그럼에도 불구하고 연구팀은 AI에 의한 모방에 대한 사용자 측 장기적 대처에 도움이 되기를 바란다며 지속적 연구와 갱신을 하겠다고 밝히고 있다. 글레이즈는 무료로 공개되어 있으며 윈도와 맥 사용자는 다운로드해서 사용할 수 있다. 관련 내용은 이곳에서 확인할 수 있다.

추천기사