EU “AI 생성 여부 표시 의무화” 나선다

EU에선 AI와 챗GPT 등에 대한 규제 강화를 통해 위험한 징후를 억누르려는 움직임이 활발해지고 있다.

올 여름부터는 구글을 비롯한 플랫폼 기업에 대해서 표시되는 게 AI가 생성한 것인지 오리지널인지 여부를 분명하게 사용자에게 나타내는 게 의무화된다고 한다. 최근 EU는 올해 8월 25일부터 적용된다는 새로운 디지털서비스법 DSA 하에서의 규제 법안을 발표한 것. 5월부터 대기업이나 정부 관계자가 회의를 거듭하며 EU 역내에서 사용자가 온라인으로 상대하고 있는 게 인간인지 혹은 AI 등 챗봇인지를 명확하게 인식하고 있을 필요성에 대해서 혐의했다.

이런 흐름에 따라 온라인으로 표시되는 이미지와 영상, 음성 등 콘텐츠가 오리지널인지 혹은 AI에 의해 생성된 것인지 확실하게 사용자가 알고 이용하는 환경 정비에 대한 중요성이 논의된 것이다.

아직 규제 법안에선 어떤 기업이 제공하는 서비스가 대상이 되고 어떤 형태로 AI 생성 콘텐츠를 명시하는 게 요구되는지 등 자세한 사항은 정해지지 않았다. 하지만 구글, 메타, 틱톡 등이 대상에 포함되는 건 확실시되고 있어 앞으로 EU 역내에서 사용자에 대해 검색 결과 등이 진짜인지 아니면 딥페이크라고 불리는 AI 합성 기술이 들어간 것인지 분명하게 구별 표시하도록 요구될 가능성이 높아지고 있다.

만일 규제 법안을 위반하면 수천만 달러에 달하는 거액 벌금형이 부과되지만 이미 트위터 같은 EU 규제에 협력을 거부하는 자세를 보이는 기업도 나타나고 있다. 이런 움직임은 EU 내에서 트위터 서비스에 어느 정도 영향을 미치게 될지를 포함해 AI 생성인지 판별하는 기술 개발도 고도화가 요구될 수 있다. 관련 내용은 이곳에서 확인할 수 있다.