“나쁜 콘텐츠가 좋은 콘텐츠 구축한다”

화폐 경제학 이론인 그레셤의 법칙(Gresham’s Law)은 좋은 화폐와 나쁜 화폐가 같은 액면가로 유통되면 좋은 화폐는 저장되거나 수출되어 시장에서 사라지고 나쁜 화폐만 남는다는 법칙이다. 그러니까 나쁜 화폐가 좋은 화폐를 구축한다는 것. 미국 코넬대학 로스쿨과 코넬 공대 법학 교수를 맡고 있는 제임스 그림멀만(James Grimmelmann)운 알고리즘과 AI로 인한 인터넷 혼돈 상태를 그레셤의 법칙 2.0이라고 부르며 나쁜 콘텐츠가 좋은 콘텐츠를 구축하고 있는 상황이라며 여러 사례와 문제점을 지적했다.

그레셤의 법칙은 16세기 영국 국왕 재정고문 토머스 그레셤이 영국 내 좋은 화폐가 해외로 유출되는 원인은 화폐 개악 때문이라고 주장한 데에서 비롯해 19세기 영국 경제학자 헨리 맥로드가 제창한 이론이다. 금 같은 귀금속이 줄어들어 나쁜 화폐가 유통되면 화폐 자체에 가치가 높은 그러니까 귀금속 함유량이 많은 좋은 화폐는 모두가 보관해 두고 지불이나 거래에는 나쁜 화폐를 사용하게 되어 유통되는 건 거의 나쁜 화폐가 된다는 것이다. 기본적으로 금본위제 금화나 은화에 해당하는 법칙이지만 화폐 자체 가치가 크지 않은 현대 관리통화제도에는 별로 적용되지 않는다. 하지만 광의로는 나쁜 화폐 사용법이 좋은 화폐 사용법을 이긴다는 의미로 쓰이기도 한다.

그림멀만 박사는 이 그레셤의 법칙을 인용해 지난 몇 개월간 인터넷에서 AI를 활용한 쓰레기 콘텐츠 홍수가 검색엔진, 검색필터, 모더레이션 시스템을 압도하는 기세로 파괴하고 있는 비참한 일이 벌어지고 있다며 이를 나쁜 콘텐츠가 좋은 콘텐츠를 구축한다는 의미에서 그레셤의 법칙 2.0이라고 부른다고 밝혔다.

그림멀만 박사는 인터넷을 파괴하는 나쁜 콘텐츠 몇 가지 예를 들었다. 2024년 2월 보도에 따르면 정규 장례식 서비스 페이지에서 고인 정보를 추출해 유가족을 자신의 페이스북 계정으로 유도한 뒤 가짜 장례 서비스에 등록시켜 신용카드 정보 등을 빼내는 사기가 만연했다고 한다. 피해자는 그럴 상황이 아닌 날 원하는 서비스에 도달하지 못해 더 큰 공황을 일으키는 비열한 사기라고 밝혔다.

그 밖에도 그림멀만 박사는 광고에서 보기 좋은 음식을 표시하기 위해 실제 모습과 전혀 닮지 않은 AI로 생성한 음식을 보여주는 사례나 틱톡에서 마인크래프트 등 게임플레이 영상이나 유명인 클립을 AI로 조합해 대량 게시하면 월 몇 만 원을 벌 수 있다는 보도 등을 예로 들었다. 이런 인터넷 콘텐츠에 대해 보안기업 조사에 따르면 인터넷 트래픽 73%가 나쁜 봇과 클릭팜(사기)에 의한 것이라고 한다.

또 사기성 클릭베이트 기사로 수익을 내는 것을 목적으로 한 저질 뉴스 사이트가 AI 덕분에 다수 생겨났다는 보고가 있고 SEO가 검색 유용성을 악화시켰다는 주장이 논란을 일으켰다. 구글은 2024년 3월경 봇과 스팸에 대응하고 있으며 AI 클릭베이트를 검색 결과에서 제외하기 위해 스팸 정책을 개선했다고 밝혔다.

좋은 콘텐츠를 구축하는 나쁜 콘텐츠는 사기성인 것만이 아니다. 대형 미디어 등 SEO 담당자가 실제로 리뷰하지 않은 제품 등을 대충 소개하는 기사가 SEO 유리로 검색엔진 상위에 표시되어 진짜 유용한 리뷰를 찾기 어려운 상황도 그림멀만 박사는 나쁜 콘텐츠가 좋은 콘텐츠를 구축하는 예로 꼽았다. 그 외 구체적인 사례로 주로 TV게임 미디어 코탁에서 경영진이 최신 뉴스 게시 우선순위를 낮추고 노력이 적고 많이 업데이트할 수 있는 게임 힌트와 가이드를 우선시하도록 방침을 바꾼 결과 편집장이 사임한 케이스를 들었다. 그림멀만 박사 글에는 AI 사기 행위를 규제하려면 정부가 법제화해야 한다는 지적과 구글보다 SEO 영향을 적게 받는 검색엔진을 쓰는 게 임시방편이라는 의견도 있었다. 또 그레셤의 법칙 2.0을 우주 정크가 자가증식하는 위험을 시뮬레이션한 모델에 대입해 AI 케슬러 증후군(Kessler Syndrome)이라고 부르자는 댓글도 있었다. 관련 내용은 이곳에서 확인할 수 있다.