정용환 기자
AI가 범죄에 사용된다면 어떤 일이 벌어질까. AI에 대한 경고는 이제 유비쿼터스 어디에나 있다. 일부는 영화 터미네이터 같은 이미지로 인류 멸종 위험을 떠올리게 한다. 영국 수낵 총리는 AI 안전성을 토론하는 서밋까지 시작하고 있다.
그럼에도 불구하고 AI는 지금 시작된 게 아니라 오랫동안 도구로 사용해온 것이다. 쇼핑 사이트 추천 상품이나 도로 표지판을 인식하고 차선 위치를 지원하는 자동차 같은 게 예다. AI는 효율성을 높이고 대량 데이터를 처리하며 결정이 용이하게 지원하는 도구로 쓰여왔다.
문제는 편리하고 누구에게나 열린 도구지만 이런 누구에게나 범주에는 범죄자도 포함되어 있다는 것이다. 이미 AI가 이용된 범죄도 초기 단계지만 복수 성인물을 생성하는데 사용되는 딥페이크 기술도 이 가운데 하나다. 기술 진화는 범죄 활동 효율화도 높여 버린다. 범죄자는 더 많은 이들에게 도달할 수 있으며 사기 내용 자체도 더 영리해진다. 범죄자가 기술 진화를 어떻게 도입하고 이용해왔는지, 과거 경향으로부터 AI가 향후 범죄에 어떻게 사용되어 갈지 예측했다.
챗GPT나 구글 바드 같은 생성형 AI 도구를 이용하면 경험이 없는 작가도 효과적인 마케팅 문장을 작성할 수 있다. 이를 범죄에 사용하면 더 현실적이고 믿고 싶어지는 좋은 문장으로 대상에 접촉할 수 있다. 보는 순간 이상하다고 눈치 채는 피싱 사기 이메일이나 텍스트도 있지만 타깃으로부터 정보를 끌어내기 위해선 이런 문장이 필요하다.
첫 번째 피해가 커질 분야는 피싱 메일. 피싱 사기는 숫자가 필요한 게임과 같은 것이다. 전 세계에선 매일 34억 건 사기성 메일이 전송되고 있지만 이 사기성 메일 문장은 다소 교묘해지고 있어 0.000005%는 진짜라고 생각되고 있으며 연간 피싱 사기 피해자는 620만 명 증가하고 있다.
다음은 사기 교환 자동화. 채팅 메시지와 전화 같은 AI 도구 첫 단계에는 서비스와 사용자 상호 작용 자동화가 있다. 도입하면 더 빠르게 대응할 수 있어 비즈니스 효율이 최적화된다. 뭔가를 기업이나 단체에 문의할 때 인간 스태프가 나오기 전 첫 창구가 되는 것으로 AI 시스템이 증가하고 있다.
범죄도 마찬가지다. AI 도구를 이용하면 인간 스태프에선 불가능한 규모로 대량 타깃과의 상호 작용을 자동화할 수 있다. 이메일이나 전화로 은행 등 신뢰할 수 있는 기관을 모방해 정보를 인출, 돈을 훔칠 수도 있을 수 있다.
3번째는 딥페이크. AI는 현실 세계에 있는 대량 데이터로 학습할 수 있는 수학적 모델을 생성하는데 뛰어나다. 모델 질이 높아질수록 주어진 작업이 잘 진행된다. 영상이나 음성에서 딥페이크 기술이 좋은 예다.
AI 스타트업 메타피직(Metaphysic)이 TV 프로그램 아메리카 갓탤런트에서 심사위원인 사이먼 코웰이 오페라를 부르는 딥페이크 영상을 선보이며 이 기술에 대한 가능성을 보여줬다고 할 수 있다. 과연 이 정도 규모 딥페이크는 대부분 범죄자에게는 불가능하겠지만 그래도 AI를 이용해 메시지나 이메일에 회신하거나 전화를 걸거나 음성 메시지를 남기는 건 가능하다. AI를 학습하는 데이터도 SNS에 있는 영상에서 모을 수 있다.
인터넷 범죄에서 미래 타깃 정보를 찾는데 소셜미디어만큼 풍부한 플랫폼은 없지만 지금은 딥페이크 만들기에 활용되어 버릴 가능성도 퍼지고 있다. 딥페이크를 이용해 친구와 가족에게 연락을 취하고 개인 정보를 얻는 일이 발생할 수 있다. 대상의 삶을 알 수 있다면 비밀번호나 핀 정보 예측도 간단해진다.
4번째는 브루트 포스 공격(brute force attack). 생각할 수 있는 모든 패턴을 시험하는 방식 암호 돌파법도 AI에 의해 용이하게 된다. 브루트 포스 공격에는 상당한 리소스가 필요하지만 대상 정보가 있으면 조금 편해진다. 예를 들어 비밀번호 후보 목록을 우선순위가 높은 목록에서 사용해볼 수 있으면 효율성이 높아진다. 우선순위가 높은 건 개인 정보에서 나온 가족이나 애완동물, 자신에 관한 단어나 숫자가 포함된 비밀번호를 사용해보는 것이다.
데이터를 기반으로 학습된 알고리즘을 이용하면 우선순위가 높은 목록을 쉽게 만들 수 있으며 한 번에 타깃팅할 수 있는 사용자도 늘어난다. AI 덕에 필요한 리소스도 적다. 특정 AI 도구를 이용할 수 있다면 사용자 온라인 데이터만 가져와서 피싱해 프로필을 만들 수도 있다. 예를 들어 테일러 스위프트에 대해 SNS에 자주 게시한다고 가정한다. 이를 수작업으로 조사해 암호 힌트를 찾는 건 엄청나게 힘든 일이다.
하지만 자동화 도구를 이용하면 빠르고 효율적으로 수행할 수 있다. 데이터를 수집해 프로필을 만들고 여기에서 암호를 추측하면 쉽다.
물론 사회에 이익을 줄 수 있는 AI를 두려워할 필요는 없다. 다만 어떤 새로운 기술이라도 사회는 이를 이해하고 적응할 필요가 있다. 지금은 당연한 스마트폰 역시 처음에는 사회가 적응해야 할 필요가 있었고 지금은 유익한 존재가 되고 있다. 하지만 예를 들어 아이 스크린타임 등 불확실한 리스크는 지금도 남아 있다.
개인 입장에선 현재 상태에 만족하지 않고 AI를 이해하려는 자세가 중요하다. 나름의 AI에 대한 접근법을 만들고 동시에 건전한 회의적 생각도 갖고 있어도 좋다. 읽고 듣고 봤을 때 정당성을 어떻게 확인해야 하는지 생각해야 한다. 또 기본적인 행동이 사회가 AI 편리성을 배우는데 도움이 되고 미래 위험으로부터 자신을 지키는 방법이 되는 것이다. 관련 내용은 이곳에서 확인할 수 있다.
이원영 기자
이석원 기자
