이석원 기자
지난 11월 29일 발표된 AI 채팅 서비스인 아마존Q(Amazon Q)에 프라이버시 문제가 있을 가능성이 보도됐다. 일부 직원에 따르면 아마존Q는 심각한 환각으로 AWS 데이터센터 위치 등 기밀 데이터를 유출할 수 있다고 한다.
한 직원은 이 사건을 야간에 엔지니어를 불러 주말에 수정 작업을 시켜야 할 만큼 심한 수준이라고 설명한다. 보도 이후 아마존 측은 아마존Q에서 기밀 정보는 유출되지 않았다는 짧은 코멘트를 발표했다.
아마존Q는 새로운 타입 생성형 AI와 접촉으로 등장한 채팅 AI로 기업 비즈니스 환경에 맞게 최적화하거나 아마존 S3, 드롭박스 등 외부 앱과 연결할 수 있는 게 강점. AWS 측은 이전에는 보안이나 개인 정보 보호 우려로 많은 기업이 AI 어시스턴트에 대한 기업 이용을 금지하고 있었다고 말한다. 이런 업계 과제에 부응하기 위해 아마존은 소비자용 제품보다 안전하고 프라이버시를 고려한 아마존Q를 설계했다는 것이다.
하지만 챗GPT 같은 챗봇을 대체하는 안전함을 강조했음에도 직원이 보안, 개인 정보 보호 기능에 대한 불안을 표명하면서 아마존Q가 다른 대규모 언어 모델과 같은 문제가 있을 가능성이 제시됐다. 관련 내용은 이곳에서 확인할 수 있다.
이원영 기자
정용환 기자
