이석원 기자지난해 11월 챗GPT가 나온 뒤 제너레이티브 AI가 쏟아지고 있죠. 챗GPT는 인간이 읽을 수 없는 방대한 데이터를 바탕으로 모든 분야 사물이나 평가, 단어 사용법, 질문에 대한 대답까지 학습하고 있어 사용자 질문에 대해 순식간에 답변을 해줍니다.
챗GPT와 비슷한 AI 챗봇도 쏟아지고 있는데요. 구글 바드를 비롯해 마이크로소프트가 선보인 빙 채팅봇, 클로드, 덕어시스트, 메타 블렌더봇 3, 리플리카, 캐릭터AI 등이 그것입니다.
한편 블룸버그는 이번주 금융 관련 뉴스와 데이터를 이용해 학습한 AI 모델인 블룸버그GPT를 발표했습니다. 보도에선 블룸버그GPT가 애널리스트를 대체할 존재가 될 가능성이 있다고 말합니다. 블룸버그GPT는 기본적으로 채팅 기반으로 작동해 재무 담당자 데이터 수집, 정리, 출력을 도와주는 도구다. 기본 재무 워크플로는 반복적이기 때문에 채팅 기반 블룸버그GPT와 궁합이 좋고 블룸버그GPT라면 휴일도 없기 때문에 언제든 빠르게 답변을 출력, 인간 애널리스트와 비교해도 장점이 있다는 것입니다.
스탠포드대학 AI 연구소가 이런 AI에 관한 다수 데이터를 수집, 분석해 정리한 보고서를 공개했습니다. 보고서가 말하는 요점은 크게 10가지인데요. 첫째 기업은 학회보다 선행하고 있다는 것. 둘째 기존 벤치마크 소프트웨어에선 측정할 수 없다는 것입니다. 셋째 AI는 환경에 도움이 되는 동시에 해를 끼친다. 넷째 세계 최고 신인 과학자는 AI일까. 5번째 AI 악용에 관한 시간이 급증한다는 것. 6번째는 AI 관련 전문 기술 수여가 미국 거의 모든 산업 분야에서 일어난다는 것입니다. 7번째는 과거 10년간 처음으로 AI에 대한 민간투자액이 전년대비 감소했다는 것. 8번째는 AI를 채용하는 기업 비율이 두드러지게 되는 한편 AI를 채용한 기업은 우위에 계속 선다는 것입니다. 9번째는 AI에 대한 정책 입안자 관심이 상승하고 있다는 것. 마지막은 AI 제품이나 서비스에 대해 가장 긍정적으로 느끼는 국가에 대한 설명입니다.
이런 가운데 이탈리아 데이터 보호기관이 오픈AI에 데이터 보호나 프라이버시 우려로 챗GPT에 대한 이탈리아 액세스를 차단하도록 명령을 내렸습니다. 이에 따라 4월 1일 오픈AI는 이탈리아 IP 주소에서 챗GPT에 대한 액세스를 차단했는데요. 여기에서 끝나지 않고 독일 등 EU 국가 데이터 규제 당국도 이탈리아와 같은 조치를 취하는 걸 검토 중이라는 보도가 나오고 있습니다. 물론 이탈리아 부총리인 마테오 살비니는 프라이버시 우려로 인한 챗GPT 차단은 과도하다며 이탈리아 데이터 보호 기관을 비판하기도 했죠. 그는 모든 기술 혁신은 큰 변화와 함께 위험을 초래한다고 표현하기도 했습니다.
오픈AI 역시 AI 안전성에 대한 접근 방식을 공개했습니다. 오픈AI는 새로운 시스템을 출시하기 전에 엄격한 테스트를 실시하고 외부 전문가에게 피드백을 요구하고 인간 피드백에 의한 강화학습 등 방법을 이용해 모델 동작을 개선하고 광범위한 안전, 모니터링 시스템을 구축한다고 밝혔는데요. 오픈AI 측은 자사는 강력한 AI 시스템이 엄격한 안전성 평가를 받아야 한다고 생각한다며 이런 규제가 취할 수 있는 최선의 형태에 대해 정부와 적극 협의하고 있다고 밝혔습니다.
다음은 대규모 조사와 테스트를 실시해도 기술 용도를 모두 예측할 수 있는 건 아니며 연구로 배울 수 있는 것도 한계가 있다는 것입니다. 오픈AI는 실제로 AI를 사용해 보고 학습할 수 있는 건 시간이 지나면서 점점 더 안전해지는 AI 시스템을 출시하는 중요한 요소라고 믿고 있다며 신중하고 서서히 새로운 AI 시스템을 발표하고 충분한 보호 수단을 강구하는 한편 꾸준히 확대되는 그룹에게 제공해 피드백을 바탕으로 꾸준한 개선을 실시할 것이라고 선언하기도 했습니다.
또 오픈AI는 개발자가 이 기술을 앱에 직접 통합할 수 있도록 자체 서비스와 API를 통해 활용하게 해 부정 사용을 감시하고 대책을 강구할 수 있어 AI 시스템 부정 사용에 대한 대책을 계속 확인할 수 있다고 밝히고 있습니다. 그 밖에 오픈AI는 안전에 대한 대처 일환으로 AI 도구 사용에 18세 이상 혹은 보호자 승인을 얻은 13세 이상이라는 연령 제한을 검토 중이라고 밝혔습니다. 감사합니다.
정용환 기자
이원영 기자
