테크레시피

[위클리 팟캐스트] AI발 멸종 위험 경고‧新 1조 달러 기업

구글 딥마인드와 앤트로픽, 오픈AI를 비롯한 AI 연구 단체 CEO와 AI 연구자 등 350명 이상이 AI에 의한 인류 멸망 위험을 줄이는 건 핵전쟁이나 바이러스 유행과 같은 세계적인 우선 사항이라는 내용을 담은 서한에 서명하고 정책 입안자에게 AI에 의한 위험을 호소했습니다.

이에 따라 AI 관련 문제를 해결하면서 업체와 전 세계 정부가 미래 AI가 인간 존재에 위협을 줄 수 있다는 위험에 진지하게 대처해야 한다고 덧붙였는데요. 더구나 AI에 의한 멸종 위험을 줄이려면 글로벌 행동이 필요하다며 핵전쟁 위험 경감 같은 수준 노력이 요구된다고 주장했습니다.

최근에는 AI 발전으로 간단하게 실재 인물이 등장하는 딥페이크 영상이나 음성을 만들 수 있게 됐죠. 이런 가운데 전기차 제조사 테슬라 변호인단이 테슬라차 사망 사고에 관한 재판에서 원고가 제출한 음성은 딥페이크 가능성이 있다고 주장하는 사태가 발생해 재판 증거에 대해 이는 딥페이크라고 반박되는 것에 대해 전문가가 우려를 표명해 눈길을 끕니다.

AI 발전으로 상당히 정교한 딥페이크로 만들 수 있기 때문에 다양한 증거에 대해 이건 딥페이크라는 반론이 이뤄질 가능성이 높아지고 있다는 것인데요. 한 전문가는 딥페이크 시대가 되면 누구나 현실을 부정할 수 있을 것으로 우려하고 있습니다.

틱톡이 제너레이티브 AI를 이용한 독자적인 챗봇인 타코를 필리핀 일부 사용자를 대상으로 테스트 중이라고 합니다. 틱톡에 따르면 타코는 틱톡에서 사용자가 콘텐츠를 찾는데 도움을 주며 더 많은 추천 영상을 표시하도록 설계됐다고 합니다.

타코는 영상 시청 화면 오른쪽에 존재하는 사용자 상세, 좋아요, 코멘트 등 버튼 상단에 차코를 사용할 아이콘이 표시되는데요. 타코 아이콘을 탭해 AI와 채팅을 시작할 수 있습니다. 타코는 사용자와의 채팅으로 시청한 영상과 사용자 요청에 따라 가장 관련성이 높은 콘텐츠와 추천 크리에이터를 제공합니다. 개인화된 접근 방식을 통해 사용자 개인의 관심과 취향을 반영하고 있습니다.

엔비디아 주식 시가 총액이 1조 달러를 돌파했습니다. 현재 시가 총액 1조 달러가 넘는 기업은 애플, 사우디 아람코, 마이크로소프트, 알파벳, 아마존이 있지만 여기에 엔비디아가 합류하며 6개사가 된 것입니다.

엔비디아의 1조 달러 돌파는 사상 9번째이며 칩 제조사로는 처음입니다. 현재는 1조 달러 밑으로 떨어졌지만 테슬라, 메타. 중국 페트로차이나가 1조 달러를 돌파한 기록을 보유하고 있죠. 지난 5월 30일 미국 주식 시장에서 엔비디아 주가는 최고치를 갱신하며 한때 418달러를 기록했는데요. 엔비디아 주식은 얼마 전 결산 보고에서도 호조를 보여 올초보다 165% 상승세를 기록한 바 있습니다.

다음 소식입니다. 한 조사에 따르면 인공위성 보안이 쉽게 해킹될 가능성이 있다고 합니다. 지난 4월말 개최된 우주 사이버 보안 컨퍼런스 기간 중 기술 기업 탈레스가 해킹 챌린지에 참가해 무사히 해킹에 성공, 2019년 지구 저궤도에 발사된 소형 위성 제어권을 빼앗는 방법을 찾아냈다고 합니다.

위성 시스템에 침입해 해커는 위성 GPS 시스템, 자세 제어 시스템 심지어 탑재된 카메라에도 액세스할 수 있게 되어버렸다고 합니다. 물론 이번에는 어디까지나 해킹 챌린지를 통한 테스트인 만큼 해킹되는 동안에도 위성 제어권을 잡은 채이긴 했습니다. 하지만 테스트라도 문제는 해킹할 수 있었다는 것입니다.

상업 위성 시스템이 얼마나 취약한지는 이미 명백한 사실이죠. 지난해 2월 우크라이나 전쟁 시작 무렵에는 유럽 인터넷 통신이 불안정하다는 지적이 나왔고 사이버 보안 전문가가 어떻게 러시아가 인공위성 인터넷 시스템을 해킹했는지에 대해 지적하기도 했습니다. 작년 말에는 미국 상원에선 해킹에 더 강한 인공위성을 위한 법안을 제출하기도 했습니다. 감사합니다.

이석원 기자

월간 아하PC, HowPC 잡지시대를 거쳐 지디넷, 전자신문인터넷 부장, 컨슈머저널 이버즈 편집장, 테크홀릭 발행인, 벤처스퀘어 편집장 등 온라인 IT 매체에서 '기술시대'를 지켜봐 왔다. 여전히 활력 넘치게 변화하는 이 시장이 궁금하다.

뉴스레터 구독