-홍수 구조 영상·여행지 사진 ‘조작’…사기범들 라이브 방송 악용도
베트남에서 인공지능(AI)으로 생성된 가짜 이미지와 영상이 소셜미디어를 통해 급속히 확산하면서 진위 판별이 어려워지고 있다고 23일 Vnexpress지가 보도했다.
호찌민시(Ho Chi Minh City)에 사는 타인투(Thanh Thu·28) 씨는 최근 중부 베트남 홍수로 여성과 손자가 갇힌 것처럼 보이는 바이럴 영상을 보고 공유하려다 이상한 점을 발견했다.
지난달 북부 타이응우옌성(Thai Nguyen)의 홍수 때 수십 명이 지붕에 매달린 사진을 실제로 믿었던 경험이 있는 그녀는 이번에는 더 신중하게 살폈다. 할머니의 얼굴이 흐릿하고 왜곡됐으며 주변 사람들은 무릎까지만 오는 물에서 차분하게 대화하고 있었다.
“처음에는 가슴 아픈 영상이었고 공유하고 싶은 강한 충동이 들었지만, 단지 조회수를 끌기 위해 AI로 생성된 것임을 제때 깨달았다”고 그녀는 말했다.
최근 몇 달간 그녀의 소셜미디어 피드는 전 세계 여행지에서 모델처럼 보정된 얼굴로 포즈를 취한 친구들의 사진으로 가득 찼다. 그러나 여러 친구의 사진이 얼굴만 바뀐 채 동일한 배경을 가지고 있다는 것을 알아차리고 이미지가 AI로 생성됐음을 깨달았다.
하노이(Hanoi)의 호앙비엣(Hoang Viet·27) 씨도 AI 생성 콘텐츠에 속았다. 자연 애호가인 그는 한때 ‘무지개 버섯’이라는 틱톡(TikTok) 영상을 1시간 이상 시청하며 연구를 위해 메모까지 했다. “나중에 더 조사하고 전문가에게 물어본 후에야 그 종이 전혀 존재하지 않는다는 것을 알았다”고 그는 말했다.
그는 수천만 조회수를 기록한 ‘해양 괴물 부활’ 영상이나 야생동물이 트램펄린에서 뛰는 저품질 영상들을 떠올렸다. “모두 가짜였다.” 이러한 경험 후 그는 이제 정보를 사실로 받아들이기 전에 신뢰할 수 있는 뉴스 출처나 학술 자료를 사용해 교차 확인한다.
올해 오픈AI(OpenAI)의 소라(Sora), 구글(Google)의 비오3(Veo 3), 런웨이(Runway) 같은 도구의 등장으로 연출된 여행 사진부터 고인 친척과의 재현 이미지까지 AI 생성 이미지와 영상이 급증했다.
디지털 전환 전문가 딘응옥선(Dinh Ngoc Son) 박사는 AI 생성 콘텐츠가 감정과 호기심을 악용하도록 설계됐다고 말했다. “선정적이거나 특이한 정보는 항상 더 빠르게 퍼진다. AI가 현실성을 개선하면서 확산이 더 강해져 통제하기 어려운 감정의 소용돌이를 만든다”고 그는 설명했다.
그는 진정성과 디지털 윤리가 주요 과제가 됐다며 생성형 AI가 발전하면서 실제와 가짜 사이의 경계가 점점 희미해지고 있다고 지적했다. 조작된 홍수 구조 영상과 딥페이크 뉴스 앵커를 예로 들었다.
7월 말레이시아 언론 더 스타(The Star)는 쿠알라룸푸르의 한 부부가 관광지로 300㎞를 운전해 갔다가 그곳이 존재하지 않고 완전히 AI로 제작됐다는 것을 발견했다고 보도했다.
“사용자가 검증 없이 그러한 콘텐츠를 공유하면 대중의 인식을 왜곡하고 신뢰할 수 있는 정보 플랫폼을 훼손한다”고 선 박사는 말했다.
히에우PC(Hieu PC)로 알려진 사이버보안 전문가 응오민히에우(Ngo Minh Hieu)는 많은 사람들이 AI 기반 편집 앱에 사진을 업로드해 무의식적으로 개인 데이터를 노출한다고 말했다.
“반사기(Anti-Scam)” 프로젝트 창립자인 그는 “스마트폰만 있으면 누구나 AI 제품을 만들 수 있다”며 “많은 이들이 재미로 사용하지만 사기범들이 기술에 덜 익숙한 사람들을 속이기 위해 점점 더 악용하고 있다”고 경고했다.
10월 말 온라인 사기 예방에 관한 국가 세미나에서 팜더뚱(Pham The Tung) 공안부 차관은 범죄자들이 AI와 딥페이크 기술을 이용해 시민들을 속이고 있다고 경고했다.
10월 28일 반사기 플랫폼 총루아다오닷브이엔(Chongluadao.vn)은 사기범들이 AI를 사용해 전자상거래 라이브 방송을 조작하는 새로운 경고를 발령했다.
이들은 실제 판매 영상을 가져와 판매자의 외모를 신체 장애가 있거나 아픈 것처럼 수정하고 재업로드해 동정심으로 구매를 유도한다. 사기범들은 또한 감정적인 댓글을 남기기 위해 수십 개의 가짜 계정을 만들어 편승 효과를 활용해 더 많은 시청자를 속인다.
동정심에서 장애인 라이브 방송에서 제품을 구매했던 투 씨는 AI 사기가 그녀를 점점 더 혼란스럽게 만든다고 말했다. “이제 그런 사람들의 이미지조차 가짜일 수 있을 때 무엇을 믿어야 할지 모르겠다.”
AI 주도 허위정보에 맞서기 위해 선 박사는 개인, 사회, 당국의 공동 행동이 필요하다고 말했다. 개인은 팩트 체크 기술을 향상해야 하며, 언론과 교육 산업은 디지털 미디어 리터러시를 강화해야 한다고 그는 말했다.
“기반은 여전히 디지털 윤리다. 각 사람이 개인적인 ‘필터’를 갖추면 AI는 더 이상 위협이 되지 않을 것이다.”
히에우는 개인정보보호 조항을 포함하고 내년 초 제정될 것으로 예상되는 베트남의 인공지능법이 사용자와 기업 모두를 보호하는 데 도움이 될 것이라고 덧붙였다.
투 씨는 이제 공유하기 전에 모든 콘텐츠를 신중하게 검토한다. “진실과 거짓이 거의 구분할 수 없을 때, 클릭이나 사기를 쫓는 사람들에게 속지 않기 위해 검증에 추가 시간을 들여야 한다.”
Vnexpress 2025.11.23
