호치민시 경찰, AI 영상 제작 기술 '어두운 면'에 주의하세요 Veo 3

Công an TP.HCM: Cẩn trọng với ‘mặt trái’ của công nghệ tạo video AI Veo 3 - Ảnh 1. — 새로운 영상 생성 AI 기술은 사용자에게 많은 기회를 제공하지만 위험도 안겨줍니다.

7월 9일, 호찌민시 경찰은 신고 접수 및 범죄 신고를 통해 AI Veo 3 영상 제작 기술을 이용한 사기 사례는 보고되지 않았다고 밝혔습니다. 하지만 이 기술은 긍정적인 측면 외에도 악의적인 범죄자들이 불법 행위를 저지르는 데 악용될 수 있으므로 주의를 기울여야 합니다.

호치민시 경찰의 사이버 보안 및 첨단 범죄 예방부(PA05)에 따르면, 사용자가 음성과 얼굴을 변경하여 비디오, 이미지, 라이브 스트리밍을 만들 수 있게 해주는 생성적 AI 애플리케이션(인공 AI라고도 함, Swapface, SoraAI, ChatGPT, Deepseek 등)이 점점 더 인기를 얻고 있습니다.

2025년 5월 말, 구글은 페이스북, X 등 인기 있는 소셜 네트워킹 플랫폼에서 화제를 모으고 있는 새로운 AI 영상 제작 기술인 Google Veo 3를 출시했습니다. 이 기술은 캐릭터와 배경 모두의 이미지, 콘텐츠, 움직임을 생성할 수 있는 기능을 갖추고 있으며, 특히 필요에 따라 음향 효과와 음성 해설을 자동으로 생성할 수 있는 기능이 있어 많은 시청자가 AI 제품인지 실제 장면인지 구별하기 어려울 정도입니다.

긍정적인 효과(콘텐츠 제작, 교육 , 영화, 미디어 등에서 큰 잠재력을 가짐) 외에도, 이 기술은 주체가 불법 행위를 저지르는 데 악용될 수 있습니다.

예를 들어, 악의적인 사람들은 사람의 이미지에서 Veo 3 기술을 이용해 사진 소유자의 얼굴, 사진 속 사람이 자주 방문하는 지리적 위치, 자주 사용하는 제품 및 서비스, 생활 습관 등 많은 중요한 정보를 자동으로 "추출"할 수 있습니다. 이를 통해 사이버 공간에서 가져온 이미지와 사운드만으로 얼굴과 음성을 재현할 수 있습니다. 이를 통해 사실적인 "디지털 사본"을 만들 수 있습니다.

AI 기술을 이용하는 사기꾼의 익숙한 수법은 "디지털 사본"을 만든 후, 친척이나 정부 기관(경찰, 법원, 검찰, 세무서, 병원 등)을 사칭한 사람을 시켜 영상 통화를 하게 한 다음, 요청한 대로 하라고 요구하거나, 당황한 척하고 긴급 구조 요청을 하는 식으로 피해자의 불안감을 이용하는 것입니다. 피해자가 돈을 이체하면 사기꾼은 즉시 "사라집니다".

게다가, 나쁜 놈들은 이 도구를 음란물 콘텐츠, 허위 정보 유포, 재산 갈취 등 다른 불법적인 목적으로도 사용할 수 있습니다.

PA05에 따르면, 앞으로도 악당들은 과학 기술의 발전을 악용하여 불법 행위를 저지르고, 운영하며, 자행할 것입니다. 한편, 사람들의 신원 확인, 자기 예방, 경계에 대한 지식과 인식은 여전히 부족합니다.

앞으로 사이버 공간에서의 사기적 자산 횡령 활동에 대한 단속 효과를 높이기 위해, 시 경찰은 공안부에 보고하여 당과 국가에 법적 통로를 완성하고, 국가 안보 및 질서 관리 업무를 수행하고, 대중을 동원하여 기층 수준에서 국가 안보를 수호하는 운동에 참여하도록 하는 업무를 계속 수행할 것입니다. 이를 통해 의식과 경계심을 높이고, 사이버 공간에서의 사기적 자산 횡령 활동을 예방하고 감지하는 효과를 높일 것입니다.

또한, 호치민시 경찰은 사람들에게 다음과 같은 사항을 권고합니다.

예상치 못한 상황을 다룬 내용을 담고 있는 알 수 없는 번호에서 온 메시지와 전화에 주의하세요. 정보의 정확성을 주의 깊게 확인하고 검증하세요. 절대 듣지 말고, 지시를 따르지 말고, 악의적인 사람이 요구하는 대로 돈을 이체하지 말고, 메시지나 이메일 등을 통해 보낸 출처를 알 수 없는 링크에 접속하지 마세요.

공개 소셜 네트워크 플랫폼에 개인 정보와 관련된 콘텐츠를 게시하는 것을 제한하세요... 악의적인 사람들이 사진, 비디오, 음성 등의 정보를 훔치는 경우를 방지하세요. 동시에 개인 소셜 네트워크 계정을 비공개 모드로 설정하여 정보를 보호하세요. 휴대폰 운영 체제의 공식 소스(CH Play, AppStore)에서만 온라인 애플리케이션을 설치하세요.

위의 속임수를 이용해 사기를 발견하거나 사기를 의심하는 경우, 가장 가까운 경찰서에 신속히 신고하여 시기적절한 지원과 해결을 받아야 합니다.

단 투안 - 차우 투안

출처: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm