인터넷을 서핑할 때마다 AI가 만든 멍청하고 웃긴 영상을 봅니다.

(댄 트리) - Veo 3가 만든 "비정상적인" 콘텐츠가 담긴 영상이 소셜 네트워크 사이트에 자주 등장하고 있습니다.

내가 서핑하는 곳마다 Veo 3의 말도 안되는 유머를 봅니다.

최근 소셜 미디어, 특히 TikTok 사용자들은 Veo 3 도구로 제작된 "코미디" 영상을 끊임없이 접하고 있습니다. 대부분은 재미있지만, 많은 콘텐츠가 기존 틀에서 벗어나 논란을 일으키기 시작했습니다.

"제가 TikTok을 열 때마다 익숙한 모티브가 담긴 재밌는 영상이 나오는데, 예를 들어 많이 먹고 많이 자서 돼지를 팔러 가는 늙은 여자 영상이 있어요."라고 Huyen Mai(20세)가 공유했습니다.

후옌 마이는 자신의 TikTok에 Veo 3가 만든 "코미디" 영상이 가득하다고 말했습니다(사진: 스크린샷).

마이는 비슷한 영상이 점점 더 많이 나타나자 불편함을 느끼기 시작했고, 이런 영상은 그저 '조회수 늘리기'용일 뿐이고 시청자에게 아무런 가치도 제공하지 않는다고 생각했다고 공유했습니다.

마이는 뉴스 피드에서 부정적이거나 공격적인 영상을 여러 번 보았다고 말했습니다. "많은 TikTok 채널은 조회수를 늘리기 위해 외설적이고 공격적인 요소와 거짓 정보를 통합한 허구의 상황부터 실제 이야기에 이르기까지 다양한 주제를 다루는 영상을 만듭니다."

'조회수 증가'를 목적으로 일련의 불쾌하고 충격적인 콘텐츠가 제작되었습니다(사진: 스크린샷).

후옌 마이의 이야기와 비슷하게, 황 안(20세) 씨도 최근 자신의 좌절감을 토로했습니다. 그는 Veo 3가 매우 사실적인 이미지와 콘텐츠를 제공하며, 많은 영상이 흥미롭고 재미있는 콘텐츠로 제작된다고 말했습니다.

하지만 시간이 지나면서 그는 긍정적인 가치에 초점을 맞추는 대신, "부정적"이고 "조회수를 끌기 위해 충격적인" 경향이 있는 영상이 더 자주 등장한다는 것을 점차 깨달았습니다.

"한 학생이 일어서서 욕설을 퍼부었어요. 제가 최근에 본 Veo 3가 만든 영상 중 하나였어요. 왜 소셜 네트워크에 이렇게 모욕적인 콘텐츠가 있는지 궁금했어요. 특히 아주 중요한 시험 기간에는 더욱 그렇죠." 황 안 씨가 털어놓았다.

AI가 생성한 부적절한 언어와 내용이 담긴 동영상이 소셜 미디어에 자주 등장합니다(사진: 스크린샷).

더욱 우려스러운 점은 일부 영상에서는 캐릭터와 어린이의 목소리를 이용해 민감하고 비윤리적인 대사를 하는데, 그럼에도 불구하고 온라인 커뮤니티에서 수천 건의 상호 작용을 끌어낸다는 것입니다.

또한 Veo 3 사용자 중 다수는 순전히 오락용 콘텐츠라는 명목으로 비정상적인 행동을 조장하는 상황을 만들기도 합니다.

일반적으로 도박 및 배팅과 같은 일부 애플리케이션과 웹사이트는 시청자를 위해 노골적으로 홍보 영상을 제작하여 "엔터테인먼트 영상"이라는 명목으로 공개적으로 유포합니다.

많은 결과를 가져오는 문

Veo 3와 같은 AI 비디오 생성 도구의 개발은 많은 매장과 기업의 콘텐츠 제작 분야에 큰 잠재력을 가져다주지만, 동시에 현실 세계에서 가상의 결과로 이어지는 "문"을 열어준다는 것은 부인할 수 없는 사실입니다.

이로 인해 "어른이나 어린이가 AI가 만든 영상을 구분할 수 있을까?", "이러한 불쾌한 영상은 어린이의 인식에 어떤 영향을 미칠까?"와 같은 의문이 제기됩니다.

AI가 생성한 콘텐츠에 삽입된 베트남 텔레비전 로고(사진: 스크린샷).

많은 전문가들은 오락 목적뿐만 아니라 AI가 제작한 "비정상적인" 콘텐츠의 잠재적 위험에 대해 경고해 왔습니다. 이러한 콘텐츠가 소셜 네트워크에서 엄청난 속도로 확산될 경우, 노인이나 어린이는 수동적으로 받아들이게 되어 쉽게 부정적인 영향을 받을 수 있습니다.

소셜 미디어 플랫폼은 현재 콘텐츠 검열이라는 큰 문제에 직면해 있습니다. 몇 가지 간단한 단계만 거치면 누구나 공격적이거나 타락했거나 불법적인 행위를 조장하는 비정상적인 콘텐츠가 담긴 일련의 동영상을 만들 수 있기 때문입니다.

콘텐츠와 관련하여 잠재적 위험을 초래할 뿐만 아니라, 베트남에서 Veo 3에 접속하고 사용하는 것은 여러 가지 문제를 야기하고 있습니다. Google이 국내 시장에서 이 도구를 공식적으로 지원하지 않고, 높은 요금(Pro 계정은 월 20달러, Ultra 계정은 월 250달러)까지 부과하기 때문에, 많은 IT 전문가들은 VPN을 사용하거나, 유동 계정을 구매하거나, 가짜 정보를 신고하는 등의 "장벽 극복" 방법을 찾아냈습니다.

이들 중 다수는 Veo 3 계정을 저렴하게 제공하고, 무제한 기능을 무료로 사용할 수 있도록 허용하는 등의 "치킨 몰이" 수법에 걸려들었습니다.

저렴한 Veo 3 계정을 구매하도록 권유하는 게시물이 베트남 소셜 네트워크에 넘쳐나고 있습니다(스크린샷).

많은 사기꾼이 Veo 3에 접속해야 한다는 필요성을 이용해 구매자에게 먼저 돈을 이체한 다음 흔적도 없이 재빨리 "사라지도록" 요구하며 사기를 칩니다.

특히, 일부 사람들은 고객의 Gmail 주소를 사용하여 Veo 3 계정을 "초특가"로 등록하는 것을 허용하기도 합니다. 그러나 이는 실제로 Google 정책의 허점을 악용하는 행위로, 계정이 영구적으로 잠기고 이메일, 문서 및 모든 관련 개인 정보에 대한 접근 권한을 잃을 위험이 있습니다.

기술에는 결함이 없습니다

실제로 어떤 AI 플랫폼도 부정적인 콘텐츠를 생성하거나 악의적인 행동을 조장하도록 설계되지 않았습니다. 결과는 사람들이 도구를 어떻게 사용하느냐에 따라 결정되므로, 사용자의 인식과 책임감이 결정적인 요소입니다.

베트남 국립 하노이 공과대학교 정보기술학부 강사인 응우옌 반 손 박사는 "인공지능이 가져오는 긍정적인 가치를 매우 높이 평가합니다. AI가 제대로 활용된다면 사회와 공동체에 많은 실질적인 기여를 할 수 있을 것입니다."라고 말했습니다.

하지만 그에 따르면, 기술이 불건전한 의도를 가진 사람들의 손에 들어가면 문제가 발생한다고 합니다. 손 박사는 "그렇게 되면 AI는 부정적인 행동을 조장하는 효과적인 도구가 되어 사회에 미치는 악영향을 증폭시킬 수도 있습니다."라고 경고했습니다.

그는 특히 젊은 세대를 대상으로 AI에 접근하고 적용할 때 사용자들의 인식과 책임감을 적극적으로 높여 저속하고 공격적인 제품을 퍼뜨리는 대신, 질 좋고 문명화된 콘텐츠를 만드는 것을 목표로 삼을 것을 촉구했습니다.

응우옌 반 손 박사는 AI 사용 시 윤리적 위반을 제한하기 위해서는 교육이 핵심이라고 생각합니다(사진: 제공 캐릭터).

또한, 응우옌 반 손 박사는 AI 사용에 따른 윤리적 위반을 제한하는 장기적인 전략 중 하나는 교육적 관점에서 접근하는 것이라고 생각합니다. 그에 따르면, 인식 제고, 사용자들이 개인적 책임을 이해하도록 돕고, 기술 사용 시 윤리적 기반을 구축하는 것이 문명화된 디지털 공동체 형성에 기여하는 핵심 요소입니다.

"스팸" 콘텐츠에 대한 경고에만 그치지 않고, 많은 전문가들은 생성적 AI 도구가 가져올 수 있는 잠재적 위험, 특히 대규모 허위 정보의 원천이 될 수 있는 비디오를 만드는 기능에 대한 문제를 반복해서 제기해 왔습니다.

"기술 업계는 수년간 딥페이크의 위험성을 다루어 왔습니다. 하지만 점점 더 발전하는 AI 비디오 도구의 등장은 AI, 그리고 나아가 AGI로 생성된 콘텐츠에 대한 단속이 더욱 어려워질 것이라는 분명한 경고입니다."라고 Conjecture의 CEO인 코너 리히는 말했습니다.

같은 견해를 공유하는 Pisa Solutions Company Limited의 CEO인 Nguyen Thi Trang 여사는 점점 더 뛰어난 AI의 맥락에서 비판적 사고의 중요성을 강조했습니다.

"우리는 AI의 사용자일 뿐만 아니라, AI가 생성한 다양한 콘텐츠를 수신하는 주체이기도 합니다. 도구를 윤리적으로 사용하는 것 외에도, 각 개인은 다양한 관점에서 정보를 인식하는 능력을 키워야 합니다. 현재 AI가 제작한 영상 중에는 겉보기에는 진짜 같지만 은밀하게는 허위 콘텐츠를 조장하는 영상이 많기 때문입니다."라고 트랑 씨는 말했습니다.

출처: https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm