딥페이크가 만연하다 - AI 사칭으로부터 안전한 사람은 없다

음성 모방, 얼굴 모방, 립싱크... AI는 이제 업무와 오락을 위한 도구가 아니라 위험한 상업 사기 도구로 변모하고 있습니다. 유명인, 의사, 심지어 승려의 이미지까지 AI가 사칭하여 소셜 네트워크 전반에 걸쳐 상품을 판매하고 있습니다. 실제 사람들은 이를 알지 못하고, 구매자는 신뢰를 잃습니다.

물건을 팔기 위해 "빌린 얼굴"이 되는 것

"원래 무릎 상태가 어떠하든 저희 방법을 적용하시면 7일 이내에 눈에 띄게 좋아질 것을 보장합니다. 만약 효과가 전혀 없다면 진심으로 사과드리며 10억 동(VND)을 보상해 드리겠습니다. 만약 효과가 전혀 없다면 100% 환불해 드리고, 저도 10억 동(VND)을 보상해 드리겠습니다. 누구나 감히 그렇게 할 수 있는 것은 아닙니다." 이는 유명 여성 가수가 관절 통증 완화 마사지 크림 제품을 광고하는 방식과 유사하지만, 이 광고는 전적으로 AI가 제작했다는 점을 언급할 가치가 있습니다.

위 광고 영상은 LShop이라는 TikTok 계정에서 가수의 이미지, 목소리, 그리고 바디 랭귀지를 사실적으로 표현하여 주의 깊게 관찰하지 않으면 알아차릴 수 없는 방식으로 사용되었습니다. 이 계정은 약 9,000명의 팔로워와 67,000개의 좋아요를 보유하고 있으며, 각 영상은 수천 건의 조회수를 기록하고 있습니다. 가수의 이미지를 사용한 이 "광고" 영상 하나만으로도 1,000개 이상의 좋아요와 거의 100개의 구매 댓글을 기록했습니다.

같은 마사지 크림 제품을 판매하는 채널들은 또 다른 딥페이크 버전을 "제작"했는데, 이번에는 의사였습니다. 영상에서 해당 캐릭터는 "저는 하노이에서 가장 권위 있는 정형외과 의사입니다. 가장 심각한 반월판 파열도 단 3일 만에 완치될 수 있다고 장담합니다. 이 젤은 베트남에서 가장 권위 있는 정형외과 협회의 인증을 받았습니다."라고 단호하게 약속했습니다. 이 대사는 AI가 다른 "의사들"을 위해 재창조한 것으로, 시청자들이 진짜라고 착각하기 쉽게 만들었습니다.

이 영상은 4,000개에 가까운 좋아요와 120개가 넘는 댓글을 받았지만, 구매를 시도하려고 문자를 보냈지만 계정 측에서는 아무런 응답도 없었고, 댓글란에서도 시청자들과 소통하지 않았습니다. 상품은 장바구니에 그대로 남아 직접 구매하도록 했습니다. 특히, 판매 중인 상품은 중국산이며, 상품 정보가 매우 모호합니다.

가수, 유명인, 의사 등 모두가 건강 관련 제품을 판매하기 위해 AI 클립을 만드는 판매 채널에 의해 사칭되었습니다.

여기서 멈추지 않고, 딥페이크는 영적인 영역으로도 확산되고 있습니다. 팟팝 NM이라는 이름의 틱톡 계정은 스승 TPH의 강의를 리포스트할 뿐만 아니라 AI 기술을 사용하여 보리수 잎과 침향 팔찌와 같은 상품을 판매하는 "스승"의 이미지를 제작합니다.

시청자들이 구매를 요청하는 댓글을 남기자 채널 측은 "계획대로 되지 않으면 제 계정의 진열 코너에 가서 필요한 상품을 고르세요. 잔돈에 인색하거나 큰돈을 무시하지 마세요."라고 답했습니다. 그 직후, 이 스님은 직접 나서서 자신은 그런 제품을 광고하거나 관여한 적이 없다고 해명해야 했습니다.

창의성과 침해 사이의 경계

국가사이버보안감시센터(NCSC)의 사이버보안 전문가 응오 민 히에우(Hieu PC)는 소셜 미디어에 유포되는 가짜 광고 영상이 주로 딥페이크 소프트웨어로 제작된다고 밝혔습니다. 딥페이크 소프트웨어는 흔하며, 많은 서비스에서 저렴한 비용과 매우 간단한 조작법을 제공하는 패키지 상품을 제공하고 있습니다. 히에우 씨는 디지털 콘텐츠 제작 및 미디어 제작 분야에 긍정적인 활용 사례가 있지만, 문제는 일부 주체가 사기, 신원 위조, 가짜 뉴스 유포, 실제처럼 보이는 영상을 통한 타인의 명예 훼손 등 부정적인 목적으로 이 기술을 악용하고 있다는 점이라고 지적했습니다.

히에우 씨는 또한 영상 속 얼굴 표정이 다소 뻣뻣하고, 입 모양과 움직임이 대화와 일치하지 않는 등 딥페이크 영상을 식별하는 데 도움이 되는 몇 가지 징후를 제시했습니다. 히에우 씨는 협박, 강압 및 이익 추구 목적으로 민감한 영상에 피해자의 얼굴을 삽입하는 데 AI가 사용된 훨씬 더 심각한 상황이 있었다고 경고했습니다.

호치민시 변호사협회 쩐 득 프엉 변호사에 따르면, AI를 이용하여 유명인(또는 특정 개인)의 동의 없이 이미지를 생성하는 것은 2015년 민법 제32조에 명시된 초상권, 특히 개인의 권리를 침해하는 행위입니다. 해당 법률은 "개인은 자신의 초상에 대한 권리를 가진다. 개인의 초상을 사용하려면 반드시 동의를 받아야 한다. 상업적 목적으로 이미지를 사용하는 경우, 당사자들이 별도의 합의를 하지 않는 한, 이미지 사용 당사자에게 보상을 지급해야 한다"고 규정하고 있습니다.

따라서 소셜 네트워크 계정 소유자가 실제 사진, 오래된 영상 등을 AI가 재구성한 이미지를 무단으로 광고 또는 판매 목적으로 사용하는 경우, 이는 법률 위반에 해당합니다. 이미지 사용이 본 조의 규정을 위반하는 경우, 이미지 소유자는 법원에 위반자, 관련 기관, 단체 및 개인에게 이미지 사용의 철회, 파기, 종료, 손해 배상 및 법률 규정에 따른 기타 조치를 강제하는 결정을 내려줄 것을 요청할 권리가 있습니다.

깜 느엉

출처: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html