부모가 온라인에 사진을 게시하면 아이들이 AI 피해자가 될 위험이 있습니다.

특히 소셜 네트워크와 인터넷 전반에서 정보와 연결의 폭발적인 증가로 인해 많은 사람들이 위험을 예상하지 못한 채 자신의 모든 감정과 사생활을 인터넷에 공유하는 습관을 갖게 되었습니다. 많은 성인들이 자신의 사진과 동영상을 온라인에 게시할 뿐만 아니라, 아동의 얼굴이나 목소리가 포함된 콘텐츠를 허가 없이 게시할 권리를 스스로에게 부여하고 있습니다. 이러한 사진과 동영상이 온라인에 게시되면, 접근 권한이 있는 사람은 누구든 아무런 제한 없이 사용할 수 있습니다.

지난 7월, 독일 통신사 도이체텔레콤은 어린아이들의 사진이 어떻게 온라인에서 악용될 수 있는지 보여주는 모의 광고를 공개했습니다. 이 광고는 AI(인공지능)를 다양한 목적으로 활용하고 있습니다. "엘라의 메시지 (A Message from Ella)"라는 제목의 이 영상은 AI와 딥페이크 기술을 활용하여 엘라의 부모가 온라인에 게시한 어린 시절 사진과 영상을 성인 버전으로 만들어냅니다.

도이체텔레콤 경고 영상 속 9세 엘라의 소셜 미디어 이미지를 활용해 AI가 만든 '어른 엘라'

"AI 엘라"는 실제 사람처럼 움직이고 말할 수 있어, 영화관 대형 스크린에 딸아이가 나오는 모습을 본 부모님을 깜짝 놀라게 했습니다. 심지어 사람처럼 울고 감정표현도 할 수 있습니다.

"당신에게는 이 사진들이 추억일 뿐이라는 걸 알아요. 하지만 다른 이들에게는 데이터일 뿐이죠. 그리고 저에게는 제 신원이 도용당하고, 제가 하지도 않은 일로 감옥에 갈 수도 있는 끔찍한 미래의 시작일 수도 있어요... 당신이 온라인에 공유하는 것들은 제 남은 인생 동안 저를 따라다닐 디지털 이정표예요." AI 캐릭터 엘라가 말했습니다.

AI는 단 한 장의 사진만 공유하면 9살 소녀의 성인 버전을 만들어낼 수 있습니다. 딥페이크는 영상에서 음성을 분리하여 성인 목소리로 변환합니다. 이미지와 영상은 완전히 위조될 수 있으며, 개인 식별 정보는 불법적인 목적으로 도용되는 귀중한 정보가 됩니다. 여기서 멈추지 않고, 악당들은 온라인에서 수집한 이미지를 복사하여 붙여넣거나, AI를 이용하여 아동 포르노를 제작하거나, 진실을 조롱하고, 비방하고, 왜곡하는 일련의 사진을 제작할 수 있습니다.

도이체 텔레콤의 커뮤니케이션 및 마케팅 책임자인 크리스티안 뢰페르트는 "최근 연구에 따르면 평균 5세 아동이 동의 없이 온라인에 게시한 사진이 약 1,500장인 것으로 나타났으며, 이는 아동이 가장 신뢰하는 사람, 즉 어머니나 아버지가 게시한 것으로 나타났습니다."라고 말했습니다.

뉴요커 에 따르면 전문가들은 2030년까지 신원 도용의 3분의 2가 소셜 미디어에서의 무분별한 사진 공유로 인해 발생할 것으로 추정합니다. 도이체 텔레콤은 또한 부모의 75% 이상이 현재 소셜 미디어에서 자녀에 대한 정보를 공유하고 있다는 보고서를 인용했습니다. 한편, 부모 10명 중 8명은 직접 만나보지 않고도 소셜 미디어 계정을 팔로우하는 것으로 나타났습니다.

최근 AI 도구 개발이 점점 더 "대중화"되고 있으며, 모바일 기기용 애플리케이션을 통해 일반 사용자에게도 널리 사용되고 있습니다. 하지만 많은 사람들이 이러한 프로그램에 주의를 기울이는 대신, 무심코 개인 사진이나 가족 사진을 소셜 네트워크에 게시합니다. 이러한 행위는 AI가 얼굴 구조부터 주변 환경까지 사람에 대해 학습할 수 있는 방대한 양의 데이터를 무심코 제공하는 것과 다름없습니다.

많은 보안 전문가들은 새로운 트렌드가 등장하더라도 어떤 상황에서든 사용자는 여전히 신중해야 하며 소셜 네트워크에서 몇 분간의 즐거움을 위해 개인 데이터, 특히 자신과 사랑하는 사람의 얼굴 데이터를 거래해서는 안 된다고 경고합니다.

소스 링크: https://thanhnien.vn/rui-ro-tre-em-thanh-nan-nhan-cua-ai-khi-cha-me-dang-hinh-len-mang-185230911090311966.htm