가자 전쟁 딥페이크 영상, AI에 대한 우려 불러일으켜

[광고_1]

온라인에서 수백만 번 조회된 이 이미지들은 인공지능을 이용해 만들어진 딥페이크입니다. 자세히 살펴보면, 기묘하게 휘어진 손가락이나 부자연스러운 빛으로 반짝이는 눈 등, 확실한 징후를 발견할 수 있습니다.

하지만 이러한 딥페이크 이미지가 촉발한 분노는 사실입니다.

이스라엘-하마스 전쟁 사진은 실제와 같은 이미지를 만드는 데 사용되는 선전 도구인 AI의 위험성을 생생하고도 고통스럽게 보여줍니다.

지난달 전투가 시작된 이래로 소셜 미디어에 유포된 디지털 조작된 사진은 사상자에 대한 책임에 대한 허위 주장을 하거나 발생하지도 않은 잔혹 행위에 대해 사람들을 오도하는 데 사용되었습니다.

가자 전쟁의 딥페이크 이미지가 새로운 우려를 불러일으키다 (사진 1) — 팔레스타인인이 가자지구의 잔해에서 소지품을 챙기고 있다. AP 사진.

기술 발전은 점점 더 빈번하게 일어나고 있으며, 이에 대한 감독은 거의 이루어지지 않고 있습니다. 이는 AI가 또 다른 형태의 무기가 될 위험성을 분명히 보여주며, 향후 분쟁, 선거, 그리고 기타 주요 사건에서 어떤 일이 일어날지 미리 엿볼 수 있게 해줍니다.

샌프란시스코와 파리에 본사를 둔 기술 회사인 CREOpoint의 CEO인 장클로드 골든스타인은 "상황은 나아지기 전에 훨씬 더 악화될 것입니다."라고 말했습니다. CREOpoint는 AI를 활용해 온라인 불만의 타당성을 평가합니다.

그의 회사는 가자지구에서 가장 화제가 된 딥페이크 이미지 데이터베이스를 구축했습니다. "이미지, 비디오 , 오디오: 생성적 AI를 통해 이전에는 볼 수 없었던 진전을 이룰 수 있습니다."라고 그는 말했습니다.

전쟁으로 인한 허위 정보를 추적하는 비영리 단체인 디지털 증오 대응 센터의 CEO인 임란 아메드는 그러한 이미지를 만드는 선전가들이 사람들의 가장 깊은 충동과 불안을 표적으로 삼는 데 능숙하다고 말했습니다.

이미지가 더 무섭게 보일수록 사용자들은 그것을 기억하고 공유할 가능성이 높아지며, 이는 의도치 않게 더 많은 허위 정보를 퍼뜨리는 결과를 초래합니다. 러시아-우크라이나 분쟁 이후 AI가 생성한 유사한 허위 정보가 급속도로 확산되기 시작했습니다.

새로운 갈등이나 선거 시즌이 올 때마다 허위 정보를 퍼뜨리는 세력에게는 새로운 기회가 제공됩니다. 많은 AI 전문가와 정치 학자들은 미국, 인도, 파키스탄, 우크라이나, 인도네시아, 멕시코 등 여러 국가에서 주요 선거가 치러지는 내년에 위험이 있을 것이라고 경고합니다.

워싱턴의 양당 의원들은 AI와 소셜 미디어가 미국 유권자들에게 거짓을 퍼뜨리는 데 이용될 수 있다는 위험성을 경고했습니다. 최근 딥페이크 기술의 위험성에 대한 청문회에서 버지니아주 민주당 소속 게리 코놀리 하원의원은 미국이 다른 AI에 대응하기 위한 AI 도구 개발에 자금을 투자해야 한다고 말했습니다.

버팔로 대학교 데이비드 도어만 교수는 AI가 생성하는 잘못된 정보로 인해 발생하는 정치적, 사회적 문제에 효과적으로 대응하려면 더 나은 기술과 더 나은 규제가 모두 필요하다고 말했습니다.

마이 안 (AP에 따르면)

[광고_2]
원천