AI는 이스라엘-이란 갈등에 대한 정보를 어떻게 왜곡하고 있는가?

AI 딥페이크, 실제 전투 장면으로 위장한 비디오 게임 영상, 챗봇이 생성한 허위 정보 등 기술로 인해 생성된 이러한 모든 형태의 허위 정보는 이스라엘-이란 갈등을 심각하게 왜곡하고 있습니다. 이러한 허위 정보는 소셜 미디어 플랫폼 전반에 걸쳐 사실을 왜곡하는 내러티브 전쟁을 조장하고 있습니다.

이스라엘이 이란의 핵 시설과 군 지도부를 공격하면서 시작된 지상전과 병행하여 벌어진 정보전은 진실과 허구의 경계가 모호해지는 급속도로 진화하는 AI 도구 시대에 심각한 디지털 위기를 드러냈습니다.

전문가들은 분쟁 지역에서 허위 정보가 폭발적으로 증가함에 따라 더욱 강력한 탐지 및 검증 도구의 필요성이 더욱 절실해졌다고 말합니다. 우려스러운 것은 주요 기술 플랫폼들이 콘텐츠 검열을 축소하고 팩트체커에 대한 의존도를 낮추는 등 이러한 안전장치를 완화하고 있다는 점입니다.

오스틴에 본사를 둔 비트마인드AI(BitMindAI)의 설립자 켄 존 미야치는 기자들에게 전 세계가 AI가 생성하는 허위 정보, 특히 이란-이스라엘 분쟁과 관련된 허위 정보의 급증을 목격하고 있다고 말했습니다. 이러한 도구들은 대중의 인식을 조작하는 데 사용되며, 종종 전례 없는 규모와 정교함으로 분열적이거나 거짓된 이야기를 증폭시키는 데 사용됩니다.

조작된 미디어를 감지하는 데 특화된 미국의 보안 기업인 GetReal Security는 이스라엘-이란 갈등과 관련된 가짜 영상 의 물결도 확인했습니다.

이 회사는 갈등으로 인해 파괴된 이스라엘 비행기와 건물, 트레일러에 장착된 이란 미사일 등 끔찍한 장면을 묘사한 시각적 영상과, 초현실적인 이미지를 만드는 능력으로 유명한 구글의 Veo 3 AI 생성기를 연결합니다.

캘리포니아 대학교 버클리 캠퍼스(미국)의 교수이자 GetReal Security의 공동 창립자인 하니 파리드는 AI가 만든 가짜 이미지를 식별하는 데 도움이 되는 작은 팁을 공유했습니다. Veo 3 비디오는 일반적으로 길이가 8초이거나 비슷한 길이의 클립을 조합한 것입니다.

그는 "8초 제한이 영상이 가짜라는 걸 증명하는 건 아니지만, 공유하기 전에 잠시 멈춰서 정보를 확인해야 할 충분한 이유가 될 수 있다"고 강조했다.

BitMindAI의 전문가인 미야치 씨에 따르면, 인터넷에 거짓되고 가짜 콘텐츠가 퍼지는 현재 상황은 디지털 정보에 대한 신뢰가 침식되는 더 심각한 위기를 반영하고 있습니다.

이러한 상황에 직면하여 그는 가짜 콘텐츠를 감지하고, 사회의 미디어 리터러시를 향상시키고, 공개 토론의 투명성과 건강을 유지하는 데 있어 기술 플랫폼의 책임감 있는 역할을 촉진하기 위한 보다 효과적인 도구를 개발할 필요성을 강조했습니다.

(베트남+)

출처: https://www.vietnamplus.vn/ai-lam-nhieu-loan-thong-tin-ve-cuoc-xung-dot-israel-iran-nhu-the-nao-post1045593.vnp