AI 도구를 사용하여 AI 기반 제품 오류 수정

AI 조작으로 가짜뉴스가 더욱 정교해지고 있다

최근 하노이에서 열린 베트남 언론인 협회 와 태국 언론인 협회 간 회의에서 두 협회의 수장은 대부분의 시간을 '가짜 뉴스' 문제에 대해 언급하며, 이는 더 이상 국가적 문제가 아니라 중대한 문제로, 이 지역과 세계에 예측할 수 없는 영향을 미치고 있다고 말했습니다.

Google DeepMind의 조사에 따르면, AI 챗봇과 같은 도구를 사용하여 잘못된 정보를 만드는 것보다 사람을 사칭하는 이미지, 비디오 , 오디오를 만드는 것이 거의 두 배나 더 흔합니다.

최근 몇 달 동안 영국 총리 리시 수낙을 비롯한 세계 지도자들의 딥페이크 영상이 TikTok, X, Instagram에 등장하면서, 소셜 네트워크에서 해당 콘텐츠에 라벨을 붙이거나 삭제하려고 노력했음에도 불구하고 대중은 그것이 가짜라는 사실을 깨닫지 못하고, 그 확산이 유권자들에게 영향을 미칠 수 있다는 우려가 제기되었습니다.

총선을 앞두고 리시 수낙 영국 총리의 가짜 예술 작품이 틱톡과 인스타그램에 등장했습니다. (사진: AFP)

기술 시대에 가짜 뉴스의 영향을 평가하는 저널리즘·선전 아카데미 저널리즘·커뮤니케이션 연구소 강사인 루옹 동 손(Luong Dong Son) 석사는 AI와 허위 정보의 결합으로 탄생한 초현실적 가짜 뉴스가 사건과 사회 문제에 대한 대중의 인식을 왜곡하여 상황을 평가하고 의사 결정을 내리는 방식에 영향을 미칠 수 있다고 말했습니다. 이는 사소한 개인적 결정부터 지역 사회와 국가에 영향을 미치는 중요한 결정에 이르기까지 심각한 결과를 초래할 수 있습니다.

초가짜 뉴스는 여론을 조작하고, 폭력을 조장하고, 분열을 조장하고, 사회 안정을 저해하는 도구로 악용될 수 있습니다. 정치 분야에서 초가짜 뉴스는 민주주의 제도에 대한 신뢰를 떨어뜨리고, 선거 결과에 영향을 미치고, 심지어 갈등을 조장할 수도 있습니다.

언론인과 언론 기관이 겪는 어려움에 대해 루옹 동 손(Luong Dong Son) 석사는 초현실적인 가짜 뉴스, 특히 딥페이크(deepfake)의 정교함으로 인해 숙련된 언론인조차도 진짜와 가짜를 구분하기가 점점 더 어려워지고 있다고 말했습니다.

손 씨는 "정보 폭발 시대에 언론사와 언론사가 신속하고 정확한 정보를 제공해야 한다는 대중의 요구가 점점 커지고 있습니다. 그러나 이러한 압력은 언론사들이 정보를 신중하게 검증하지 않고 성급하게 보도하게 만들 수 있으며, 이는 초현실적인 가짜 뉴스가 확산될 수 있는 기회를 만들어냅니다. 또한 언론사와 언론사가 정보 검증 및 보도에 신중하지 않을 경우 법적, 윤리적 위험에 직면하게 됩니다." 라고 말했습니다.

AI가 정보를 검증하도록 하세요

루옹 동 손(Luong Dong Son) 석사에 따르면, 이러한 유형의 가짜 뉴스를 처리하려면 현대 기술 솔루션을 적용하는 것이 매우 필요합니다.

"이러한 솔루션은 가짜 뉴스를 탐지하고 제거하는 데 중점을 둘 뿐만 아니라, 가짜 뉴스가 생산 초기 단계부터 확산되는 것을 방지합니다." 라고 동손(Dong Son) 석사는 말했습니다.

첫째, 손 대표에 따르면 오늘날 가장 중요한 기술 중 하나는 인공지능 시스템을 활용한 가짜 뉴스 탐지입니다. 최신 AI 시스템은 맥락을 분석하고, 여러 출처의 정보를 비교하며, 정보 내용의 이상 징후를 감지할 수 있습니다. 대표적인 예로 AI를 활용하여 영상과 이미지를 분석하여 딥페이크 기술을 활용한 편집이나 제작 흔적을 탐지하는 것입니다.

다음으로, 소셜 미디어 플랫폼과 검색 엔진 또한 가짜 뉴스 콘텐츠가 확산되기 전에 자동으로 분류하고 걸러내기 위해 머신러닝 알고리즘을 적극적으로 활용하고 있습니다. 이러한 알고리즘은 공유 패턴, 확산 속도, 심지어 게시물의 어조 등에서 이상 징후를 감지하여 해당 정보가 가짜일 가능성을 평가하도록 설계되었습니다.

또한, 블록체인 기술을 활용하여 정보 출처를 관리하는 것도 잠재적인 해결책입니다. 블록체인은 투명하고 변경 불가능한 인증 시스템을 구축하여 모든 정보의 출처와 이력을 추적하고 정확성과 신뢰성을 보장할 수 있습니다.

AI는 구별하기 어려운 가짜 콘텐츠나 오해의 소지가 있는 정보 및 이미지를 만들어내 개인이나 조직의 명예를 크게 훼손하고, 심지어 국가적, 민족적 이익을 해칠 수도 있습니다.

호치민시 인문사회과학대학교 저널리즘커뮤니케이션학부 저널리즘학과장인 판 반 투 씨는 루옹 동 손 석사와 같은 의견을 공유하며, 저널리즘 분야에서 AI의 강점을 활용할 수 있는 기술을 제공하는 것 외에도 AI 도구를 활용하여 정보를 검증해야 한다고 강조했습니다.

출처 검증은 본질적으로 출처의 신뢰성을 평가하는 것으로, 정보 출처를 검증하고, 다른 출처와 비교하고, 사실 확인 도구를 사용하여 신뢰성을 확인하는 중요한 기술입니다.

흥미로운 점은, 사실 확인을 지원하는 기존 도구인 Google Image, Tineye 역방향 이미지 검색, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz 외에도 이제 저널리스트의 검증 과정을 지원하는 AI 통합 도구가 많이 있다는 것입니다.

판 반 투 씨는 현시점에서 언론인들의 전문성을 강화하기 위해서는 AI가 조작한 가짜 뉴스의 공격에 맞서 정보 평가 역량을 강화하는 데 집중해야 한다고 말했습니다. "AI 도구를 활용하여 AI 관련 오류를 처리하는 것은 언론사와 언론사가 역할을 잘 수행할 수 있도록 돕는 가장 빠른 방법일 뿐만 아니라, 정보의 질을 향상시키고 허위 정보와 언론의 부정적 영향으로부터 대중을 보호하는 데 기여할 수 있습니다."라고 투 씨는 말했습니다.

그러나 투 씨는 기자들의 정보 평가 능력이 도구에만 의존할 수 없다고 지적했습니다. AI는 뉴스 콘텐츠 분석을 지원할 수 있지만, 모든 유형의 가짜 뉴스와 조작된 정보를 감지할 수는 없다는 점을 먼저 강조해야 합니다. AI 소프트웨어는 감지에 사용하는 바로 그 AI 기술에 속을 수 있습니다.

판 반 투는 "어떤 도구도 마법의 지팡이는 아니지만, 가짜 사진/비디오를 감지하는 AI 도구는 검증 프로세스나 실사 방법의 일부로서 여전히 귀중한 리소스입니다." 라고 말했습니다.

호아장

출처: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html