테러 집단이 첨단 기술을 이용할 경우의 위험성

이슬람국가(IS)와 알카에다와 같은 테러 집단은 극단주의 메시지를 퍼뜨리고 검열을 피하며 무엇보다도 구성원을 모집하기 위해 기술, 특히 인공지능을 사용하고 있습니다.

시리아 내 IS 거점. 사진: DW

세계에서 가장 인기 있는 애니메이션 코미디 프로그램 중 하나인 패밀리 가이에는 주인공 피터 그리핀이 폭탄을 실은 트럭을 운전하여 다리를 건너는 장면이 있습니다. 하지만 위 발췌문에서 IS는 인공지능(AI)을 사용하여 그리핀의 말을 "우리의 무기는 강력하고, 계급도 많으며, 알라의 병사들은 더욱 준비되었습니다"라는 문장으로 대체하여 더 많은 IS 추종자들을 끌어들였습니다.

미국 연구원 다니엘 시겔은 "최근 몇 년간 AI 기술의 급속한 확산은 극단주의 조직들이 온라인에서 영향력을 행사하는 방식에 지대한 영향을 미쳤습니다."라고 말했습니다. 2024년 2월, 알카에다 계열의 한 단체가 온라인 AI 워크숍을 개최한다고 발표하고, 이후 AI 챗봇 사용 가이드를 공개했습니다. 올해 3월, IS 연계 세력이 모스크바의 한 극장에서 테러 공격을 감행한 후, 해당 단체의 추종자 중 한 명이 가짜 뉴스 기사를 만들어 온라인에 게시했습니다. 가장 최근인 7월 초, 스페인 내무부 관계자들은 특수 AI 기반 편집 애플리케이션을 사용하여 IS 조직을 미화하는 콘텐츠를 공유하던 청년 9명을 체포했는데, 그중 한 명은 극단주의 멀티미디어 콘텐츠에 초점을 맞춘 것으로 알려졌습니다.

런던에 있는 전략대화연구소(Institute for Strategic Dialogue)의 아프리카·중동·아시아 담당 이사인 무스타파 아야드는 "알카에다와 IS 모두 공식 선전을 보완하는 수단으로 AI를 활용하고 있다"고 말했다. IS를 오랫동안 감시해 온 사람들에게는 이는 놀라운 일이 아니다. IS가 2014년경 처음 등장했을 때, 그들은 조직원을 위협하고 모집하기 위한 영상을 제작했다. 감시 단체들은 극단주의 단체가 AI를 활용하는 다양한 방식을 기록해 왔다. IS는 선전 활동 외에도 ChatGPT와 같은 챗봇을 활용하여 잠재적인 조직원들과 채팅할 수도 있다.

ChatGPT와 같은 AI 모델은 사용자가 테러나 살인과 같은 범죄를 저지르는 것을 방지하기 위한 특정 규칙을 가지고 있지만, 이러한 규칙은 신뢰할 수 없으며 테러리스트가 쉽게 우회할 수 있다는 것이 입증되었습니다. 또한 극단주의자들이 AI 도구를 사용하여 사이버 공격을 실행하거나 실제 테러 공격을 계획할 수 있다는 우려도 있습니다.

분석가들은 현재 더 큰 위협은 이러한 단체들이 실제로 공격을 감행하고 "외로운 늑대" 행위자들을 자극하거나 새로운 구성원을 성공적으로 모집한다는 점이라고 지적합니다. 국제 사회가 이스라엘의 가자 지구 전쟁에 분노함에 따라, 극단주의 단체들은 민간인 사망을 수사적 도구로 활용하여 구성원을 모집하고 캠페인을 구축하고 있습니다.

칸 민

출처: https://www.sggp.org.vn/nguy-co-khi-cac-nhom-khung-bo-su-dung-cong-nghe-cao-post749867.html