AI 전문가와 기술에 정통한 정치 학자들은 2024년 미국 대선을 앞두고 ChatGPT와 같은 생성 AI 도구와 관련된 예측 불가능한 상황에 대해 경종을 울리고 있습니다.
"미국은 이에 대비하지 못했다"
폭스 뉴스는 5월 15일, 제로폭스(미국 미네소타주 소재)의 AI 담당 부사장 AJ 내쉬의 발언을 인용하며 미국인들이 인공 AI에 대처할 준비가 되어 있지 않다고 경고했습니다. 내쉬 부사장에 따르면, 인공 AI는 선거 캠페인을 위한 이메일, 메시지, 비디오 클립을 빠르게 작성할 수 있을 뿐만 아니라 위험한 도구로 변질될 가능성도 있습니다.
정부, AI 도구 규제 경쟁
"생성 AI는 오디오 및 비디오 콘텐츠 제작 능력에 있어 획기적인 발전을 제공합니다. 대규모로 제작하고 소셜 미디어 플랫폼에 배포할 수 있다면 엄청난 파급력을 가질 수 있습니다."라고 내시는 설명합니다. ChatGPT와 같은 생성 AI가 할 수 있는 수많은 가능성 중 일부는 미국과 같은 현대 국가의 선거와 투표에 지대한 영향을 미칩니다.
ChatGPT는 짧은 시간에 많은 양의 콘텐츠를 생성할 수 있습니다.
일러스트 사진: 로이터
예를 들어, ChatGPT는 후보자의 목소리를 모방하는 자동 음성 메시지를 생성하여 유권자에게 잘못된 날에 투표하도록 지시할 수 있습니다. 후보자가 범죄를 자백하거나 인종 차별적 콘텐츠를 만드는 오디오 녹음을 공개할 수도 있습니다. 실제로 일어나지 않은 연설이나 인터뷰를 하는 사람의 비디오 클립을 만들 수도 있습니다. 그리고 후보자가 경쟁에서 물러났다고 거짓 주장하는 지역 뉴스 보도를 기반으로 컴퓨터로 생성된 이미지를 만들 수도 있습니다.
"일론 머스크가 직접 당신에게 전화를 걸어 특정 후보에게 투표하도록 설득한다면 어떨까요?" 미국 워싱턴주에 본사를 둔 앨런 AI 연구소의 전 CEO이자 설립자인 오렌 에치오니 박사는 이렇게 말했습니다. "많은 사람들이 그의 말에 귀 기울였을 겁니다. 하지만 그 결정을 내린 것은 머스크가 아니라 AI였습니다." 에치오니 박사는 지적했습니다.
적의 위험
사이버 보안 회사 포스포인트(미국 텍사스주에 본사)의 글로벌 최고기술책임자(CTO)인 페트코 스토야노프는 외국 세력이 생성적 AI를 이용하여 2024년 미국 대선을 방해하려 할 수 있다고 경고했습니다. 스토야노프는 "외국 세력, 사이버 범죄 조직 또는 국가가 누군가를 사칭하려 한다면 어떻게 될까요? 그 피해 수준은 어느 정도일까요? 우리는 대응할 방법이 있을까요?"라는 의문을 제기하며, 미국은 대선 기간 동안 외국으로부터 쏟아지는 허위 정보의 물결을 목격하게 될 것이라고 경고했습니다.
피트 리케츠 상원의원(네브래스카) 또한 2024년 선거 기간 동안 친중 단체들이 딥페이크(실제 인물이나 사건처럼 보이고 들리도록 조작된 이미지와 영상을 만드는 기술)를 사용할 위험성에 대해 경고했습니다. 리케츠 의원은 폭스 뉴스와의 인터뷰에서 "그들은 분명히 그런 능력을 가지고 있으며, 우리는 이 점에 대해 매우 경계해야 합니다."라고 말했습니다.
올해 초부터 AI가 생성한 가짜 뉴스가 소셜 미디어를 강타했습니다. 바이든이 트랜스젠더에 대해 모욕적인 발언을 하는 가짜 영상이나 도서관에서 아이들이 사탄숭배를 공부하는 모습을 담은 조작된 이미지 등이 그 예입니다. 심지어 도널드 트럼프 전 대통령의 경찰 기록 사진이 인터넷에 올라왔을 때, 그가 범죄 혐의로 사진 촬영을 당하지 않았음에도 불구하고 많은 사람들이 그 사실을 믿었습니다. 체포에 저항하는 모습을 담은 AI 생성 이미지들도 가짜였습니다.
이벳 클라크(뉴욕주 민주당) 하원의원은 후보자들이 AI가 생성한 광고 이미지에 대해 유권자들에게 알리도록 요구하는 법안을 발의했습니다. 클라크 의원은 또한 합성 이미지를 만드는 모든 사람이 이미지 출처를 명확하게 나타내는 워터마크를 삽입하도록 요구하는 법안을 공동 발의했습니다. 여러 주에서도 딥페이크 우려를 해소하기 위한 자체 법안을 발표했습니다.
리케츠 상원의원은 지금 할 수 있는 일은 미국인들에게 인공 지능(AI)의 위험성에 대한 교육을 강화하는 것이라고 말했습니다. 그에 따르면, 미국 정부는 대학들과 협력하여 선거가 시작되기 전에 가짜 이미지를 감지하는 능력을 향상시킬 수 있습니다.
ChatGPT 업그레이드됨
Mashable에 따르면, 미국 캘리포니아에 위치한 OpenAI는 ChatGPT에 중요한 업그레이드를 단행했습니다. 이 업그레이드를 통해 ChatGPT는 작동 중에도 웹에 접속하여 검색할 수 있게 되었습니다. 이를 통해 ChatGPT는 최신 정보를 업데이트하고 더욱 정확한 답변을 제공할 수 있습니다. 현재 미국 아마존과 같은 기업들은 고객과의 소통을 위해 ChatGPT와 같은 인터페이스를 구축하고 통합하기 위해 AI 엔지니어를 채용하고 있습니다.
[광고_2]
소스 링크
댓글 (0)