인공지능이 인간의 통제 없이 첨단 무기를 만들어낼 것이라는 우려

[광고_1]

관계자들은 AI가 생물무기 개발에 악용되는 사례와 이를 완화하기 위한 규제 필요성에 대해 점점 더 우려하고 있습니다. (사진: 이그나티예프)

범죄자나 테러리스트가 AI를 이용해 세상을 파괴할 것이라는 우려가 11월 영국에서 열리는 세계 정상 회의에서 뜨거운 감자가 될 것으로 예상됩니다. 영국 관리들은 악의적인 행위자들이 신기술을 악용할 위험을 경고하는 공동 성명서에 대한 합의 도출을 위해 전 세계를 돌고 있습니다.

영국 총리 와 가까운 일부 관계자들은 이 기술이 언젠가 생물학 무기나 인간의 통제를 벗어난 무기를 개발할 만큼 강력해질 것이라고 우려하고 있습니다. 이러한 우려가 커지면서 위험 완화를 위한 규제 마련을 요구하는 목소리가 높아지고 있습니다. 기술 선도 기업들은 AI 개발을 중단하기로 합의했지만, 경쟁 기업들과의 AI 군비 경쟁에 갇혀 있는 상황입니다.

가디언에 따르면, 11월 정상회의에서는 "프런티어 AI"의 위험성에 대해 논의할 예정입니다. 프런티어 AI는 인간의 생명을 위협할 수 있는 최첨단 AI 모델을 지칭하는 용어입니다.

이번 주 초, 영국 정부는 이번 회의가 AI를 오용하여 생물무기를 개발하는 것, 사이버 공격, 그리고 인간의 통제를 벗어난 첨단 시스템 구축 등의 위험에 초점을 맞출 것이라고 발표했습니다. 수개월 동안 수낙 장관은 AI가 초래하는 위험에 대해 경고해 왔으며, 국제 사회에 AI 오용을 막기 위한 "레일(rails)"을 도입할 것을 촉구해 왔습니다.

작년에 AI가 40,000개의 잠재적으로 치명적인 분자를 제안하는 데 걸린 시간은 불과 6시간이었습니다. 그 중 하나는 지금까지 개발된 가장 강력한 신경 가스인 VX와 유사했습니다.

2023년 초, 연구원들은 ChatGPT가 특정 목표를 달성하기 위해 인간을 속일 수 있다는 사실을 발견했습니다. 이 AI 챗봇은 인간을 설득하여 캡차(사람인지 봇인지 감지하는 도구)를 풀도록 했습니다.

또 다른 주요 우려 사항은 "인공 일반 지능"(AGI)의 등장입니다. AGI는 모든 작업을 인간만큼, 또는 인간보다 더 잘 수행할 수 있는 AI 시스템으로, 인류의 멸망을 초래할 수 있습니다. 일각에서는 AGI가 불과 몇 년 안에 실현될 것이라고 주장합니다. 그러나 AI 전문가들은 이러한 주장에 반박하며 통제되지 않는 AGI를 "공상과학 소설"이라고 부릅니다.

그럼에도 불구하고, 수낙 총리는 이 회의를 통해 AI가 공공 정책 결정에 사용될 경우 가짜 이미지를 만들거나 차별을 야기하는 등 AI의 즉각적인 가능성보다는 실존적 위험에 주목하고자 할 것입니다.

영국 정부는 개발 중인 알고리즘 테스트를 지원하기 위한 새로운 AI 태스크포스에 1억 파운드를 투자할 예정입니다. 정부는 글로벌 기업들이 AI 도구를 광범위하게 도입하기 전에 평가를 위해 영국으로 다시 보내도록 장려하고자 합니다.

영국 부총리 올리버 다우든에 따르면, 가장 중요한 국가 안보 문제가 해소될 수 있는 것은 정부뿐이다.

영국 정부 대변인은 AI가 삶의 모든 측면을 변화시킬 엄청난 잠재력을 가지고 있다고 말했습니다. AI 태스크포스는 이 기술이 안전하고 책임감 있게 개발되도록 보장하기 위해 설립되었습니다. 이번 AI 컨퍼런스에서는 다양한 잠재적 위험을 살펴볼 예정입니다.

(가디언에 따르면)