인공지능이 '파괴적인' 금융 위기를 초래할 수 있다

[광고_1]

가디언 과의 인터뷰에서 "사피엔스: 인류 간략사" 의 저자는 핵무기와 달리 AI 모델이 가져오는 문제는 하나의 큰 시나리오에 국한되지 않는다고 말했습니다.

AI에는 셀 수 없이 많은 위험한 시나리오가 존재하며, 각각의 시나리오가 합쳐져 인간 문명에 실존적 위협을 초래할 가능성이 있습니다.

하라리(Harari)는 영국 블레츨리 파크에서 열린 글로벌 AI 안전 정상회의에서 다자간 선언이 "매우 중요한 진전" 이었다고 말했습니다. 주요 정부들이 모여 이 기술에 대한 우려를 표명하고 이에 대한 조치를 취했기 때문입니다.

그는 "세계적인 협력 없이는 AI의 가장 위험한 잠재력을 억제하는 것이 극히 어렵거나 불가능할 것" 이라고 말했습니다.

이번 정상회담은 ChatGPT 개발사인 OpenAI와 Google을 포함한 10개 정부와 주요 AI 기업 간에 고급 AI 모델이 출시되기 전과 후에 테스트하기 위해 협업하기로 합의하면서 마무리되었습니다.

유발 하라리 작가는 가디언과의 인터뷰에서 인공지능이 인류 문명에 미칠 위험을 다음과 같이 설명합니다. (사진: 안토니오 올모스)

사피엔스 저자들은 모델의 안전성을 테스트하는 데 있어 한 가지 문제는 발생할 수 있는 모든 문제를 미리 예측해야 한다는 것이라고 주장합니다.

AI는 인류 역사상 지금까지 존재했던 모든 기술과 다릅니다. AI는 스스로 결정을 내리고, 새로운 아이디어를 창출하고, 학습하고, 스스로 발전할 수 있는 최초의 기술이기 때문입니다.

AI의 정의에 따르면, 인간, 심지어 AI의 "아버지"라 할지라도 모든 잠재적 위험과 문제를 예측하는 것은 극히 어렵습니다.

정부에서는 AI 시스템이 생물학 무기를 만드는 데 도움이 될 수 있다는 위협을 제기했지만, 고려할 만한 다른 시나리오도 있습니다.

하라리 씨는 금융 분야가 AI 시스템에 이상적인 분야라고 지적했습니다. 데이터와 AI 자체만으로도 심각한 위기를 초래할 수 있기 때문입니다.

하라리는 "AI가 세계 금융 시스템에 대한 통제력을 더욱 강화할 뿐만 아니라, AI만이 이해할 수 있고 인간은 이해할 수 없는 새로운 금융 기기를 만들어낸다면 어떨까요?"라고 질문했습니다.

역사학자는 2007~2008년 금융 위기는 담보부채증권(CDO)과 같은 부채 증권으로 인해 발생했으며, 이러한 증권에 대한 이해가 부족했고 따라서 제대로 규제되지 않았다고 덧붙였다.

"AI는 CDO보다 더 복잡한 금융 상품을 만들어낼 잠재력을 가지고 있습니다. 인간이 이해할 수 없고 따라서 규제할 수 없는 금융 시스템이 있는 상황을 상상해 보세요."라고 그는 말했습니다. "그리고 아무도 무슨 일이 일어나고 있는지 이해하지 못하는 금융 위기가 발생합니다."

지난달 영국 정부는 금융 시스템을 통제하고 조작함으로써 실존적 위협을 초래할 수 있는 첨단 AI 모델에 대한 우려를 표명했습니다.

하지만 하라리 씨는 AI가 초래하는 금융 위기가 인간 문명을 파괴하지는 않을 것이라고 믿는다. "적어도 직접적으로는" 말이다.

"간접적으로라도 전쟁이나 갈등을 촉발할 수 있습니다. 경제적, 사회적, 정치적으로 재앙적인 위험입니다."라고 그는 덧붙였다.

첨단 AI 개발을 6개월 동안 중단하고 AI 기업이 자사 제품으로 인한 피해에 대한 책임을 지도록 하자는 주장을 지지하는 이스라엘 작가는, 특정 규제나 법률이 아니라 새로운 획기적인 기술이 등장할 때 신속하게 대응할 수 있는 기술 지식을 갖춘 규제 기관에 초점을 맞춰야 한다고 말했습니다.

"우리는 모든 위험과 문제를 미리 예측할 수 없다는 점을 이해하고, 위험이 발생하는 즉시 이를 식별하고 대응할 수 있는 강력한 규제 기관을 최대한 빨리 만들어야 합니다."

그는 "이것이 가장 중요한 노력이 되어야지, 의회에서 통과될 때쯤이면 시대에 뒤떨어질 수 있는 매우 길고 복잡한 규제를 작성하는 것이어서는 안 됩니다."라고 말했습니다.

하라리는 AI 안전 연구 기관은 AI가 금융계에 미칠 수 있는 잠재적 영향을 이해하는 전문가를 고용해야 한다고 말했습니다.

지난달, 리시 수낙 영국 재무장관은 영국 AI 안전 연구소 설립을 발표했습니다. 며칠 후, 백악관도 유사한 기관 설립 계획을 발표했습니다. 두 기관 모두 첨단 AI 모델 테스트에서 핵심적인 역할을 수행할 것으로 예상됩니다.

정상회담에서 수낙 장관은 영국이 AI를 다루기 위한 법률을 도입하기 전에 첨단 AI 모델의 역량을 이해해야 한다고 말했습니다.

(가디언에 따르면)