 |
| AI를 생물학 무기로 취급해야 한다는 주장을 담은 삽화. (출처: gizmodo.com) |
과학자이자 의사이며 미국 미래생명연구소 소장인 에밀리아 자보르스키는 "AI를 핵무기가 아닌 생물학 무기로 취급하라 "라는 글에서 세계가 최근 AI를 핵폭탄에 비유하고 있지만, 이 기술을 생물학 무기나 생명공학으로 규제하는 것이 더 적절한 접근 방식이라고 주장합니다.
저자에 따르면, AI는 아마도 인류 역사상 가장 강력한 기술일 것입니다. AI가 차별, 민주주의 위협, 영향력 집중 등 미치는 해로운 영향은 이미 잘 알려져 있습니다.
그러나 선도적인 AI 기업들은 점점 더 강력한 AI 시스템을 구축하기 위해 경쟁하고 있으며, 이로 인해 인류 역사상 전례 없는 속도로 위험이 커지고 있습니다.
리더들이 AI의 확산과 그에 따른 위험을 억제하고 통제하는 방법을 고심하는 가운데, 인류가 과거에 AI를 만들어내기 위해 활용했던 조정과 기준을 고려해야 합니다.
조정과 혁신은 공존할 수 있습니다. 특히 인간의 삶이 위태로울 때 더욱 그렇습니다.
핵기술의 경고
핵에너지는 사망률 측면에서 석유보다 600배 이상 안전하고 엄청난 효율성을 가지고 있지만, 오랜 핵 접근 방식으로 인한 결과 때문에 이를 도입하는 국가는 거의 없습니다.
세계는 원자폭탄과 수소폭탄이라는 형태로 핵 기술에 대해 알게 되었습니다. 이 무기들을 통해 인류는 역사상 처음으로 인류 문명을 종식시킬 수 있는 기술을 개발했습니다. 이는 안전과 통제보다 속도와 혁신을 우선시했던 군비 경쟁의 산물이었습니다.
이후 체르노빌과 후쿠시마 원자력 발전소 사고의 주요 원인인 기술적 안전 및 위험 관리의 실패로 인해 사람들이 원자력 에너지의 긍정적인 측면을 받아들일 수 있는 가능성이 사라졌습니다.
전반적으로 핵 에너지에 대한 유리한 위험성 평가와 수십 년 동안의 과학자들의 세계적 설득 노력에도 불구하고, '핵'이라는 개념 자체는 여전히 오염되어 있습니다.
기술이 초기 단계에 해를 끼칠 경우, 사회적 인식과 과잉 대응은 잠재적 이점을 영구적으로 제한할 수 있습니다. 원자력 발전의 초기 실패로 인해 인류는 깨끗하고 안전한 에너지원을 활용하지 못했으며, 탄소 중립과 에너지 안정성은 여전히 꿈에 불과합니다.
생명공학에 대한 올바른 접근 방식
하지만 어떤 분야에서는 인간이 옳은 선택을 했습니다. 생명공학은 그러한 분야 중 하나이며, 수많은 환자가 고통받고 치료법이 없는 질병으로 매일 목숨을 잃는 상황에서 빠르게 발전하도록 장려됩니다.
이 연구의 정신은 '빠르게 움직여 문제를 해결하는 것'이 아니라, 가능한 한 빠르고 안전하게 혁신하는 것입니다. 인간은 사회와 개인의 복지를 보호하고, 재앙으로 이어질 수 있는 반발로 산업이 마비되는 것을 막기 위해 규제, 윤리, 규범 체계를 통해 이 분야의 혁신 속도를 제한합니다.
냉전 당시 생물무기금지조약(BWC)에서 생물무기가 금지되었을 때, 적대적인 강대국들은 그러한 무기의 개발이 누구에게도 이롭지 않다는 데 동의했습니다. 지도자들은 통제하기 어렵지만 접근성이 높은 이러한 기술을 군비 경쟁에서 승리하기 위한 수단이 아니라 인류 자체에 대한 위협으로 여겨야 한다고 생각했습니다.
| 에밀리아 자보르스키는 최근 AI 개발에 대한 6개월간의 유예를 촉구하는 공개서한에 서명한 과학자 중 한 명입니다. 그녀는 또한 AI가 인류에게 "멸종 위기"를 초래한다고 경고하는 성명서에도 서명했습니다. |
생물무기 개발 경쟁이 잠시 중단됨에 따라 인간은 책임감 있는 속도로 생물무기를 개발할 수 있게 되었습니다. 과학자들과 규제 당국은 잠재적으로 인간에게 해를 끼칠 수 있는 모든 새로운 기술 혁신에 엄격한 기준을 적용합니다.
이러한 조정에는 비용이 들지 않았지만 청정 에너지부터 농업에 이르기까지 다양한 분야에 응용할 수 있는 생물경제가 확립되었습니다.
코로나19 팬데믹 동안 생물학자들은 mRNA 기술을 적용해 인류 역사상 전례 없는 속도로 효과적인 백신을 생산했습니다.
최근 AI 연구자들을 대상으로 한 설문 조사에 따르면 응답자의 36%가 AI가 핵발전소 수준의 재난을 초래할 수 있다고 생각하는 것으로 나타났습니다. 그러나 정부의 대응과 규제는 기술 도입 속도를 따라가지 못하고 있으며, ChatGPT 앱은 현재 사용자 1억 명을 돌파했습니다.
AI의 급속한 위험 증가로 인해 최근 미국에서 1,800명의 CEO와 1,500명의 교수가 6개월간의 AI 개발 중단과 긴급 규제 및 위험 완화 절차를 촉구하는 서한에 서명했습니다. 이러한 중단은 전 세계가 AI로 인한 피해를 제한하고 우리 사회의 돌이킬 수 없는 재앙을 예방할 시간을 확보할 수 있도록 할 것입니다.
AI의 위험과 잠재적 해악을 평가하는 동시에, 이 기술의 긍정적인 잠재력을 간과하지 않는 방법도 고려해야 합니다. 지금 AI를 책임감 있게 개발한다면, 우리는 이 기술로부터 놀라운 이점을 얻을 수 있을 것입니다. 예를 들어, AI를 신약 개발에 적용하여 의료 서비스의 질과 비용을 향상시키고, 의사와 의료 서비스에 대한 접근성을 높이는 것이 그 예입니다.
구글 딥마인드는 AI가 인간이 오랫동안 회피해 온 생물학의 근본적인 문제들을 해결할 잠재력을 가지고 있음을 보여주었습니다. 이 연구에 따르면, AI는 유엔의 모든 지속가능개발목표(SDGs) 달성을 가속화하여 인류를 건강, 형평성, 번영, 그리고 평화가 증진된 미래로 이끌 수 있습니다.
50년 전 생물무기금지협약(BWC)에서 그랬듯이, 이제는 전 세계가 힘을 합쳐 AI 개발의 안전성과 책임감을 확보해야 할 때입니다. 우리가 조속히 행동하지 않으면 AI와 우리 사회의 밝은 미래가 파괴될 위험이 있습니다.
[광고_2]
원천
댓글 (0)