AI '탄생'시킨 교수, AI 윤리 공유 위해 베트남 첫 방문

인공지능(AI) 개발의 토대를 마련한 과학자 중 한 명인 요슈아 벤지오 교수는 12월 5일 오후 하노이에서 열린 고급 기술 워크숍 "안전한 AI - 책임 있는 혁신 형성"에서 "AI 안전"에 대해 발표했습니다.

행사의 일환으로 요슈아 벤지오 교수는 "책임 있는 AI와 교육 에서 AI의 중요성"에 대한 토론을 진행했으며, 베트남 소프트웨어 및 정보 기술 서비스 협회(VINASA) 산하 AI 윤리위원회 출범식을 참관했습니다.

요슈아 벤지오 교수는 기술 발전이 인권 보호 및 사회의 지속가능한 발전과 함께 이루어져야 한다는 것이 가장 중요하다고 생각합니다. AI는 빠르게 발전하고 있으며, 데이터 활용 효율성은 30%, 알고리즘 성능은 세 배로 향상되었습니다. 이 분야에 대한 투자는 연평균 1,000억 달러에 달하며, 표준 평가 결과 AI의 역량이 언어 습득 및 데이터 처리 능력에서 인간의 능력을 능가하는 것으로 나타났습니다.

하지만 이러한 급속한 발전은 인간보다 더 똑똑한 AI 시스템을 제어할 수 있는 능력에 대한 우려스러운 의문을 제기합니다. 이러한 배경에서 중요한 윤리적 문제가 제기됩니다. 바로 누가 AI의 목표를 결정할 것인가 하는 것입니다. AI를 이해하고 적절하게 행동해야 하는 절실함은 책임일 뿐만 아니라 인류의 미래 생존을 위한 문제이기도 합니다.

요슈아 벤지오 교수가 제시한 중요한 원칙 중 하나는 AI는 목표를 설정하고 그 목표를 달성하기 위해 행동할 수 있는 '에이전트'가 아닌 인간에게 봉사하는 도구로 구축되어야 한다는 것입니다. 왜냐하면 AI의 목표는 원래 인간의 의도와 충돌하거나 넘어서는 경우가 있기 때문입니다.

따라서 요슈아 벤지오 교수에 따르면, 우리는 AI 시스템에 "생존 본능"을 부여하는 설계를 피해야 합니다. 즉, 감정, 외모, 심지어 의식, 자기결정권, 자율성을 갖춘 인간과 같은 AI 시스템을 설계해서는 안 된다는 뜻입니다.

세계 경제 포럼(WEF)의 2023년 노동의 미래 보고서에 따르면, AI는 2025년까지 전 세계적으로 1,200만 개의 새로운 일자리를 창출할 것으로 예상됩니다. 맥킨지의 또 다른 연구 또한 AI가 2030년까지 전 세계적으로 2천만 개에서 5천만 개의 새로운 일자리를 창출하는 데 기여할 수 있다고 밝혔습니다.

FPT 회장 쯔엉 지아 빈은 AI를 일자리를 앗아가는 위협이 아닌 "동반자"로 여겨야 한다고 말했습니다. AI를 배우고 적용하는 것은 노동 시장에서 경쟁력을 유지하는 데 매우 중요합니다. 여기에는 AI에 대한 기본적인 이해, 머신러닝, 데이터 과학, 그리고 AI 시스템을 효과적으로 활용하기 위한 문제 해결 및 분석 기술이 포함됩니다.

또한 워크숍의 일환으로 VINASA는 인공지능 윤리위원회 설립을 발표했습니다. 이 행사에는 요슈아 벤지오 교수(몬트리올 대학교 및 밀라 연구소), VINASA 임원진, 그리고 여러 VINASA 회원사 임원들이 참석했습니다.

인공지능 윤리위원회의 설립은 윤리적 틀 안에서 혁신이 발전하고, 글로벌 경쟁력을 확보하며, 사회적 가치를 보호하는 인공지능 생태계를 구축하려는 베트남의 노력을 보여줍니다.

위원회는 베트남의 AI 개발 로드맵을 안내하고, AI가 윤리적이고 혁신적이며 사회적 이익을 위해 배포되도록 보장하며, AI에 유리한 법적 환경을 촉진하는 임무를 맡고 있습니다.

요슈아 벤지오 교수는 AI가 자연어 처리(NLP), 컴퓨터 비전, 머신러닝, 로봇공학 등 다양한 분야에 널리 적용되는 실용적인 기술로 자리매김할 수 있는 토대를 마련하는 데 있어 세계적으로 가장 영향력 있는 인물 중 한 명입니다. 1993년 밀라 AI 연구소를 설립하여 몬트리올(캐나다)을 세계적인 딥러닝 기술의 중심지로 만드는 데 크게 기여했습니다.

VNA에 따르면

출처: https://doanhnghiepvn.vn/cong-nghe/giao-su-khai-sinh-ai-lan-dau-sang-viet-nam-chia-se-ve-dao-duc-ai/20241206103838021