Viettel AI Day는 뛰어난 AI 제품을 선보이는 심도 있는 토론과 전시를 통해 전 세계적으로 효과적인 AI 구현 사례, 경험, 그리고 공유를 제공합니다. "AI와 세계의 관점"이라는 주제로 진행된 토론 세션에서 발표자들은 오늘날 큰 관심을 받고 있는 AI 분야인 생성 AI를 포함하여 전 세계적으로 널리 적용되는 기술 동향과 활용 사례에 대해 공유했습니다.

비엣텔의 전략적 AI 파트너인 엔비디아 베트남 지사장 부 만 꾸엉(Vu Manh Cuong)은 생성 AI를 위한 고성능 컴퓨팅 인프라와 소프트웨어 플랫폼에 대한 인상적인 프레젠테이션을 진행했습니다. 그는 기업에 GPU(그래픽 처리 장치)와 HPC(고성능 컴퓨터)가 필요한 이유를 강조하며, 이 두 가지가 컴퓨팅 파워를 결정하는 중요한 요소라고 강조했습니다. GPU는 기술 분야에서 국가와 대기업의 핵심 역량으로 여겨집니다.

GPU는 널리 사용되는 CPU(중앙처리장치)보다 뛰어난 처리 속도를 자랑하며, 데이터와 이미지 처리 속도가 모두 더 빠릅니다. 동일한 계산을 CPU가 처리하는 데 2.1시간이 걸리는 반면, 4 GPU 시스템은 10초 이상 걸립니다. 특히 쿠옹 씨는 이번 컨퍼런스에서 엔비디아의 최신 GPU 중 하나인 H100을 직접 소개했습니다. H100 GPU는 전 세계적으로 매진되고 있는 제품입니다. 그는 H100 GPU가 베트남 데이터센터 구조를 완전히 바꿀 것이라고 말했습니다.

챗봇을 만드는 데 도움을 주는 생성자 anh1.jpg
NVIDIA 베트남 지사장, 컨퍼런스에서 GPU H100 직접 소개

엔비디아의 GPU 플랫폼은 고성능 컴퓨팅(HPC)을 지원할 뿐만 아니라 AI 컴퓨팅 성능을 가속화합니다. 엔비디아 생태계에는 1,600명 이상의 생성 AI 개발자들이 협력하고 있습니다. 현재 엔비디아는 대규모 언어 모델(LLM) 구축을 지원하는 도구를 개발하고 있으며, 비에텔(Viettel)과 협력하여 데이터 보안 기술을 이전하고 있습니다. 발표 마지막에는 쿠옹(Cuong) 씨가 AI가 전 세계 로봇 시장을 어떻게 변화시키고 있는지 보여주는 영상을 상영하여 참석자들의 눈길을 사로잡았습니다.

워크숍에서는 구글 솔루션 아키텍트인 르 반 탄(Le Van Thanh) 씨가 생성적 AI가 비즈니스 개발을 촉진하는 방식에 대해 공유했습니다. 구글의 머신러닝 관리 플랫폼인 Vertex AI를 소개하며, 탄 씨는 이 플랫폼을 통해 온라인 상호작용을 생성하고, 데이터를 분석하고, 질문에 빠르게 답변할 수 있으며, 이를 통해 기업은 고객과 비즈니스 간의 "접촉" 지점이 나타나는 순간을 즉시 파악할 수 있다고 설명했습니다.

Thanh 씨는 영상을 통해 시각적 예시를 보여주며 Generative AI의 번개처럼 빠른 생성 능력으로 청중을 매료시켰습니다. "커피 한 잔을 만들면 기다리는 동안 챗봇을 만들 수 있습니다."라고 Thanh 씨는 Vertex AI를 사용하여 기본적인 챗봇을 만드는 단계를 소개하며 설명했습니다.

챗봇 이미지 2.jpg를 만드는 데 도움을 줄 수 있는 생성자
Google 솔루션 아키텍트 Le Van Thanh 씨가 Vertex AI에 대해 설명합니다.

구글의 연구 결과에 따르면 생성 AI의 가장 많이 활용되는 사용 사례는 가상 비서와 데이터 및 텍스트 검색입니다. 이는 Viettel이 전문 검색을 지원하기 위해 가상 비서를 개발하는 방향과 일치합니다. Thanh 씨는 "Viettel이 이 사용 사례를 업무에 적용했다는 소식을 듣고 기쁩니다."라고 말했습니다.

Thanh 씨는 수많은 고객을 대상으로 구현한 경험을 바탕으로 Google 비즈니스 리더를 위한 핸드북을 공유했습니다. 이 핸드북에는 30일 안에 모든 AI 사용 사례를 배포하는 10단계가 자세히 설명되어 있으며, 구체적으로 비즈니스에서 해결해야 할 문제를 식별하고 구현을 담당하는 팀을 구성하는 단계부터 시작됩니다.

Thanh 씨는 성공적인 유스 케이스를 위해서는 구현 팀에 기술 전문 지식만 있는 구성원이 아니라 비즈니스, 기술, 운영이라는 세 가지 영역을 모두 포함하여 비즈니스의 모든 측면을 파악해야 한다고 강조했습니다. 다음으로, 해당 애플리케이션 유스 케이스를 통해 달성하고자 하는 목표를 정해야 합니다. 매출 증대를 위해서는 구체적으로 어떤 고객 그룹을 대상으로 할지 정해야 합니다. 이러한 단계들이 완료되어야만, 기업은 개발 프로세스를 심층적으로 파악하고 실제 비즈니스 요구에 맞춰 기술을 맞춤화할 수 있는 기본 정보를 확보할 수 있습니다.

Viettel AI Day는 Viettel이 주최하는 행사로, 글로벌 인공지능(AI) 개발 추세에 대한 다차원적 관점을 제공하고, 전 세계의 다양한 분야에서 효과적인 AI 적용 경험을 심층적으로 공유하는 것을 목표로 합니다.

꾸옥 투안