(댄 트리) - 베트남 시장에서는 인공지능(AI) 도구가 끊임없이 발전하고 있어 보안이나 저작권 등 많은 문제가 발생하고 있습니다.
Color Me - Graphic Design Training Center의 CEO 겸 설립자인 응우옌 비엣 훙 씨는 댄 트리 기자에게 베트남의 인공지능(AI) 시장에 대한 자신의 관점을 공유했습니다. AI 시장의 유용한 측면과 사용자에게 미칠 수 있는 잠재적 위험에 대해서도 설명했습니다.
선생님, 베트남에서는 AI가 오랫동안 존재해 왔지만, 지난 2년 동안 AI 도구가 폭발적으로 성장했습니다. 그렇다면 베트남 시장에서 AI의 뛰어난 특징은 무엇일까요?
- 2021년 말, 베트남에서 AI 열풍이 폭발적으로 불어닥치기 시작했는데, 지금까지 우리에게 가장 큰 인상을 준 것은 바로 생성형 AI, 즉 '생성형 AI'입니다. 이는 다양한 유형의 콘텐츠를 제작할 수 있는 AI 도구입니다.
이 관점은 매우 간단합니다. 아무리 많은 데이터가 있더라도 AI는 그만큼의 새로운 데이터를 생성할 것입니다.
베트남에서는 텍스트 문단을 만들 수 있는 ChatGPT 도구에 매우 감명을 받았고, Mid Journey는 AI를 사용해 이미지를 만들고, Runway는 비디오를 만드는 데 사용되었습니다.
최근에는 프로그래밍에서 코드 줄을 생성할 수 있는 Copilot이 등장했습니다. 즉, 우리가 가진 어떤 유형의 데이터든 AI가 생성할 수 있습니다.
선생님, 왜 생성적 AI가 이 AI 흐름에서 중요한 역할을 하나요?
- 제 생각에는, 세상이 모든 분야에서 점점 더 대중화되고 있는 자동화의 문턱까지 발전했을 때입니다. 아니면, 사람들이 공부와 일에서 매일 직면하는 문제인 창의성이요.
이는 우리가 새로운 작품, 새로운 이미지, 새로운 영화 또는 새로운 소프트웨어를 만드는 방법을 알아내야 한다는 것을 의미합니다. AI의 현재 능력 덕분에 인간이 창작 산업에서 일할 수 있는 능력은 점점 더 커지고 있으며 거의 무한대에 가깝습니다.
저는 학생이든 사무직 근로자든 우리 모두는 업무의 모든 측면에서 창의적이어야 한다고 생각합니다. 때로는 보고서, 브리핑, 개발 캠페인 계획 또는 빅 아이디어를 만드는 것만으로도 충분합니다. 무언가를 하려면 우리 모두는 사용자가 시작해야 하는 다양한 창의적 아이디어에서 시작해야 합니다.
생성적 AI는 끊임없이 변화하고 발전하고 있지만, 앞으로 몇 달 안에 우리가 기대할 수 있는 가장 광범위한 영향은 이 지능형 기술이 사용자가 직장과 학업에서 생산성을 높이는 데 도움이 될 것이라는 점입니다.
AI 도구를 만들려면 많은 양의 데이터를 사용해야 하는데, 이로 인해 데이터 저작권이라는 매우 논란이 많은 문제가 발생했는데, 이러한 현실에 대한 귀하의 관점을 공유해 주시겠습니까?
- 더 정확히 말하면, AI는 매우 광범위하며, 우리가 최근 보고 접하는 도구들은 대체로 딥러닝이나 신경망 기술(데이터 집합에서 기본적인 관계를 찾도록 설계된 일련의 알고리즘)에서 파생되었습니다.
이 모든 기술은 방대한 데이터를 통해 학습되어야 합니다. ChatGPT가 처음 출시되었을 때부터 커뮤니티는 이처럼 스마트한 AI 도구를 개발하는 데 필요한 데이터는 어디에서 나오는지에 대한 많은 의문을 제기했습니다.
아니면 Mid Journey처럼 아름다운 이미지를 만들어내죠. 인공지능을 아주 심층적으로 훈련시키는 데 사용된 이전 이미지 리소스가 있었을 겁니다. 이건 아주 심각한 저작권 문제입니다.
예를 들어, 기사와 책을 AI 도구에 통합한다면, 해당 콘텐츠의 작성자는 무언가를 얻을 수 있을까요?
유럽 국가들이 저작권 관련 계획을 점차 마련하고 있으며, 약 1년 후에는 모든 생성 AI 모델이 기술 기업들이 학습에 사용하는 콘텐츠를 공개해야 할 것으로 알고 있습니다. 그래야만 저작권 문제에 대해 진정으로 서로를 존중할 수 있을 것입니다.
엔지니어가 AI를 훈련하는 데 사용하는 모든 데이터는 모든 작성자의 동의를 받아야 하며, 현재 약관에 따라 해당 콘텐츠는 무료로 대중에게 공개되어야 합니다.
일부 국제 전문가들은 이것이 현재 AI의 모호한 영역이라고 지적합니다. 즉, 무엇이 완전히 옳고 무엇이 완전히 그른지 아직 판단할 수 없다는 뜻입니다. 저작권 문제는 여전히 매우 어렵습니다.
그러므로 AI가 생성한 콘텐츠를 사용하고 홍보하는 데는 신중해야 합니다.
AI가 생성한 스토리, 제품 또는 콘텐츠에 대해 저작권을 인정해야 한다고 생각하시나요?
- AI가 일부 또는 전부 생성한 콘텐츠의 저작권 문제는 많은 국가에서 해결하고 있으며, AI와 관련된 콘텐츠에 합법성을 부여하기 위한 정책과 제도적 틀을 구축하고 있습니다.
이에 대해 비난하는 국가도 많으며, 어떤 AI 콘텐츠를 상용화할 수 있는지, 어떤 콘텐츠를 사용자가 개인적인 목적으로만 이용할 수 있는지 등을 허용하는 법적 시스템을 마련하는 방안을 논의하는 것을 고려하고 있습니다.
이로 인해 AI가 생성한 콘텐츠는 항상 여러 저작권 범주로 구분되어야 한다는 문제가 발생합니다. 실제로 AI가 생성한 콘텐츠는 유튜브와 틱톡에서 여전히 수익을 창출하는 데 사용되고 있습니다.
이 문제와 관련된 몇 가지 예를 공유해 주실 수 있나요?
- 유튜브에서 "오디오북"을 검색하면 저자가 명시되지 않은 오디오북(음성 도서)이 많이 나옵니다. 이 책들은 전적으로 AI가 만든 책입니다.
따라서 사용자는 AI를 이용해 책의 내용을 완전히 제작한 후 이를 인공 음성으로 변환하게 됩니다. 이것이 바로 텍스트를 음성으로 변환하는 기술입니다.
마지막으로, 시청자가 실제 책의 오디오 버전을 즐기는 듯한 느낌을 받을 수 있도록 제품을 비디오에 삽입합니다.
유튜브 플랫폼에서만 봐도 완전히 비현실적이고 AI가 완전히 창조한 책이 많이 있다는 걸 볼 수 있습니다.
또 다른 우려스러운 문제는 AI를 거의 전적으로 사용하여 콘텐츠를 생산하는 웹사이트와 블로그가 많다는 것입니다.
일부 연구에 따르면 AI를 과도하게 사용하여 새로운 데이터를 생성한 후 이를 다른 AI 도구를 훈련시키는 데 사용하면 인공지능이 붕괴되는 지경에 이를 수 있다고 합니다. 이로 인해 AI가 생성한 콘텐츠는 더 이상 의미가 없게 되고, 사람들은 AI가 더 이상 유용하지 않고 창의적이지 않다고 생각하게 될 것입니다.
저는 전 세계가 함께 모여 철저한 저작권 제도를 확립한다면 AI와 함께 일하고 살아가는 더 건강한 미래를 맞이하는 데 도움이 될 것이라고 믿습니다.
AI가 사용자를 속이기 위해 만든 웹사이트는 더 이상 낯선 것이 아니며, 베트남 시장에도 등장했습니다. 이를 사기성 콘텐츠로 식별하는 징후를 알려주시겠습니까?
최근 AI를 이용한 사기와 협박 사건이 많이 발생했는데, 가장 흔한 것은 딥페이크 기술입니다. 피해자의 얼굴을 유해하거나 협박적인 콘텐츠에 합성하는 것입니다. 딥페이크 콘텐츠는 많은 국가에서 금지되었으며, 어떤 목적으로 사용되든 이 기술을 전혀 지원하지 않습니다.
AI 도구가 개발되면, 그에 대응하는 기술도 항상 등장할 것입니다. 예를 들어, 딥페이크 기술이 등장하면, 딥페이크 콘텐츠를 감지하는 기술도 함께 등장할 것입니다.
또는 ChatGPT처럼 전적으로 AI가 기사를 작성한다면, 이 기사가 사람이 쓴 기사인지 아니면 위의 도구를 통해 쓴 기사인지 확인하는 기술도 생길 것입니다.
그래서 우리는 이러한 인식 기술을 갖춰야 하며, 사용자 역시 AI가 생성한 콘텐츠와 사람이 생성한 콘텐츠의 종류를 구분할 수 있는 기술을 보완해야 합니다.
베트남 시장에서는 사용자 지원을 위해 AI가 통합된 휴대폰 제품이 점점 더 많아지고 있습니다. 그렇다면 이러한 기기에서 AI 기능을 사용할 때 개인정보 보호 보안 문제는 안전할까요?
- AI가 탑재된 휴대폰 제품의 보안 문제는 매우 심각하다고 생각합니다. 최근 애플도 아이폰 16 시리즈에 Apple Intelligent(Apple AI)를 탑재했습니다.
이 새로운 세대의 휴대전화를 출시할 당시, 회사는 사용자 명령에 응답하는 데 사용되는 모든 콘텐츠와 서버 시스템에 대해 투명성을 확보해야 했습니다.
따라서 이러한 모든 서버에는 누구도 접근할 수 없으며 Apple Intelligent의 전체 콘텐츠 생성 시스템은 제3자에 의해 (엄격하게) 감사될 수 있습니다.
간단해 보이지만, Apple AI에게 날씨를 묻거나 계획을 세워달라고 요청하는 등 일상적인 작업은 모두 개인정보이며, 만약 이 정보가 악의적인 사람의 손에 들어간다면 당신의 위치나 행동을 완전히 알아낼 수 있습니다. 이는 정말 위험합니다.
결과적으로 모든 생성 AI는 별도의 서버에 배치되는 방향으로 나아가고 있으며, 제3자의 해킹이나 간섭에 면역이 있다는 것이 입증되어야 합니다.
또 다른 문제는 기술 제품에 AI를 적용할 때, 모든 AI가 정답을 계산하기 위해 컴퓨터를 사용해야 한다는 것입니다. 컴퓨터가 사용자 휴대폰에 바로 통합된다면 훨씬 더 안전해질 것입니다.
AI가 사용하는 컴퓨터가 다른 곳에 있다면 데이터 보안에 확실히 영향을 미칩니다. 따라서 AI 엔진이 사용자 기기에서 실행 중인지, 아니면 다른 서버에서 실행 중인지 확인해야 합니다.
Color Me에서는 다양한 업무에 AI를 적용하신 것으로 알고 있습니다. AI가 회사에 어떤 이점을 가져다주는지 말씀해 주시겠어요?
- 저희는 지난 2년 동안 업무의 AI 측면에 대한 연구를 아주 일찍부터 진행해 왔습니다. 창의적인 분야를 공부하는 학생들에게 무엇이 좋고 무엇이 좋지 않은지 파악하기 위해서였습니다.
우선, 디자인과 창의성을 배우는 초보자라 하더라도 생성 AI를 너무 일찍 남용하거나 사용해서는 안 된다는 점을 말씀드리고 싶습니다. 전문성과 기술이 충분히 향상되면 AI 지원 도구에 대해 배우는 것을 고려해 보세요.
HR 시스템 측면에서, 최근 설문조사에서 회사 직원의 거의 대부분이 업무 목적으로 주간, 심지어 일일 단위로 AI를 활용하고 있다는 사실을 알게 되었습니다.
보고서 작성, 이메일 발송, AI로부터 아이디어 도출 등이 될 수 있습니다. AI를 가상 비서로 활용하여 업무를 지원하면 생산성이 크게 향상될 것이라고 생각합니다.
회사의 프로그래밍 팀은 모두 AI가 생산성을 세 배로 늘렸다고 인정했습니다.
프로그래밍에 AI를 적용하는 데 단점이 있습니까?
- 우리가 인정해야 할 한 가지는, AI는 해당 분야에 대한 전문 지식이 부족하고 너무 일찍 AI를 사용하는 사람에게는 매우 해로울 것이라는 점입니다. 그들은 좋은 품질이 아닌 제품을 만들어낼 것입니다.
예를 들어, 프로그래머가 AI를 사용하여 자신이 이해하지 못하는 코드를 만들면 해당 직원은 나중에 오류를 수정하거나 애플리케이션 이름을 변경할 위치를 찾을 수 없게 됩니다.
또는 보고 업무를 하는 사람들에게는 AI를 사용하여 차트가 올바른지 여부를 알 수 없고 테스트할 수 없는 차트를 생성하는 것은 극도로 무서운 양날의 검입니다.
창의성을 위해 AI를 활용하는 것에 대한 이야기에 대해, 이런 도구를 남용하면 인간의 사고력이 저하될 것이라고 생각하시나요?
저는 AI를 사용해 아이디어를 참조하면 사용자가 아직 깨닫지 못한 더 많은 측면과 관점을 생각해내는 데 도움이 된다고 믿습니다.
하지만 때로는 혁신을 게을리하게 만들기도 합니다. AI의 본질을 이해해야 합니다. AI는 과거부터 현재까지 세상에 존재했던 모든 아이디어를 수집하여 사용자가 요청하면 결과를 반환한다는 것입니다.
그러니 우리가 창의성을 발휘하지 못하고 새로운 아이디어를 내는 것을 멈추면 조만간 AI는 창의성을 잃고 독창성도 없고 새로운 기능도 만들어지지 않을 것입니다.
이는 모든 기업이 상당히 우려하는 사항이지만, 특히 창의성과 관련된 기업이라면 더욱 그렇습니다.
미디어 전반, 특히 저널리즘 분야에서는 실제로 전 세계 신문사들이 AI 기술을 활용하여 기사를 작성하고 있습니다. 앞으로 AI가 일부 분야에서 인간을 대체할 수 있을까요?
- 일부 분야와 일부 기술에서는 AI가 인간을 대체할 것이라는 우려가 부분적으로는 사실이라고 생각합니다.
저희는 생성 AI를 테스트하면서 매우 놀랍고 설득력 있는 결과를 도출해냈습니다. 물론, 여전히 거짓이고 사용자가 신뢰할 만한 증거가 부족한 결과도 있습니다.
문제는, 우리가 대체될 것인가입니다. 이는 역사를 통틀어, 모든 기술 혁명을 통해 입증되었습니다. 파괴적 기술이 등장하면 일자리는 필연적으로 사라지지만, 새로운 일자리는 빠르게 창출됩니다.
특히 해당 기술을 사업에 적용하거나 새로운 사업 아이디어를 구축하는 사람들에게 적합합니다.
반복적이고 창의성이 부족한 일자리가 점차 AI와 기계로 대체되는 미래에는 전문성과 AI 활용 능력을 갖춘 많은 젊은이들이 빠르게 새로운 일자리를 창출하는 모습을 보게 될 것입니다.
OpenAI CEO 샘 알트먼이 말했듯이, 저는 곧 거의 직원 없이 자수성가한 억만장자가 되는 젊은이들이 나타날 것이라고 믿습니다. 그들은 온전히 AI로 구성된 사람들로 구성된 군대를 구축하고, 사업 아이디어를 현실로 만들 수 있습니다.
그건 우리 모두가 관찰하고, 살펴보고, 미래에 일어날지 아닐지 지켜보는 일이죠.
시간을 내어 대화해주셔서 감사합니다!
내용: 남도안, 칸비
디자인: Thuy Tien
단트리닷컴(Dantri.com.vn)
출처: https://dantri.com.vn/suc-manh-so/con-bao-ai-tai-viet-nam-va-nhung-cong-viec-dang-bi-thay-the-20241002004323299.htm
댓글 (0)