Zalo mengembangkan model AI milik orang Vietnam

(Dan Tri) - Dengan orientasi yang kuat terhadap pengembangan teknologi, Zalo adalah perusahaan Vietnam yang telah berhasil mengembangkan model AI domestik. Hal ini menjadikan Vietnam salah satu dari sedikit negara di Asia Tenggara yang memiliki model AI yang dilatih dari nol.

Minat dunia terhadap AI semakin meningkat, dengan sebagian besar perhatian terfokus pada negara-negara dengan banyak model AI terkemuka di dunia, seperti AS dan Tiongkok. Asia Tenggara—salah satu kawasan ekonomi penting dunia—secara bertahap menjadi pusat baru AI, dengan kemajuan besar yang dapat menarik minat para pembuat kebijakan, investor, dan pakar teknologi global.

Vietnam sudah memiliki model AI domestik, salah satu dari sedikit model AI yang dikembangkan dari awal di Asia Tenggara saat ini (Foto: Zalo).

Di Vietnam, Partai dan Pemerintah juga bertekad untuk membentuk dan mendorong era perkembangan teknologi negara, yang ditunjukkan melalui Resolusi 57-NQ/TW tentang Terobosan dalam pengembangan ilmu pengetahuan dan teknologi, inovasi, dan transformasi digital nasional. Orientasi ini telah menciptakan kekuatan pendorong yang kuat bagi perusahaan teknologi domestik untuk berinvestasi dan memanfaatkan potensi teknologi global yang canggih.

Saat ini, Vietnam telah menjadi salah satu dari sedikit negara di Asia Tenggara yang memiliki model bahasa besar (LLM) domestik. Khususnya, sejak tahun 2023, Zalo telah berhasil melatih dan meluncurkan model LLM yang berfokus pada bahasa Vietnam, yang diteliti dan dikembangkan sepenuhnya oleh tim insinyur Vietnam.

Pilih pelatihan dari awal dan dapatkan hasil yang tidak terduga

Saat ini, model AI memiliki 2 teknik pelatihan, yaitu: teknik model fine-tuned, yaitu metode mengoptimalkan LLM yang telah dilatih sebelumnya untuk menciptakan LLM baru bagi tujuan khusus; teknik pelatihan model dari awal, yaitu proses membangun model yang benar-benar baru, mulai dari inisialisasi parameter, menentukan arsitektur model, hingga melatih algoritma pada kumpulan data tertentu.

Di antara berbagai metode tersebut, teknik fine-tuning dipilih oleh banyak bisnis karena keunggulannya seperti kemudahan implementasi, penghematan sumber daya, dan efisiensi yang lebih baik. Terutama, dalam konteks Vietnam di mana peralatan dan data pelatihan terbatas, teknik fine-tuning merupakan solusi yang unggul.

Namun, Zalo memilih teknik pelatihan ini sejak awal. Dengan metode ini, seluruh proses dan model pelatihan sepenuhnya dimiliki dan dikendalikan oleh orang Vietnam. Berkat itu, Vietnam menjadi salah satu dari sedikit negara di Asia Tenggara yang memiliki model bahasa besar (LLM) yang dikembangkan di dalam negeri.

Saat diluncurkan pada tahun 2023, model bahasa pertama Zalo yang berfokus pada bahasa Vietnam, berskala besar, dan memiliki 7 miliar parameter, mencapai performa 150% dibandingkan dengan GPT3.5 OpenAI pada Tolok Ukur Kompetensi LLM Bahasa Vietnam VMLU. Waktu pelatihannya hanya 6 bulan, jauh lebih singkat dari rencana awal 18 bulan. Proses pelatihan yang cepat ini mengejutkan seluruh tim pengembangan Zalo.

Model LLM Zalo menduduki peringkat ke-3 dalam tantangan Kahoot pada peluncuran pertamanya pada tahun 2023 (Foto: Zalo).

Pada tahun 2024, model parameter Zalo yang berjumlah 13 miliar melampaui nama-nama besar dunia untuk menegaskan posisinya sebagai 2 model LLM Vietnam teratas yang dilatih dari awal pada peringkat kompetensi LLM Vietnam VMLU.

Hasilnya menunjukkan bahwa tingkat pelatihan model bahasa besar tidak kalah dengan dunia untuk mengembangkan model AI milik Vietnam sendiri, terutama dalam konteks pengembangan awal yang menghadapi banyak kesulitan.

Upaya Vietnam untuk mengembangkan model AI

Perwakilan Zalo mengatakan bahwa pelatihan LLM membutuhkan 3 elemen inti: peralatan pelatihan, data, dan tingkat teknis. Sebelumnya, Vietnam masih memiliki banyak keterbatasan di ketiga aspek tersebut. Khususnya, meskipun perusahaan-perusahaan besar di dunia telah memiliki ribuan GPU berkinerja tinggi terbaru dari Nvidia, para insinyur di Vietnam belum sepenuhnya dilengkapi dengan infrastruktur server yang dibutuhkan. Di saat yang sama, bahasa Vietnam juga berada dalam kelompok dengan sumber daya data yang lebih buruk daripada bahasa Inggris atau Mandarin. Sumber daya manusia dan pengalaman pelatihan LLM di Vietnam juga terbatas dibandingkan dengan negara-negara maju.

Tim Zalo saat itu harus melakukan penelitian dan bereksperimen pada GPU sipil kecil untuk memperoleh pengetahuan dan kapasitas pelatihan untuk LLM, yang siap segera setelah infrastruktur komputasi besar tersedia.

Chip pelatihan AI langka, sehingga meskipun Zalo telah memesan 8 server Nvidia DGX H100, mereka tidak dapat memiliki semua perangkat sekaligus dan harus menunggu setiap batch pengiriman dari produsen. Oleh karena itu, mengoptimalkan infrastruktur komputasi yang belum lengkap untuk menghemat waktu pelatihan juga merupakan masalah yang harus dipecahkan oleh tim Zalo.

Pada saat yang sama, data pelatihan berkualitas juga diinvestasikan untuk mengimbangi kurangnya sumber data Vietnam.

Meskipun memulai dari posisi yang sulit dibandingkan dengan perusahaan-perusahaan besar di dunia, Zalo tetap memutuskan untuk bergabung dalam persaingan ini dengan tujuan mengembangkan model AI Vietnam sendiri secara sukses. Kami berkonsultasi dengan para peneliti dan insinyur di berbagai lembaga penelitian terkemuka di dunia untuk menyusun strategi pengembangan yang tepat.

Tonggak kesuksesan saat ini menjadi motivasi bagi para insinyur Zalo untuk terus mengoptimalkan model agar lebih besar kuantitasnya dan lebih baik kualitasnya. Di saat yang sama, kami juga memanfaatkan penerapannya untuk menciptakan banyak produk AI kelas dunia bagi pengguna di Vietnam," ujar Dr. Nguyen Truong Son, Direktur Sains di Zalo AI.

Server DGX H100 Zalo dipesan dari Nvidia (Foto: Zalo).

Berkat adaptasi yang fleksibel pada tahap awal pengembangan yang sulit, Zalo secara bertahap telah mencapai tonggak keberhasilan, bergerak maju menguasai teknologi AI global seperti saat ini.

Saat ini, model AI Zalo tidak hanya berhasil dalam hal pelatihan penelitian tetapi juga penerapannya, mempromosikan akses dan eksploitasi nilai dari teknologi baru yang canggih bagi masyarakat Vietnam.

Awal tahun ini, Zalo meluncurkan Asisten Tanya Jawab Kiki Info, yang dioperasikan sebagai OA (Akun Resmi) di platform perpesanan Zalo. Asisten ini mendukung sesi Tanya Jawab tentang berbagai topik kehidupan, pembuatan konten, dan hiburan. Menurut statistik Zalo, Asisten Kiki Info telah memiliki 1 juta pengguna yang mengakses akun OA di Zalo dalam waktu kurang dari 2 bulan.

Model LLM Zalo diterapkan untuk mengembangkan Kiki Info Assistant (Foto: Zalo).

Aplikasi lain dari model LLM Zalo adalah kartu AI, yang juga mencapai tonggak sejarah 15 juta kartu yang dibuat dan dikirim hanya dalam 2 bulan. Aplikasi ini diminati banyak pengguna Zalo untuk menyampaikan ucapan selamat kepada kerabat dan teman di hari raya penting.

Saat ini, aplikasi dari model bahasa besar terus diperluas dan dikembangkan oleh Zalo, dengan janji menghadirkan banyak nilai bermanfaat bagi pengguna domestik.

Sumber: https://dantri.com.vn/cong-nghe/zalo-phat-trien-mo-hinh-ai-do-nguoi-viet-lam-chu-20250616161352610.htm