 |
ឱសថការី Tien (Pham Minh Huu Tien) បានចាប់ផ្តើម AI ហៅថា ChatDST។ រូបថត៖ DST ។ |
នៅថ្ងៃទី 14 ខែកក្កដា ឱសថការី Tien បានបង្ហោះ វីដេអូ ណែនាំផលិតផលជាច្រើនរបស់ក្រុមហ៊ុននៅលើប្រព័ន្ធផ្សព្វផ្សាយសង្គម។ ក្នុងចំណោមពួកគេ AI chatbot ដែលមានឈ្មោះថា ChatDST បានទាក់ទាញការចាប់អារម្មណ៍ជាមួយនឹងសេចក្តីថ្លែងការណ៍របស់អ្នកធ្វើបទបង្ហាញថាវា "ប្រសើរជាង ChatGPT" ។
ព័ត៌មាននេះមានភាពចម្រូងចម្រាសដោយសារតែលោក Tien និងអង្គការនៅពីក្រោយគាត់ធ្វើការនៅក្នុងឧស្សាហកម្មគ្រឿងសំអាង និងកម្សាន្ត ហើយមិនមានជំនាញខាងបច្ចេកវិទ្យា។ ទន្ទឹមនឹងនេះ ChatGPT របស់ OpenAI ដែលបានទទួលការវិនិយោគរាប់រយពាន់លានដុល្លារ និងការអភិវឌ្ឍន៍ជាច្រើនឆ្នាំ នៅតែជាផលិតផលនាំមុខទីផ្សារក្នុងទិដ្ឋភាពជាច្រើន។
សេចក្តីថ្លែងការណ៍របស់ឱសថការី Tien
លោក Pham Minh Huu Tien (ឱសថការី Tien) បានប្រកាសនៅក្នុងពិធីសម្ពោធថា "ស្ទើរតែទាំងអស់នៃប៉ារ៉ាម៉ែត្ររបស់ Tien លើសពីបញ្ញាសិប្បនិម្មិតដែលអ្នកកំពុងប្រើប្រាស់នាពេលបច្ចុប្បន្ន។
 |
ប៉ារ៉ាម៉ែត្រនៃ Chatbot របស់ ChatDST ដែលផ្តល់ដោយឱសថការី Tien ។ រូបថត៖ Pham Minh Huu Tien។ |
ឧទាហរណ៍ដែលបុគ្គលនេះប្រើសម្រាប់ការប្រៀបធៀបគឺសមត្ថភាព VRAM ។ Pham Minh Huu Tien បានអះអាងថាប្រព័ន្ធដែលពួកគេបានសាងសង់មានអង្គចងចាំពីរដងនៃ ChatGPT (960 GB បើធៀបនឹង 480 GB) ។ លោក Tien បានមានប្រសាសន៍ថា "ក្រៅពីនេះ វាក៏មានបុគ្គលិកលក្ខណៈរបស់អ្នកផងដែរ ដោយបញ្ចូលទៅក្នុងទិន្នន័យនៅក្នុងឧស្សាហកម្មគីមី និងគ្រឿងសំអាង ដែលនឹងមានប្រយោជន៍ខ្លាំងណាស់សម្រាប់អ្នកធ្វើការក្នុងវិស័យនេះ" ។
លើសពីនេះទៀត ប៉ារ៉ាម៉ែត្រនៅលើអេក្រង់បង្ហាញក៏បង្ហាញថាវេទិកានេះអាចបង្កើតសញ្ញាសម្ងាត់ 2,000 ក្នុងមួយវិនាទី ស្ថាបត្យកម្មរួមបញ្ចូលគ្នានូវគំរូ AI ចំនួន 6 ដើម្បីបង្កើនដំណើរការ។ ChatDST ប្តេជ្ញាចិត្តដើម្បីធ្វើប្រតិបត្តិការប្រកបដោយស្ថេរភាពសម្រាប់ 99.95% នៃពេលវេលា ដែលដំណើរការបរិបទរហូតដល់ 1 លាននិមិត្តសញ្ញា។
ជាពិសេស អ្នកណែនាំក៏បាននិយាយផងដែរថា chatbot នេះមានអង្គចងចាំគ្មានដែនកំណត់សម្រាប់វគ្គនីមួយៗ។ ឱសថការី Tien បានប្រកាសថា ដំណោះស្រាយនេះនឹងដាក់ឱ្យប្រើប្រាស់ក្នុងខែតុលា អ្នកប្រើប្រាស់នឹងត្រូវចំណាយដើម្បីប្រើប្រាស់វា តម្លៃគឺ 20-300 ដុល្លារ ។ យ៉ាងណាមិញ វីដេអូព្រឹត្តិការណ៍សម្ពោធបានបាត់ពី YouTube ហើយ។
ប៉ារ៉ាម៉ែត្រមិនធម្មតា
សម្រាប់ពេលនេះ គម្រោងដែលឱសថការី Tien បានប្រកាសគឺនៅតែ "នៅលើក្រដាស" ដោយមិនមានកំណែសាកល្បង ឬរបាយការណ៍លម្អិតអំពីកូដប្រភព ឬប្រតិបត្តិការនោះទេ។ ព័ត៌មានបច្ចុប្បន្នរួមបញ្ចូលតែប៉ារ៉ាម៉ែត្រមូលដ្ឋាន រួមជាមួយនឹងសេចក្តីថ្លែងការណ៍ដែលថា ChatDST មានការកំណត់រចនាសម្ព័ន្ធខ្ពស់ជាង ChatGPT ក្នុងចំណោមអ្វីដែលល្អបំផុតនៅលើទីផ្សារ។
ទោះជាយ៉ាងណាក៏ដោយ ព័ត៌មាននេះក៏មិនច្បាស់លាស់ដែរ ដែលភាគច្រើនមិនសមហេតុផល និងមិនអាចទៅរួច។
និយាយជាមួយ Tri Thuc - ZNews លោក NB អនុបណ្ឌិតផ្នែកព័ត៌មានវិទ្យា អ្នកបង្កើតផលិតផល AI បាននិយាយថា មានព័ត៌មានខុសឆ្គងមួយចំនួននៅក្នុងសេចក្តីថ្លែងការណ៍របស់ Pharmacist Tien ។
 |
រោងចក្រ AI តម្លៃ 40 ពាន់លានដុល្លារ របស់ OpenAI កំពុងដំណើរការសាងសង់នៅរដ្ឋតិចសាស់ សហរដ្ឋអាមេរិក។ រូបថត៖ មជ្ឈមណ្ឌលទិន្នន័យថាមវន្ត។ |
ជាឧទាហរណ៍ លោក Tien បាននិយាយថា ChatDST ត្រូវបានបង្កើតឡើងនៅលើវេទិកា Llama ជាមួយនឹង "ណឺរ៉ូន" ចំនួន 403 ពាន់លាន។ តាមពិត គំរូភាសាធំៗប្រើប៉ារ៉ាម៉ែត្រដើម្បីនិយាយអំពីដែនទិន្នន័យជំនួសឱ្យ "ណឺរ៉ូន" ។ ក្នុងពេលជាមួយគ្នានោះ Llama ត្រូវបានបង្កើតឡើងដោយ Meta ដែលបានចេញផ្សាយកូដប្រភពបើកចំហ ហើយមានតែកំណែប៉ារ៉ាម៉ែត្រ 405 ពាន់លានប៉ុណ្ណោះ មិនមែនជាកំណែ 403 ពាន់លាននោះទេ។
ម្យ៉ាងវិញទៀត មិនមានប្រភពណាមួយបង្ហាញថា OpenAI ប្រើប្រាស់ Server ដែលមានអង្គចងចាំ 480 GB ដូចដែល Pham Minh Huu Tien បានប្រកាសនោះទេ។ យោងតាមប៉ារ៉ាម៉ែត្រដែលបានផ្តល់ឱ្យដោយឱសថការី Tien, ChatDST ដំណើរការលើវេទិកានៃ 12 Nvidia A100 80 GB GPUs ជាមួយនឹង VRAM សរុប 960 GB ។ តម្លៃទីផ្សារនៃកាតក្រាហ្វិកទាំងនេះគឺប្រហែល 700 លានដុង ដែលស្មើនឹងការវិនិយោគ 8.4 ពាន់លានដុង សម្រាប់សមាសធាតុនេះ។
ទន្ទឹមនឹងនេះដែរ ប្រភពពី The Information បាននិយាយថា OpenAI ជាម្ចាស់មជ្ឈមណ្ឌលទិន្នន័យដែលមានកាត A100 ប្រហែល 350,000 សម្រាប់ការសន្និដ្ឋាន។ ChatGPT តែឯងកំពុងប្រើ 290,000 GPUs 24,167 ដងនៃការកំណត់ដែលឱសថការី Tien បានប្រកាស។ លើសពីនេះ ក្រុមហ៊ុននេះក៏បានជួលម៉ាស៊ីនមេ Azure របស់ Microsoft ដើម្បីកាត់បន្ថយការផ្ទុកនៅពេលដែលចំនួនអ្នកប្រើប្រាស់កើនឡើង។
តាមការប៉ាន់ប្រមាណថា OpenAI ត្រូវចំណាយប្រហែល 100,000 ដុល្លារអាមេរិក ( 2.6 ពាន់លានដុង ) សម្រាប់ប្រតិបត្តិការប្រចាំថ្ងៃ។ ដូច្នេះការចំណាយប្រតិបត្តិការសម្រាប់រយៈពេល 4 ថ្ងៃរបស់ក្រុមហ៊ុននេះគឺច្រើនជាងចំនួនសម្រាប់ការកំណត់រចនាសម្ព័ន្ធនៃបន្ទះសៀគ្វី A100 ចំនួន 12 ដែលឱសថការី Tien បានប្រើនៅ ChatDST ។
 |
Llama 405B យក VRAM យ៉ាងតិច 810GB ដើម្បីបង្កើតគំរូការងារ។ រូបថត៖ HuggingFace។ |
យោងតាម HuggingFace ប៉ារ៉ាម៉ែត្រ Llama 405 ពាន់លានត្រូវការយ៉ាងហោចណាស់ 810 GB ដើម្បីផ្ទុក។ ដូច្នេះហើយ ម៉ាស៊ីនមេរបស់លោក Tien មានត្រឹមតែ 150 GB ដោយឥតគិតថ្លៃ ដើម្បីបម្រើការគណនានៅពេលអ្នកប្រើប្រាស់ជជែក។ ចំនួន VRAM នេះគឺគ្រប់គ្រាន់សម្រាប់អតិថិជន 1-3 នាក់ក្នុងការជជែកក្នុងពេលតែមួយ។ សូម្បីតែនៅពេលកាត់បន្ថយភាពត្រឹមត្រូវនៃគំរូដើម្បីសន្សំធនធានចំនួនអ្នកប្រើប្រាស់ដែលបម្រើគណនី 3-9 ក្នុងពេលតែមួយ។
ល្បឿនដំណើរការ 2,000 tokens/s របស់ ChatDST ក៏ជាប៉ារ៉ាម៉ែត្រ "មិនអាចនឹកស្មានដល់" នៅក្នុងឧស្សាហកម្មនេះ។ បច្ចុប្បន្ននេះ ChatGPT ផលិតបានតែ 50-100 tokens/s អាស្រ័យលើម៉ូដែល ហើយផ្ទុកលើសទម្ងន់ប្រព័ន្ធ។ Claude ក៏ជួបតែ 40-80 tokens/s ប៉ុណ្ណោះ។
ប្រភព៖ https://znews.vn/thong-so-khong-tuong-tu-ai-hon-chatgpt-cua-duoc-si-tien-post1569417.html
Kommentar (0)