ពួក Hacker ប្រើ AI ដើម្បីវាយប្រហារ Gemini របស់ Google

យោងតាម ​​BGR របាយការណ៍ស្រាវជ្រាវថ្មីមួយទើបតែបានចេញផ្សាយនូវបច្ចេកទេសប្រកាសអាសន្នមួយហៅថា 'Fun-Tuning' នៅពេលប្រើ AI (បញ្ញាសិប្បនិម្មិត) ខ្លួនឯងដើម្បីបង្កើតការវាយប្រហារភ្លាមៗប្រកបដោយប្រសិទ្ធភាពបំផុតដោយស្វ័យប្រវត្តិដែលផ្តោតលើម៉ូដែល AI កម្រិតខ្ពស់ផ្សេងទៀត រួមទាំង Gemini របស់ Google ផងដែរ។

វិធីសាស្រ្តនេះធ្វើឱ្យ 'បំបែក' AI លឿនជាងមុន ថោកជាង និងងាយស្រួលជាងពេលណាៗទាំងអស់ ដែលបង្ហាញពីការកើនឡើងថ្មីមួយនៅក្នុងសមរភូមិសុវត្ថិភាពអ៊ីនធឺណិតពាក់ព័ន្ធនឹង AI ។

គ្រោះថ្នាក់នៅពេលមនុស្សអាក្រក់ប្រើ AI ដើម្បីបំបែក AI

ការចាក់បញ្ចូលភ្លាមៗគឺជាបច្ចេកទេសដែលសត្រូវលួចលាក់ការណែនាំអាក្រក់ទៅក្នុងទិន្នន័យបញ្ចូលនៃគំរូ AI (ឧ. តាមរយៈមតិយោបល់នៅក្នុងកូដប្រភព អត្ថបទលាក់នៅលើគេហទំព័រ)។ គោលដៅគឺដើម្បី 'បញ្ឆោត' AI ឱ្យរំលងច្បាប់សុវត្ថិភាពដែលបានរៀបចំទុកជាមុន ដែលនាំឱ្យមានផលវិបាកធ្ងន់ធ្ងរ ដូចជាការលេចធ្លាយទិន្នន័យរសើប ការផ្តល់ព័ត៌មានមិនពិត ឬធ្វើសកម្មភាពព្យាបាទផ្សេងទៀត។

ពួក Hacker កំពុងប្រើ AI ដើម្បីវាយប្រហារ AI

រូបថត៖ LINKEDIN SCREENSHOT

ពីមុន ការអនុវត្តការវាយប្រហារទាំងនេះដោយជោគជ័យ ជាពិសេសលើម៉ូដែល 'បិទ' ដូចជា Gemini ឬ GPT-4 ជារឿយៗតម្រូវឱ្យមានការសាកល្បងដោយដៃដ៏ស្មុគស្មាញ និងចំណាយពេលច្រើន។

ប៉ុន្តែ Fun-Tuning បានផ្លាស់ប្តូរហ្គេមទាំងស្រុង។ បង្កើតឡើងដោយក្រុមអ្នកស្រាវជ្រាវមកពីសាកលវិទ្យាល័យជាច្រើន វិធីសាស្ត្រនេះប្រើប្រាស់យ៉ាងប៉ិនប្រសប់នូវចំណុចប្រទាក់កម្មវិធីកំណត់កម្មវិធី (API) ដែល Google ផ្តល់ជូនដោយឥតគិតថ្លៃដល់អ្នកប្រើប្រាស់ Gemini ។

តាមរយៈការវិភាគប្រតិកម្មតិចតួចនៃគំរូ Gemini កំឡុងពេលលៃតម្រូវ (ឧ. របៀបដែលវាឆ្លើយតបទៅនឹងកំហុសក្នុងទិន្នន័យ) Fun-Tuning អាចកំណត់ដោយស្វ័យប្រវត្តិនូវ 'បុព្វបទ' និង 'suffixes' ដែលមានប្រសិទ្ធភាពបំផុតដើម្បីលាក់ពាក្យបញ្ជាព្យាបាទ។ នេះបង្កើនលទ្ធភាពយ៉ាងខ្លាំងដែល AI នឹងអនុវត្តតាមចេតនាព្យាបាទរបស់អ្នកវាយប្រហារ។

លទ្ធផលតេស្តបង្ហាញថា Fun-Tuning សម្រេចបាននូវអត្រាជោគជ័យរហូតដល់ 82% លើកំណែមួយចំនួនរបស់ Gemini ដែលជាតួលេខលើសពីវិធីសាស្ត្រវាយប្រហារបែបប្រពៃណីតិចជាង 30%។

ការបន្ថែមទៅលើគ្រោះថ្នាក់នៃ Fun-Tuning គឺជាការចំណាយទាបរបស់វា។ ដោយសារការលៃតម្រូវ API របស់ Google គឺអាចរកបានដោយសេរី ការចំណាយលើការគណនានៃការបង្កើតការវាយប្រហារប្រកបដោយប្រសិទ្ធភាពអាចមានតម្លៃទាបត្រឹម $10 ។ លើសពីនេះ អ្នកស្រាវជ្រាវបានរកឃើញថា ការវាយប្រហារដែលបានរចនាឡើងសម្រាប់កំណែមួយនៃ Gemini អាចត្រូវបានអនុវត្តយ៉ាងងាយស្រួលដោយជោគជ័យទៅកំណែផ្សេងទៀត ដោយបើកលទ្ធភាពនៃការវាយប្រហាររីករាលដាល។

Google បានបញ្ជាក់ថាខ្លួនដឹងពីការគំរាមកំហែងដែលបង្កឡើងដោយ Fun-Tuning ប៉ុន្តែមិនទាន់បានធ្វើអត្ថាធិប្បាយអំពីថាតើវានឹងផ្លាស់ប្តូររបៀបដែលការលៃតម្រូវ API ដំណើរការនោះទេ។ អ្នកស្រាវជ្រាវក៏ចង្អុលបង្ហាញពីបញ្ហាការពារផងដែរ៖ ការដកព័ត៌មានដែល Fun-Tuning កេងប្រវ័ញ្ចចេញពីដំណើរការលៃតម្រូវនឹងធ្វើឱ្យ API មិនសូវមានប្រយោជន៍សម្រាប់អ្នកអភិវឌ្ឍន៍ស្របច្បាប់។ ផ្ទុយ​ទៅ​វិញ ការ​ទុក​វា​ទុក​ដូច​ជា​វា​នឹង​បន្ត​ក្លាយ​ជា​កន្លែង​សម្រាប់​អ្នក​ប្រព្រឹត្ត​អាក្រក់​ដើម្បី​កេង​ចំណេញ។

ការលេចឡើងនៃ Fun-Tuning គឺជាការព្រមានយ៉ាងច្បាស់ថាការប្រឈមមុខដាក់គ្នានៅក្នុងអ៊ីនធឺណែតបានឈានចូលដំណាក់កាលថ្មីដែលស្មុគស្មាញជាងនេះ។ ឥឡូវនេះ AI មិនត្រឹមតែជាគោលដៅប៉ុណ្ណោះទេ ប៉ុន្តែក៏ជាឧបករណ៍ និងអាវុធនៅក្នុងដៃរបស់តួអង្គព្យាបាទផងដែរ។

ប្រភព៖ https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm