អ្នកប្រើប្រាស់ ChatGPT មានហានិភ័យនៃការលួចព័ត៌មាន

មុខងារអង្គចងចាំរយៈពេលវែងរបស់ ChatGPT គឺជាមុខងារថ្មីដែលត្រូវបានណែនាំដោយ OpenAI ក្នុងខែកុម្ភៈ ឆ្នាំ 2024 និងបានពង្រីកនៅក្នុងខែកញ្ញា។

ថ្មីៗនេះ អ្នកស្រាវជ្រាវផ្នែកសន្តិសុខ Johann Rehberger ថ្មីៗនេះបានបង្ហាញពីភាពងាយរងគ្រោះធ្ងន់ធ្ងរទាក់ទងនឹងមុខងារនេះ។

វាត្រូវបានគេដឹងថាមុខងារថ្មីនេះជួយ chatbots រក្សាទុកព័ត៌មានពីការសន្ទនាពីមុន។ អរគុណចំពោះបញ្ហានេះ អ្នកប្រើប្រាស់មិនចាំបាច់បញ្ចូលព័ត៌មានឡើងវិញដូចជាអាយុ ចំណាប់អារម្មណ៍ ឬទស្សនៈផ្ទាល់ខ្លួនរាល់ពេលដែលពួកគេជជែកនោះទេ។ ទោះជាយ៉ាងណាក៏ដោយ នេះបានក្លាយជាចំណុចខ្សោយសម្រាប់អ្នកវាយប្រហារក្នុងការកេងប្រវ័ញ្ច។

អ្នកប្រើប្រាស់ ChatGPT មានហានិភ័យនៃការលួចព័ត៌មាន

Johann Rehberger បានបង្ហាញថាពួក Hacker អាចប្រើបច្ចេកទេសមួយហៅថា prompt injection—បញ្ចូលការណែនាំអាក្រក់ទៅក្នុងអង្គចងចាំ ដោយបង្ខំឱ្យ AI គោរពតាម។ ពាក្យបញ្ជាទាំងនេះនឹងត្រូវបានបញ្ជូនតាមរយៈមាតិកាដែលមិនគួរឱ្យទុកចិត្តដូចជាអ៊ីមែល ឯកសារ ឬគេហទំព័រ។

នៅពេលដែលការចងចាំក្លែងក្លាយទាំងនេះត្រូវបានរក្សាទុក AI នឹងបន្តប្រើប្រាស់វាជាព័ត៌មានពិតក្នុងការសន្ទនាជាមួយអ្នកប្រើប្រាស់ ដែលអាចនាំទៅដល់ការប្រមូល និងប្រើប្រាស់ទិន្នន័យផ្ទាល់ខ្លួនរបស់អ្នកប្រើប្រាស់ខុស។

Rehberger បានផ្តល់ឧទាហរណ៍ជាក់លាក់មួយដោយផ្ញើតំណភ្ជាប់ដែលមានរូបភាពព្យាបាទដែលបណ្តាលឱ្យ ChatGPT រក្សាទុកអង្គចងចាំមិនពិត។ ព័ត៌មាននេះនឹងប៉ះពាល់ដល់ការឆ្លើយតបនាពេលអនាគតរបស់ ChatGPT ។ ជាពិសេស ព័ត៌មានណាមួយដែលអ្នកប្រើប្រាស់បានបញ្ចូលក៏នឹងត្រូវបានផ្ញើទៅកាន់ម៉ាស៊ីនមេរបស់អ្នកលួចចូលផងដែរ។

អាស្រ័យហេតុនេះ ដើម្បីបង្កការវាយប្រហារ អ្នកលួចចូលគ្រាន់តែត្រូវការបញ្ចុះបញ្ចូលអ្នកប្រើប្រាស់ ChatGPT ឱ្យចុចលើតំណភ្ជាប់ដែលមានរូបភាពព្យាបាទប៉ុណ្ណោះ។ បន្ទាប់ពីនោះ ការជជែករបស់អ្នកប្រើប្រាស់ទាំងអស់ជាមួយ ChatGPT នឹងត្រូវបានបញ្ជូនបន្តទៅកាន់ម៉ាស៊ីនមេរបស់អ្នកវាយប្រហារដោយមិនបន្សល់ទុកដានណាមួយឡើយ។

Rehberger បានរាយការណ៍អំពីកំហុសនេះទៅកាន់ OpenAi ក្នុងខែឧសភា ឆ្នាំ 2024 ប៉ុន្តែក្រុមហ៊ុនបានចាត់ទុកថាវាជាកំហុសសុវត្ថិភាពប៉ុណ្ណោះ។ បន្ទាប់ពីទទួលបានភស្តុតាងដែលថាទិន្នន័យអ្នកប្រើប្រាស់អាចត្រូវបានលួច ក្រុមហ៊ុនបានចេញផ្សាយបំណះបណ្តោះអាសន្ននៅលើកំណែបណ្តាញរបស់ ChatGPT ។

ខណៈពេលដែលបញ្ហាត្រូវបានជួសជុលជាបណ្ដោះអាសន្ន Rehberger កត់សម្គាល់ថាមាតិកាដែលមិនគួរឱ្យទុកចិត្តនៅតែអាចប្រើការបញ្ចូលព័ត៌មានដើម្បីបញ្ចូលព័ត៌មានក្លែងក្លាយទៅក្នុងអង្គចងចាំរយៈពេលវែងរបស់ ChatGPT ។ នេះមានន័យថា ក្នុងករណីខ្លះ ពួក Hacker នៅតែអាចទាញយកភាពងាយរងគ្រោះ ដើម្បីរក្សាទុកការចងចាំដែលមានគំនិតអាក្រក់ ដើម្បីលួចយកព័ត៌មានផ្ទាល់ខ្លួនរយៈពេលវែង។

OpenAI ណែនាំឱ្យអ្នកប្រើប្រាស់ពិនិត្យមើលការចងចាំដែលបានរក្សាទុករបស់ ChatGPT ជាទៀងទាត់សម្រាប់ភាពវិជ្ជមានមិនពិត ហើយក្រុមហ៊ុនក៏ផ្តល់ការណែនាំលម្អិតអំពីរបៀបគ្រប់គ្រង និងលុបការចងចាំដែលផ្ទុកនៅក្នុងឧបករណ៍ផងដែរ។

ប្រភព៖ https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html