អ្នកប្រើប្រាស់ ChatGPT មានហានិភ័យនៃការលួចព័ត៌មាន

មុខងារអង្គចងចាំរយៈពេលវែងរបស់ ChatGPT គឺជាមុខងារថ្មីដែលត្រូវបានណែនាំដោយ OpenAI ក្នុងខែកុម្ភៈ ឆ្នាំ 2024 និងបានពង្រីកនៅក្នុងខែកញ្ញា។

ថ្មីៗនេះ អ្នកស្រាវជ្រាវផ្នែកសន្តិសុខ Johann Rehberger ថ្មីៗនេះបានបង្ហាញពីភាពងាយរងគ្រោះធ្ងន់ធ្ងរទាក់ទងនឹងមុខងារនេះ។

វាត្រូវបានគេដឹងថាមុខងារថ្មីនេះជួយ chatbots រក្សាទុកព័ត៌មានពីការសន្ទនាពីមុន។ អរគុណចំពោះបញ្ហានេះ អ្នកប្រើប្រាស់មិនចាំបាច់បញ្ចូលព័ត៌មានឡើងវិញដូចជាអាយុ ចំណាប់អារម្មណ៍ ឬទស្សនៈផ្ទាល់ខ្លួនរាល់ពេលដែលពួកគេជជែកនោះទេ។ ទោះជាយ៉ាងណាក៏ដោយ នេះបានក្លាយជាចំណុចខ្សោយសម្រាប់អ្នកវាយប្រហារក្នុងការកេងប្រវ័ញ្ច។

អ្នកប្រើប្រាស់ ChatGPT មានហានិភ័យនៃការលួចព័ត៌មាន

Johann Rehberger បានបង្ហាញថាពួក Hacker អាចប្រើបច្ចេកទេសមួយហៅថា prompt injection - ចាក់ការណែនាំព្យាបាទទៅក្នុងអង្គចងចាំ ដោយបង្ខំឱ្យ AI គោរពតាម។ ពាក្យ​បញ្ជា​ទាំង​នេះ​នឹង​ត្រូវ​បាន​បញ្ចូល​តាម​រយៈ​មាតិកា​ដែល​មិន​គួរ​ឱ្យ​ទុក​ចិត្ត​ដូច​ជា​អ៊ីមែល ឯកសារ ឬ​ទំព័រ​បណ្ដាញ។

នៅពេលដែលការចងចាំក្លែងក្លាយទាំងនេះត្រូវបានរក្សាទុក AI នឹងបន្តប្រើប្រាស់វាជាព័ត៌មានពិតក្នុងការសន្ទនាជាមួយអ្នកប្រើប្រាស់។ នេះអាចបណ្តាលឱ្យមានការប្រមូល និងការប្រើប្រាស់ទិន្នន័យផ្ទាល់ខ្លួនរបស់អ្នកប្រើប្រាស់ដោយគ្មានការអនុញ្ញាត។

Rehberger បានផ្តល់ឧទាហរណ៍ជាក់លាក់មួយដោយផ្ញើតំណភ្ជាប់ដែលមានរូបភាពព្យាបាទដែលបណ្តាលឱ្យ ChatGPT រក្សាទុកអង្គចងចាំមិនពិត។ ព័ត៌មាននេះនឹងមានឥទ្ធិពលលើការឆ្លើយតបរបស់ ChatGPT នៅពេលក្រោយ។ ជាពិសេស រាល់ព័ត៌មានដែលបានបញ្ចូលដោយអ្នកប្រើប្រាស់ក៏នឹងត្រូវបានផ្ញើទៅកាន់ម៉ាស៊ីនមេរបស់ពួក Hacker ផងដែរ។

ដូច្នេះហើយ ដើម្បីបង្កឲ្យមានការវាយប្រហារនេះ ពួក Hacker ត្រូវការតែបញ្ចុះបញ្ចូលអ្នកប្រើប្រាស់ ChatGPT ឱ្យចុចលើតំណភ្ជាប់ដែលមានរូបភាពព្យាបាទប៉ុណ្ណោះ។ បន្ទាប់មកការសន្ទនារបស់អ្នកប្រើប្រាស់ទាំងអស់ជាមួយ ChatGPT នឹងត្រូវបានបញ្ជូនបន្តទៅកាន់ម៉ាស៊ីនមេរបស់អ្នកវាយប្រហារដោយមិនបន្សល់ទុកដានណាមួយឡើយ។

នៅក្នុងខែឧសភា ឆ្នាំ 2024 បន្ទាប់ពីបានរកឃើញកំហុសនោះ Rehberger បានរាយការណ៍វាទៅ OpenAi ប៉ុន្តែក្រុមហ៊ុនបានចាត់ទុកថាវាជាកំហុសសុវត្ថិភាពប៉ុណ្ណោះ។ បន្ទាប់ពីទទួលបានភស្តុតាងនៃការលួចទិន្នន័យអ្នកប្រើប្រាស់ដែលអាចកើតមាន ក្រុមហ៊ុនបានចេញផ្សាយបំណះបណ្តោះអាសន្ននៅលើកំណែបណ្តាញនៃ ChatGPT ។

ខណៈពេលដែលបញ្ហាត្រូវបានជួសជុលជាបណ្ដោះអាសន្ន Rehberger បានសង្កត់ធ្ងន់ថាខ្លឹមសារដែលមិនគួរឱ្យទុកចិត្តនៅតែអាចប្រើការបញ្ចូលព័ត៌មានដើម្បីបញ្ចូលព័ត៌មានក្លែងក្លាយទៅក្នុងអង្គចងចាំរយៈពេលវែងរបស់ ChatGPT ។ នេះមានន័យថា ក្នុងករណីខ្លះ ពួក Hacker នៅតែអាចទាញយកភាពងាយរងគ្រោះ ដើម្បីរក្សាទុកការចងចាំដែលមានគំនិតអាក្រក់ ដើម្បីលួចព័ត៌មានផ្ទាល់ខ្លួនរយៈពេលវែង។

OpenAI ណែនាំឲ្យអ្នកប្រើប្រាស់ពិនិត្យជាប្រចាំនូវអង្គចងចាំក្នុងឃ្លាំងសម្ងាត់របស់ ChatGPT សម្រាប់ភាពវិជ្ជមានមិនពិត។ ជាមួយគ្នានេះ ក្រុមហ៊ុនក៏មានការណែនាំលម្អិតអំពីរបៀបគ្រប់គ្រង និងលុបការចងចាំដែលបានរក្សាទុកក្នុងឧបករណ៍នេះផងដែរ។

ប្រភព៖ https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html