ការព្រមាន AI អាចអភិវឌ្ឍ 'ឆន្ទៈដើម្បីរស់' លើសពីការគ្រប់គ្រងរបស់មនុស្ស

លោក Yoshua Bengio អ្នកវិទ្យាសាស្ត្រកុំព្យូទ័រឈានមុខគេព្រមានថា ប្រសិនបើ AI ចេញពីការគ្រប់គ្រង នោះ 'មនុស្សជាតិអាចរលាយបាត់ក្នុងរយៈពេល 10 ឆ្នាំ' ។

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 1. — អ្នកវិទ្យាសាស្ត្រព្រួយបារម្ភអំពីហានិភ័យនៃការបាត់បង់ការគ្រប់គ្រងរបស់ AI - រូបភាព៖ ChatGPT

កាលពីថ្ងៃទី 7 ខែកុម្ភៈ អ្នកវិទ្យាសាស្ត្រកុំព្យូទ័រឈានមុខគេបានព្រមានអំពីលទ្ធភាពរបស់មនុស្ស "បាត់បង់ការគ្រប់គ្រង" លើប្រព័ន្ធបញ្ញាសិប្បនិម្មិត (AI) នាពេលអនាគត នៅពេលដែលផលិតផលសិប្បនិម្មិតទាំងនេះបង្កើត "ឆន្ទៈដើម្បីរស់" ។

ថ្លែងនៅឯកិច្ចប្រជុំកំពូលសកម្មភាព AI ដែលធ្វើឡើងនៅទីក្រុងប៉ារីស អ្នកវិទ្យាសាស្ត្រកុំព្យូទ័រ Yoshua Bengio បានអំពាវនាវឱ្យមានបទប្បញ្ញត្តិអន្តរជាតិកាន់តែតឹងរ៉ឹង និងការស្រាវជ្រាវយ៉ាងទូលំទូលាយបន្ថែមទៀតលើសុវត្ថិភាព AI ដែលបច្ចុប្បន្នមានត្រឹមតែផ្នែកតូចមួយនៃការវិនិយោគសំខាន់ៗដែលកំពុងធ្វើនៅក្នុងវិស័យនេះ។

ការលេចចេញនូវម៉ូដែល AI ដែលមានតម្លៃទាប និងមានប្រសិទ្ធភាពខ្ពស់ DeepSeek កាលពីខែមុន បានបង្កើនល្បឿនការប្រណាំងទៅកាន់សុវត្ថិភាព នេះបើយោងតាមអ្នកឈ្នះរង្វាន់ Turing Award ដ៏ល្បីល្បាញឆ្នាំ 2018 ផ្នែកវិទ្យាសាស្ត្រកុំព្យូទ័រ។ លោក Yoshua Bengio បានព្រមានថា ប្រសិនបើយើងបាត់បង់ការគ្រប់គ្រងរបស់ AI នោះ "មនុស្សជាតិអាចរលាយបាត់ក្នុងរយៈពេល 10 ឆ្នាំ"។

លោកក៏បានអំពាវនាវឱ្យមានការដឹកនាំរដ្ឋាភិបាលក្នុងការគ្រប់គ្រង AI ។ ការអំពាវនាវនេះត្រូវបានធ្វើឡើងក្នុងបរិបទដែលប្រទេស AI ឈានមុខគេរបស់ពិភពលោកគឺសហរដ្ឋអាមេរិកបានធ្វើការផ្លាស់ប្តូរជាច្រើនដើម្បី "ស្រាយ" ការអភិវឌ្ឍន៍នៃបច្ចេកវិទ្យានេះក្រោមការដឹកនាំរបស់ប្រធានាធិបតីថ្មី Donald Trump ។

នាពេលបច្ចុប្បន្ននេះ របាយការណ៍សុវត្ថិភាព AI អន្តរជាតិដែលបង្ហាញដោយលោក Yoshua Bengio ក្នុងសន្និសិទក៏បានចង្អុលបង្ហាញពីហានិភ័យល្បីដូចជាការប្រើប្រាស់ AI ដើម្បីបង្កើតខ្លឹមសារក្លែងក្លាយ ឬបំភាន់នៅលើវេទិកាអនឡាញ ខណៈដែលហានិភ័យបន្ថែមកំពុងកើតមានឥតឈប់ឈរ ដូចជាការវាយប្រហារជីវសាស្ត្រ ឬការវាយប្រហារតាមអ៊ីនធឺណិតជាដើម។

ដោយមានការចូលរួមចំណែកពីអ្នកជំនាញប្រហែល 100 នាក់មកពី 30 ប្រទេស អង្គការសហប្រជាជាតិ សហភាពអឺរ៉ុប និងអង្គការសម្រាប់កិច្ចសហប្រតិបត្តិការសេដ្ឋកិច្ច និងអភិវឌ្ឍន៍ (OECD) នេះគឺជារបាយការណ៍ដំបូងស្តីពីសុវត្ថិភាព AI អន្តរជាតិដែលធ្វើឡើងចាប់តាំងពីកិច្ចប្រជុំកំពូលសុវត្ថិភាព AI នៅចក្រភពអង់គ្លេសក្នុងខែវិច្ឆិកា ឆ្នាំ 2023។

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 2.

សហភាពអឺរ៉ុបប្រឈមនឹងបញ្ហាលំបាកនៃការគ្រប់គ្រង AI

កាលពីថ្ងៃទី 4 ខែកុម្ភៈ គណៈកម្មការអឺរ៉ុបបានចេញផ្សាយឯកសារណែនាំអំពីការអនុវត្តបទប្បញ្ញត្តិនៃច្បាប់ Artificial Intelligence (AI) ដែលមានប្រសិទ្ធភាពចាប់ពីថ្ងៃទី 2 ខែកុម្ភៈ ដោយទទួលបានប្រតិកម្មចម្រុះ។

ប្រភព៖ https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm