របាយការណ៍រាប់ពាន់នៃខ្លឹមសារការរំលោភបំពានកុមារដែលបង្កើតដោយ AI

ក្នុងរយៈពេលប៉ុន្មានខែថ្មីៗនេះ អ្នកជំនាញ និងអ្នកស្រាវជ្រាវសុវត្ថិភាពកុមារបានព្រមានអំពីសក្ដានុពលសម្រាប់ AI ប្រកបដោយការច្នៃប្រឌិត ដើម្បីធ្វើឲ្យការរំលោភបំពានលើអ៊ីនធឺណិតកាន់តែធ្ងន់ធ្ងរ។

របាយការណ៍រាប់ពាន់អំពីខ្លឹមសារនៃការបំពានលើកុមារដែលបង្កើតដោយនរណាម្នាក់រូបភាព ១ — នាយកប្រតិបត្តិក្រុមហ៊ុន Meta លោក Mark Zuckerberg ថ្លែងនៅក្នុងសវនាការរបស់គណៈកម្មាធិការយុត្តិធម៌នៃព្រឹទ្ធសភាសហរដ្ឋអាមេរិកនៅថ្ងៃទី 31 ខែមករា ឆ្នាំ 2024 នៅចំពោះមុខអ្នកចូលរួមដែលកាន់រូបភាពដែលបង្កើតដោយ AI ។ រូបថត៖ រ៉យទ័រ

NCMEC មិនទាន់បានចេញផ្សាយចំនួនរបាយការណ៍សរុបនៃខ្លឹមសារនៃការរំលោភបំពានលើកុមារពីគ្រប់ប្រភពទាំងអស់ដែលខ្លួនបានទទួលក្នុងឆ្នាំ 2023។ ប៉ុន្តែនៅឆ្នាំ 2022 វាបានទទួលរបាយការណ៍ប្រហែល 88.3 លានឯកសារអំពីបញ្ហានេះ។

លោក John Shehan អនុប្រធាន NCMEC បាននិយាយថា "យើងកំពុងទទួលបានរបាយការណ៍ពីក្រុមហ៊ុន AI ច្នៃប្រឌិតខ្លួនឯង វេទិកាអនឡាញ និងសមាជិកសាធារណៈ" ។

នាយកប្រតិបត្តិនៃក្រុមហ៊ុន Meta, X, TikTok, Snap និង Discord បានផ្តល់សក្ខីកម្មនៅក្នុងសវនាការព្រឹទ្ធសភាអាមេរិកកាលពីថ្ងៃពុធ (31 មករា) អំពីសុវត្ថិភាពកុមារនៅលើវេទិកាអនឡាញ។ សមាជិកសភាអាមេរិកបានចោទសួរក្រុមហ៊ុនប្រព័ន្ធផ្សព្វផ្សាយសង្គមអំពីកិច្ចខិតខំប្រឹងប្រែងរបស់ពួកគេដើម្បីការពារកុមារពី "សត្វមំសាសីតាមអ៊ីនធឺណិត"។

អ្នកស្រាវជ្រាវនៅ Stanford Internet Observatory បាននិយាយនៅក្នុងរបាយការណ៍មួយកាលពីខែមិថុនាឆ្នាំមុនថា AI ជំនាន់ថ្មីអាចត្រូវបានប្រើប្រាស់ដោយតួអង្គអាក្រក់ដើម្បីធ្វើបាបកុមារក្នុងជីវិតពិតម្តងហើយម្តងទៀតដោយបង្កើតរូបភាពក្លែងក្លាយរបស់ពួកគេ។

Fallon McNulty នាយក CyberTipline របស់ NCMEC ដែលយករបាយការណ៍នៃការកេងប្រវ័ញ្ចលើកុមារតាមអ៊ីនធឺណិតបាននិយាយថា មាតិកាដែលបង្កើតដោយ AI កំពុងក្លាយជា "រូបភាពជាក់ស្តែងកាន់តែច្រើន" ដែលធ្វើឱ្យវាពិបាកក្នុងការកំណត់ថាតើជនរងគ្រោះគឺជាមនុស្សពិតឬអត់។

លោក McNulty បាននិយាយថា OpenAI ដែលជាក្រុមហ៊ុនបង្កើត ChatGPT បានបង្កើតដំណើរការមួយដើម្បីបញ្ជូនរបាយការណ៍ទៅ NCMEC ហើយអង្គការនេះកំពុងពិភាក្សាជាមួយក្រុមហ៊ុន AI ផ្សេងទៀត។

Hoang Hai (យោងតាម Reuters, FT)

ប្រភព