ការក្លែងបន្លំអូឌីយ៉ូ ដែលជាការព្រួយបារម្ភថ្មីមួយអំពីព័ត៌មានមិនពិត

នៅថ្ងៃច័ន្ទ ការិយាល័យមេធាវីរដ្ឋ New Hampshire បានប្រកាសថា ខ្លួនកំពុងបើកការស៊ើបអង្កេតលើឧបាយកលអ្នកបោះឆ្នោត។ នេះកើតឡើងបន្ទាប់ពីការត្អូញត្អែរនៃសំឡេងក្លែងក្លាយ ដែលស្តាប់ទៅដូចគ្នាទៅនឹងប្រធានាធិបតីអាមេរិក Joe Biden ដោយជំរុញអ្នកបោះឆ្នោតកុំឱ្យបោះឆ្នោតក្នុងការបោះឆ្នោតបឋមរបស់រដ្ឋ។

អ្នកស្រាវជ្រាវក៏បានព្រមានផងដែរអំពីការប្រើប្រាស់សំឡេងក្លែងក្លាយដើម្បីយកតម្រាប់តាមអ្នកនយោបាយ និងអ្នកដឹកនាំ ដោយករណីលេចធ្លោកើតឡើងនៅឆ្នាំ 2023 នៅចក្រភពអង់គ្លេស ឥណ្ឌា នីហ្សេរីយ៉ា ស៊ូដង់ អេត្យូពី និងស្លូវ៉ាគី។

Deepfake new audio ព័ត៌មានថ្មី រូបភាពមិនពិត ១ — មនុស្សម្នាក់បោះឆ្នោតនៅក្នុងការបោះឆ្នោតបឋមនៅរដ្ឋ New Hampshire សហរដ្ឋអាមេរិក។ រូបថត៖ ហ្គេតធី

អ្នកជំនាញបាននិយាយថា អូឌីយ៉ូ Deepfake បានក្លាយជាទម្រង់ដ៏ពេញនិយមនៃព័ត៌មានមិនពិត ដោយសារតែការលេចចេញនូវឧបករណ៍ AI ដែលមានតម្លៃថោក និងមានប្រសិទ្ធភាពជាច្រើនពីការចាប់ផ្តើមអាជីវកម្ម។ ក្រុមហ៊ុន Microsoft ក៏បានបង្កើតគំរូ AI ថ្មីមួយដែលអាចចម្លងសំឡេងពីការថតត្រឹមតែ 3 វិនាទីប៉ុណ្ណោះ។

លោក Henry Ajder អ្នកជំនាញ AI និង deepfake និងអ្នកប្រឹក្សាយោបល់របស់ Adobe, Meta និង EY បាននិយាយថា "នៅពេលនិយាយអំពីការកែរូបភាព មនុស្សគ្រប់គ្នាស្គាល់កម្មវិធី Photoshop ឬយ៉ាងហោចណាស់ដឹងថាវាមាន" ។ មានការយល់ដឹងតិចតួចណាស់អំពីរបៀបដែលសម្ភារៈសំឡេងអាចត្រូវបានរៀបចំ ដូច្នេះសម្រាប់ខ្ញុំ វាពិតជាធ្វើឱ្យយើងងាយរងគ្រោះ»។

នៅក្នុងខែកញ្ញា NewsGuard ដែលជាប្រព័ន្ធវាយតម្លៃគុណភាព និងភាពជឿជាក់នៃគេហទំព័រព័ត៌មាន បានរកឃើញបណ្តាញគណនី TikTok ដែលក្លែងខ្លួនជាគេហទំព័រព័ត៌មានស្របច្បាប់ ដោយប្រើខ្លឹមសារដែលបង្កើតដោយ AI ដើម្បីផ្សព្វផ្សាយទ្រឹស្តីឃុបឃិត និងព័ត៌មានមិនពិតផ្នែកនយោបាយ។ ការថតសំឡេង Deepfake រួមទាំងអតីតប្រធានាធិបតីអាមេរិក លោក Barack Obama បានទាក់ទាញការចូលមើលរាប់រយលានដង។

NewsGuard បាននិយាយថា ការបញ្ចេញសំឡេងក្លែងក្លាយហាក់ដូចជាត្រូវបានបង្កើតឡើងដោយឧបករណ៍ដែលផ្តល់ដោយ Andreessen Horowitz-backed ElevenLabs ខណៈពេលដែលឃ្លីបនេះទទួលបានការចូលមើលរាប់រយលាន។

ElevenLabs បាននិយាយថា "ជាង 99% នៃអ្នកប្រើប្រាស់នៅលើវេទិការបស់យើងកំពុងបង្កើតមាតិកាគួរឱ្យចាប់អារម្មណ៍ ច្នៃប្រឌិត និងមានប្រយោជន៍ ប៉ុន្តែយើងទទួលស្គាល់ថាមានករណីនៃការប្រើប្រាស់ខុស ហើយយើងបានបង្កើត និងណែនាំការការពារជាបន្តបន្ទាប់ដើម្បីកំណត់ពួកវា"។

ElevenLabs ដែលបង្កើតឡើងកាលពីពីរឆ្នាំមុនដោយអតីតបុគ្គលិក Google និង Palantir Piotr Dabkowski និង Mati Staniszewski ផ្តល់នូវឧបករណ៍បង្កើតសំឡេង AI ជាមូលដ្ឋានដោយឥតគិតថ្លៃដោយគ្រាន់តែចុចតែម្តងប៉ុណ្ណោះ។ គម្រោងការជាវមានចាប់ពី $1 ក្នុងមួយខែដល់ $330 ក្នុងមួយខែ និងលើសពីនេះសម្រាប់អ្នកដែលកំពុងស្វែងរកសេវាកម្មស្មុគស្មាញ។

កាលពីឆ្នាំមុន ទីភ្នាក់ងារស៊ើបការណ៍សម្ងាត់អាមេរិកបានព្រមាននៅក្នុងរបាយការណ៍មួយថា "ការបោកប្រាស់ AI ផ្ទាល់ខ្លួនបានកើនឡើងយ៉ាងខ្លាំងដោយសារតែការចេញផ្សាយនូវគំរូក្លូនសំឡេង AI ដែលស្មុគ្រស្មាញ និងបានទទួលការបណ្តុះបណ្តាលយ៉ាងល្អ" ។

បន្ថែមពីលើការបោកប្រាស់ដែលជំរុញដោយហិរញ្ញវត្ថុ អ្នកជំនាញខាងនយោបាយឥឡូវនេះកំពុងបន្លឺសំឡេងរោទិ៍អំពីវីដេអូឃ្លីបសំឡេងដែលក្លែងក្លាយរបស់មេរោគ ក៏ដូចជាការប្រើប្រាស់ការក្លែងបន្លំជ្រៅសម្រាប់ការហៅទូរសព្ទ ឬយុទ្ធនាការ។ លោក AJ Nash អនុប្រធាន និងជាអ្នកជំនាញខាងស៊ើបការណ៍សម្ងាត់នៅក្រុមសន្តិសុខអ៊ីនធឺណែត ZeroFox បាននិយាយថា "អ្នកអាចបង្កើតយុទ្ធនាការផ្សព្វផ្សាយព័ត៌មានមិនពិតដ៏មានអានុភាព និងរីករាលដាលដោយការកំណត់ទូរស័ព្ទ" ។

ក្រុមហ៊ុនទាំងនេះមួយចំនួនបានស្វែងរកយ៉ាងសកម្មនូវមធ្យោបាយផ្សេងទៀតដើម្បីប្រយុទ្ធប្រឆាំងនឹងព័ត៌មានមិនពិត។ ក្រុមហ៊ុន Microsoft បានចេញផ្សាយសេចក្តីថ្លែងការណ៍អំពីក្រមសីលធម៌ ដោយជំរុញឱ្យអ្នកប្រើប្រាស់រាយការណ៍អំពីការប្រើប្រាស់ខុសនៃម៉ាស៊ីនអូឌីយ៉ូ AI របស់ខ្លួន។ ElevenLabs បានបង្កើតឧបករណ៍រាវរកដោយខ្លួនឯងដើម្បីកំណត់ការថតសំឡេងដែលបង្កើតដោយប្រព័ន្ធរបស់វា។

ក្នុងអំឡុងពេលនៃការបោះឆ្នោតឆ្នាំ 2023 របស់ប្រទេសនីហ្សេរីយ៉ា វីដេអូឃ្លីបដែលរៀបចំដោយ AI បានរីករាលដាលនៅលើប្រព័ន្ធផ្សព្វផ្សាយសង្គម "ដែលបង្ហាញថាបេក្ខជនប្រឆាំងម្នាក់កំពុងរៀបចំផែនការដើម្បីរៀបចំការបោះឆ្នោត" នេះបើយោងតាមអង្គការសិទ្ធិមនុស្ស Freedom House ។

នៅក្នុងប្រទេសស្លូវ៉ាគី ការថតសំឡេងក្លែងក្លាយរបស់បេក្ខជនប្រឆាំងលោក Michal Šimečka ទំនងជារៀបចំផែនការរៀបចំការបោះឆ្នោតបានផ្ទុះឡើងប៉ុន្មានថ្ងៃមុនការបោះឆ្នោតប្រធានាធិបតីរបស់ប្រទេសក្នុងខែកញ្ញា។

លោក Robert Weissman ប្រធានក្រុមតស៊ូមតិអ្នកប្រើប្រាស់មិនរកប្រាក់ចំណេញ Public Citizen បាននិយាយថា "ការក្លែងបន្លំនៅ New Hampshire គឺជាការរំលឹកពីវិធីជាច្រើនដែលការក្លែងបន្លំជ្រៅអាចបំភាន់ និងបញ្ឆោត" ។ ពេលវេលានៃការក្លែងបន្លំផ្នែកនយោបាយបានមកដល់ហើយ។ អ្នកបង្កើតគោលនយោបាយត្រូវតែធ្វើការយ៉ាងឆាប់រហ័សដើម្បីដាក់ការការពារឬយើងនឹងប្រឈមមុខនឹងភាពចលាចលក្នុងការបោះឆ្នោត»។

Mai Anh (យោងតាម FT)

ប្រភព