ហានិភ័យនៃ AI រៀបចំរូបភាពផ្ទាល់ខ្លួន

ការអភិវឌ្ឍន៍បញ្ញាសិប្បនិមិត្ត (AI) មិនត្រឹមតែគំរាមកំហែងដល់ការងាររបស់វិចិត្រករជុំវិញពិភពលោកប៉ុណ្ណោះទេ ថែមទាំងធ្វើឱ្យអ្នកប្រើប្រាស់អ៊ីនធឺណិតប្រឈមនឹងហានិភ័យនៃការយករូបភាពរបស់ពួកគេតាមវិធីផ្សេងៗ។

Các công cụ AI dễ dàng tạo ra các sản phẩm công nghệ giả. (Ảnh minh họa)

ឧបករណ៍ AI ងាយស្រួលបង្កើតផលិតផលបច្ចេកវិទ្យាក្លែងក្លាយ។ (រូបភាព)

"យុគសម័យនៃការក្លែងក្លាយ"

ផ្ទុយពីទិដ្ឋភាពវិជ្ជមាន AI ប្រសិនបើនៅក្នុងដៃខុស អាចលួចរូបភាពយ៉ាងងាយស្រួលពីគណនីប្រព័ន្ធផ្សព្វផ្សាយសង្គមផ្ទាល់ខ្លួន ហើយប្រែក្លាយវាទៅជាឯកសារយោងដែលមិនចង់បាន។ ជាឧទាហរណ៍ គេហទំព័រអាសអាភាសអាចប្រើរូបភាពបុគ្គលដោយគ្មានការយល់ព្រម។

Hadi Salman អ្នកស្រាវជ្រាវនៅវិទ្យាស្ថានបច្ចេកវិទ្យា Massachusetts បាននិយាយថា "យើងស្ថិតនៅក្នុងយុគសម័យនៃការក្លែងបន្លំជ្រៅ" ។ "ឥឡូវនេះ អ្នកណាម្នាក់អាចកែរូបភាព និងវីដេអូដើម្បីធ្វើឱ្យមនុស្ស "ធ្វើ" នូវអ្វីដែលពួកគេមិនបានធ្វើ។"

Deepfake គឺជាការរួមបញ្ចូលគ្នានៃពាក្យ "ការរៀនជ្រៅជ្រះ" និង "ក្លែងក្លាយ" ដែលជាវិធីសាស្រ្តនៃការប្រើប្រាស់ AI ដើម្បីបង្កើតផលិតផលបច្ចេកវិទ្យាក្លែងក្លាយក្នុងទម្រង់ជាសំឡេង រូបភាព ឬវីដេអូ។

ត្រឹមតែពីរបីវិនាទី ជាមួយនឹងពាក្យបញ្ជាសាមញ្ញមួយចំនួន AI អាចបង្កើតរូបភាពណាមួយដែល "មនុស្សអាក្រក់" ចង់បាន។ ជាឧទាហរណ៍ នរណាម្នាក់អាចសុំឱ្យ AI បង្កើតរូបថតរបស់ Pope ពាក់អាវ Balenciaga ហើយបន្ទាប់មកបង្ហោះវានៅលើអ៊ីនធឺណិត មុនពេលដែលវាបង្ហាញថារូបថតនោះក្លែងក្លាយ។

បច្ចេកវិទ្យា AI ក៏ធ្វើឱ្យអ្នកប្រើប្រាស់ភ្ញាក់ផ្អើលជាមួយនឹងសមត្ថភាពបង្កើតស្នាដៃសិល្បៈតាមស្ទីលរបស់វិចិត្រករជាក់លាក់។ ជាឧទាហរណ៍ អ្នកអាចបង្កើតរូបគំនូរឆ្មាមួយក្បាល ដែលមើលទៅដូចជាវាត្រូវបានគូរតាមស្ទីលរបស់វិចិត្រករដ៏ល្បីល្បាញ Vincent Van Gogh។

សម្រាប់វិចិត្រករដែលមើលឃើញ ឧបករណ៍ទាំងនេះប្រថុយនឹងធ្វើឱ្យពួកគេចេញពីការងារ ដោយសារគំរូ AI ធ្វើត្រាប់តាមស្ទីលប្លែកៗរបស់ពួកគេ និងបង្កើតស្នាដៃសិល្បៈដោយគ្មានការអនុញ្ញាតពីពួកគេ។

AI Propeller

Eveline Fröhlich ដែលរស់នៅក្នុងទីក្រុង Stuttgart ប្រទេសអាឡឺម៉ង់ គឺជាសិល្បករមួយរូបក្នុងចំនោមអ្នកសិល្បៈដែលកំពុងកើនឡើងដែលកំពុងប្រយុទ្ធប្រឆាំងនឹងការប្រើជ្រុលនៃ AI ហើយព្យាយាមស្វែងរកវិធីដើម្បីការពារស្នាដៃដែលមើលឃើញរបស់ពួកគេតាមអ៊ីនធឺណិតពីការក្លែងបន្លំ។

ថ្មីៗនេះ អ្នកស្រី Fröhlich បានសិក្សាអំពីឧបករណ៍មួយឈ្មោះថា Glaze ដែលបង្កើតឡើងដោយអ្នកវិទ្យាសាស្ត្រកុំព្យូទ័រនៅសាកលវិទ្យាល័យ Chicago (សហរដ្ឋអាមេរិក) ដើម្បីការពារការរំលោភបំពានលើគំរូ AI ។

Ben Zhao សាស្ត្រាចារ្យផ្នែកវិទ្យាសាស្ត្រកុំព្យូទ័រនៅសាកលវិទ្យាល័យ Chicago និងជាអ្នកដឹកនាំអ្នកស្រាវជ្រាវម្នាក់លើគម្រោង Glaze បានប្រាប់ CNN ថាឧបករណ៍នេះមានគោលបំណងការពារការងារពិសេសរបស់វិចិត្រករពីការបណ្តុះបណ្តាល AI model ។

កម្មវិធី Glaze ប្រើក្បួនដោះស្រាយការរៀនម៉ាស៊ីនដើម្បីធ្វើការផ្លាស់ប្តូរតូចៗចំពោះរូបភាពឌីជីថលដែលមើលមិនឃើញដោយភ្នែកទទេ ប៉ុន្តែបង្កើតស្រទាប់ការពារសម្រាប់ការងារនៅក្នុងបរិយាកាសអនឡាញ ដោយបន្លំម៉ូដែល AI ដែលធ្វើឱ្យពួកគេមិនអាចចម្លងស្ទីលរបស់អ្នកនិពន្ធបាន។

សូមអរគុណដល់ Glaze ការងារសិល្បៈត្រូវបាន "គ្របដណ្ដប់ដោយសម្លៀកបំពាក់ដែលមើលមិនឃើញ" ការពារ AI ពីការ "អាន" រូបភាព។

ជាឧទាហរណ៍ លោក Zhao បានពន្យល់ថា វិចិត្រករម្នាក់អាចបង្ហោះរូបភាពនៃគំនូរប្រេងផ្ទាល់ខ្លួនរបស់ពួកគេ ដែលបានដំណើរការតាមរយៈ Glaze ។ នៅពេលដែលគំរូ AI "អាន" គំនូរ ពួកគេមើលឃើញថាវាជាគំនូរព្រាងធ្យូង ខណៈដែលមនុស្សអាចទទួលស្គាល់វាភ្លាមៗថាជាគំនូរប្រេង។ បន្ទាប់ពីដំណើរការតាមរយៈ Glaze ការងារសិល្បៈឥឡូវនេះនឹងមើលទៅខុសគ្នាយ៉ាងខ្លាំងនៅក្នុងភ្នែករបស់ AI ។

ក្រុមរបស់ Zhao បានចេញផ្សាយកំណែដំបូងនៃ Glaze កាលពីខែមីនាកន្លងទៅនេះ ហើយមានការទាញយកឧបករណ៍ច្រើនជាងមួយលានដង។ ទើបតែសប្តាហ៍មុន ក្រុមការងារបានចេញផ្សាយកំណែអនឡាញឥតគិតថ្លៃរបស់ Glaze ។

ក្រុមការងារសង្ឃឹមថាឧបករណ៍ Glaze នឹងជួយការពារការរក្សាសិទ្ធិរបស់សិល្បកររហូតដល់បទប្បញ្ញត្តិ និងច្បាប់ជាក់លាក់ត្រូវបានបង្កើតឡើង។

លោក Zhao បាននិយាយថា ចាប់តាំងពីការណែនាំ Glaze មក ចំនួនអ្នកសំដែង អ្នកនិពន្ធប្រលោមលោក តន្ត្រីករ និងអ្នកកាសែតដែលឈានដល់ការកើនឡើង។ ពួកគេទាំងអស់បានទាក់ទងក្រុមរបស់គាត់ដើម្បីសួរអំពីកំណែរបស់ Glaze សម្រាប់វាលរបស់ពួកគេ។

វិចិត្រករដែលមើលឃើញមានមូលដ្ឋាននៅរដ្ឋកាលីហ្វ័រញ៉ា លោក Jon Lam ប្រើប្រាស់ឧបករណ៍ Glaze ដើម្បីជួយការពារស្នាដៃសិល្បៈអនឡាញរបស់គាត់ពីការប្រើប្រាស់ដើម្បីបណ្តុះបណ្តាលគំរូ AI ហើយនិយាយថាឥឡូវនេះគាត់ប្រើកម្មវិធីសម្រាប់ការងារសិល្បៈទាំងអស់ដែលគាត់ចែករំលែកនៅលើអ៊ីនធឺណិត។

បើតាមលោក អស់រយៈពេលជាច្រើនឆ្នាំមកនេះ អ្នកសិល្បៈដូចលោកបានបង្ហោះស្នាដៃរបស់ខ្លួនក្នុងកម្រិតខ្ពស់បំផុតលើអ៊ីនធឺណិតជារឿងមោទនភាព។ "យើងចង់ឱ្យមនុស្សមើលថាតើរូបភាព Full HD លម្អិត និងអស្ចារ្យប៉ុណ្ណា។ ទោះជាយ៉ាងណាក៏ដោយ វិចិត្រករមិនដឹងថាការងាររបស់ពួកគេអាចត្រូវបាន "ស៊ី" ដោយម៉ូដែល AI ដែលបន្ទាប់មកចម្លងស្ទីលរបស់ពួកគេ ហើយបង្ហាញពួកគេទៅនឹងការប្រកួតប្រជែងមិនយុត្តិធម៌នោះទេ។

"ឥឡូវនេះយើងដឹងថាមនុស្សកំពុងទទួលយកការងារដែលមានគុណភាពបង្ហាញខ្ពស់របស់យើងហើយបញ្ចូលវាទៅក្នុងម៉ាស៊ីន AI ដើម្បីប្រកួតប្រជែងក្នុងចន្លោះដូចគ្នានឹងយើង។ ដូច្នេះយើងត្រូវប្រុងប្រយ័ត្នជាងមុនហើយចាប់ផ្តើមគិតពីរបៀបការពារខ្លួនយើង" ។

Salman និងក្រុមរបស់គាត់ទើបតែបានបញ្ចេញឧបករណ៍មួយផ្សេងទៀតដែលមានគោលបំណងការពាររូបភាពពី AI ។ កម្មវិធីនេះមានឈ្មោះថា PhotoGuard អនុញ្ញាតឱ្យអ្នកប្រើប្រាស់ដាក់ស្រទាប់ការពារដែលមើលមិនឃើញលើរូបភាព ដើម្បីការពារម៉ូដែល AI ពីលទ្ធភាពរៀបចំរូបភាព។

លោក Salman បាននិយាយថា គោលដៅរបស់ PhotoGuard គឺដើម្បីការពាររូបថតដែលត្រូវបានបង្ហោះលើអ៊ីនធឺណិតរួចហើយដោយអ្នកនិពន្ធរបស់ពួកគេពី "ឧបាយកល AI ដ៏អាក្រក់" Salman បាននិយាយថា។

កម្មវិធី PhotoGuard ដំណើរការដោយការកែតម្រូវភីកសែលនៃរូបភាពក្នុងរបៀបមួយដែលមនុស្សមើលមិនឃើញ។ ទោះជាយ៉ាងណាក៏ដោយ ការផ្លាស់ប្តូរនេះ ដែលមិនអាចមើលឃើញដោយភ្នែកទទេ គឺខ្លាំងគ្រប់គ្រាន់ និងជៀសផុតពីការប៉ុនប៉ងណាមួយដោយម៉ូដែល AI ដើម្បីរៀបចំរូបភាព។

នេះមានន័យថា ប្រសិនបើនរណាម្នាក់ព្យាយាមកែសម្រួលរូបថតដោយប្រើ AI បន្ទាប់ពីវាត្រូវបានការពារដោយ PhotoGuard នោះរូបថតលទ្ធផលនឹង "មិនប្រាកដនិយមទាល់តែសោះ" Salman បានពន្យល់។

មិនមានអាជ្ញាប័ណ្ណ

នៅផ្នែកម្ខាងទៀតនៃកាក់ ទោះបីជាឧបករណ៍ AI យក និងរៀបចំរូបភាពក៏ដោយ អ្វីដែលពួកគេបង្កើតមិនត្រូវបានទទួលស្គាល់ថាអាចរក្សាសិទ្ធិបានទេ។

ចាប់តាំងពីការលេចឡើង និងប្រជាប្រិយភាពរបស់វា AI បានជំរុញឱ្យមានការជជែកដេញដោលក្នុងពេលដំណាលគ្នា៖ តើការងារទាំងនេះត្រូវបានរក្សាសិទ្ធិឬអត់? បើដូច្នេះ តើពួកគេជាអ្នកណា?

ការិយាល័យរក្សាសិទ្ធិសហរដ្ឋអាមេរិក (USCO) បានធ្វើការសម្រេចចិត្តជាផ្លូវការលើការងារទាំងនេះ។ យោងតាម USCO រូបភាពដែលបង្កើតដោយ AI ដោយផ្អែកលើពាក្យបញ្ជា (ដូចជាកម្មវិធី Midjourney, Dall-E និង Stable Diffusion) នឹងមិនអាចរក្សាសិទ្ធិនៅក្នុងសហរដ្ឋអាមេរិកបានទេ។

ច្បាប់របស់សហរដ្ឋអាមេរិកចែងថាកម្មសិទ្ធិបញ្ញាអាចរក្សាសិទ្ធិបានលុះត្រាតែវាជាផលិតផលនៃការច្នៃប្រឌិតរបស់មនុស្ស។ បច្ចុប្បន្ន USCO ទទួលស្គាល់តែស្នាដៃដែលបង្កើតឡើងដោយមនុស្សប៉ុណ្ណោះ។ ដូច្នេះហើយ ម៉ាស៊ីន AI នឹងមិនត្រូវបានចាត់ទុកថាជាអ្នកនិពន្ធទេ ហើយផលិតផលដែលពួកគេបង្កើតនឹងមិនត្រូវបានរក្សាសិទ្ធិឡើយ។

នាយក USCO លោក Shira Perlmutter បាននិយាយថា "ប្រសិនបើធាតុផ្សំប្រពៃណីនៃការរក្សាសិទ្ធិនៅក្នុងការងារត្រូវបានបង្កើតឡើងដោយម៉ាស៊ីន នោះការងារមិនត្រូវបានរក្សាសិទ្ធិដោយមនុស្សទេ ហើយ USCO នឹងមិនចុះឈ្មោះវាទេ" ។

ប្រភព