โมเดลมัลติโหมดที่เรียกว่า OmniHuman-1 สามารถสร้างวิดีโอที่สมจริงของตัวละครที่กำลังพูด ร้องเพลง และเคลื่อนไหวด้วยคุณภาพ "ที่เหนือกว่าวิธีการสร้างวิดีโอในปัจจุบัน" ตามที่ทีมพัฒนาของ ByteDance กล่าว

เทคโนโลยี AI ที่สร้างภาพ วิดีโอ และเสียงที่เหมือนคนจริง หรือที่เรียกว่า “Deepfake” ซึ่งเป็นเทคโนโลยีที่ใช้กันมากขึ้นทั้งในด้านการฉ้อโกงและความบันเทิง

ByteDance เป็นหนึ่งในบริษัท AI ที่มีชื่อเสียงที่สุดในประเทศจีน แอป Doubao ของบริษัทได้รับความนิยมสูงสุดในกลุ่มผู้ใช้ในแผ่นดินใหญ่

แม้ว่า OmniHuman-1 จะยังไม่ได้เปิดตัวสู่สาธารณะ แต่ตัวอย่างวิดีโอก็แพร่ระบาดอย่างรวดเร็ว

การสาธิตที่โดดเด่นอย่างหนึ่งคือวิดีโอความยาว 23 วินาทีที่แสดงให้เห็นอัลเบิร์ต ไอน์สไตน์กำลังกล่าวสุนทรพจน์ TechCrunch อธิบายผลิตภัณฑ์ของแอพนี้ว่า "สุดยอดอย่างน่าตกใจ" และ "เป็นวิดีโอ Deepfake ที่สมจริงที่สุดเท่าที่มีมา"

นักพัฒนาเผยว่า OmniHuman-1 ต้องการเพียงภาพเดียวเป็นข้อมูลอ้างอิงร่วมกับข้อมูลเสียง เช่น เสียงพูดหรือเสียงร้อง เพื่อสร้างวิดีโอที่มีความยาวเท่าใดก็ได้

สามารถปรับอัตราเฟรมวิดีโอเอาท์พุต รวมถึง "สัดส่วนร่างกาย" ของตัวละครในนั้นได้

d6a434e5a4dc974582b09c05b3646092afcf9490.jpeg
ByteDance เป็นหนึ่งในบริษัท AI ที่โดดเด่นที่สุดในประเทศจีน ภาพ: TechCrunch

ไม่เพียงเท่านั้น โมเดล AI ซึ่งได้รับการฝึกฝนด้วยเนื้อหาวิดีโอจากแหล่งที่ไม่เปิดเผยต่อสาธารณะกว่า 19,000 ชั่วโมง ยังสามารถตัดต่อวิดีโอที่มีอยู่ได้ รวมถึงเปลี่ยนท่าทางมือและเท้าของมนุษย์ได้อย่างน่าเชื่อถืออีกด้วย

อย่างไรก็ตาม ByteDance ยอมรับว่า OmniHuman-1 ไม่สมบูรณ์แบบ เนื่องจากยังคงมีปัญหาในท่าทางบางท่า และ “ภาพอ้างอิงคุณภาพต่ำ” จะไม่สามารถสร้างวิดีโอที่ดีที่สุดได้

โมเดล AI ใหม่ของ ByteDance แสดงให้เห็นถึงความก้าวหน้าของจีน แม้ว่าวอชิงตันจะพยายามจำกัดการส่งออกเทคโนโลยีก็ตาม

ความกังวล

เมื่อปีที่แล้ว Deepfakes ทางการเมืองกลายเป็นไวรัล ในมอลโดวา วิดีโอ Deepfake เลียนแบบประธานาธิบดีของประเทศ นาย Maia Sandu ที่กำลังกล่าวสุนทรพจน์ลาออก

และในแอฟริกาใต้ แร็ปเปอร์ชื่อดัง Eminem แสดงความสนับสนุนพรรคฝ่ายค้านของแอฟริกาใต้ กลายเป็นกระแสไวรัลก่อนการเลือกตั้งของประเทศ

Deepfakes ยังถูกนำมาใช้เพื่อก่ออาชญากรรมทางการเงินเพิ่มมากขึ้น ผู้บริโภคถูกหลอกด้วย Deepfake ของคนดังที่แนะนำการลงทุน การเสนอโอกาสในการลงทุนปลอม ขณะเดียวกัน บริษัทต่างๆ เองก็สูญเสียเงินหลายล้านดอลลาร์ให้กับผู้แอบอ้างตัวเป็นผู้บริหารระดับสูง

ตามข้อมูลของ Deloitte เนื้อหาที่สร้างโดย AI มีส่วนทำให้เกิดการสูญเสียจากการฉ้อโกงมากกว่า 12,000 ล้านเหรียญสหรัฐฯ ในปี 2566 และอาจสูงถึง 40,000 ล้านเหรียญสหรัฐฯ ในสหรัฐอเมริกาภายในปี 2570

เมื่อเดือนกุมภาพันธ์ที่ผ่านมา ผู้คนหลายร้อยคนในชุมชน AI ลงนามในจดหมายเรียกร้องให้มีการควบคุม deepfakes อย่างเข้มงวด ในกรณีที่ไม่มีการประกาศให้เทคโนโลยี Deepfake กลายเป็นสิ่งผิดกฎหมายในสหรัฐอเมริกา มีรัฐมากกว่า 10 รัฐที่ออกกฎหมายต่อต้านการปลอมแปลง AI

อย่างไรก็ตาม การตรวจจับ Deepfake ไม่ใช่เรื่องง่าย แม้ว่าเครือข่ายสังคมออนไลน์และเครื่องมือค้นหาบางแห่งจะมีมาตรการจำกัดการแพร่กระจาย แต่ปริมาณเนื้อหา Deepfake บนอินเทอร์เน็ตก็ยังคงเพิ่มขึ้นอย่างน่าตกใจ

ในการสำรวจเดือนพฤษภาคม 2024 จากบริษัทตรวจสอบตัวตน Jumio ผู้ตอบแบบสำรวจ 60% กล่าวว่าเคยพบเจอกับ Deepfake ในปีที่ผ่านมา 72% ของผู้ตอบแบบสอบถามระบุว่าพวกเขากังวลว่าจะโดนหลอกด้วย Deepfake ทุกวัน ในขณะที่คนส่วนใหญ่สนับสนุนให้มีการตรากฎหมายเพื่อแก้ไขปัญหาการแพร่กระจายของวิดีโอปลอมที่สร้างโดย AI

Google 'ไฟเขียว' การใช้ AI เพื่อพัฒนาอาวุธและเทคโนโลยีเฝ้าระวัง Google ละทิ้ง "คำสัญญา" ที่จะไม่ออกแบบและปรับใช้เครื่องมือ AI เพื่อใช้ในอาวุธและเทคโนโลยีเฝ้าระวัง