Trang chủNewsThời sựDeepfake âm thanh, mối lo mới về thông tin sai lệch

Deepfake âm thanh, mối lo mới về thông tin sai lệch


Vào thứ Hai vừa qua, Văn phòng Tổng chưởng lý bang New Hampshire thông báo đang tiến hành điều tra về khả năng thao túng cử tri. Điều này đến sau khi có khiếu nại về một giọng nói giả mạo, giống hệt Tổng thống Mỹ Joe Biden, kêu gọi cử tri không bỏ phiếu trong cuộc bầu cử sơ bộ của bang này.

Các nhà nghiên cứu cũng cảnh báo về việc sử dụng âm thanh deepfake để bắt chước các chính trị gia và nhà lãnh đạo, với các trường hợp nổi bật từng xảy ra vào năm 2023 ở Vương quốc Anh, Ấn Độ, Nigeria, Sudan, Ethiopia và Slovakia.

deepfake am thanh moi lo moi ve thong tin sai lech hinh 1

Môt người bỏ phiếu trong cuộc bầu cử sơ bộ ở bang New Hampshire, Mỹ. Ảnh: Getty

Theo các chuyên gia, âm thanh deepfake trở thành một hình thức thông tin sai lệch phổ biến do sự xuất hiện của hàng loạt công cụ AI giá rẻ và hiệu quả từ các công ty khởi nghiệp. Microsoft cũng đã phát triển một mô hình AI mới có thể sao chép giọng nói chỉ từ ba giây ghi âm.

Henry Ajder, chuyên gia về AI và deepfake, đồng thời là cố vấn cho Adobe, Meta và EY, cho biết: “Khi nói đến thao tác trực quan, mọi người đều quen với Photoshop hoặc ít nhất là biết nó tồn tại. Có rất ít nhận thức về cách tài liệu âm thanh có thể bị thao túng, do đó, đối với tôi, điều đó thực sự khiến chúng ta dễ bị tổn thương”.

Trong tháng 9, NewsGuard, hệ thống đánh giá chất lượng và độ tin cậy của các trang web tin tức, phát hiện một mạng lưới tài khoản TikTok giả danh các trang tin tức hợp pháp, sử dụng nội dung được tạo ra bởi AI để lan truyền thuyết âm mưu và thông tin sai lệch về chính trị. Các đoạn ghi âm deepfake, bao gồm giọng của cựu Tổng thống Mỹ Barack Obama, đã thu hút hàng trăm triệu lượt xem.

NewsGuard cho biết, phần lồng tiếng giả dường như được tạo ra bởi một công cụ do ElevenLabs của Andreessen Horowitz hậu thuẫn cung cấp, trong khi các đoạn clip đã thu hút hàng trăm triệu lượt xem.

“Hơn 99% người dùng trên nền tảng của chúng tôi đang tạo ra nội dung thú vị, sáng tạo, hữu ích nhưng chúng tôi nhận thấy rằng có những trường hợp sử dụng sai mục đích và chúng tôi đã liên tục phát triển cũng như đưa ra các biện pháp bảo vệ để hạn chế chúng”, ElevenLabs cho biết.

ElevenLabs, được thành lập hai năm trước bởi cựu nhân viên Google và Palantir, Piotr Dabkowski và Mati Staniszewski, cung cấp các công cụ tạo âm thanh AI thô sơ miễn phí chỉ bằng một cú nhấp chuột. Các gói đăng ký dao động từ $1 một tháng đến $330 một tháng và cao hơn nữa đối với những người tìm kiếm các dịch vụ phức tạp hơn.

Năm ngoái, các cơ quan tình báo Mỹ đã cảnh báo trong một báo cáo rằng “các vụ lừa đảo AI được cá nhân hóa đã gia tăng đáng kể do việc phát hành các mô hình nhân bản giọng nói AI tinh vi và được đào tạo bài bản”.

Ngoài các vụ lừa đảo có động cơ tài chính, các chuyên gia chính trị hiện đang gióng lên hồi chuông cảnh báo về các clip âm thanh deepfake lan truyền cũng như việc sử dụng deepfake để gọi điện tự động hoặc các chiến dịch. AJ Nash, phó chủ tịch và thành viên tình báo nổi tiếng của nhóm an ninh mạng ZeroFox cho biết: “Bạn có thể xây dựng một chiến dịch thông tin sai lệch mạnh mẽ, rộng khắp bằng cách nhắm mục tiêu vào điện thoại”.

Một số công ty này đã chủ động tìm kiếm những cách khác để chống lại thông tin sai lệch. Microsoft đã đưa ra một tuyên bố đạo đức, kêu gọi người dùng báo cáo bất kỳ hành vi lạm dụng nào đối với công cụ âm thanh AI của họ. ElevenLabs đã xây dựng các công cụ phát hiện của riêng mình để xác định các bản ghi âm do hệ thống của mình tạo ra. 

Theo nhóm nhân quyền Freedom House, trong cuộc bầu cử năm 2023 ở Nigeria, một đoạn clip do AI thao túng đã lan truyền trên mạng xã hội “cố tình ám chỉ một ứng cử viên đối lập đang có kế hoạch gian lận trong việc bỏ phiếu”.

Tại Slovakia, một đoạn ghi âm giả của ứng cử viên đối lập Michal Šimečka dường như đang âm mưu gian lận cuộc bầu cử đã được lan truyền chỉ vài ngày trước cuộc bầu cử tổng thống nước này vào tháng 9.

Robert Weissman, chủ tịch nhóm vận động người tiêu dùng phi lợi nhuận Public Citizen cho biết: “Deepfake ở New Hampshire là một lời nhắc nhở về nhiều cách mà deepfake có thể gây nhầm lẫn và gian lận. Thời điểm deepfake chính trị đã đến. Các nhà hoạch định chính sách phải nhanh chóng đưa ra các biện pháp bảo vệ nếu không chúng ta sẽ phải đối mặt với sự hỗn loạn bầu cử”.

Mai Anh (theo FT)



Nguồn

Cùng chủ đề

Quan chức cấp cao tự thú hành động gian lận bầu cử ở Pakistan

Liaqat Ali Chattha - ủy viên thành phố Rawalpindi, nơi đặt trụ sở chính của quân đội đất nước - cho biết ông sẽ đầu hàng cảnh sát. Đã có nhiều cáo buộc về gian lận sau khi chính quyền tắt mạng điện thoại di động của đất nước vào...

YouTube kiếm tiền từ thông tin sai lệch khí hậu

Những người sáng tạo nội dung đang sử dụng các chiến thuật mới nhằm trốn tránh các chính sách chống lại thông tin sai lệch của Youtube. Trung tâm Chống Hận Thù Kỹ thuật số (CCDH) đã sử dụng trí tuệ nhân tạo...

Chống thông tin sai lệch và xuyên tạc

Nhưng liệu đó có phải là nhiệm vụ bất khả thi trong thời đại ngày nay, khi mà phần lớn các tòa báo còn đang phải vật lộn với sự tồn tại, đang bị bóp nghẹt bởi chính những nền tảng công nghệ đang phát tán thông tin sai lệch?...

Nổi bật

Mới nhất

Cùng tác giả

Trà Vinh khởi động công trình Khu lưu niệm Vua vọng cổ Viễn Châu

(CLO) Công trình Khu lưu niệm "Vua vọng cổ" Viễn Châu có ý nghĩa giáo dục thế hệ trẻ, bồi đắp các giá trị văn hóa truyền thống tốt đẹp, gắn với phát triển kinh tế du lịch của tỉnh Trà Vinh. ...

Công bố 32 dự án xuất sắc vào Vòng chung khảo Giải thưởng Hành động vì cộng đồng

(CLO) Ngày 8/11, Ban tổ chức Giải thưởng Hành động vì cộng đồng 2024 (Human Act Prize) đã công bố danh sách 32 dự án xuất sắc nhất được vào Vòng chung khảo. ...

Nước Đức sẽ làm gì sau khi liên minh cầm quyền tan rã?

(CLO) Sau khi sa thải Bộ trưởng Tài chính và chấm dứt liên minh cầm quyền, Thủ tướng Đức Olaf Scholz đã đưa ra mốc thời gian có thể cho cuộc bầu cử liên bang sớm. ...

Nhà báo Nguyễn Thành Đoàn làm Tổng biên tập Tạp chí Phổ biến Pháp luật Việt Nam

(CLO) Sáng ngày 08/11/2024, Hội Phổ biến và Tham vấn Pháp luật Việt Nam đã tổ chức Lễ công bố Quyết định bổ nhiệm Nhà báo Nguyễn Thành Đoàn giữ chức vụ Tổng Biên tập Tạp chí Phổ biến Pháp luật Việt Nam. ...

Nhiều người thiệt mạng và mất tích sau khi tàu đánh cá chìm ở Hàn Quốc

(CLO) Hai người đã thiệt mạng và 12 người vẫn mất tích sau khi một tàu đánh cá bị chìm hôm thứ Sáu ở vùng biển ngoài khơi đảo Jeju của Hàn Quốc, theo một quan chức chính quyền thành phố Jeju cho biết. ...

Bài đọc nhiều

Thủ tướng phát lệnh khởi công Vành đai 3 Tp.HCM và 2 tuyến cao tốc

Sáng 18/6, tại Tp.Hồ Chí Minh, Thủ tướng Chính phủ Phạm Minh Chính dự Lễ và phát lệnh khởi công đồng loạt xây dựng 3 dự án giao thông quan trọng quốc gia. Đó là đường Vành đai 3 Thành phố Hồ Chí Minh; đường bộ cao tốc Biên Hòa - Vũng Tàu (giai đoạn 1) và cao tốc Khánh Hòa - Buôn Ma Thuột (giai đoạn 1). Sự kiện được tổ chức theo hình thức trực tuyến...

Việt Nam lọt top điểm đến rẻ nhất thế giới năm 2024

Tạp chí du lịch nổi tiếng Condé Nast Traveler liệt kê 21 điểm đến rẻ nhất dành cho du khách năm 2024, trong đó có Việt Nam. Du khách bất ngờ nhận quà khi ghé thăm Đà Nẵng, Việt Nam vào đầu năm 2024. Ảnh: Thuỳ Trang Theo Condé Nast Traveler, nhiều yếu tố cần cân nhắc khi lên kế hoạch cho một kỳ nghỉ, từ việc tìm địa điểm du lịch giá rẻ, sự an toàn của điểm đến cho tới các...

Tổng Bí thư, Chủ tịch nước Tô Lâm lên đường thăm cấp Nhà nước tới nước Cộng hòa nhân dân Trung Hoa

Nhận lời mời của Tổng Bí thư Ban Chấp hành Trung ương Đảng Cộng sản Trung Quốc, Chủ tịch nước Cộng hòa nhân dân Trung Hoa Tập Cận Bình và Phu nhân, Tổng Bí thư Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam, Chủ tịch nước Cộng hòa xã hội chủ nghĩa Việt Nam Tô Lâm và Phu nhân cùng Đoàn đại biểu cấp cao Đảng và Nhà nước ta hôm nay rời Hà Nội, lên đường...

Thủ tướng làm việc với các doanh nghiệp lớn của Saudi Arabia

Thủ tướng Chính phủ đề nghị, cùng với mở rộng sản xuất, Tập đoàn tiếp tục đa dạng hóa sản phẩm, đa dạng hóa chuỗi cung ứng, đa dạng hóa chuỗi phân phối các sản phẩm của Zamil.   Theo đặc phái viên TTXVN, nhân dịp dự Hội nghị Sáng kiến đầu tư tương lai lần thứ 8 (FII8) và thăm, làm việc tại Vương quốc Saudi Arabia, sáng 30/10 (giờ địa phương), tại thủ đô Riyadh, Thủ tướng Chính phủ...

Bí thư Thứ nhất, Chủ tịch nước Cuba chủ trì Lễ đón chính thức Tổng Bí thư, Chủ tịch nước Tô Lâm

(Chinhphu.vn) – Vào khoảng 18 giờ 30 chiều 26/9 (theo giờ địa phương), Lễ đón chính thức Tổng Bí thư, Chủ tịch nước Tô Lâm và Phu nhân cùng đoàn đại biểu cấp cao Việt Nam thăm cấp Nhà nước tới nước Cộng hoà Cuba đã diễn ra trọng thể tại Cung Cách mạng ở thủ đô La Habana.   Tổng Bí thư, Chủ tịch nước Tô Lâm và Bí thư thứ nhất Đảng Cộng sản Cuba, Chủ tịch Cuba Miguel...

Cùng chuyên mục

Đồng Nai: Nữ tiếp viên quán karaoke múa thoát y phục vụ khách

Nữ nhân viên bị bắt quả tang khi đang thoát y nhảy múa phục vụ khách tại quán karaoke ở Đồng Nai. Hôm nay (8/11), Công an TP Biên Hòa, tỉnh Đồng Nai cho biết, vừa bắt quả tang nữ nhân viên quán karaoke đang múa thoát y phục vụ khách. Trước đó, khuya 7/11, lực lượng chức năng kiểm tra hành chính địa điểm kinh doanh karaoke “Hoàng Long Châu” thuộc phường Trảng Dài. Tại đây, cảnh sát phát hiện...

Ý nghĩa chuyến công tác nước ngoài đầu tiên của Chủ tịch nước Lương Cường

(Dân trí) - Chuyến công tác sắp tới của Chủ tịch nước Lương Cường khẳng định tâm thế mới, vai trò, vị thế ngày càng gia tăng của Việt Nam ở châu Á - Thái Bình Dương và trên thế giới. Nhận lời mời của Tổng thống Cộng hòa Chile Gabriel Boric Font và Tổng thống Cộng hòa Peru Dina Ercilia Boluarte Zegarra, Chủ tịch nước Lương Cường sẽ dẫn đầu đoàn đại biểu cấp cao Việt Nam thăm chính...

Hàn Quốc phóng tên lửa đạn đạo Hyunmoo-II về phía biển Hoàng Hải

Hàn Quốc đã tiến hành một cuộc tập trận bắn đạn thật vào ngày 7/11, khi bắn tên lửa đạn đạo Hyunmoo-II về phía biển Hoàng Hải. Ngày 8/11, Hội đồng Tham mưu trưởng Liên quân Hàn Quốc (JCS) cho biết Hàn Quốc đã tiến hành một cuộc tập trận bắn đạn thật vào ngày 7/11, khi bắn tên lửa đạn đạo Hyunmoo-II về phía biển Hoàng Hải, cách Seoul khoảng 108 km về phía Tây...

Bạc Liêu: Hiệu quả từ sự đồng thuận của đồng bào các DTTS trong thực hiện Chương trình MTQG 1719

Bạc Liêu xác định công tác chỉ đạo, điều hành thực hiện các Chương trình mục tiêu quốc gia là nhiệm vụ trọng tâm, trọng điểm, để đảm bảo sự nhất quán và hiệu quả trong việc thực hiện, từ đó đóng góp vào sự phát triển toàn diện và bền vững của tỉnh.Bảo hiểm y tế, bảo hiểm xã hội là các trụ cột chính của hệ thống an sinh, tham gia chính sách này, người dân được...

Đại biểu Quốc hội: Khắc phục tình trạng mua bán hóa chất tùy tiện

Đại biểu Mai Văn Hải (Thanh Hóa) cho rằng việc kinh doanh hóa chất cần được kiểm soát chặt chẽ, khắc phục tình trạng mua bán hóa chất tùy tiện, sử dụng không đúng mục đích. Đại biểu Nguyễn Thị Kim Anh (Bắc Ninh) nhất trí về sự cần thiết ban hành Luật nhằm thể chế hóa chủ trương, chính sách của Đảng xác định ngành hóa chất là một trong những ngành...

Mới nhất

Đồi cỏ hồng mới toanh ở Mộc Châu lãng mạn như phim Hàn

Sơn La - Đồi cỏ hồng ở Mộc Châu đang được giới trẻ truyền tai nhau là điểm check-in đẹp không kém các đồi cỏ hồng Đà Lạt. Laodong.vn Nguồn:https://dulich.laodong.vn/kham-pha/doi-co-hong-moi-toanh-o-moc-chau-lang-man-nhu-phim-han-1415753.html

Bạc Liêu: Hiệu quả từ sự đồng thuận của đồng bào các DTTS trong thực hiện Chương trình MTQG 1719

Bạc Liêu xác định công tác chỉ đạo, điều hành thực hiện các Chương trình mục tiêu quốc gia là nhiệm vụ trọng tâm, trọng điểm, để đảm bảo sự nhất quán và hiệu quả trong việc thực hiện, từ đó đóng góp vào sự phát triển toàn diện và bền vững của tỉnh.Bảo hiểm y tế, bảo hiểm...

Khánh Hòa dự kiến khởi công Dự án KCN Dốc Đá Trắng vào tháng 4/2025

Phó chủ tịch Thường trực UBND tỉnh Khánh Hòa Lê Hữu Hoàng đề nghị chủ đầu tư đẩy nhanh tiến độ Dự án đầu tư xây dựng và kinh doanh kết cấu hạ tầng KCN Dốc Đá Trắng, phấn đấu khởi công trước ngày 2/4/2025. Khánh Hòa dự kiến khởi công Dự án KCN Dốc Đá Trắng vào tháng 4/2025Phó...

Chung cư gần tuyến đường sắt Nhổn

Một số dự án chung cư gần tuyến đường sắt Nhổn - ga Hà Nội đã tăng giá từ 30 - 50% so với cùng kỳ năm ngoái. Đây là mức tăng cao gấp đôi so với các dự án thông thường. Chung cư gần tuyến đường sắt Nhổn - ga Hà Nội tăng giá 30-50% sau một nămMột số...

Mới nhất