Theo Reuters, hàng nghìn video deepfake về các nhân vật nổi tiếng như Hillary Clinton và Donald Trump đang xuất hiện trên mạng xã hội, xóa nhòa ranh giới giữa sự thật và hư cấu. Dù những video được chỉnh sửa như vậy đã xuất hiện vài năm, nó đặc biệt phổ biến hơn trong năm qua nhờ các công cụ AI tạo sinh như Midjourney. AI giúp tạo video bịa đặt rẻ hơn, dễ hơn và thuyết phục hơn.
Darrell West, thành viên cấp cao tại Trung tâm Đổi mới công nghệ thuộc Viện Brookings, cho rằng cử tri sẽ rất khó phân biệt video thật và giả. Người ủng hộ các ứng cử viên có thể dùng công nghệ này để gây tiếng xấu cho đối thủ. Sẽ có những thứ xuất hiện ngay trước cuộc bầu cử mà không ai kịp gỡ xuống.
Trong khi đó, các hãng công nghệ lại có ít biện pháp hoặc triển khai biện pháp không hiệu quả để ngăn chặn thông tin độc hại do deepfake tạo ra, Aza Raskin, đồng sáng lập tổ chức phi lợi nhuận Trung tâm công nghệ con người nhận xét.
Cựu Tổng thống Donald Trump phát biểu trong sự kiện ngày 27/4 tại Manchester, New Hampshire, Mỹ. (Ảnh: Reuters)
Bản thân cựu Tổng thống Mỹ Donald Trump – người cũng chạy đua tranh cử Tổng thống Mỹ 2024 – chia sẻ video được chỉnh sửa về nhà báo Anderson Cooper của hãng tin CNN trên nền tảng TruthSocial. CNN khẳng định đây là video deepfake.
Dù các mạng xã hội lớn như Facebook, Twitter, YouTube đang nỗ lực ngăn chặn deepfake, mức độ hiệu quả lại rất khác nhau.
Vấn nạn deepfake
Theo công ty DeepMedia, số video deepfake đăng trên mạng năm nay cao gấp 3 lần so với cùng kỳ năm 2022, còn số giọng nói deepfake tăng gấp 8 lần. Tổng cộng, khoảng nửa triệu nội dung deepfake có thể được chia sẻ trên toàn cầu trong năm 2023. Chi phí nhại giọng từng rơi vào khoảng 10.000 USD hồi cuối năm ngoái, nhưng nay một số startup cung cấp dịch vụ chỉ với giá vài USD.
Không ai dám chắc AI tạo sinh sẽ dẫn đến điều gì hay làm thế nào để chống lại khả năng sáng tác thông tin sai sự thật số lượng lớn của nó.
OpenAI, startup đứng sau chatbot nổi tiếng ChatGPT và mô hình ngôn ngữ lớn GPT-4, cũng gặp vấn đề với công nghệ. CEO Sam Altman trả lời trước Quốc hội Mỹ rằng tính toàn vẹn bầu cử là “vấn đề đặc biệt quan ngại” và hối thúc quản lý lĩnh vực AI.
Khác với các startup nhỏ khác, OpenAI đã thực hiện nhiều biện pháp để hạn chế sử dụng công cụ của mình trong chính trị. Tuy nhiên, theo thử nghiệm của Reuters, chính sách này chưa thực sự hiệu quả.
Chẳng hạn, OpenAI cấm công cụ tạo ảnh DALL-E sản xuất ảnh nhân vật của công chúng. Khi Reuters muốn tạo ảnh về ông Trump và ông Joe Biden, yêu cầu bị chặn lại và xuất hiện cảnh báo. Song, khi đưa ra yêu cầu tạo ảnh các chính trị gia khác, như cựu Phó Tổng tống Mike Pence, DALL-E lại đáp ứng.
OpenAI cũng cấm sử dụng sản phẩm của mình trên quy mô lớn cho mục đích chính trị, bao gồm cấm gửi hàng loạt email cá nhân hóa cho cử tri.
Nhiều người lao động Mỹ sợ bị AI thay thếMột số startup nhỏ hơn không có hạn chế rõ ràng nào về nội dung chính trị. Midjourney ra mắt năm ngoái là công ty đứng đầu trong thị trường ảnh AI với 16 triệu người dùng trên máy chủ Discord. Ứng dụng có thể sử dụng miễn phí hoặc mất phí tùy theo các yếu tố như số lượng hình ảnh, tốc độ sản xuất ảnh. Nó được nhà thiết kế và nghệ sỹ yêu thích vì khả năng tạo ra các hình ảnh như thật về ngôi sao và chính trị gia.
Tuần trước, CEO David Holz cho biết, Midjourney có thể sẽ thay đổi trước cuộc bầu cử để chống lại thông tin sai sự thật. Công ty muốn hợp tác với một bên để cho phép truy vết hình ảnh AI bằng watermark kỹ thuật số và cân nhắc chặn hình ảnh của các ứng viên.
Tận dụng quảng cáo AI
Khi ngành công nghiệp đang đau đầu với cách ngăn chặn việc lạm dụng AI, một số chính trị gia lại tìm cách khai thác sức mạnh của AI tạo sinh cho chiến dịch của mình. Cuối tháng 4, Ủy ban quốc gia Đảng Cộng hòa (RNC) đã công bố quảng cáo chính trị do AI tạo ra. Với độ dài 30 giây, RNC cho biết nó hoàn toàn là sản phẩm của AI, dùng hình ảnh giả mạo để nêu lên viễn cảnh nếu ông Biden tái đắc cử.
Reuters đã khảo sát tất cả các chiến dịch tranh cử của Đảng Cộng hòa về việc sử dụng AI. Hầu hết không phản hồi, song đội ngũ của Nikki Haley nói, họ không dùng công nghệ này. Chiến dịch của ứng cử viên Perry Johnson chỉ dùng AI để sao chép.
Vài nhà hoạt động không thể cưỡng lại trước tiềm năng của AI tạo sinh trong sản xuất email, bài đăng và quảng cáo chiến dịch. Họ cảm thấy công nghệ có thể tạo ra lợi thế trong bầu cử. Ngay cả tại khu vực nông thôn Hillsdale, Michigan, máy học cũng được trọng dụng.
Jon Smith, Chủ tịch Đảng Cộng hòa khu vực Quốc hội số 5 của Michigan, tổ chức một số buổi đào tạo để các đồng minh của mình học cách dùng AI tạo bài đăng mạng xã hội và quảng cáo. Ông cho biết, AI giúp họ đối đầu với các đối thủ lớn.
Các cố vấn chính trị cũng muốn tận dụng AI, càng làm rối thêm ranh giới giữa thật và giả. Numinar Analytics, công ty dữ liệu chính trị tập trung vào các khách hàng của Đảng Cộng hòa, đã bắt đầu thử nghiệm dùng AI tạo các tin nhắn cá nhân hóa bằng giọng của ứng cử viên. Trong khi đó, công ty khảo sát Honan Strategy muốn phát triển bot khảo sát AI giọng nữ, ra mắt kịp vào cuộc bầu cử thành phố năm 2023.
(Theo Reuters)
