Europol cảnh báo về sự gia tăng hình ảnh lạm dụng trẻ em bằng AI

“Những trường hợp sử dụng AI để hỗ trợ và tạo ra tài liệu lạm dụng tình dục trẻ em đã được báo cáo”, Europol cho biết hôm thứ Hai (22/7).

“Việc sử dụng AI để tạo ra hoặc thay đổi tài liệu lạm dụng tình dục trẻ em sẽ tiếp tục gia tăng trong tương lai gần”, tổ chức này cho biết trong báo cáo dài 37 trang về các mối đe dọa kỹ thuật số đối với châu Âu.

Báo cáo cũng nêu rõ rằng sự gia tăng của các hình ảnh được tạo ra bởi AI làm phức tạp việc xác định nạn nhân thực tế.

Vào tháng Năm, một nghiên cứu của Đại học Edinburgh ở Vương quốc Anh đã phát hiện ra rằng khoảng 300 triệu trẻ em mỗi năm trở thành nạn nhân của lạm dụng tình dục trực tuyến dưới một hình thức nào đó.

Nghiên cứu cũng phát hiện ra rằng AI đã thêm một phương thức mới vào lạm dụng trực tuyến thông qua việc tạo ra các deepfake của những người thật.

“Ngay cả khi nội dung hoàn toàn là giả mạo và không có nạn nhân thực sự được miêu tả, tài liệu lạm dụng tình dục trẻ em được tạo ra bởi AI vẫn góp phần vào việc tình dục hóa trẻ em”, Europol cho hay.

Ngoài ra, nhiều báo cáo khác cũng nhấn mạnh rằng sự phát triển của công nghệ AI không chỉ tạo ra các hình ảnh giả mạo mà còn khó khăn trong việc điều tra và truy tố các tội phạm liên quan đến lạm dụng tình dục trẻ em. Các chuyên gia kêu gọi các cơ quan chức năng và các công ty công nghệ tăng cường hợp tác để kiểm soát và ngăn chặn tình trạng này.

Hồng Hạnh (theo DW)