Lo ngại chatbot Grok làm bùng nổ thông tin sai sự thật trên Internet

Không giống như các công cụ chụp ảnh AI chính thống khác, Grok của Musk dường như có ít quy định hơn. Chẳng hạn, trong thử nghiệm của CNN, Grok dễ dàng tạo ra hình ảnh giả của các chính trị gia, gây hiểu lầm cho cử tri.

Hình ảnh Elon Musk do chatbox Grok tạo ra. (Nguồn: CNN)

Một số người dùng X còn đăng ảnh do Grok tạo ra, cho thấy các nhân vật nổi tiếng hút ma túy, nhân vật hoạt hình giết người, ảnh tình dục hóa phụ nữ mặc bikini.

Theo CNN, Grok càng làm tăng lo ngại về việc AI có thể làm bùng nổ thông tin sai sự thật trên Internet, đặc biệt khi cuộc bầu cử Tổng thống Mỹ sắp diễn ra.

Các nhà lập pháp, các nhóm hoạt động xã hội và các nhà lãnh đạo công nghệ đã gióng lên hồi chuông cảnh báo rằng việc lạm dụng các công cụ như vậy có thể gây ra sự nhầm lẫn và hỗn loạn cho cử tri.

Nhiều công ty AI hàng đầu thế giới đã thực hiện chính sách nhằm ngăn chặn các công cụ tạo hình ảnh dựa trên AI bị sử dụng để tạo ra thông tin sai lệch chính trị, dù các nhà nghiên cứu nhận thấy người dùng đôi khi vẫn tìm được cách “vượt rào”.

Vài công ty như OpenAI, Meta và Microsoft dùng công nghệ hoặc nhãn để giúp người xem biết được đâu là hình ảnh tạo bằng AI của họ.

Các mạng xã hội, bao gồm YouTube, TikTok, Instagram và Facebook cũng gắn nhãn nội dung do AI tạo ra trong nguồn cấp dữ liệu của người dùng, bằng cách sử dụng công nghệ để tự phát hiện hoặc yêu cầu người dùng xác định khi nào họ đăng nội dung đó.

Ngày 16/8, AI dường như đã đưa ra một số hạn chế đối với Grok. Công cụ này hiện từ chối tạo hình ảnh của các ứng cử viên chính trị hoặc các nhân vật hoạt hình nổi tiếng thực hiện hành vi bạo lực.