Lo ngại lừa đảo với khả năng tạo ảnh như thật của ChatGPT

ChatGPT "vẽ như ảnh chụp"

Ngày 26.3, cộng đồng người dùng AI (trí tuệ nhân tạo) trên thế giới cũng như tại Việt Nam xôn xao khi OpenAI chính thức phát hành Images in ChatGPT tập trung vào khả năng tạo ảnh, dành cho người dùng mô hình thông minh của hãng. Trước đó, ChatGPT cũng có khả năng tạo ảnh nhưng bị giới hạn và phải thông qua một mô hình biến văn bản thành hình ảnh nổi tiếng khác là DALL-E.

Khả năng biến chữ viết thành ảnh vẽ cũng như "ghép hình chuẩn như Photoshop" của công cụ này nhanh chóng thu hút được sự chú ý. Nhiều người cho biết chất lượng ảnh đầu ra "đáng kinh ngạc" và đa phần đánh giá ở mức "vượt trội" so với những mô hình AI phổ biến đang có trên thị trường.

ChatGPT tạo hình ly cà phê như thật dù chỉ với câu lệnh đơn giản

Theo Gabriel Goh - Trưởng nhóm nghiên cứu thuộc OpenAI, cải tiến đáng kể về khả năng tạo ảnh của ChatGPT dùng mô hình GPT-4o là "Binding" - thuật ngữ về mức độ mà trình tạo ảnh AI duy trì liên kết giữa các thuộc tính và đối tượng. Ông Goh khẳng định GPT-4o có thể liên kết chính xác các thuộc tính cho 15 - 20 đối tượng khác nhau mà không nhầm lẫn, cải thiện đáng kể độ chính xác cũng như tính tin cậy của nội dung được tạo ra.

Không chỉ nổi bật với khả năng tạo hình, Images in ChatGPT cũng giải quyết được điểm yếu "chí mạng" trên các công cụ AI tạo ảnh khác là thể hiện chữ viết, văn bản bên trong ảnh. Thực tế cho thấy nhiều hình ảnh có chứa chữ được thể hiện chính xác, khiến bức hình càng khó phân biệt là giả hay thật.

Điểm chưa được của công cụ này là thời gian tạo ảnh khá lâu, nhưng được xem là hợp lý bởi độ trễ được tạo ra do những bức hình chất lượng tốt, chi tiết chính xác và khớp với miêu tả của người dùng luôn đòi hỏi sự kiên nhẫn. Nhóm nghiên cứu cho biết vấn đề độ trễ sẽ được cải thiện trong tương lai.

Nhiều lo ngại về khả năng ghép ảnh

Ngoài sự vui vẻ trong trải nghiệm ban đầu mà ChatGPT cũng như OpenAI mang đến cho người dùng, vấn đề về an toàn thông tin, tính riêng tư cũng như nguy cơ bị lợi dụng một lần nữa được đưa lên hàng đầu. "Sắp tới, hình ảnh bạn thấy trên mạng không chắc đã là sự thật", một người dùng Facebook tại Việt Nam bày tỏ quan ngại khi anh có thể yêu cầu ChatGPT tạo ra những hình ảnh hoàn toàn không có thật nhưng lại chân thực như ảnh chụp, ví dụ ảnh diễn viên kiêm cựu đô vật Dwayne Johnson (The Rock) đang quảng cáo cho một thương hiệu kẹo cao su, hay hình chú mèo tam thể ngồi trên bếp nhìn hệt ảnh chụp.

Với những câu lệnh cung cấp chi tiết, người dùng có thể tạo ra được kết quả bất ngờ mà không cần kiến thức chuyên sâu về sử dụng các công cụ chỉnh sửa ảnh truyền thống

Thậm chí, không ít người đã thử khả năng "lột đồ" của công cụ mới. T.N (Hà Nội) cho biết đã sử dụng một ảnh người mẫu lấy trên mạng để yêu cầu ChatGPT thay trang phục theo yêu cầu và gần như mọi lệnh đều được đáp ứng với độ chính xác cao. "Dù vậy vẫn có một số lần bị từ chối, chủ yếu do vi phạm chính sách của hệ thống trong việc tạo hình ảnh vi phạm bản quyền hay có nội dung gợi cảm quá mức", T.N chia sẻ.

Trong các thử nghiệm của Thanh Niên, ChatGPT từ chối tạo hình ảnh có liên quan đến các nhân vật nổi tiếng hoặc gắn với bản quyền ở thế giới thực lẫn trong phim, truyện. "Mình không thể tạo hình ảnh theo yêu cầu vì hình tham khảo bạn gửi thể hiện rõ nhân vật Doctor Strange - một nhân vật có bản quyền của Marvel và điều này vi phạm chính sách nội dung hiện tại", hệ thống trả lời khi được yêu cầu tạo ảnh Doctor Strange đang ngồi... uống trà đá tại Việt Nam.

Jackie Shannon, phụ trách sản phẩm đa phương thức của ChatGPT khẳng định Images in ChatGPT có khả năng bảo vệ mạnh mẽ nhằm ngăn chặn các nội dung Deepfake, khiêu dâm hay có dấu hiệu lừa đảo. Đáng chú ý, hình ảnh được tạo sẽ tích hợp siêu dữ liệu chuẩn C2PA để đánh dấu là sản phẩm của AI nhưng cần tới công cụ riêng để kiểm tra.

Tuy vậy, vẫn có nhiều người "lách luật" thành công và sử dụng được hình ảnh người nổi tiếng để lồng ghép nhằm mục đích giải trí. Ví dụ hình CEO Tim Cook cầm một chiếc điện thoại Samsung thay vì iPhone, hay hình diễn viên Robert Downey Jr. đang nhai viên kẹo rau củ hay bộ tranh Cristiano Ronaldo tranh bóng cùng Lionel Messi trong một con ngõ nhỏ ở Việt Nam trước sự chứng kiến của nhiều người...

Nguồn: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm