Страх мошенничества благодаря возможности создания реалистичных фотографий ChatGPT

ChatGPT «рисует как фотография»

26 марта сообщество пользователей искусственного интеллекта (ИИ) по всему миру, а также во Вьетнаме было взволновано, когда OpenAI официально выпустила приложение Images in ChatGPT, уделяя особое внимание возможностям создания изображений для пользователей интеллектуальных моделей компании. Раньше ChatGPT также мог генерировать изображения, но эта возможность была ограничена и для ее реализации приходилось использовать другую известную модель преобразования текста в изображение под названием DALL-E.

Способность этого инструмента превращать текст в рисунки и «комбинировать изображения, как в Photoshop» быстро привлекла внимание. Многие отметили, что качество выходного изображения «потрясающее», и большинство оценили его как «превосходящее» популярные модели ИИ, представленные в настоящее время на рынке.

ChatGPT создает реалистичные кофейные чашки с помощью простой команды

По словам Габриэля Го, руководителя исследований в OpenAI, существенным улучшением возможностей ChatGPT по генерации изображений с использованием модели GPT-4o является «привязка» — термин, обозначающий степень, в которой генератор изображений на основе ИИ поддерживает связь между атрибутами и объектами. Г-н Го утверждает, что GPT-4o может точно связывать атрибуты для 15-20 различных объектов без путаницы, что значительно повышает точность и надежность генерируемого контента.

Изображения в ChatGPT не только превосходны в своих возможностях создания изображений, но и решают «фатальную» слабость других инструментов ИИ для создания изображений, которая заключается в отображении надписей и текста внутри изображения. На самом деле, многие изображения содержат текст, воспроизведенный точно, из-за чего становится еще сложнее определить, является ли изображение настоящим или поддельным.

Недостатком этого инструмента является то, что создание изображений занимает много времени, но это считается разумным, поскольку задержка возникает из-за того, что качественные изображения, точные детали и соответствие описанию пользователя всегда требуют терпения. Команда заявила, что проблема задержки будет решена в будущем.

Много опасений по поводу возможности объединения фотографий

Помимо удовольствия от первоначального опыта, который ChatGPT и OpenAI приносят пользователям, на первый план снова выходят вопросы информационной безопасности, конфиденциальности, а также риска эксплуатации. «В ближайшем будущем изображения, которые вы видите в сети, не обязательно будут реальными», — выразил обеспокоенность пользователь Facebook из Вьетнама, попросивший ChatGPT создать совершенно нереальные изображения, которые будут выглядеть так же реалистично, как фотографии, например, фотографию актера и бывшего рестлера Дуэйна Джонсона (Скала), рекламирующего бренд жевательной резинки, или фотографию трехцветного кота, сидящего на плите, которая выглядит точь-в-точь как фотография.

Благодаря подробным командам пользователи могут создавать удивительные результаты, не обладая глубокими знаниями в области использования традиционных инструментов для редактирования фотографий.

Многие даже опробовали «зачистную» способность нового инструмента. TN (Ханой) сказал, что он использовал фотографию модели, взятую из Интернета, чтобы попросить ChatGPT переодеться по его просьбе, и почти каждая команда была выполнена с высокой точностью. «Однако некоторые отклонения все равно имели место, в основном из-за нарушений политики системы в отношении создания изображений, защищенных авторским правом, или наличия чрезмерно непристойного контента», — поделился TN.

В тестах Тхань Ниена ChatGPT отказался создавать изображения, связанные с известными или защищенными авторским правом персонажами из реального мира, фильмов и рассказов. «Я не могу создать запрошенное изображение, поскольку на отправленном вами справочном изображении четко изображен персонаж Доктор Стрэндж — персонаж Marvel, защищенный авторским правом, и это нарушает текущую политику в отношении контента», — ответила система на запрос о создании изображения Доктора Стрэнджа, сидящего... пьющего холодный чай во Вьетнаме.

Джеки Шеннон, руководитель отдела мультимодальных продуктов в ChatGPT, утверждает, что изображения в ChatGPT имеют надежную защиту от Deepfake, порнографического или мошеннического контента. Примечательно, что сгенерированные изображения будут включать метаданные, соответствующие стандарту C2PA, что позволит отметить их как сгенерированные с помощью ИИ, но для их проверки потребуются отдельные инструменты.

Однако все еще есть много людей, которые успешно «обходят закон» и используют изображения известных людей в развлекательных целях. Например, генеральный директор Тим Кук держит телефон Samsung вместо iPhone, или актер Роберт Дауни-младший, жующий овощные конфеты, или фотография Криштиану Роналду, борющегося за мяч с Лионелем Месси в маленьком переулке во Вьетнаме на глазах у множества людей...

Источник: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm