Опасения, что чат-бот Grok вызывает бум дезинформации в Интернете

Чат-бот Grok Илона Маска начал позволять пользователям создавать изображения на основе искусственного интеллекта из текста и публиковать их в X, включая поддельные изображения политиков, таких как бывший президент США Дональд Трамп, вице-президент США Камала Харрис...

В отличие от других популярных инструментов визуализации на основе ИИ, Grok Маска, по-видимому, имеет меньше регулирования. Например, в ходе теста CNN Грок с легкостью создавал поддельные изображения политиков, вводя избирателей в заблуждение.

Изображение Илона Маска создано чат-боксом Grok. (Источник: CNN)

Некоторые пользователи X также публиковали изображения, созданные Grok, на которых знаменитости курят наркотики, персонажи мультфильмов убивают людей и сексуализированные изображения женщин в бикини.

По данным CNN , Грок еще больше усиливает опасения, что ИИ может спровоцировать взрыв дезинформации в Интернете, особенно в преддверии президентских выборов в США.

Законодатели, группы активистов и лидеры технологических компаний бьют тревогу, поскольку неправильное использование таких инструментов может вызвать путаницу и хаос среди избирателей.

Многие ведущие мировые компании в области искусственного интеллекта внедрили политику, направленную на предотвращение использования инструментов генерации изображений на основе искусственного интеллекта для создания политической дезинформации, хотя исследователи обнаружили, что пользователи иногда находят способы обойти правила.

Некоторые компании, такие как OpenAI, Meta и Microsoft, используют технологии или метки, чтобы помочь зрителям узнать, какие изображения созданы их ИИ.

Социальные сети, включая YouTube, TikTok, Instagram и Facebook, также маркируют контент, созданный с помощью искусственного интеллекта, в лентах пользователей, используя технологию для его самостоятельного обнаружения или прося пользователей указать, когда они его опубликовали.

16 августа ИИ, по-видимому, наложил некоторые ограничения на Грока. В настоящее время инструмент отказывается генерировать изображения политических кандидатов или известных персонажей мультфильмов, совершающих акты насилия.

Источник: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html