Глубокий фейк о войне в Газе вызывает опасения по поводу ИИ

Эти изображения, просмотренные миллионы раз на онлайн-платформах, представляют собой фейковые изображения, созданные с помощью искусственного интеллекта. Если присмотреться, можно заметить характерные признаки, например, странно изогнутые пальцы или глаза, сверкающие неестественным светом.

Однако возмущение, которое вызвали эти фейковые изображения, вполне реально.

Фотографии войны Израиля и ХАМАС наглядно и болезненно иллюстрируют опасность ИИ как инструмента пропаганды, используемого для создания реалистичных изображений.

С тех пор, как в прошлом месяце начались боевые действия, в социальных сетях циркулируют обработанные с помощью цифровых технологий фотографии, которые используются для ложных заявлений об ответственности за жертвы или для введения людей в заблуждение относительно зверств, которых никогда не было.

Глубокие фейковые изображения войны в секторе Газа вызывают новые опасения, рис. 1 — Палестинец собирает вещи среди завалов в Газе. Фото АП

Технологический прогресс происходит все чаще и практически без надзора. Это делает очевидным риск превращения ИИ в еще одну форму оружия и дает возможность заглянуть в будущее в ходе конфликтов, выборов и других крупных событий.

«Ситуация станет намного хуже, прежде чем наладится», — сказал Жан-Клод Голденстейн, генеральный директор CREOpoint, технологической компании со штаб-квартирами в Сан-Франциско и Париже, которая использует ИИ для оценки обоснованности онлайн-жалоб.

Его компания составила базу данных самых вирусных фейковых изображений, появляющихся в секторе Газа. «Изображения, видео и аудио: с креативным ИИ это будет шаг вперед, которого вы никогда раньше не видели», — сказал он.

Имран Ахмед, генеральный директор Центра по противодействию цифровой ненависти, некоммерческой организации, отслеживающей дезинформацию о войне, заявил, что пропагандисты, создающие такие изображения, умело воздействуют на самые глубокие побуждения и тревоги людей.

Чем пугающе изображение, тем больше вероятность, что пользователи запомнят его и поделятся им, непреднамеренно распространяя дальнейшую дезинформацию. Подобный ложный контент, созданный с помощью искусственного интеллекта, начал набирать популярность после российско-украинского конфликта.

Каждый новый конфликт или избирательный сезон открывает возможности для дезинформации. В связи с этим многие эксперты в области искусственного интеллекта и политологи предупреждают о рисках в следующем году, когда в нескольких странах, включая США, Индию, Пакистан, Украину, Индонезию и Мексику, пройдут важные выборы.

Риск того, что искусственный интеллект и социальные сети могут быть использованы для распространения лжи среди американских избирателей, встревожил законодателей обеих партий в Вашингтоне. На недавних слушаниях, посвященных опасностям технологии дипфейка, конгрессмен США Джерри Коннолли, демократ из Вирджинии, заявил, что США необходимо инвестировать в финансирование разработки инструментов ИИ, предназначенных для противодействия другим видам ИИ.

По словам профессора Университета Буффало Дэвида Дёрманна, эффективное реагирование на политические и социальные проблемы, создаваемые дезинформацией, генерируемой ИИ, потребует как более совершенных технологий, так и лучшего регулирования.

Май Ань (по данным AP)

Источник