Фейковые новости становятся все более изощренными благодаря манипуляциям ИИ
Недавно на встрече Ассоциации журналистов Вьетнама и Ассоциации журналистов Таиланда, состоявшейся в Ханое, лидеры двух ассоциаций большую часть времени посвятили обсуждению проблемы «фейковых новостей» и заявили, что это уже не национальная проблема, а серьезная проблема, которая оказывает непредсказуемое воздействие на регион и мир.
Согласно исследованию Google DeepMind, создание изображений, видео и аудио, имитирующих людей, встречается почти в два раза чаще, чем создание дезинформации с использованием таких инструментов, как чат-боты на основе искусственного интеллекта.
За последние месяцы в TikTok, X и Instagram появились дипфейки с изображением канцлера Великобритании Риши Сунака и других мировых лидеров. Существуют опасения, что, несмотря на усилия социальных сетей по маркировке или удалению такого контента, аудитория может не распознать его как фейковый и что его распространение может повлиять на избирателей.
В преддверии всеобщих выборов в TikTok и Instagram появились фейковые изображения премьер-министра Великобритании Риши Сунака. (Фото: АФП)
Оценивая влияние фейковых новостей в эпоху технологий, Т. Лыонг Донг Сон, преподаватель Института журналистики и коммуникаций Академии журналистики и пропаганды, отметил, что продукт сочетания ИИ и дезинформации, также известный как сюрреалистические фейковые новости, может искажать восприятие общественностью событий и социальных проблем, тем самым влияя на то, как люди оценивают ситуацию и принимают решения. Это может иметь серьезные последствия: от небольших личных решений до крупных решений, влияющих на сообщества и страны.
Сюрреалистические фейковые новости могут использоваться как инструмент для манипулирования общественным мнением, подстрекательства к насилию, сеяния разногласий и подрыва социальной стабильности. На политической арене сюрреалистические фейковые новости могут подорвать доверие к демократическим институтам, повлиять на результаты выборов и даже спровоцировать конфликт.
О проблемах, с которыми сталкиваются журналисты и организации прессы, Ч. По словам Лыонг Донг Сона, сложность гиперреалистичных фейковых новостей, особенно дипфейков, все больше затрудняет различение правды и фейка даже для опытных журналистов.
«В эпоху информационного взрыва общественность все чаще требует от журналистов и новостных организаций предоставления информации быстро и точно. Однако это давление может привести к тому, что журналисты будут поспешно публиковать информацию, не проверив ее тщательно, что создаст возможности для распространения сюрреалистических фейковых новостей. Кроме того, журналисты и новостные организации сталкиваются с правовыми и этическими рисками, если они не будут осторожны при проверке и публикации информации», — сказал г-н Сон.
Используйте ИИ для проверки информации
По словам Ч. Лыонг Донг Сон, для борьбы с этим типом фейковых новостей крайне необходимо применение современных технологических решений.
«Эти решения не только нацелены на обнаружение и устранение фейковых новостей, но и на предотвращение их появления на ранних этапах», — сказал магистр наук Донг Сон.
Во-первых, по словам г-на Сона, одной из важнейших технологий сегодня является использование систем искусственного интеллекта для обнаружения сюрреалистичных фейковых новостей. Современные системы искусственного интеллекта способны анализировать контекст, сопоставлять информацию из нескольких источников и обнаруживать аномалии в информационном содержании. Ярким примером является использование ИИ для анализа видео и изображений с целью обнаружения признаков редактирования или создания дипфейков.
Далее, платформы социальных сетей и поисковые системы также активно внедряют алгоритмы машинного обучения для автоматической классификации и фильтрации фейкового новостного контента до того, как он станет вирусным. Эти алгоритмы предназначены для распознавания необычных признаков в шаблонах обмена, вирусности или даже тоне постов, а также для оценки вероятности того, что информация является фейковой.
Кроме того, потенциальным решением является использование технологии блокчейн для управления происхождением информации. Блокчейн имеет потенциал для создания прозрачной и неизменной системы аутентификации, которая поможет отслеживать происхождение и историю всей информации, обеспечивая точность и надежность.
ИИ может создавать поддельный контент или вводящую в заблуждение информацию и изображения, которые трудно различить, нанося огромный ущерб репутации отдельных лиц и организаций и даже нанося ущерб национальным и этническим интересам.
Согласен с Ths. Лыонг Донг Сон, г-н Фан Ван Ту - заведующий кафедрой журналистики - факультет журналистики и коммуникаций, Университет социальных и гуманитарных наук, Хошимин. HCM подчеркнул, что, помимо предоставления навыков использования сильных сторон ИИ в журналистике, нам также необходимо использовать инструменты ИИ для проверки информации.
Проверка источника, которая по сути является оценкой его надежности, является важным навыком, который включает проверку источника информации, сравнение его с другими источниками и использование инструментов проверки фактов для проверки надежности.
Интересно, что в настоящее время существует множество интегрированных с ИИ инструментов, которые помогают журналистам в процессе проверки, в дополнение к традиционным инструментам, поддерживающим проверку фактов, таким как Google Image, обратный поиск изображений Tineye, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...
Г-н Фан Ван Ту отметил, что в настоящее время при обучении профессиональных навыков журналистов необходимо сосредоточиться на предоставлении возможностей проверки информации в ответ на атаки фейковых новостей, манипулируемых искусственным интеллектом. «Использование инструментов ИИ для исправления ошибок ИИ — это самый быстрый способ помочь журналистам и информационным агентствам не только хорошо выполнять свои функции, но и способствовать повышению качества информации и защите общественности от дезинформации и негативного воздействия СМИ», — сказал г-н Ту.
Однако г-н Ту также отметил, что способность журналистов оценивать информацию не может полагаться исключительно на инструменты. Сразу следует отметить, что ИИ может помочь в анализе новостного контента, но не может обнаружить все виды фейковых новостей и манипулированной информации. Программное обеспечение на основе искусственного интеллекта по-прежнему можно обмануть с помощью тех же самых методов искусственного интеллекта, которые оно использует для обнаружения.
«Ни один инструмент не является волшебной палочкой, но инструменты искусственного интеллекта, которые обнаруживают поддельные фотографии/видео, по-прежнему являются ценным ресурсом в рамках процесса проверки или метода комплексной проверки», — сказал Фан Ван Ту.
Хоа Жанг
Источник: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html
Комментарий (0)