В последние дни фотографии пользователей в розовых платьях без бретелек или других сексуальных нарядах были опубликованы во многих аккаунтах социальных сетей и получили положительные отклики от многих пользователей. Все это продукты новой функции под названием «AI Wardrobe», запущенной китайским приложением для фотографии. Пользователям понадобится только оригинальная фотография с лицом персонажа и несколько простых шагов, чтобы выбрать из более чем 70 различных дизайнов одежды: от вечерних платьев, детской одежды до «тканесберегающих» дизайнов. Весь процесс обработки и редактирования занимает всего несколько секунд, система сохраняет сцену и детали людей на исходной фотографии, меняя только костюм выбранного персонажа.
Возможности обработки искусственного интеллекта (ИИ) в этом приложении настолько реалистичны, что многие люди не осознают, что это продукт инструмента для редактирования. За короткое время это программное обеспечение привлекло внимание сообщества и стало распространяться вместе с забавными, юмористическими изображениями. Но, как обычно, наряду с ажиотажем существует множество опасений относительно риска злоупотребления этим инструментом, а также угроз безопасности.
Изображения и костюмы, отредактированные с помощью ИИ, представляют риск утечки пользовательских данных
Такие ИИ, как Deepfake, вызвали много споров из-за своей способности изменять, объединять лица и создавать реалистичные движения в видео, причем многие случаи были созданы со злым умыслом. Таким образом, тот факт, что инструмент может реалистично менять одежду, практически без признаков технологического вмешательства, повышает вероятность того, что розыгрыш зайдет слишком далеко, когда кто-то воспользуется этим, чтобы объединить фотографии и отправить негативные, фальшивые сообщения.
Г-н Ву Нгок Сон, руководитель отдела технологических исследований Национальной ассоциации кибербезопасности (NCA), заметил, что приложения для редактирования фотографий на основе ИИ внезапно снова «набрали обороты» на платформах социальных сетей, и последним из них стало вышеупомянутое программное обеспечение для редактирования одежды и костюмов. Эти тенденции используют технологии для создания изображений, которые должны быть забавными и уникальными, что может сразу привлечь пользователей, но следует помнить, что программе требуется доступ к папке с фотографиями на устройстве.
«Это чрезвычайно конфиденциальное право доступа с очень высоким риском утечки персональных данных», — подчеркнул г-н Ву Нгок Сон. По его словам, при нынешнем развитии искусственного интеллекта изображения представляют собой очень ценные данные. ИИ может определить, кто человек, каковы его интересы, куда он обычно ходит и даже кого он знает... просто по фотографиям. Это также открывает возможности для бизнеса по сбору и перепродаже изображений компаниям, занимающимся добычей и использованием данных. Непосредственным следствием этого может стать то, что пользователи будут получать много раздражающей рекламы. В долгосрочной перспективе фотографии могут быть использованы в других целях, например, для мошенничества и шантажа.
20 февраля Министерство общественной безопасности также разослало текстовое сообщение (СМС) с предупреждением пользователям телефонов по всей стране об использовании изображений и видео, размещенных в открытом доступе в Интернете, для редактирования, вырезания и объединения с целью создания конфиденциального контента в целях угроз и шантажа.
«Если вы на самом деле не знаете происхождение приложения, вам не следует загружать такие программы. Киберпространство опасно, но утечка ваших данных отчасти зависит от вашей собственной осведомленности», — предупредил г-н Ву Нгок Сон. В любых ситуациях, включая новые тенденции, эксперты по кибербезопасности советуют пользователям проявлять осторожность и не обменивать личные данные, особенно свои собственные и данные лиц своих близких, на несколько минут развлечения в социальных сетях.
Источник: https://thanhnien.vn/canh-giac-voi-cac-ung-dung-chinh-sua-anh-bang-ai-185250221085605624.htm
Комментарий (0)