Риск манипулирования персональными изображениями с помощью ИИ

Развитие искусственного интеллекта (ИИ) не только ставит под угрозу работу художников по всему миру, но и подвергает пользователей Интернета риску различных манипуляций с их изображениями.

Инструменты искусственного интеллекта легко создают поддельные технологические продукты. (Иллюстрация)

«Эпоха дипфейка»

Вопреки всем положительным моментам, ИИ, попав в плохие руки, может легко украсть изображения из личных аккаунтов в социальных сетях и превратить их в нежелательные ссылки. Например, порнографические сайты могут использовать изображения людей без их согласия.

«Мы живем в эпоху дипфейков», — сказал Хади Салман, исследователь из Массачусетского технологического института. «Теперь любой может манипулировать изображениями и видео, чтобы заставить людей «сделать» то, чего они на самом деле не делали».

Deepfake — это сочетание слов «глубокое обучение» и «подделка», представляющее собой метод использования искусственного интеллекта для создания поддельных технологических продуктов в форме аудио, изображений или даже видео.

Всего за несколько секунд, с помощью нескольких простых команд, ИИ может создать любое изображение, которое захотят «плохие парни». Например, кто-то может попросить искусственный интеллект создать фотографию Папы Римского в куртке Balenciaga, а затем опубликовать ее в Интернете, прежде чем выяснится, что фотография поддельная.

Технология искусственного интеллекта также поражает пользователей своей способностью создавать произведения искусства в стиле конкретного художника. Например, вы можете создать картину с изображением кошки, которая будет выглядеть так, будто она была нарисована в стиле известного художника Винсента Ван Гога.

Для художников эти инструменты могут стать причиной потери работы, поскольку модели ИИ копируют их уникальные стили и создают произведения искусства без их разрешения.

ИИ-пропеллер

Эвелин Фрёлих, проживающая в Штутгарте (Германия), входит в растущее число художников, которые борются с чрезмерным влиянием ИИ и пытаются найти способы защитить свои визуальные работы в Интернете от манипуляций.

Недавно г-жа Фрёлих узнала об инструменте под названием Glaze, разработанном специалистами по информатике из Чикагского университета (США) для предотвращения злоупотреблений моделями ИИ.

Бен Чжао, профессор компьютерных наук в Чикагском университете и один из ведущих исследователей проекта Glaze, рассказал CNN , что инструмент предназначен для защиты уникальных работ художников от обучающих моделей ИИ.

Программное обеспечение Glaze использует алгоритмы машинного обучения для внесения небольших изменений в цифровые изображения, которые невидимы невооруженным глазом, но создают защитный слой для работы в онлайн-среде, обманывая модели ИИ, лишая их возможности копировать стиль автора.

Благодаря Glaze произведения искусства «покрываются плащом-невидимкой», не позволяя ИИ «прочитать» изображение.

Например, объяснил г-н Чжао, художник может загрузить изображение своей собственной картины маслом, пропущенной через Glaze. Когда модели ИИ «читают» картину, они видят в ней набросок углем, тогда как люди сразу распознают в ней картину, написанную маслом. После обработки Glaze в глазах ИИ иллюстрации будут выглядеть существенно иначе.

Команда Чжао выпустила первую версию Glaze в марте этого года, и инструмент был загружен более миллиона раз. Буквально на прошлой неделе команда выпустила бесплатную онлайн-версию Glaze.

Команда надеется, что инструмент Glaze поможет защитить авторские права художников до тех пор, пока не будут приняты специальные правила и законы.

Г-н Чжао отметил, что с момента появления Glaze число актеров озвучивания, писателей, музыкантов и журналистов, обратившихся к нему, возросло. Все они связались с его командой, чтобы узнать о версии Glaze для своей области.

Художник из Калифорнии Джон Лэм использует инструмент Glaze, чтобы защитить свои онлайн-работы от использования для обучения моделей искусственного интеллекта, и говорит, что теперь он использует приложение для всех работ, которыми он делится в сети.

По его словам, на протяжении многих лет такие художники, как он, выкладывают свои работы в Интернете в самом высоком разрешении, считая это предметом гордости. «Мы хотим, чтобы люди увидели, насколько детализированы и удивительны фотографии Full HD. Однако художники не знают, что их работы могут быть «съедены» моделями ИИ, которые затем копируют их стиль и подвергают их нечестной конкуренции.

«Теперь мы знаем, что люди берут нашу работу высокого разрешения и загружают ее в машины ИИ, чтобы конкурировать с нами в той же области. Поэтому нам нужно быть осторожнее и начать думать о том, как защитить себя», — сказал он.

Салман и его команда только что выпустили еще один инструмент, направленный на защиту изображений от ИИ. Приложение под названием PhotoGuard позволяет пользователям помещать на изображения невидимый защитный слой, чтобы помешать моделям ИИ манипулировать изображениями.

Цель PhotoGuard — защитить фотографии, которые уже были загружены в сеть их авторами, от «злонамеренных манипуляций со стороны искусственного интеллекта», сказал Салман.

Приложение PhotoGuard работает, корректируя пиксели изображения таким образом, что это незаметно для человека. Однако это изменение, незаметное невооруженным глазом, достаточно сильное и тщательно обходит любые попытки моделей ИИ манипулировать изображением.

Это означает, что если кто-то попытается отредактировать фотографию с помощью ИИ после того, как она была защищена PhotoGuard, полученная фотография будет «совсем нереалистичной», объяснил Салман.

Не лицензировано

С другой стороны, даже если инструменты ИИ берут и обрабатывают изображения, то, что они создают, не признается объектом авторского права.

С момента своего появления и популярности ИИ одновременно спровоцировал споры: защищены ли эти работы авторским правом или нет? Если да, то кому они принадлежат?

Бюро авторских прав США (USCO) вынесло официальное решение по этим работам. По данным USCO, любые изображения, созданные искусственным интеллектом на основе команд (например, текущие приложения Midjourney, Dall-E и Stable Diffusion), не будут защищены авторским правом в США.

Законодательство США гласит, что интеллектуальная собственность может быть защищена авторским правом только в том случае, если она является продуктом человеческого творчества. В настоящее время USCO признаёт только произведения, созданные людьми. Таким образом, машины с искусственным интеллектом не будут считаться авторами, а созданные ими продукты не будут защищены авторским правом.

«Если традиционные элементы авторского права в произведении созданы машиной, то это произведение не защищено авторским правом человека, и USCO не будет его регистрировать», — заявила директор USCO Шира Перлмуттер.

Источник: https://baoquocte.vn/nguy-co-ai-thao-tung-hinh-anh-ca-nhan-238723.html