Быстрое развитие искусственного интеллекта (ИИ) вызвало опасения, что он развивается быстрее, чем люди успевают осознать его влияние.
Фото: СТ
Использование общего ИИ значительно возросло после появления таких инструментов, как ChatGPT. Хотя эти инструменты предлагают множество преимуществ, их также можно использовать во вред.
Для управления этим риском Соединенные Штаты и ряд других стран заключили соглашения с семью компаниями, включая Amazon, Anthropic, Google, Inflection, Meta, Microsoft и OpenAI, обязующимися придерживаться безопасных методов разработки технологий искусственного интеллекта.
В заявлении Белого дома использовалась своя терминология, которая может быть незнакома обычному человеку, например, «красная команда» и «водяные знаки». Вот семь терминов, связанных с ИИ, на которые следует обратить внимание.
Машинное обучение
Целью этого направления ИИ является обучение машин точному выполнению определенной задачи путем выявления закономерностей. Затем машина может делать прогнозы на основе этих данных.
Глубокое обучение
Творческие задачи ИИ часто опираются на глубокое обучение — метод, который подразумевает обучение компьютеров с использованием нейронных сетей — набора алгоритмов, имитирующих работу нейронов человеческого мозга, для создания сложных связей между шаблонами с целью генерации текста, изображений или другого контента.
Поскольку модели глубокого обучения имеют несколько слоев нейронов, они могут изучать более сложные закономерности, чем традиционное машинное обучение.
Большая языковая модель
Большая языковая модель (LLM) обучается на огромных объемах данных и направлена на моделирование языка или предсказание следующего слова в последовательности. Крупные языковые модели, такие как ChatGPT и Google Bard, можно использовать для таких задач, как реферирование, перевод и общение.
Алгоритм
Набор инструкций или правил, позволяющий машинам делать прогнозы, решать проблемы или выполнять задачи. Алгоритмы могут предоставлять рекомендации по покупкам и помогать в выявлении мошенничества, а также использовать функции чата для обслуживания клиентов.
Предвзятость
Поскольку ИИ обучается на больших наборах данных, он может включать в них вредоносную информацию, например, разжигание ненависти. Расизм и сексизм также могут присутствовать в наборах данных, используемых для обучения ИИ, что приводит к предвзятому контенту.
Компании, занимающиеся разработкой искусственного интеллекта, договорились глубже изучить вопрос о том, как избежать пагубной предвзятости и дискриминации в системах искусственного интеллекта.
Красная команда
Одним из обязательств, взятых компаниями перед Белым домом, является проведение «красных команд» внутри и за пределами моделей и систем ИИ.
«Красная команда» подразумевает тестирование модели для выявления потенциального вреда. Термин пришел из военной практики, где команда имитировала действия нападающего, чтобы разработать стратегию.
Этот метод широко используется для проверки уязвимостей безопасности в таких системах, как платформы облачных вычислений таких компаний, как Microsoft и Google.
Водяные знаки
Водяной знак — это способ узнать, сгенерировано ли аудио или изображение искусственным интеллектом или нет. Факты, собираемые для проверки, могут включать информацию о том, кто их создал, а также о том, как и когда они были созданы или изменены.
Например, компания Microsoft пообещала снабжать водяными знаками изображения, созданные с помощью ее инструментов искусственного интеллекта. Компании также пообещали Белому дому снабдить изображения «водяными знаками» или зафиксировать их происхождение... чтобы идентифицировать их как фотографии, созданные с помощью искусственного интеллекта.
Водяные знаки также широко используются для отслеживания нарушений прав интеллектуальной собственности. Водяные знаки на изображениях, созданных с помощью искусственного интеллекта, могут выглядеть как незаметный шум, например, небольшое изменение через каждый седьмой пиксель.
Однако нанесение водяных знаков на текст, сгенерированный ИИ, может оказаться более сложным и может потребовать настройки шаблона слова, чтобы его можно было идентифицировать как контент, сгенерированный ИИ.
Хоанг Тон (по данным Пойнтера)
Источник
Комментарий (0)