Соответственно, компания, владеющая ChatGPT и Dall-E, взяла на себя множество обязательств в отношении политики в области ИИ. «Компания стремится сотрудничать с правительством США и политиками по всему миру для поддержки требований лицензирования для всех мощных моделей ИИ в будущем».
Идея лицензирования ИИ, совместно продвигаемая лидерами отрасли, такими как OpenAI, и правительством, создает условия для потенциального конфликта между стартапами и разработчиками ПО с открытым исходным кодом, которые видят в этом попытку затруднить проникновение в сферу ИИ.
На слушаниях в Конгрессе США генеральный директор OpenAI Сэм Альтман однажды выдвинул идею создания агентства, ответственного за лицензирование или отзыв продуктов ИИ, если они нарушают установленные правила.
Раскрытие информации OpenAI произошло на фоне того, что другие крупные компании в сфере ИИ, такие как Microsoft и Google, также рассматривают аналогичные шаги.
Однако вице-президент компании по глобальным вопросам Анна Маканджу заявила, что содержание документа о внутренней политике будет отличаться от политики, которую Белый дом собирается объявить. OpenAI утверждает, что компания не «навязывает», а считает лицензирование «практичным» способом для правительств регулировать новые системы.
«Правительствам важно знать, могут ли эти сверхмощные системы потенциально причинить вред», и «у властей очень мало способов узнать об этих системах без предоставления ими информации».
Маканджу заявил, что OpenAI поддерживает лицензирование только более мощных моделей ИИ, чем GPT-4, и хочет гарантировать, что небольшим стартапам не придется нести бремя регулирования.
Подотчетность и прозрачность
Компания OpenAI также дала понять во внутренней документации, что она готова более открыто говорить о данных, которые она использует для обучения генераторов изображений, таких как Dall-E. Компания заявляет, что придерживается прозрачного и ответственного подхода к данным о разработке ИИ.
Аналитики отметили, что обязательства, изложенные в меморандуме OpenAI, в значительной степени соответствуют некоторым политическим предложениям Microsoft, сделанным в мае. OpenAI отметила, что, несмотря на получение инвестиций в размере 10 миллиардов долларов от Microsoft, она остается независимой компанией.
Кроме того, компания, которой принадлежит ChatGPT, также провела исследование водяных знаков для отслеживания подлинности и авторских прав на изображения, созданные с помощью ИИ.
В меморандуме OpenAI, по-видимому, признает потенциальные риски, которые системы ИИ представляют для рынка труда, а также неравенство. В проекте компания заявила, что проведет исследования и предоставит рекомендации политикам для защиты экономики от потенциальных «сбоев».
Компания также заявила, что открыта для доступа и тестирования своих систем на предмет уязвимостей в различных областях, включая оскорбительный контент, манипуляции и дезинформацию, и поддерживает создание совместного центра обмена информацией по кибербезопасности.
(По данным Bloomberg)
Источник
Комментарий (0)