Bloomberg сообщает, что все больше экспертов в области искусственного интеллекта используют устойчивое влияние сериала на поп-культуру, а также его богатые лингвистические данные и разнообразную игру слов, чтобы экспериментировать с передовыми технологиями генеративного искусственного интеллекта.
Например, создаются алгоритмы, которые выборочно «забывают» информацию. Это непростая задача для больших языковых моделей, которые обучаются на больших объемах онлайн-данных, состоящих из материалов, защищенных и не защищенных авторским правом.
Исследователи Марк Руссинович и Ронен Элдан из Microsoft утверждают, что они продемонстрировали, что модели ИИ можно изменять или модифицировать, удаляя любые конкретные знания, например, о существовании книг о Гарри Поттере, включая персонажей и сюжет, не влияя при этом на способность системы принимать решения или аналитические способности. По словам исследователей, они выбрали «Гарри Поттера» из-за популярности этого произведения.
«Даже те, кто не читал эту историю, могут знать элементы сюжета и персонажей. «Таким образом, нашу методику можно протестировать, чтобы подтвердить, «знает» ли алгоритм о серии», — сказал Руссинович, технический директор Microsoft Azure.
В другом исследовании эксперты из Вашингтонского университета, Калифорнийского университета и Института ИИ Аллена разработали новую языковую модель под названием Silo, которая может исключать данные для снижения юридических рисков. Однако эффективность модели существенно снижается, если ее обучать только на текстах с низким уровнем риска, таких как книги, не защищенные авторским правом, или правительственные документы.
«Богатство сцен, диалогов, эмоциональных моментов в «Гарри Поттере» делают его очень подходящим для конкретной области обработки естественного языка», — говорит Лейла Вехбе, исследователь из Университета Карнеги-Меллона, которая в 2014 году провела серию экспериментов по сбору данных МРТ мозга у читателей сериала, чтобы узнать о механике языка.
Даже когда «Гарри Поттер» не является предметом исследования, он остается любимым литературным произведением для исследователей. Например, его используют для проверки «интеллектуальности» алгоритмов. Терренс Сейновски, руководитель лаборатории вычислительной нейробиологии в Институте биологических исследований Солка, утверждает, что модели ИИ отражают как интеллект, так и предубеждения своих пользователей, подобно «зеркалу иллюзий» в Гарри Поттере — всегда отражающему желания человека, смотрящего в него.
(По данным Bloomberg)
Microsoft запустит линейку ноутбуков Surface с искусственным интеллектом в 2024 году
Microsoft запускает ИИ-чатбот Copilot для iPhone и iPad
ИИ шокирует, получив главную литературную премию в Китае
Источник
Комментарий (0)