 |
| Иллюстрация к призыву относиться к ИИ как к биологическому оружию. (Источник: gizmodo.com) |
В статье Эмилии Яворски, ученого-врача и директора Института будущего жизни (США), «Относитесь к ИИ как к биологическому оружию, а не как к ядерному оружию », автор утверждает, что, несмотря на то, что в последнее время в мире неоднократно сравнивают ИИ с ядерными бомбами, существует более подходящий подход — регулировать этот тип технологий как биологическое оружие или биотехнологию.
По мнению автора, ИИ — это, пожалуй, самая мощная технология в истории человечества, которую люди разрабатывают сегодня. Вред ИИ, включая дискриминацию, угрозы демократии и концентрацию влияния, хорошо документирован.
Тем не менее, ведущие компании в сфере ИИ спешат создать все более мощные системы ИИ, что приводит к росту рисков с беспрецедентной в истории человечества скоростью.
Поскольку лидеры пытаются решить, как сдержать и контролировать рост ИИ и связанные с ним риски, им необходимо учитывать корректировки и стандарты, которые человечество использовало для его создания в прошлом.
Адаптация и инновации могут сосуществовать, особенно когда на карту поставлены человеческие жизни.
Предупреждение от ядерных технологий
Хотя ядерная энергия более чем в 600 раз безопаснее нефти с точки зрения смертности и чрезвычайно эффективна, лишь немногие страны прибегают к ней из-за последствий, которые они наблюдают из-за давнего подхода к ядерной энергетике.
Мир знает о ядерных технологиях в виде атомных и водородных бомб. С помощью этого оружия люди впервые в истории разработали технологию, способную положить конец человеческой цивилизации — результату гонки вооружений, в которой скорость и инновации были важнее безопасности и контроля.
Последующие сбои в технической безопасности и управлении рисками, которые, как известно, стали причиной ядерных катастроф в Чернобыле и Фукусиме, уничтожили все шансы людей принять положительные аспекты ядерной энергии.
Несмотря на общую благоприятную оценку рисков ядерной энергетики и десятилетия попыток ученых убедить мир в ее жизнеспособности, само понятие «атомная энергетика» остается… испорченным.
Когда технология наносит вред на ранних стадиях, общественное восприятие и последующая чрезмерная реакция могут навсегда ограничить ее потенциальные преимущества. Из-за ранних ошибок в использовании ядерной энергии человечество не смогло воспользоваться преимуществами этого чистого и безопасного источника энергии, а углеродная нейтральность и энергетическая стабильность остаются малореалистичной мечтой.
Правильный подход к биотехнологии
Однако в некоторых областях людям удалось добиться успеха. Биотехнология — одна из таких областей, которая должна быстро развиваться в условиях, когда каждый день страдает множество пациентов и умирает множество людей из-за болезней, от которых нет лечения.
Целью данного исследования является не «быстрое движение и разрушение», а максимально быстрое и безопасное внедрение инноваций. Люди ограничивают темпы инноваций в этой области с помощью системы правил, этики и норм, которые защищают благосостояние общества и отдельных лиц, одновременно защищая отрасль от паралича из-за негативных реакций, которые могут привести к катастрофе.
Когда во время Холодной войны биологическое оружие было запрещено Конвенцией о биологическом оружии, противоборствующие сверхдержавы согласились, что создание такого оружия не отвечает ничьим интересам. Лидеры осознали, что эти трудноконтролируемые, но легкодоступные технологии следует рассматривать не как механизм для победы в гонке вооружений, а как угрозу самому человечеству.
| Эмилия Яворски — одна из ученых, недавно подписавших открытое письмо с призывом приостановить разработку ИИ на шесть месяцев. Она также подписала заявление, в котором предупреждает, что ИИ представляет «риск вымирания» для человечества. |
Пауза в гонке за биологическое оружие позволяет человечеству развивать его в ответственном темпе. Ученые и регулирующие органы применяют строгие стандарты к любым инновациям, которые могут нанести вред человеку.
Эти изменения не обошлись без затрат, но привели к созданию биоэкономики, имеющей множество применений в различных областях: от чистой энергии до сельского хозяйства.
Во время пандемии COVID-19 биологи применили технологию мРНК для производства эффективных вакцин с беспрецедентной в истории человечества скоростью.
Недавний опрос исследователей ИИ показал, что 36% респондентов считают, что ИИ может стать причиной катастрофы ядерного масштаба. Однако реакция правительства и его корректировки были медленными. Такие темпы не соответствуют темпам внедрения технологий: число пользователей приложения ChatGPT уже превысило 100 миллионов.
Стремительно растущие риски ИИ побудили 1800 генеральных директоров и 1500 профессоров в США недавно подписать письмо, призывающее к шестимесячной паузе в разработке ИИ и срочному процессу регулирования и снижения рисков. Эта пауза даст мировому сообществу время ограничить вред, наносимый ИИ, и предотвратить то, что может стать необратимой катастрофой для нашего общества.
Оценивая риски и потенциальный вред ИИ, мы также должны учитывать положительный потенциал этой технологии. Если мы сейчас ответственно подойдем к разработке ИИ, мы получим невероятные преимущества от этой технологии. Например, преимущества применения ИИ в поиске и разработке лекарств, повышении качества и стоимости здравоохранения, а также расширении доступа к врачам и лечению.
DeepMind от Google показал, что искусственный интеллект способен решать фундаментальные проблемы в биологии, которые люди долгое время избегали. Согласно исследованиям, ИИ может ускорить достижение всех Целей устойчивого развития ООН, приближая человечество к будущему, в котором будут улучшенное здоровье, равенство, процветание и мир.
Настал момент, когда мировому сообществу следует объединиться, как это было 50 лет назад на Конвенции о биологическом оружии, чтобы обеспечить безопасность и ответственность разработки ИИ. Если мы не начнем действовать как можно скорее, мы можем разрушить как светлое будущее с ИИ, так и наше нынешнее общество.
Источник
Комментарий (0)