Страх, что ИИ станет «оружием» против людей

На церемонии вручения дипломов выпускникам Военно-воздушной академии США в начале августа президент США Байден предупредил о силе искусственного интеллекта (ИИ), предсказав, что эта технология может «превзойти человеческое мышление» в не столь отдаленном будущем. « Это будет нелегко. Это невероятная возможность, но нам предстоит проделать большую работу», — сказал Байден.

В недавнем интервью президент Microsoft Брэд Смит заявил, что без вмешательства человека ИИ может превратиться в оружие, угрожающее жизни: « Каждая появляющаяся технология может стать инструментом, помогающим людям, но она также может стать оружием. Нам нужно обеспечить, чтобы ИИ находился под контролем человека, чтобы мы могли замедлять или отключать процессы, когда это необходимо ».

В настоящее время Microsoft является одной из ведущих компаний в области разработки искусственного интеллекта и одним из первых инвестировала в OpenAI, «отца» ChatGPT. Компания потратила миллиарды долларов на исследование приложений ИИ, интегрируя эту передовую технологию в свои продукты, включая Bing — поисковую систему, похожую на Google Search. Активно продвигая преимущества ИИ, г-н Смит заявил, что Microsoft осознает потенциальные риски использования ИИ, и в то же время призывает другие компании «поступать правильно».

Будет ли ИИ хорош или плох, зависит от того, как люди будут контролировать эту технологию.

Искусственный интеллект применяется не только в сфере повседневных коммунальных услуг, но и стал мощным инструментом в сфере кибербезопасности. Появление ChatGPT в ноябре 2022 года стало предметом дебатов об ИИ, показав ощутимое влияние технологии нейронных сетей и раскрыв потенциал ИИ в плане революционных преобразований в отраслях по всему миру.

Одной из тем для обсуждения вокруг ChatGPT является то, как киберпреступники используют эту технологию для усиления фишинговых и вредоносных атак. Фактически, исследования показали, что хакеры могут использовать этот инструмент для генерации вредоносного кода из отдельных запросов с целью обхода правил безопасности.

На недавней ежегодной Неделе кибербезопасности в Индонезии компания Kaspersky, занимающаяся безопасностью, представила концепцию кибериммунитета — способа разработки ИТ-систем с внутренними возможностями защиты.

« Cyber Immunity представляет собой систему безопасности, разработанную для обеспечения безопасности, способную создать решение, которое практически невозможно взломать, минимизируя количество потенциальных уязвимостей», — сказал Евгений Касперский, генеральный директор Kaspersky. «Традиционной кибербезопасности уже недостаточно. Нам нужно революционизировать нашу защиту, чтобы обеспечить более безопасный цифровой мир».

В настоящее время Азиатско-Тихоокеанский регион находится на переднем крае революции в области искусственного интеллекта. Недавнее исследование IDC показало, что расходы на ИИ в регионе удвоятся за три года: с 9,8 млрд долларов в 2023 году до 18,6 млрд долларов в 2026 году. Чтобы повысить эффективность и снизить зависимость от технологий, большинство местных предприятий стремятся включить ИИ в свои портфели бизнес-технологий в течение трех лет. В настоящее время объем рынка ИИ в Азиатско-Тихоокеанском регионе составляет 22,1 млрд долларов США и, как ожидается, к 2028 году вырастет почти в четыре раза, достигнув 87,6 млрд долларов США.

В отчете IDC подчеркивается, что Китай, Австралия и Индия входят в тройку стран-лидеров по расходам на ИИ в регионе, а за ними следуют и многие другие. « Это позволило нам наметить безопасный путь вперед, гарантируя, что мы сможем воспользоваться преимуществами этой технологии без ущерба для безопасности », — добавил Адриан Хиа, управляющий директор Kaspersky APAC.

Кхань Линь

Источник