Стремительное развитие искусственного интеллекта привлекает большое внимание во всем мире в целом и во Вьетнаме в частности. Эксперты считают ИИ важнейшим фактором 4-й промышленной революции, приносящим огромные и прорывные выгоды экономическому развитию страны. По прогнозам консалтинговой компании Exactitude Consultancy, по состоянию на февраль 2024 года объем мирового рынка ИИ для обеспечения безопасности, общественной и национальной безопасности вырастет с 11,43 млрд долларов США в 2023 году до 47,32 млрд долларов США в 2030 году.

Хотя ИИ широко применяется во многих областях, помимо таких преимуществ, как предоставление информации, интеллектуальное прогнозирование ситуаций, связанных с критической инфраструктурой, или своевременное прогнозирование кризисных ситуаций, эта технология также несет в себе множество рисков и проблем.

Все формы кибератак могут использовать ИИ

Риски и проблемы, которые искусственный интеллект представляет для общества, права и кибербезопасности, были особо отмечены на конференции и выставке Vietnam Cyber ​​Security Summit 2024 на тему «Безопасность в эпоху взрыва искусственного интеллекта», организованной Департаментом информационной безопасности (Министерство информации и коммуникаций) совместно с IEC под эгидой Министерства информации и коммуникаций 30 мая.

W-KIN_4888.JPG.jpg
На семинаре выступил г-н Нгуен Ань Туан, заместитель директора Национального центра данных о народонаселении Департамента административной полиции по поддержанию общественного порядка (Министерство общественной безопасности). Фото: Оргкомитет

По словам подполковника Нгуена Ань Туана, заместителя директора Национального центра данных о народонаселении Департамента административной полиции по вопросам общественного порядка (Министерство общественной безопасности), в социальном плане ИИ вызывает обеспокоенность по поводу нарушения конфиденциальности; ИИ используется для дискриминации по признаку расы, класса, пола, этнической принадлежности, что приводит к обострению конфликтов и противоречий; Предоставление ложной информации, подмена понятий, изменение истории, искажение истины, создание общественного замешательства, влияние на образование и культуру.

Как человек, работающий напрямую с данными, г-н Нгуен Туан Ань поделился: «Хотя вьетнамские министерства, департаменты и отделения разработали собственные источники данных для профессиональной работы, их синтез, использование и оценка по-прежнему имеют много ограничений, в частности, точность и полнота практически не гарантируются». Между тем, системы искусственного интеллекта работают хорошо только при наличии качественных входных данных. Если входные данные неверны или неточны, это приведет к неточным результатам анализа ИИ или к «дискриминационным» и несправедливым прогнозам.

Что касается законодательства и политики, то, согласно статистике legalnodes.com, около 33 стран разработали правовые документы по ИИ, но все еще ограничены и не имеют единого набора всеобъемлющих стандартов в области ИИ. Страны разделились на две школы: вносящие поправки в существующие законы и интегрирующие ИИ в каждую область; Выпустить комплексные правовые документы, регулирующие ИИ. Вьетнам находится на начальном этапе развития и не имеет конкретной политики, правовых документов или институтов, связанных с ИИ.

С точки зрения кибербезопасности, все формы кибератак сегодня могут использовать ИИ для повышения инициативы злоумышленника, нанося больший ущерб. Существуют такие формы атак, как с помощью вредоносных файлов, моделирования, фишинга, крупномасштабных атак типа «отказ в обслуживании», с помощью машинного обучения. В настоящее время, помимо системы Интернета, министерства, ведомства, филиалы и населенные пункты имеют свои собственные сети. Имели место атаки, несанкционированный доступ, и ИИ может быть использован для увеличения масштаба и уровня атак.

Использование ИИ для снижения рисков ИИ

Представитель Министерства общественной безопасности предложил три решения по минимизации рисков ИИ в ходе фактического управления и внедрения Национальной базы данных о населении.

Во-первых, необходимо оперативно завершить формирование правового коридора по ИИ, чтобы предвосхитить тенденции, выпустить документы, регулирующие этические аспекты процесса разработки, производства и применения ИИ, такие как защита конфиденциальности, персональных данных и прав человека отечественных и иностранных подразделений.

По словам г-на Нгуен Ань Туана, «во Вьетнаме действует Указ о защите персональных данных, но его практическое применение не отвечает требованиям по обеспечению безопасности и сохранности данных». Поэтому он предложил принять законы о данных или законы о защите персональных данных. Кроме того, должны быть разработаны более четкие правила в отношении преступлений, связанных с ИИ, и конкретные стандарты для платформ связи, обмена и совместного использования информации, связанной с ИИ.

Во-вторых, исследовать и применять проекты ИИ для борьбы с рисками, связанными с ИИ. ИИ создается людьми и является продуктом знаний, поэтому будут существовать вариации «хорошего ИИ» и «плохого ИИ». Чтобы предотвратить развитие ИИ, можно использовать сам ИИ.

В-третьих, развитие ИИ должно идти рука об руку с вопросами кибербезопасности и информационной безопасности, чтобы избежать атак и перехватов, которые могут иметь серьезные последствия. Уровень заботы об информационной безопасности подразделений недостаточен.

Департаменту административной полиции по обеспечению общественного порядка необходимо поддерживать безопасность систем, проводить хорошую подготовку, регулярно выполнять резервное копирование и восстановление данных, а также периодически организовывать учения по реагированию на инциденты, чтобы быть готовым противостоять преднамеренным атакам с использованием ИИ.

Усилить контроль и надзор за процессом подключения и обмена информацией с подразделениями для оперативного выявления необычного поведения и нарушений нормативных актов по защите персональных данных при использовании и обработке информации.

Наконец, создавайте и применяйте ИИ для мониторинга журналов, анализа сетевого трафика, объединяя машинное обучение и естественный язык для повышения точности при принятии решений по устранению неполадок.