Эксперты предупреждают о рисках искусственного интеллекта для детей

Чтобы минимизировать риски воздействия искусственного интеллекта на детей, не обязательно запрещать детям его использовать, но, что наиболее важно, необходимо обучать детей, повышать их осведомленность о рисках и защищать себя в онлайн-среде.

Г-жа Дин Тхи Нху Хоа отметила, что приложения, использующие искусственный интеллект (ИИ), становятся все более популярными и оказывают значительное влияние на детей. (Фото: NVCC)

Такое мнение высказала г-жа Дин Тхи Нху Хоа, руководитель отдела инспекций Вьетнамского центра реагирования на чрезвычайные ситуации в киберпространстве (VNCERT/CC) Департамента информационной безопасности Министерства информации и коммуникаций Вьетнама в интервью газете The World and Vietnam о рисках и решениях по защите детей от воздействия искусственного интеллекта.

Множество рисков, когда дети зависят от ИИ

В последнее время все большую популярность приобретают приложения, интегрирующие искусственный интеллект (ИИ). Дети являются одной из наиболее уязвимых групп для инструментов ИИ. Есть ли у вас какие-либо предупреждения по этому поводу?

В настоящее время приложения, интегрирующие искусственный интеллект (ИИ), становятся все более популярными, их используют и распространяют многие люди. Типичными из них являются приложения для редактирования фотографий, чат-приложения (чат-боты)... Однако многие забывают, что объектами, которым инструменты ИИ могут нанести вред, что может иметь долгосрочные последствия, являются дети. Дети всех возрастов имеют легкий доступ к инструментам ИИ, но эти инструменты не требуют никаких обязательств перед использованием.

Сегодня дети имеют легкий доступ к инструментам ИИ, но для их использования практически нет никаких требований. Как вы думаете, каким рискам подвергаются дети?

По данным статистики, процент детей в возрасте от 12 до 17 лет, пользующихся Интернетом, очень высок: 93% в городской местности и 88% в сельской местности. В частности, 98% детей выходят в интернет через смартфоны.

По моему мнению, существует ряд рисков воздействия ИИ на детей. Во-первых , риск доступа к ненадлежащей информации. Благодаря информации из интегрированных с ИИ приложений, таких как ChatGPT, пользователи получают информацию, агрегированную из многих источников в Интернете. Он содержит как точную, так и неточную информацию. Даже эта информация не выбирается, не оценивается и не фильтруется в соответствии с возрастом пользователя. В результате поисковые запросы могут отображать вводящую в заблуждение информацию, неприемлемый или жестокий контент.

Во-вторых , риск утечки конфиденциальной информации и личной информации детей. Дети случайно делятся личной информацией в Интернете и легко становятся жертвами незаконного вторжения в данные при использовании приложений для редактирования фотографий и чат-приложений (чат-ботов).

Вторник , соблазняй, соблазняй участвовать в опасных испытаниях. На самом деле, были зафиксированы тревожные случаи, когда девочки-подростки обращались к ChatGPT за медицинской информацией и планами диеты. ИИ может быстро предоставить информацию с подробными планами и конкретными советами. Однако эта информация не ссылается ни на какие фактические данные и представляет собой просто случайную информацию, собранную из Интернета.

В то же время, подвергаясь воздействию чат-ботов с самого раннего возраста, дети будут ошибочно воспринимать искусственный интеллект за настоящего друга и действовать, следуя советам ИИ. Между тем, эти советы могут содержать предвзятый, неточный, вредоносный или вводящий в заблуждение контент.

Среда, влияние на психологию, физиологию и поведение детей. С помощью инструментов искусственного интеллекта пользователи могут найти информацию по любой теме, задав всего один вопрос. Чат-боты на основе искусственного интеллекта упростили навигацию по информации, избавив от необходимости открывать десятки различных веб-сайтов и читать бесчисленные статьи для сбора информации.

Таким образом, чрезмерное взаимодействие с технологиями может привести к депрессии, тревожности или потере социальных навыков из-за все меньшего и меньшего взаимодействия с другими людьми. Кроме того, чрезмерная зависимость детей от ИИ снижает их способность учиться и работать проактивно.

Чрезмерная зависимость детей от искусственного интеллекта снижает их способность учиться и действовать проактивно. (Источник: Интернет)

Помогите детям вести себя вежливо и доброжелательно в Интернете

Какое, по вашему мнению, является наиболее устойчивым решением для минимизации последствий применения инструментов ИИ для детей?

По данным отчета ЮНИСЕФ за 2022 год, 23% детей заявили, что иногда случайно видят в Интернете рекламируемые изображения или видеоролики деликатного характера. На самом деле порнография повсюду, поэтому блокировка порносайтов недостаточна и неэффективна. Детям необходим мощный и эффективный инструмент фильтрации онлайн-контента, который поможет им избежать воздействия негативной, токсичной информации.

Чтобы минимизировать риски воздействия ИИ на детей, не обязательно запрещать детям его использовать, но, что наиболее важно, необходимо обучать детей, повышать их осведомленность, чтобы они могли распознавать риски и защищать себя в онлайн-среде. По моему мнению, существуют некоторые принципы, которые помогут детям оставаться в безопасности в Интернете. Это принципы 4Т: Соблюдение правил — Интеллект — Осторожность и Доброта.

Во-первых, соблюдайте правила пользования Интернетом, установленные поставщиком услуг и самой школой. Соблюдение правовых норм, таких как соблюдение требований сообщества, некоторыми приложениями ИИ не предназначено для детей младше 13 лет.

Во-вторых, вооружитесь знаниями и навыками для участия в интеллектуальной сетевой среде, такими как навыки предоставления личной информации в сетевой среде, навыки безопасного использования социальных сетей и управления паролями для обеспечения безопасности.

В-третьих, будьте осторожны со своими друзьями в сети, поскольку среди них могут быть люди, притворяющиеся, что хотят с вами познакомиться; будьте осторожны, переходя по странным ссылкам; будьте осторожны, сталкиваясь с невероятно заманчивыми предложениями; будьте осторожны, предоставляя информацию в сети, в том числе в чатах... чтобы свести к минимуму риски, связанные с мошенничеством в сети. Наконец, необходимо вести себя в сети вежливо и доброжелательно, не отправлять и не отвечать на сообщения с негативным содержанием или оскорбительные для других.

Каким образом родители должны выступать в роли «привратников» своих детей в киберпространстве?

Родители могут применять некоторые технологические инструменты, чтобы помочь заблокировать неподходящую для детей информацию, например, Cyberpurify kid, safe gate family, BKAV safe kid, mobile guard for kid, safe zone, ...

Кроме того, родителям необходимо установить правила использования компьютеров и сетевых устройств для своих детей. Правила различны для каждого возраста. Разрешайте детям пользоваться социальными сетями только тогда, когда они достаточно взрослые, чтобы делать это в соответствии с рекомендуемыми правилами сообщества платформ социальных сетей.

В частности, родители всегда проявляют интерес и внимательно отслеживают онлайн-контент, к которому их дети получают доступ в киберпространстве. Предоставлять решения по обеспечению информационной безопасности для семей, такие как антивирусное и антивредоносное программное обеспечение, решения для блокировки вредоносной информации, продукты для мониторинга и блокировки вредоносной информации при доступе к ней детей.

Спасибо!

Вьетнам и другие страны АСЕАН договорились принять Декларацию о защите детей от всех форм эксплуатации и насилия в Интернете в АСЕАН в 2019 году, а затем в 2021 году приняли Декларацию об искоренении травли в АСЕАН, включая онлайн-травлю.

Источник