KI-Technologie birgt viele Risiken für Kinder im Internet

DNVN – Herr Do Duong Hien, ein Experte von ChildFund Vietnam, sagte, dass KI viele Vorteile mit sich bringe, aber auch viele potenzielle Risiken für Kinder im Internet berge.

Bei einem Workshop zum Thema „Förderung der Zusammenarbeit beim Schutz von Kindern im Online-Umfeld“, der von der Vietnam Information Security Association in Zusammenarbeit mit der Abteilung für Informationssicherheit (Ministerium für Information und Kommunikation) am 21. November in Hanoi organisiert wurde, sagten Experten, dass angesichts der starken Entwicklung digitaler Technologien und ihrer Entwicklung zu einem unverzichtbaren Arbeits- und Unterhaltungsinstrument im täglichen Leben eines jeden Menschen auch die Risiken für die Informationssicherheit und den Datenschutz zunehmen.

Für Kinder werden diese Gefahren und Risiken noch deutlicher, wenn sie nicht über ausreichende Fähigkeiten verfügen, sie zu erkennen und ihnen vorzubeugen. Dies sind nicht nur Herausforderungen für Vietnam, sondern auch für viele andere Länder der Welt. Daher sind der Schutz von Kindern und die Verbesserung der Zusammenarbeit und Konnektivität im Cyberspace zum Schutz und zur Stärkung der Kinder auch weltweite Themen.

Herr Dang Vu Son – Vizepräsident von VNISA.

Herr Dang Vu Son, Vizepräsident der VNISA und ehemaliger Vorsitzender des Government Cipher Committee, sagte: „In diesem Zusammenhang hat das Programm „Schutz und Unterstützung von Kindern bei der gesunden und kreativen Interaktion in der Online-Umgebung im Zeitraum 2021–2025“ eine treibende Kraft zur Förderung der aktiven Teilnahme von staatlichen Stellen, sozialen Organisationen und Unternehmen geschaffen.“ In der Praxis gibt es jedoch noch immer Einschränkungen bei der Verbindung und Koordination zwischen den relevanten Parteien, was die Wirksamkeit der Kinderschutzarbeit im Cyberspace erheblich beeinträchtigt.

Laut Herrn Son hat sich VNISA verpflichtet, staatliche Verwaltungsbehörden, internationale Organisationen und Unternehmen bei der Umsetzung von Initiativen zum Schutz von Kindern im Online-Umfeld zu unterstützen. In jüngster Zeit hat der Verein zahlreiche Aktivitäten durchgeführt.

„Wir glauben, dass Vernetzung und Zusammenarbeit der Schlüssel zur Lösung von Herausforderungen und zu einem effizienteren Schutz von Kindern im Cyberspace sind. VNISA wird seine Bemühungen fortsetzen und eng mit in- und ausländischen Partnern zusammenarbeiten, um eine wirklich sichere und nachhaltige Cyberumgebung für die junge Generation zu schaffen“, fügte Herr Dang Vu Son hinzu.

Herr Do Duong Hien, Experte von ChildFund Vietnam, sprach über die Auswirkungen künstlicher Intelligenz (KI) auf Kinder im Internet und sagte, dass sich KI stark entwickle und Vorteile bringe, aber auch viele potenzielle Risiken für Kinder im Internet berge.

„KI fördert die Kreativität und Eigeninitiative von Kindern. Generative KI kann Kindern kreative Werkzeuge an die Hand geben, mit denen sie sich durch Komposition, Kunst und Musik ausdrücken können. KI kann Kindern helfen, neue Bereiche zu erkunden und kennenzulernen und so ihr Wissen und ihre Fähigkeiten zu erweitern“, erwähnte Herr Hien, warnte aber auch vor den Nachteilen: „Das Problem ist die Produktion unangemessener Inhalte. KI-Tools/Algorithmen von Plattformanbietern können altersunangemessene und schädliche Inhalte bereitstellen. Darüber hinaus kann generative KI dazu genutzt werden, Fehlinformationen oder Fake News zu verbreiten, die die Wahrnehmung und das Verhalten von Kindern sowie ihre Entwicklung beeinträchtigen.“

Allerdings kann KI auch als Instrument zum Schutz von Kindern und zur Überwachung von Online-Inhalten eine Rolle spielen. KI ist in der Lage, schädliche oder unangemessene Inhalte in sozialen Medien und auf Internetplattformen schnell zu erkennen, zu entfernen und davor zu warnen. Erkennen und Melden von Material zum sexuellen Missbrauch von Kindern (CSAM): Anwendungen und Software, die das Erkennen von CSAM-Dokumenten und -Inhalten sowie das Melden oder Blockieren direkt auf dem System unterstützen. KI-Tools können dabei helfen, gewalttätiges Verhalten zu erkennen.

Herr Ngo Tuan Anh, Vizepräsident von VNISA, Vorsitzender des VCSC Clubs (dritter von rechts).

Ngo Tuan Anh, Vizepräsident der VNISA und Vorsitzender des VCSC Clubs, sagte zu den aktuellen Maßnahmen zum Online-Kinderschutz: „Der im Juni 2024 veröffentlichte Basisstandard TCCS:03 VNISA ist ein wichtiger Meilenstein zur Förderung des Ökosystems von Produkten und Dienstleistungen zum Online-Kinderschutz. Dieser Standard trägt auch zur Bewertung der Qualität von Produkten und Dienstleistungen zum Online-Kinderschutz bei und gibt Nutzern und Eltern mehr Sicherheit bei der Auswahl von Produkten und Dienstleistungen. Dies schafft die Voraussetzung dafür, Unternehmen, Organisationen und eine große Zahl von Nutzern zu ermutigen, sich gemeinsam für den Schutz ihrer Kinder vor Gefahren und Risiken im Cyberspace einzusetzen.“

Frau Phan Thi Kim Lien, Leiterin des Kinderschutz- und Kinderbeteiligungsprogramms von World Vision International in Vietnam, erklärte, dass die digitale Umgebung unzählige Chancen und Risiken für die Entwicklung von Kindern mit sich bringe. In Vietnam nutzen 9 von 10 Kindern das Internet. Im Bemühen, eine sichere und effektive Online-Umgebung für Kinder zu schaffen, konzentriert sich World Vision International in Vietnam auf ein umfassendes Bildungsprogramm für digitale Fähigkeiten, damit Kinder lernen, sich selbst zu schützen, das Internet kreativ zu nutzen und proaktiv eine sichere und effektive Internet-Umgebung aufzubauen.

Nguyen Duc

Quelle: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281