VCCI: Regelungen zur Verantwortung von KI-Entwicklungsunternehmen sind nicht angemessen

DNVN – Laut VCCI kann die Entwicklung eines Systems künstlicher Intelligenz (KI) die Beteiligung vieler verschiedener Einheiten erfordern. Da sie nur einen Teil des KI-Systems übernehmen, sind diese Einheiten nicht in der Lage, die Risiken zu kontrollieren. Daher ist es unmöglich, den im Gesetzesentwurf zur Digitaltechnologiebranche enthaltenen Verpflichtungen nachzukommen.

Der Ausschuss für Wissenschaft, Technologie und Umwelt der Nationalversammlung bittet um Kommentare zum Gesetzesentwurf zur Digitaltechnologieindustrie (Entwurf).

Einer der bemerkenswerten Inhalte des Entwurfs ist die Verantwortung des Subjekts, das Systeme künstlicher Intelligenz (KI) entwickelt. Artikel 46.1 des Entwurfs legt die Verantwortlichkeiten von Unternehmen fest, die KI-Systeme entwickeln.

Der vietnamesische Handels- und Industrieverband (VCCI) ist jedoch auf Grundlage von Unternehmensmeinungen der Ansicht, dass diese Regelung nicht geeignet sei, da ihr Anwendungsbereich zu weit gefasst sei und viele verschiedene Themen abdecke.

Ein KI-System besteht aus vielen verschiedenen Komponenten, darunter: KI-Modell, Eingabedaten, Hardware (Rechenzentrum, Roboter), Benutzeroberfläche usw.

Die Entwicklung eines KI-Systems kann die Beteiligung vieler verschiedener Akteure erfordern. Da sie nur einen Teil des KI-Systems übernehmen, sind diese Einheiten nicht in der Lage, die Risiken zu kontrollieren. Eine Wahrnehmung der im Entwurf enthaltenen Aufgaben ist daher nicht möglich.

Erleben Sie KI-Anwendungen am Vietnam Artificial Intelligence Day 2023.

Beispielsweise ist ein Cloud-Computing-Dienstleister für ein KI-System nicht in der Lage, die Sicherheitsrisiken des KI-Systems einzuschätzen und zu erklären. Ebenso stellen Back-End-Dienstleister, wie etwa diejenigen, die Zugriff auf große Sprachmodelle (LLMs) gewähren, nur eine Komponente eines KI-Systems bereit und haben keine Kontrolle über das fertige Produkt. Daher wird diese Regelung für viele an der Systementwicklung beteiligte Stellen nicht umsetzbar sein.

Tatsächlich kontrolliert nur die für die Entwicklung des KI-Modells verantwortliche Stelle dieses Modell und ist in der Lage, diesen Verpflichtungen nachzukommen.

Aufgrund der obigen Analyse schlägt VCCI eine Änderung dahingehend vor, dass das Thema „KI-Modellentwickler“ lautet.

Artikel 46.1.b verpflichtet Entwickler von KI-Modellen dazu, für die Wahrung der Privatsphäre und personenbezogener Daten sowie für die umgehende Bearbeitung individueller Anfragen gemäß dem Gesetz zum Schutz personenbezogener Daten verantwortlich zu sein.

Laut VCCI ist diese Regelung für die derzeitige Art des Trainings von KI-Modellen nicht geeignet. Für ein Unternehmen, das ein KI-Modell unter Verwendung öffentlicher Daten im Internet entwickelt, ist es unmöglich, die Privatsphäre zu schützen und auf Anfragen nach persönlichen Informationen zu reagieren. Darüber hinaus wird derzeit ein Gesetz zum Schutz personenbezogener Daten ausgearbeitet, das voraussichtlich im Mai 2025 verabschiedet wird.

Um Überschneidungen zu vermeiden und die Durchführbarkeit der Regelung zu gefährden, schlägt VCCI daher vor, diese Regelung aufzuheben.

Bezüglich der Kennzeichnung KI-generierter Produkte verlangt Artikel 45 des Entwurfs, dass von KI-Systemen erzeugte Produkte über eindeutige Identifikationszeichen verfügen müssen. Diese Regelung erscheint ungeeignet, da die Gefahr besteht, dass sie obsolet wird, bevor sie in Kraft tritt.

Heutzutage verfügt die KI-basierte Produktkennzeichnungstechnologie über fortgeschrittene Entwicklungen, die eine Kennzeichnung in maschinenlesbaren Formaten ohne direkte menschliche Anzeige ermöglichen, wie etwa SynthID oder C2PA.

Um die Durchführbarkeit und „Lebenskraft“ der Verordnung sicherzustellen, schlug VCCI eine Änderung dahingehend vor, dass die Kennzeichnung von Technologien in einem maschinenlesbaren Format erfolgt und erkannt werden kann, ob sie von KI erzeugt oder manipuliert wurden.

„Die Digitaltechnologiebranche entwickelt sich extrem schnell und unterliegt ständigen Veränderungen. Zudem handelt es sich um eine komplexe technische Branche. Daher müssen die Regelungen im Entwurf flexibel gestaltet werden und den Merkmalen und der Art der Geschäftsmodelle in der Branche entsprechen, um die Durchführbarkeit zu gewährleisten und die Geschäftsentwicklung nicht zu behindern“, betonte VCCI.

Mondlicht

Quelle: https://doanhnghiepvn.vn/cong-nghe/vcci-quy-dinh-trach-nhiem-cua-chu-the-phat-trien-ai-chua-phu-hop/20250330090110651