VCCI: AI 개발 주체의 책임에 대한 규정은 적절하지 않다

DNVN - VCCI에 따르면, 인공지능(AI) 시스템을 개발하려면 다양한 기관의 참여가 필요할 수 있습니다. 이러한 기관은 AI 시스템의 일부만 담당하기 때문에 위험을 통제할 수 없습니다. 따라서 디지털기술산업법 초안에서 규정한 책임을 이행하는 것은 불가능합니다.

국회 과학기술환경위원회가 디지털기술산업법안(안)에 대한 의견을 모으고 있다.

초안에서 주목할 만한 내용 중 하나는 인공지능(AI) 시스템을 개발하는 주체의 책임이다. 초안의 제46.1조에서는 AI 시스템을 개발하는 기관의 책임을 명시하고 있습니다.

그러나 베트남 상공연합(VCCI)은 기업의 의견을 토대로 이 규정이 적용 범위가 너무 광범위하여 다양한 주제를 다루고 있어 적합하지 않다고 생각합니다.

AI 시스템은 AI 모델, 입력 데이터, 하드웨어(데이터 센터, 로봇), 사용자 인터페이스 등 다양한 구성 요소로 구성됩니다.

AI 시스템을 개발하려면 다양한 관계자의 참여가 필요할 수 있습니다. 이러한 기관은 AI 시스템의 일부만 담당하기 때문에 위험을 통제할 수 없습니다. 따라서 초안상의 책임을 이행하는 것은 불가능하다.

2023년 베트남 인공지능의 날에서 AI 응용 프로그램을 경험해보세요.

예를 들어, AI 시스템을 위한 클라우드 컴퓨팅 서비스 제공자는 AI 시스템의 안전 위험을 평가하고 설명할 수 없습니다. 마찬가지로, 대규모 언어 모델(LLM)에 대한 액세스를 제공하는 백엔드 서비스 제공자는 AI 시스템의 한 구성 요소만 제공하며 완성된 제품을 제어할 수 없습니다. 따라서 이 규정은 시스템 개발에 참여하는 많은 기관에는 적용되지 않을 것입니다.

실제로, AI 모델을 개발하는 책임이 있는 기관만이 이 모델을 제어하고 이러한 의무를 이행할 수 있습니다.

위 분석을 토대로, VCCI는 주제를 'AI 모델 개발자'로 수정하는 것을 제안합니다.

제46조 제1항 제b호는 AI 모델 개발자가 개인정보 보호법에 따라 개인정보의 비밀 유지 및 개인정보 보호 의무를 보장하고, 개인의 요청을 신속하게 해결할 책임을 지도록 규정하고 있습니다.

VCCI에 따르면, 이 규정은 현재의 AI 모델 훈련 방식에는 적합하지 않습니다. 인터넷상의 공공 데이터를 활용해 AI 모델을 개발하는 기업의 경우, 개인 정보를 보호하고 개인정보 제공 요청에 대응하는 것은 불가능합니다. 또한 개인정보보호법도 초안화되어 2025년 5월에 통과될 예정입니다.

따라서 규정의 중복과 실행 가능성을 피하기 위해 VCCI는 이 규정을 철폐할 것을 제안합니다.

AI가 생성한 제품의 표시와 관련하여, 초안의 제45조는 AI 시스템이 생성한 제품에는 명확한 식별 표시가 있어야 한다고 규정하고 있습니다. 이 규정은 시행되기도 전에 쓸모없게 될 위험이 있으므로 부적절해 보인다.

오늘날 AI가 생성하는 제품 라벨링 기술은 SynthID나 C2PA와 같이 사람이 직접 표시하지 않고도 기계가 읽을 수 있는 형식으로 라벨을 부착할 수 있는 수준으로 발전했습니다.

규정의 실행 가능성과 "활력"을 보장하기 위해 VCCI는 기술 라벨링이 기계가 읽을 수 있는 형식으로 이루어지고 AI에 의해 생성되거나 방해를 받는 것으로 감지될 수 있도록 하는 방향으로 개정을 제안했습니다.

"디지털 기술 산업은 끊임없이 변화하면서 매우 빠르게 발전하고 있으며, 복잡한 기술 산업이기도 합니다. 따라서 초안의 규정은 산업 내 비즈니스 모델의 특성과 본질에 맞게 유연하게 구축되어 실행 가능성을 보장하고 사업 발전을 방해하지 않아야 합니다." VCCI는 강조했습니다.

월광

출처: https://doanhnghiepvn.vn/cong-nghe/vcci-quy-dinh-trach-nhiem-cua-chu-the-phat-trien-ai-chua-phu-hop/20250330090110651