스페인에서 AI 콘텐츠에 라벨을 붙이지 않는 기업은 엄청난 벌금을 내야 합니다.

(CLO) 스페인 정부는 인공지능(AI)이 생성한 콘텐츠를 적절한 라벨 없이 사용하는 기업을 엄중히 처벌하는 새로운 법안을 통과시켰습니다.

오스카 로페즈 디지털 전환 장관은 이 법안이 고위험 AI 시스템에 대한 투명성을 요구하는 유럽연합(EU) AI법의 엄격한 규정을 따른 것이라고 말했습니다. 그는 AI가 삶의 질을 향상시키는 데 도움이 될 수 있지만, 잘못된 정보를 퍼뜨리는 데 악용될 수도 있다고 강조했습니다.

아직 하원의 승인을 받아야 하는 이 법안에 따르면, 스페인은 AI 콘텐츠 라벨링 위반을 "심각한 위반"으로 간주하여 위반 회사의 연간 글로벌 매출의 최대 3,500만 유로 또는 7%의 벌금을 부과할 수 있다고 규정하고 있습니다.

일러스트: GI

이러한 조치는 AI를 이용해 실제 콘텐츠로 착각될 수 있는 이미지, 비디오 또는 오디오인 딥페이크의 확산을 억제하는 것을 목표로 합니다.

이 법안은 딥페이크 외에도 AI를 이용해 취약 계층을 심리적으로 이용하는 등 잠재적인 조작 형태도 금지합니다. 로페즈 씨는 도박 중독자를 격려하는 챗봇이나 아이들이 위험한 도전에 도전하도록 격려하는 AI 장난감을 예로 들었습니다.

동시에 이 법안은 생체 데이터를 기반으로 사람들을 분류하고, 행동이나 개인적 특성을 평가하여 혜택을 제공하거나 범죄 위험을 예측하는 데 AI를 사용하는 것을 금지합니다. 그러나 정부는 국가 안보상의 이유로 여전히 공공장소에서 실시간 생체 감시를 적용할 수 있습니다.

새로운 규칙의 시행은 스페인의 AI 감시 기관(AESIA)에서 담당하지만, 데이터 개인정보 보호, 범죄, 선거, 신용 등급, 보험 등 특정 분야는 전담 기관에서 감독합니다.

스페인은 자발적인 준수와 주별 규제에 크게 의존하는 미국 방식과 달리 포괄적인 AI 규정을 시행한 최초의 EU 국가 중 하나입니다. 로페즈 씨는 가짜 콘텐츠가 점점 더 정교해짐에 따라 누구나 딥페이크의 희생자가 될 수 있다고 경고했습니다.

Ngoc Anh (로이터, Westlaw Today에 따르면)

출처: https://www.congluan.vn/tay-ban-nha-cac-cong-ty-bi-phat-nang-neu-khong-dan-nhan-noi-dung-ai-post338114.html