(CLO) 스페인 정부는 인공지능(AI)이 생성한 콘텐츠를 적절한 라벨 없이 사용하는 기업을 엄중하게 처벌하는 새로운 법안을 통과시켰습니다.
오스카 로페즈 디지털 혁신 장관은 이 법안이 고위험 AI 시스템에 대한 투명성을 요구하는 유럽연합(EU) AI법의 엄격한 규정을 따른 것이라고 말했습니다. 그는 AI가 삶을 개선하는 데 도움이 될 수 있지만, 잘못된 정보를 퍼뜨리는 데 악용될 수도 있다고 강조했습니다.
아직 하원의 승인을 필요로 하는 이 법안에 따라 스페인은 AI 콘텐츠 라벨링 위반이 "심각한 위반"으로 간주될 수 있으며, 위반 회사의 연간 글로벌 매출의 최대 3,500만 유로 또는 7%의 벌금을 부과할 수 있다고 규정하고 있습니다.
일러스트: GI
이 조치는 AI를 사용해 실제 콘텐츠로 착각될 수 있는 이미지, 비디오 또는 오디오인 딥페이크의 확산을 억제하는 것을 목표로 합니다.
이 법안은 딥페이크 외에도 AI를 이용해 취약 계층을 심리적으로 이용하는 등의 잠재적인 조작 형태도 금지합니다. 로페즈 씨는 도박 중독자들을 격려하는 챗봇이나 아이들이 위험한 도전에 나서도록 격려하는 AI 장난감의 예를 들었습니다.
동시에 이 법안은 생체 데이터를 기반으로 사람을 분류하거나, 행동이나 개인적 특성을 평가하여 혜택을 제공하거나 범죄 위험을 예측하는 데 AI를 사용하는 것을 금지합니다. 그러나 정부는 국가 안보상의 이유로 여전히 공공장소에서 실시간 생체 인식 감시를 적용할 수 있습니다.
새로운 규칙의 시행은 스페인의 AI 감시 기관(AESIA)에서 담당하지만, 데이터 프라이버시, 범죄, 선거, 신용 평가, 보험 등 특정 분야는 전담 기관에서 감독합니다.
스페인은 자발적인 준수와 주별 규제에 크게 의존하는 미국의 접근 방식과 달리 포괄적인 AI 규정을 시행한 최초의 EU 국가 중 하나입니다. 로페즈 씨는 가짜 콘텐츠가 점점 더 정교해짐에 따라 누구나 딥페이크의 희생자가 될 수 있다고 경고했습니다.
Ngoc Anh (Reuters, Westlaw Today에 따르면)
[광고2]
출처: https://www.congluan.vn/tay-ban-nha-cac-cong-ty-bi-phat-nang-neu-khong-dan-nhan-noi-dung-ai-post338114.html
댓글 (0)