의원들은 2026년부터 적용될 계획으로, 내년 초에 절차를 마무리하기 위해 향후 몇 주 동안 세부 규정에 대한 논의를 계속할 예정입니다.
그때까지 기업은 규칙의 주요 의무를 이행하기 위해 자발적인 AI 협정에 가입하는 것이 권장됩니다.
EU가 합의한 협정의 주요 내용은 다음과 같습니다.
고위험 시스템
건강, 안전, 기본권, 환경, 민주주의, 선거 및 법치주의에 심각한 피해를 입힐 가능성이 있다고 간주되는 소위 고위험 AI 시스템은 기본권 및 EU 시장 접근 의무에 대한 영향 평가를 거치는 등 다양한 요구 사항을 준수해야 합니다.
반면, 저위험 시스템은 사용자가 사용을 고려할 수 있도록 AI가 생성한 콘텐츠에 라벨을 지정하는 등 더 가벼운 투명성 의무를 준수해야 합니다.
법 집행의 AI
법 집행 기관은 납치, 인신매매, 성적 착취의 피해자를 식별하고 특정하고 임박한 테러 위협을 예방하기 위해서만 공공 장소에서 실시간 원격 생체 인식 시스템을 사용할 수 있습니다.
당국은 또한 AI 기술을 사용하여 테러, 인신매매, 성착취, 살인, 납치, 강간, 강도, 범죄 조직 가담 및 환경 범죄의 용의자를 추적할 수 있도록 허용될 것입니다.
일반 및 플랫폼 AI(GPAI) 시스템
GPAI와 기반 모델은 기술 문서 작성, EU 저작권법 준수, 알고리즘 학습에 사용된 콘텐츠에 대한 자세한 요약 공개와 같은 투명성 요구 사항을 준수해야 합니다.
시스템적 위험과 큰 영향의 GPAI를 잠재적으로 발생시킬 수 있는 범주에 속하는 플랫폼 모델은 일반적인 모델 평가를 실시하고, 위험을 검토하고 완화하고, 역엔지니어링 테스트를 실시하고, 심각한 사고에 대해 유럽 위원회에 통보하고, 사이버보안을 보장하고, 에너지 소비에 대해 보고해야 합니다.
EU의 조화된 표준이 발표될 때까지 GPAIs는 규정을 준수하기 위해 실무 강령에만 의존할 경우 체계적인 위험에 노출됩니다.
AI 시스템은 금지됩니다
금지된 행위 및 내용은 다음과 같습니다. 정치, 종교, 철학적 신념, 성적 지향, 인종 등의 민감한 특징을 사용하는 생체 인식 분류 시스템.
인터넷이나 CCTV 영상에서 얼굴 이미지를 비대상으로 스캔하여 얼굴 인식 데이터베이스를 구축합니다.
직장 및 교육 환경에서의 감정 인식
사회적 점수는 사회적 행동이나 개인적 특성에 따라 결정됩니다.
AI 시스템은 인간의 행동을 조작하여 자유 의지를 파괴합니다.
AI는 인간의 나이, 장애, 경제적, 사회적 상황 등 약점을 악용하는 데 사용됩니다.
제재
위반 사항과 관련 회사의 규모에 따라 벌금은 750만 유로(800만 달러) 또는 연간 전 세계 매출의 1.5%에서 시작해, 최대 3,500만 유로 또는 전 세계 매출의 7%까지 증가합니다.
(로이터에 따르면)
EU, 인공지능 규제 위한 역사적 합의 달성
EU, 스마트기기보호법 합의
EU, 기술 대기업에 강경 대응, 위반 기업 해체 위협
[광고2]
원천
댓글 (0)