로이터에 따르면, 메타의 글로벌 업무 담당 사장인 닉 클레그는 이 그룹이 파일 내에 통합된 일련의 마커를 사용할 것이라고 말했습니다. 이 회사는 Facebook, Instagram, Threads 서비스에 게시되는 모든 콘텐츠에 라벨을 적용할 예정이다. 이는 실제 사진처럼 보일 수 있는 이미지가 실제로는 인공 지능이 생성한 디지털 창작물이라는 사실을 사용자에게 알리기 위한 조치다. 이 회사는 또한 자체 AI 도구를 사용하여 생성된 콘텐츠에 라벨을 지정했습니다.
새 시스템이 구축되고 실행되면 Meta는 OpenAI, Microsoft, Adobe, Midjourney, Shutterstock, Alphabet의 서비스에서 생성된 이미지에도 동일한 작업을 수행할 예정입니다. 이 발표는 단순한 텍스트만으로 가짜 콘텐츠를 생성할 수 있는 생성적 AI로 인한 피해를 완화하기 위해 기술 회사들이 개발하고 있는 새로운 표준 세트에 대한 최초의 소식을 제공합니다.
AI가 생성한 이미지 라벨링은 잘못된 정보와 사기를 줄이는 데 도움이 됩니다.
이 접근 방식은 기업들이 대량 폭력 및 아동 착취 묘사와 같은 플랫폼에서 금지된 콘텐츠를 삭제하기 위해 지난 10년 동안 확립한 패턴을 기반으로 합니다.
클레그는 이 시점에서 기업들이 AI가 생성한 이미지에 안정적으로 레이블을 지정할 수 있을 것으로 생각하지만, 더 정교한 오디오 및 비디오 콘텐츠 레이블 지정 도구가 아직 개발 중이라고 언급했습니다.
가까운 미래에 Meta는 사용자에게 변경된 오디오 및 비디오 콘텐츠에 대한 라벨을 지정하도록 요구할 것이며, 이를 수행하지 않을 경우 페널티를 부과할 것입니다. 그러나 클레그는 현재로선 ChatGPT와 같은 AI 도구가 생성한 텍스트에 레이블을 지정할 수 있는 실행 가능한 메커니즘이 없다고 말했습니다.
메타의 독립 감독 위원회는 오해의 소지가 있는 방식으로 편집된 영상에 대한 회사 정책을 비판하며, 해당 영상에는 삭제하기보다는 라벨을 지정해야 한다고 밝혔습니다. 그래서 클레그는 메타의 새로운 움직임이 이 콘텐츠를 더 잘 분류하는 데 도움이 될 수 있다고 믿습니다.
[광고2]
소스 링크
댓글 (0)