FBI는 AI가 '강탈'과 괴롭힘에 사용되고 있다고 밝혔습니다.

FBI는 이번 주에 배포한 경고에서 최근 AI를 이용해 온라인 게시물, 개인 메시지 또는 영상 채팅에서 가져온 정상 이미지를 가짜 버전으로 편집했다는 협박 피해자가 증가하고 있다고 밝혔습니다.

스페인 경찰은 AI를 이용해 가짜 아동 포르노 이미지를 만든 프로그래머를 체포한 적이 있습니다. 사진: 데일리메일

"그런 다음 이미지는 협박이나 성희롱을 위해 악의적인 행위자에 의해 피해자에게 직접 전송됩니다. 일단 배포되면 피해자는 조작된 콘텐츠의 지속적인 공유를 방지하고 인터넷에서 제거하는 데 상당한 어려움에 직면할 수 있습니다." 경고문에서 이렇게 말했습니다.

이 기관은 사진이 "실제와 흡사하다"고 밝혔지만, 어떤 경우에는 어린이도 표적으로 삼았다고 밝혔습니다.

2월, 스페인 경찰은 AI를 사용하여 끔찍한 아동 학대 이미지를 만든 컴퓨터 프로그래머를 체포했습니다. 이는 이런 종류의 체포 사례로는 최초인 것으로 여겨집니다.

FBI는 성적 이미지를 만드는 데 사용된 AI 프로그램에 대한 자세한 내용은 밝히지 않았지만, 기술적 발전으로 "AI 기반 콘텐츠 생성의 품질, 맞춤화 및 접근성이 지속적으로 향상되고 있다"고 언급했습니다.

일반 사진을 편집하여 에로틱한 이미지를 만드는 일은 사진 촬영 자체만큼이나 오래된 일이지만, 최근 오픈소스 AI 도구가 폭발적으로 늘어나면서 이 과정이 그 어느 때보다 쉬워졌습니다.

가짜 사진이나 영상은 실제 모습과 구별하기 힘든 경우가 많습니다. 사실, 최근 몇 년 사이에 AI 기반 성적 이미지를 만들고 교환하는 데 전념하는 웹사이트와 소셜 네트워크가 여러 개 생겨났습니다.

이는 인공지능이 사회에 초래할 수 있는 일련의 위험 중 하나로 여겨지며, 전문가들은 최근 이에 대해 우려하고 경고하고 있습니다.

황 안 (Daily Mail, Reuters에 따르면)

원천: https://www.congluan.vn/fbi-cho-biet-ai-dang-duoc-su-dung-de-tong-tien-va-quay-roi-post250849.html