최근 몇 달 동안 아동 안전 전문가와 연구자들은 창의적인 AI가 온라인 학대를 심화시킬 수 있는 가능성에 대해 경고해 왔습니다.
메타 CEO 마크 주커버그가 2024년 1월 31일 미국 상원 사법위원회 청문회에서 AI가 생성한 이미지를 들고 있는 많은 참석자들 앞에서 연설하고 있습니다. 사진: 로이터
NCMEC는 2023년에 접수한 모든 출처에서 아동 학대 콘텐츠에 대한 신고 총 건수를 아직 공개하지 않았습니다. 하지만 2022년에는 이 문제에 대한 약 8,830만 개의 파일 신고를 접수했습니다.
NCMEC 부사장인 존 셰한은 "혁신적인 AI 기업, (온라인) 플랫폼, 그리고 일반 대중으로부터 보고를 받고 있습니다."라고 말했습니다.
Meta, X, TikTok, Snap, Discord의 CEO가 수요일(1월 31일) 미국 상원 청문회에서 온라인 플랫폼상의 아동 안전에 대해 증언했습니다. 미국 의원들은 소셜 미디어 기업들이 "온라인 포식자"로부터 어린이를 보호하기 위한 노력에 대해 의문을 제기했습니다.
스탠포드 인터넷 연구소의 연구원들은 작년 6월 보고서에서 생성 AI가 나쁜 행위자들이 가짜 이미지를 만들어 실제 어린이들에게 반복적으로 해를 끼칠 수 있다고 밝혔습니다.
온라인 아동 착취 신고를 접수하는 NCMEC의 CyberTipline 책임자인 Fallon McNulty는 AI가 생성한 콘텐츠가 "점점 더 사진처럼 사실적으로" 되어 피해자가 실제 사람인지 판단하기 어렵다고 말했습니다.
ChatGPT를 만든 회사인 OpenAI는 NCMEC에 보고서를 제출하는 프로세스를 설정했으며, 이 조직은 다른 AI 회사들과도 협상 중이라고 맥널티는 말했다.
황하이 (로이터, FT에 따르면)
[광고2]
원천
댓글 (0)