가자 전쟁 딥페이크 영상, AI에 대한 우려를 불러일으키다

[광고1]

온라인 플랫폼에서 수백만 번 조회된 이러한 이미지는 인공지능을 사용하여 만들어진 딥페이크 이미지입니다. 자세히 살펴보면 이상하게 구부러진 손가락이나 부자연스러운 빛으로 반짝이는 눈과 같은 징후가 보입니다.

하지만 이러한 딥페이크 이미지가 촉발한 분노는 현실입니다.

이스라엘-하마스 전쟁 사진은 실제와 같은 이미지를 만들어내는 선전 도구로 사용되는 AI의 위험성을 생생하고도 고통스럽게 보여줍니다.

지난달 전투가 시작된 이래, 소셜 미디어에 유포된 디지털 조작된 사진은 사상자에 대한 책임에 대해 거짓 주장을 하거나, 발생하지 않은 잔혹 행위에 대해 사람들을 오도하는 데 사용되었습니다.

가자 전쟁의 딥페이크 이미지가 새로운 우려를 불러일으킴 pic 1 — 팔레스타인인이 가자지구의 잔해 속에서 소지품을 주워 모으고 있다. AP 사진

기술의 발전은 점점 더 빈번하게 일어나고 있으며, 이에 대한 감독도 거의 이루어지지 않고 있습니다. 이를 통해 AI가 또 다른 형태의 무기가 될 위험이 명확해지고, 미래의 갈등, 선거 및 기타 주요 이벤트에서 어떤 일이 일어날지 미리 엿볼 수 있습니다.

샌프란시스코와 파리에 본사를 둔 기술 회사인 CREOpoint의 CEO인 장클로드 골든스타인은 "상황은 나아지기 전에 훨씬 더 악화될 것입니다."라고 말했습니다. CREOpoint는 AI를 사용하여 온라인 불만의 타당성을 평가합니다.

그의 회사는 가자지구에서 나오는 가장 인기 있는 딥페이크 이미지에 대한 데이터베이스를 편찬했습니다. 그는 "이미지, 비디오, 오디오: 창의적인 AI를 통해 이전에는 본 적이 없는 진전이 있을 것"이라고 말했습니다.

전쟁으로 인한 허위 정보를 추적하는 비영리 단체인 디지털 증오 대응 센터의 CEO인 임란 아메드는 그러한 이미지를 만드는 선전가들이 사람들의 가장 깊은 충동과 불안을 표적으로 삼는 데 능숙하다고 말했습니다.

이미지가 무섭다면, 사용자가 그 이미지를 기억하고 공유할 가능성이 높아지며, 의도치 않게 더 많은 잘못된 정보가 퍼질 수 있습니다. 비슷한 AI가 생성한 거짓 콘텐츠는 러시아-우크라이나 갈등 이후 실제로 널리 퍼지기 시작했습니다.

새로운 갈등이나 선거철이 올 때마다 허위 정보를 유포할 기회가 생긴다. 이로 인해 많은 AI 전문가와 정치학자들은 내년에 미국, 인도, 파키스탄, 우크라이나, 인도네시아, 멕시코 등 여러 국가에서 주요 선거가 치러질 때 위험을 경고하고 있습니다.

AI와 소셜 미디어가 미국 유권자들에게 거짓말을 퍼뜨리는 데 사용될 수 있다는 위험이 워싱턴의 양당 의원들을 경각심에 빠뜨렸습니다. 최근 딥페이크 기술의 위험성에 대한 청문회에서 버지니아주 민주당 소속인 미국 대표 게리 코놀리는 미국이 다른 AI에 대응하도록 설계된 AI 도구 개발에 투자해야 한다고 말했습니다.

버팔로 대학교 데이비드 도어만 교수는 AI가 생성하는 잘못된 정보로 인해 발생하는 정치적, 사회적 문제에 효과적으로 대응하려면 더 나은 기술과 더 나은 규제가 필요하다고 말했습니다.

마이 안 (AP에 따르면)

[광고2]
원천