ISIS와 알카에다 테러리스트들은 AI를 이용해 극단주의 선전을 퍼뜨린다

AI를 이용한 극단주의자들의 부상

지난해 다양한 극단주의 감시 기관의 관찰자들은 IS와 다른 극단주의 단체가 추종자들에게 새로운 디지털 도구를 사용하도록 독려하고 있다고 보고했습니다.

2월, 알카에다와 연계된 한 단체가 온라인 AI 컨퍼런스를 개최한다고 발표했습니다. 이후 해당 팀은 AI 챗봇을 사용하는 방법에 대한 가이드를 공개했습니다.

3월, IS 계열이 모스크바 극장에서 테러 공격을 감행해 135명 이상이 사망한 후, 해당 단체의 추종자 중 한 명이 이 사건에 대한 가짜 뉴스 기사를 만들어 공격 4일 후에 게시했습니다.

이번 달 초, 스페인 내무부 공무원들은 IS를 칭찬하는 선전 자료를 공유한 혐의로 청년 9명을 체포했습니다. 한 주제는 "인공지능으로 구동되는 특수 편집 애플리케이션을 사용하여 극단적인 멀티미디어 콘텐츠"에 초점을 맞춘 것으로 설명됩니다.

런던에 있는 전략대화연구소(ISD)의 아프리카, 중동, 아시아 담당 대표이사인 무스타파 아야드는 "알카에다와 IS는 모두 공식 선전을 보완하는 수단으로 AI를 활용하고 있다"고 말했다. ISD는 모든 형태의 극단주의를 연구하는 연구소다.

그는 이러한 선전물이 게시되는 방식은 인기 있는 소셜 미디어 플랫폼의 콘텐츠 관리자에게 감지되지 않을 수도 있다고 덧붙였다.

극단주의 단체들은 악의적인 목적으로 새로운 기술을 점점 더 많이 이용하고 있습니다. 사진: 팀 굿

극단주의자들은 AI 기술을 가장 먼저 도입한 사람들 중 하나입니다.

극단주의 단체 ISIS가 처음 등장한 2014년경, 그들은 적을 위협하고 추종자들을 조직원으로 모집하기 위해 상당히 높은 제작 가치를 지닌 선전 영상을 만들었습니다.

아야드는 "테러 집단과 그 추종자들은 자신들의 이익을 위해 기술을 일찍부터 도입하고 있다"고 지적했다.

감시 단체들은 극단주의 단체가 AI를 다양하게 활용하는 사례를 나열했습니다. 선전 외에도 ChatGPT와 같은 대규모 언어 모델의 챗봇을 사용하여 잠재적 신입사원과 채팅할 수도 있습니다.

극단주의자들이 AI 도구를 사용해 디지털 또는 사이버 공격을 수행하거나 실제 테러 공격을 계획할 수 있다는 우려도 있습니다.

ISD의 아야드는 "외국 테러 조직과 그 지지자들이 AI를 사용하는 것이 무차별적인 민간인 살해와 보안군에 대한 공격을 수반하는 선전 캠페인보다 더 위험한지 여부는 현재로서는 알 수 없다"고 말했다.

그는 "지금 더 큰 위협은 이들 단체가 실제로 공격을 감행하고, 선전을 퍼뜨리거나 지정학적 맥락에서 새로운 구성원을 모집하는 것입니다. 특히 가자 전쟁이 그렇습니다."라고 덧붙였다. "그들은 민간인 사망과 이스라엘의 행위를 모집하고 캠페인을 구축하는 도구로 이용하고 있습니다."

Ngoc Anh (DW에 따르면)

출처: https://www.congluan.vn/khung-bo-is-va-al-qaeda-su-dung-ai-de-tuyen-truyen-chu-nghia-cuc-doan-post303035.html