ISIS와 알카에다 테러리스트들은 AI를 사용해 극단주의 선전을 퍼뜨린다

AI를 이용한 극단주의자들의 부상

지난해 동안 다양한 극단주의 감시 기관의 관찰자들은 IS와 다른 극단주의 단체가 추종자들에게 새로운 디지털 도구를 사용하도록 독려하고 있다고 보고했습니다.

2월, 알카에다와 연계된 한 단체가 온라인 AI 컨퍼런스를 개최한다고 발표했습니다. 이어 팀은 AI 챗봇을 사용하는 방법에 대한 가이드를 공개했다.

3월 IS 계열이 모스크바 극장에서 테러 공격을 감행해 135명 이상이 사망한 이후, 해당 단체의 추종자 중 한 명이 이 사건에 대한 가짜 뉴스 기사를 만들어 공격 후 4일 만에 게시했습니다.

이번 달 초, 스페인 내무부 경찰은 IS를 찬양하는 선전 자료를 공유한 혐의로 청년 9명을 체포했습니다. 한 주제는 "인공지능으로 구동되는 전문 편집 애플리케이션을 사용하여 극단적인 멀티미디어 콘텐츠"에 초점을 맞춘 것으로 설명됩니다.

런던에 있는 전략대화연구소(ISD)의 아프리카, 중동, 아시아 담당 상무이사인 무스타파 아야드는 "알카에다와 IS는 모두 공식 선전을 보완하기 위해 AI를 사용하고 있다"고 말했다. 이 연구소는 모든 형태의 극단주의를 연구한다.

그는 이러한 선전물이 게시되는 방식은 인기 있는 소셜 미디어 플랫폼의 콘텐츠 관리자에게 감지되지 않을 수도 있다고 덧붙였다.

극단주의 집단이 악의적인 목적으로 새로운 기술을 악용하는 사례가 점차 늘어나고 있습니다. 사진: 팀 굿

극단주의자들은 AI 기술을 가장 먼저 도입한 사람들 중 하나입니다.

극단주의 집단 ISIS가 처음 등장한 2014년경에는 적을 위협하고 추종자들을 모집하여 조직에 가입시키기 위해 상당히 높은 제작 가치를 지닌 선전 영상을 만들었습니다.

아야드는 "테러리스트 집단과 그 추종자들은 계속해서 자신들의 이익을 위해 기술을 일찍 도입하고 있다"고 지적했다.

감시 단체들은 극단주의 단체가 AI를 다양하게 활용하는 사례를 나열했습니다. 선전 외에도 ChatGPT와 같은 대규모 언어 모델의 챗봇을 사용하여 잠재적 신입 인력과 채팅할 수도 있습니다.

극단주의자들이 AI 도구를 사용하여 디지털 또는 사이버 공격을 실행하거나 실제 테러 공격을 계획하는 데 도움이 될 수 있다는 우려도 있습니다.

ISD의 아야드는 "외국 테러 조직과 그 지지자들이 AI를 사용하는 것이 무차별적인 민간인 살해와 보안군에 대한 공격을 포함한 선전 캠페인보다 더 위험한지 현재로서는 알 수 없다"고 말했다.

"지금 당장 더 큰 위협은 이런 집단들이 실제로 공격을 감행하고, 선전을 퍼뜨리거나 지정학적 맥락에서 새로운 구성원을 모집하는 것입니다. 특히 가자 전쟁이 그렇습니다."라고 그는 계속 말했습니다. "그들은 민간인 사망과 이스라엘의 행동을 모집 및 캠페인 구축 도구로 사용하고 있습니다."

Ngoc Anh (DW에 따르면)

출처: https://www.congluan.vn/khung-bo-is-va-al-qaeda-su-dung-ai-de-tuyen-truyen-chu-nghia-cuc-doan-post303035.html