인공지능(AI)에 대한 접근성이 높아지고 더 많은 개인과 기업이 일반적인 도구를 통해 AI를 활용함에 따라, 해커들은 공격을 자동화하고 운영 프로세스를 가속화하며 불법적인 목표를 달성하기 위해 더욱 정교한 캠페인을 전개할 수 있습니다.
카스퍼스키가 관찰한 공격 방식은 다음과 같습니다. ChatGPT는 악성코드를 개발하고 여러 피해자에게 자동으로 공격을 배포하는 데 사용될 수 있습니다. AI 프로그램은 스마트폰 사용자의 데이터에 침투하여 민감한 데이터를 분석함으로써 공격자가 피해자로부터 메시지, 비밀번호, 은행 계좌 정보 등을 완전히 탈취할 수 있습니다. 군집 지능 알고리즘은 보안 솔루션에 의해 제거된 악성 네트워크를 컴퓨터 네트워크가 자동으로 복구(보넷)하도록 돕습니다.
카스퍼스키의 AI를 이용한 비밀번호 해독 연구에 따르면 대부분의 비밀번호는 MD5 및 SHA와 같은 해싱 알고리즘을 사용하여 암호화됩니다. 따라서 간단한 연산으로 비밀번호를 암호화된 텍스트로 변환할 수 있지만, 전체 과정을 역으로 되돌리는 것은 상당한 어려움이 있습니다.
인공지능(AI)을 통해 악의적인 공격자는 텍스트, 이미지, 오디오, 비디오를 포함한 사기성 콘텐츠를 악용하여 비기술적인 공격을 감행할 수 있습니다. ChatGPT-4o와 같은 대규모 언어 모델을 활용하여 매우 정교한 피싱 시나리오와 메시지를 생성합니다. AI는 언어 장벽을 극복하고 소셜 미디어 정보만을 기반으로 진짜처럼 보이는 이메일을 작성할 수 있습니다. 심지어 피해자의 글쓰기 스타일까지 모방하여 사기를 더욱 탐지하기 어렵게 만듭니다.
한편, 딥페이크 기술은 이전에는 과학 연구의 산물로 여겨졌음에도 불구하고 사이버 보안 분야에서 "문제"로 대두되었습니다. 금전적 이득을 위해 유명인을 사칭하는 것이 가장 흔한 수법이며, 사기꾼들은 딥페이크를 이용해 계정을 도용하고 피해자의 친구나 친척에게 전화를 걸어 금전을 갈취하기도 합니다.
악의적인 행위자들은 불법적인 활동에 AI 기술을 악용하는 것 외에도 AI 알고리즘을 공격할 수 있습니다. 여기에는 악성 명령어를 대규모 언어 모델에 무단으로 주입하는 "프롬프트 인젝션" 공격이 포함되며, 이는 기존에 제한된 규칙을 위반하는 행위이기도 합니다. 또한, 이미지나 오디오에 숨겨진 정보 필드를 추가하여 머신러닝 시스템의 이미지 분류 능력을 저해하는 적대적 공격도 있습니다.
애플 인텔리전스, 구글 제미니, 마이크로소프트 코파일럿 등 인공지능(AI)은 인간 생활의 모든 영역에 점점 더 깊숙이 통합되고 있습니다. 따라서 AI 취약점을 해결하는 것은 최우선 과제입니다. 카스퍼스키는 오랜 기간 AI 기술을 활용하여 고객과 파트너를 보호해 왔으며, AI 시스템의 취약점을 지속적으로 탐색하여 복원력을 강화하고, 사이버 공격 기법을 적극적으로 연구하여 AI 기반 공격으로부터 안정적인 보호를 제공하고 있습니다.
김탄
[광고_2]
출처: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html
댓글 (0)