ChatGPT와 같은 인공지능(AI)은 2023년 초부터 전 세계적으로 화제가 되고 있지만, 이 AI가 항상 긍정적인 목적으로 사용되는 것은 아닙니다. 최근 보안 전문가가 테스트 중에 ChatGPT가 악성 코드를 생성하도록 하는 방법을 찾아냈습니다.
Forcepoint의 보안 전문가인 Aaron Mulgrew는 OpenAI가 개발한 언어 챗봇을 사용하여 악성 코드를 작성할 경우의 위험성에 대해 공유했습니다. ChatGPT는 사용자가 AI에 악성 코드를 설계하도록 요청하는 것을 방지하도록 설계되었지만, Aaron은 AI가 줄별로 프로그래밍 코드를 작성할 수 있는 프롬프트를 생성하여 허점을 발견했습니다. 이 모든 것을 합쳐서 에런은 오늘날 가장 진보된 맬웨어와 비교할 만큼 정교하고 감지할 수 없는 데이터 도난 도구를 손에 넣었다는 것을 깨달았습니다.
ChatGPT가 생성한 각 명령줄을 결합하면 정교한 맬웨어가 될 수 있습니다.
멀그루의 발견은 해커 그룹이 필요 없고, 툴을 만든 사람이 한 줄의 코드도 작성하지 않고도 AI를 악용해 위험한 맬웨어를 만들 수 있는 능력에 대한 경고입니다.
멀그루의 소프트웨어는 스크린세이버 애플리케이션으로 위장되어 있지만, Windows 기반 장치에서는 자동으로 활성화될 수 있습니다. 이 악성코드는 일단 운영 체제에 침투하면 Word 텍스트 편집기, 이미지 파일, PDF 등 모든 파일에 "몰래" 침투해 훔칠 데이터를 찾습니다.
프로그램은 필요한 정보를 수집한 후 정보를 분해하여 컴퓨터의 이미지 파일에 첨부합니다. 감지되는 것을 피하기 위해, 이 사진은 Google Drive 클라우드 저장소의 폴더에 업로드되었습니다. Mulgrew는 ChatGPT에 입력된 간단한 명령을 통해 감지되지 않도록 기능을 조정하고 향상시킬 수 있기 때문에 맬웨어가 엄청나게 강력해졌습니다.
이는 보안 전문가가 실시한 비공개 테스트 결과이며 테스트 범위를 벗어난 공격은 실행되지 않았지만 사이버 보안 전문가들은 여전히 ChatGPT를 악용한 활동의 위험성을 인식하고 있습니다. 멀그루는 프로그래밍 경험이 거의 없다고 주장하지만, OpenAI의 인공지능은 여전히 그의 테스트를 막을 만큼 강력하거나 똑똑하지 못했습니다.
[광고2]
소스 링크
댓글 (0)