하이테크 시대의 안전

네덜란드 헤이그에 있는 유럽 경찰청(유로폴) 본부.

유로폴에 따르면, AI는 마약 밀매, 인신매매, 사이버 범죄, 신원 도용 등 여러 분야에서 범죄자들의 효율성을 높이는 데 "의도치 않게" 도움을 주었습니다. 유로폴 자문위원이자 기술 전문가인 브루스 슈나이어는 "AI는 범죄자들을 그 어느 때보다 더 위험하게 만들고 있습니다. 기존의 신원 확인 방식은 더 이상 딥페이크를 막기에 효과적이지 않습니다."라고 시인했습니다.

"조직범죄는 점점 더 정교해지고 있으며, AI와 신기술의 영향으로 온라인상에서 더욱 가속화되고 있습니다. 이는 기술을 이용해 범죄를 저지르는 자와 기술을 이용해 범죄를 퇴치하는 자 사이의 경쟁입니다. 우리는 법 집행 기관이 앞서 나가도록 해야 합니다."라고 유로폴 사무총장 캐서린 드 볼레는 경고했습니다.

올해 2월 중순, AI 액션 서밋이 파리(프랑스)에서 개최되었습니다. 이번 행사는 AI 산업이 많은 변동을 겪고 있는 상황에서 열렸으며, 특히 글로벌 시장에 큰 영향을 미칠 것으로 예상되는 새로운 AI 모델의 등장이 두드러졌습니다. 이 회의에서 프랑스 대통령 에마뉘엘 마크롱은 오픈 소스 AI 모델을 홍보하고, 이 분야에서 사업 개발을 촉진하며, 사이버 범죄를 효과적으로 퇴치하기 위한 협력을 희망한다고 밝혔습니다.

이번 컨퍼런스에는 프랑스 대통령 에마뉘엘 마크롱, 인도 총리 나렌드라 모디, 미국 부통령 JD 밴스 등 기술 산업의 많은 고위 리더와 기업가, 그리고 OpenAI CEO, 마이크로소프트 사장, 구글 CEO 등 실리콘 밸리의 리더들이 참석했습니다.

지리 기술 전문가인 닉 라이너스는 이 컨퍼런스가 AI를 활용할 때 첨단 범죄에 맞서 싸우는 데 있어 글로벌 경쟁의 재편과 협력을 볼 수 있는 기회가 될 수 있다고 말했습니다.

AI는 개발의 추세가 되었고, 우리가 좋아하든 싫어하든, 어느 나라도 경쟁에서 제외되지 않습니다. 하지만 여전히 우려사항은 남아 있습니다. 2025년 1월 말 스위스 다보스에서 개최된 연례 세계경제포럼 2025에서도 AI 개발에 초점을 맞춘 논의가 주목을 받았습니다.

유엔 사무총장 안토니오 구테흐스가 인류에 대한 두 가지 주요 위협, 즉 기후 위기와 AI의 통제되지 않은 개발에 대해 강력한 경고를 발표한 것은 주목할 만한 일입니다. 구테흐스 사무총장은 각국에 기후 변화를 제한하고 최악의 영향을 예방하기 위한 긴급 조치를 취할 것을 촉구했습니다. 인공지능과 관련하여, 구테흐스 사무총장은 AI가 삶에 많은 이점을 가져다주지만, 적절하게 관리하지 않으면 엄청난 위험도 초래한다고 강조했습니다. 경고는 AI를 잘 통제하지 않으면 사기 도구로 악용되어 경제를 파괴하고 기관에 대한 신뢰를 훼손할 수 있다는 것입니다. 많은 사람이 이 기술의 혜택을 받지 못하기 때문에 불평등이 심화될 수도 있습니다.

유엔 사무총장은 그 이후로 기후 위기부터 인공지능의 확산 관리까지 다양한 문제를 해결하기 위해 글로벌 협력을 촉구해 왔습니다.

전문가들은 AI로 인해 인류는 역사상 그 어떤 기술보다 더 큰 변화를 겪을 수 있을 것으로 예측하고 있습니다. 샌프란시스코(미국)의 스타트업 런웨이(Runway)의 CEO인 시키 첸(Siqi Chen) 박사는 전기에서 인터넷에 이르기까지 이전의 기술 발전이 강력한 사회적 변화를 촉발했다고 말했습니다. 하지만 AI를 활용하면 더욱 강력해집니다. 천 박사는 "AI로 인해 인간 사회는 역사상 어떤 기술적 변화보다 더 큰 규모의 변화를 경험하게 될 것"이라고 말하면서도 "흥미로운 변화이지만 '양날의 검'과 같은 무서운 변화"라고 경고했다.

마이크로소프트의 핵심 리더인 재러드 스파타로 박사에 따르면, AI는 긍정적인 측면을 촉진하고 부정적인 측면을 제한할 수 있다면 "일의 영혼"으로 간주될 수 있습니다. 특히 하이테크 범죄자들이 이를 이용하고 지배하도록 두지 마십시오.

AI 회사의 공동 창립자인 샤론 저우 여사는 이 기술이 "우리가 처리할 수 있는 것보다 더 빨리 우리에게 다가올 수도 있다"고 말했습니다. 그러므로 위험에 직면하고 싶지 않다면 위험을 극복하고 이를 마스터하는 것이 자연스러운 전략이 되어야 합니다. 저우 여사는 이 기술이 인류의 미래에 대한 의문을 제기한다고 말했습니다. "만약 무언가가 우리보다 강하고 우리보다 똑똑해진다면, 그건 우리에게 무슨 의미일까요? 우리는 그것을 이용할까요? 아니면 그것이 우리를 이용할까요?"

OpenAI의 수석 과학자 일리아 수츠케버는 MIT Technology Review와의 인터뷰에서 안전이 "꼭 필요한" 이유라고 말했습니다. 그녀는 나쁜 행위자들이 AI를 악용할 경우 국제 질서 자체가 위협받을 수 있다고 주장합니다.

유엔 사무총장 안토니오 구테흐스는 "모든 사람이 안전할 때까지 아무도 안전하지 않다"고 말한 적이 있습니다. AI가 폭발적으로 증가하는 현대에 이 말은 더욱 더 적절합니다. 첨단 범죄에 대한 싸움은 더 이상 개인적인 문제가 아니기 때문입니다.

“

디지털 시대, AI의 폭발적 성장과 함께 범죄 세계도 기술의 발전에 따라 급속히 변화하고 있으며, 이로 인해 글로벌 보안에 전례 없는 과제가 생겨나고 있습니다. 사이버 보안 회사 Palo Alto Networks의 보고서에 따르면, 2024년 전 세계 랜섬웨어 공격 건수는 2023년 대비 47% 증가하여 300억 달러 이상의 손실을 입혔습니다. 공격자들은 더 이상 단순히 데이터를 노리는 데 그치지 않고, 몸값을 요구하며 중요한 시스템을 장악하려 하고 있습니다. 이는 더 이상 단순한 재정 문제가 아니라 국가 안보에 대한 위협입니다. 또한, 최첨단 AI 기술을 적용해 사람의 목소리나 이미지를 위조하는 딥페이크 통화가 큰 피해를 입히고 있습니다. 유로폴 보고서에 따르면, 딥페이크 사기는 지난 2년 동안 300% 증가했습니다.

출처: https://daidoanket.vn/an-toan-trong-thoi-dai-cong-nghe-cao-10302564.html