AI의 급속한 발전은 전 세계적으로 큰 주목을 받고 있으며, 특히 베트남에서 큰 주목을 받고 있습니다. 전문가들은 AI를 4차 산업혁명의 가장 중요한 요소로 보고 있으며, 국가 경제 발전에 엄청나고 획기적인 혜택을 가져다줄 것으로 기대합니다. 컨설팅 회사 Exactitude Consultancy에 따르면, 2024년 2월 현재 보안, 공공 안전, 국가 안보를 위한 글로벌 AI 시장 규모는 2023년 114억 3천만 달러에서 2030년 473억 2천만 달러로 증가할 것으로 예측됩니다.

AI는 많은 분야에 폭넓게 적용되고 있으며, 정보 제공, 중요 인프라 관련 상황에 대한 지능적 예측, 위기 상황에 대한 시기적절한 예측 등의 이점을 제공하는 반면, 이 기술은 많은 위험과 과제도 안고 있습니다.

모든 형태의 사이버 공격에 AI가 적용될 수 있습니다.

AI가 사회, 법률, 사이버 보안에 미치는 위험과 과제는 5월 30일 정보통신부 산하 정보보안국과 IEC가 협력하여 주최한 "인공지능 폭발 시대의 안전" 이라는 주제로 열린 베트남 사이버 보안 서밋 2024 컨퍼런스 및 전시회에서 구체적으로 언급되었습니다.

W-KIN_4888.JPG.jpg
공안부 사회질서를 위한 행정경찰국 국가인구데이터센터 부소장인 응우옌 안 투안 씨가 워크숍에서 발표를 진행했습니다. 사진: 조직위원회

사회 질서를 위한 행정 경찰국(공안부) 국가 인구 데이터 센터 부소장인 응우옌 안 투안 중령에 따르면, 사회적으로 AI는 개인정보 침해에 대한 우려를 불러일으킨다. AI는 인종, 계층, 성별, 민족에 대한 차별을 위해 사용되어 더욱 심각한 갈등과 모순을 야기하고 있습니다. 허위 정보 제공, 개념 교체, 역사 변경, 진실 왜곡, 대중 혼란 야기, 교육 및 문화에 영향 미침.

데이터를 직접 다루는 Nguyen Tuan Anh 씨는 "베트남 정부 부처, 부서, 지부가 전문적인 업무를 위해 자체 데이터 소스를 개발했지만, 데이터 합성, 활용, 평가에는 여전히 많은 한계가 있습니다. 특히 정확성과 완전성이 거의 보장되지 않습니다."라고 말했습니다. 반면, AI 시스템은 좋은 입력 데이터가 있을 때만 잘 작동합니다. 입력 데이터가 부정확하거나 부정확할 경우, 부정확한 AI 분석 결과가 나오거나 '차별적'이고 불공정한 예측을 하게 됩니다.

legalnodes.com의 통계에 따르면 법률 및 정책 측면에서 약 33개국이 AI에 대한 법률 문서를 초안했지만 여전히 제한적이며 포괄적인 공통 AI 표준이 없습니다. 국가들은 기존 법률을 개정하는 것과 AI를 각 분야에 통합하는 것, 두 가지 학파로 나뉜다. AI를 규제하는 포괄적인 법률 문서를 발행합니다. 베트남은 아직 접근 수준이며 AI와 관련된 구체적인 정책, 법적 문서 또는 기관이 없습니다.

사이버 보안 측면에서 오늘날 모든 형태의 사이버 공격은 AI를 적용하여 공격자의 주도권을 높여 더 큰 피해를 입힐 수 있습니다. 악성 파일, 시뮬레이션, 피싱, 대규모 서비스 거부 공격, 머신 러닝 등을 통한 공격 형태가 있습니다. 현재는 인터넷 시스템 외에도 각 부처, 국, 지부, 지방자치단체마다 자체 네트워크를 보유하고 있습니다. 공격이 있었고, 무단 접근이 있었으며, AI를 적용하면 공격의 규모와 수준이 증가할 수 있습니다.

AI를 사용하여 AI 위험 완화

국가인구데이터베이스의 실제 관리 및 구현을 통해 공안부 대표는 AI 위험을 최소화하기 위한 세 가지 솔루션을 제안했습니다.

첫째, AI 관련 법률 체계를 조속히 정비하여 추세를 예측하고, AI 개발·생산·응용 과정에서 국내외 단위의 개인정보, 개인정보, 인권 보호 등 윤리를 규정하는 문서를 발행한다.

응우옌 안 투안(Nguyen Anh Tuan) 씨에 따르면, "베트남에는 개인정보 보호에 관한 법령이 있지만, 실제 적용에서는 데이터 보안 및 안전을 보장하는 데 필요한 요건을 충족하지 못했습니다." 그래서 그는 데이터법이나 개인정보보호법을 제정할 것을 제안했습니다. 또한, AI 관련 범죄에 대한 규정을 더욱 명확히 하고, AI 관련 연결·공유·교환 플랫폼에 대한 구체적인 기준을 마련해야 합니다.

둘째, AI 위험에 대처하기 위해 AI 프로젝트를 연구하고 적용합니다. AI는 인간에 의해 만들어지고 지식의 산물이므로, '좋은 AI'와 '나쁜 AI'는 다양할 것입니다. AI의 발전을 막기 위해 AI 자체를 이용할 수도 있다.

셋째, AI 개발은 심각한 결과를 초래할 수 있는 공격과 하이재킹을 방지하기 위해 사이버 보안 및 정보 보안 문제와 함께 진행되어야 합니다. 부대의 정보 보안에 대한 관심 수준이 적절하지 않습니다.

사회질서를 담당하는 행정경찰부에서는 시스템의 보안과 안전을 유지하고, 철저한 준비를 하고, 정기적으로 데이터를 백업하고 복구하고, 주기적으로 사고 대응 훈련을 실시하여 의도적인 AI 공격에 대처할 준비를 해야 합니다.

정보의 활용 및 처리 과정에서 이상행위 및 개인정보보호법 위반행위를 적시에 감지하기 위해 연계과정 및 부서 간 정보공유에 대한 모니터링과 감독을 강화합니다.

마지막으로, 로그 모니터링, 네트워크 트래픽 분석에 AI를 구축하고 적용하고, 머신 러닝과 자연어를 결합하여 문제 해결 결정을 내릴 때 정확성을 높입니다.