올해 11월 영국에서 열리는 글로벌 리더십 컨퍼런스에서는 범죄자나 테러리스트가 AI를 이용해 세계를 파괴할 것이라는 두려움이 주요 주제가 될 예정이다. 영국 관리들은 새로운 기술을 악용하는 나쁜 행위자들로 인해 발생하는 위험을 경고하는 공동 성명을 합의하기 위해 전 세계를 돌고 있습니다.
영국 총리와 가까운 일부 관계자들은 언젠가 기술이 생물학 무기나 인간의 통제를 벗어나는 무기를 만드는 데 충분히 강력해질 것이라고 우려하고 있습니다. 우려가 커지면서 위험을 완화하기 위한 규제 감독이 필요해졌습니다. 기술 선도기업들이 AI 개발을 일시 중단하기로 합의한 가운데, 경쟁기업들과 AI 군비경쟁에 갇혀 있는 상황이다.
가디언에 따르면 11월 정상회담에서는 '최전방 AI'의 위험성에 대해 논의할 예정이다. 프런티어 AI는 인간의 삶을 위협할 수 있는 가장 진보된 AI 모델을 설명하는 데 사용되는 용어입니다.
이번 주 초 영국 정부는 이 회의가 생물학 무기를 만드는 데 AI를 오용하는 것, 사이버 공격, 인간의 통제가 없는 첨단 시스템과 같은 위험에 초점을 맞출 것이라고 확인했습니다. 수개월간 수낵 총리는 AI가 초래하는 위험에 대해 경고해 왔으며, 국제 사회에 AI의 오용을 막기 위한 "레일"을 마련할 것을 촉구해 왔습니다.
작년에 AI가 잠재적으로 치명적인 40,000개의 분자를 제안하는 데 걸린 시간은 불과 6시간이었습니다. 그 중 하나는 역사상 가장 강력한 신경 가스인 VX와 유사했습니다.
2023년 초, 연구자들은 ChatGPT가 특정 목표를 달성하기 위해 인간을 속일 수 있다는 것을 발견했습니다. AI 챗봇은 인간에게 캡차(작업을 수행하는 사람이 인간인지 봇인지 감지하는 데 사용되는 도구)를 풀도록 설득했습니다.
또 다른 주요 우려 사항은 인간과 동등하거나 그보다 더 잘 모든 작업을 수행할 수 있는 AI 시스템을 설명하는 데 사용되는 용어인 "인공 일반 지능"(AGI)의 등장으로, 이는 인간에게 위협이 됩니다. 일부 사람들은 AGI가 불과 몇 년 안에 실현될 것이라고 믿습니다. 하지만 AI 전문가들은 이에 반대하며 통제 불가능한 AGI를 단지 "공상과학"이라고 부릅니다.
그럼에도 불구하고, 수낵 총리는 이 컨퍼런스를 통해 AI가 공공 정책 결정에 사용될 경우 가짜 이미지를 만들거나 차별을 일으킬 수 있는 등 AI로 인한 즉각적인 가능성보다는 존재적 위험에 주목하고자 할 것입니다.
영국 정부는 새로운 AI 태스크포스에 1억 파운드를 지출하여 개발 중인 알고리즘을 테스트하는 데 도움을 줄 예정입니다. 그는 전 세계 기업이 AI 도구를 영국으로 다시 보내 광범위하게 배포하기 전에 평가를 받도록 촉구하고자 합니다.
영국 부총리 올리버 다우든에 따르면, 정부만이 가장 중요한 국가 안보 문제를 해소할 수 있다고 합니다.
영국 정부 대변인은 AI가 삶의 모든 측면을 바꿀 수 있는 엄청난 잠재력을 가지고 있다고 말했습니다. AI 태스크포스는 기술이 안전하고 책임감 있게 개발되도록 설립되었습니다. AI 컨퍼런스에서는 다양한 잠재적 위험을 살펴볼 것입니다.
(가디언에 따르면)
[광고2]
원천
댓글 (0)