한국어:
유럽이 세계 최초의 인공지능(AI) 관련 법안의 초안을 작성하고 곧 시행에 들어간 후, 미국의 4대 인터넷 데이터 마이닝 "거대 기업"이 Frontier Model Forum이라는 그룹을 출범시켰습니다.
 |
| 프론티어 모델 포럼의 핵심 목표는 AI를 책임감 있게 발전시키는 것입니다. 사진: THINKWITHNICHE |
당사자들이 함께 모인다
Anthropic, Google, Microsoft, ChatGPT의 소유주인 OpenAI를 포함하는 이 그룹은 Frontier Model Forum의 핵심 목표는 AI 플랫폼이 초래하는 위험을 줄이고 산업 표준을 개발하는 것이라고 밝혔습니다. 프론티어 모델 포럼은 안전한 AI 연구를 촉진하여 개발을 지원하고, 위험을 완화하고, 안전성 평가와 수준을 표준화하는 것과 같은 핵심 목표를 가진 새로운 포럼을 만들 것입니다. 기술의 특성, 역량, 한계, 영향을 대중이 이해하도록 돕고, 모델을 개발하고 배포하기 위한 모범 사례를 파악합니다. 정책 입안자, 학계, 시민 사회, 기업과 협력하여 위험과 안전에 관한 지식을 공유합니다.
기술 거대 기업들은 통제 강화에 저항하는 경향이 있습니다. 하지만 이번에는 AI가 가져올 수 있는 위험에 대한 우려가 커지면서 기술 산업의 전반적인 시각이 크게 바뀌었습니다. 프론티어 모델 포럼 이니셔티브에 참여하는 기업은 기업 간 모범 사례를 공유하고, 정부와 시민 사회와 공개적으로 정보를 공유하는 데 전념합니다.
특히, 프론티어 모델 포럼은 AI를 새로운 수준의 정교함과 잠재적 위험을 가져올 대규모이면서도 초기 단계의 머신 러닝 플랫폼에 초점을 맞출 것입니다. 또한, 프론티어 모델 포럼은 기후 변화 완화 및 적응, 조기 암 발견 및 예방, 사이버 위협 대응 등 주요 사회적 과제를 해결하는 애플리케이션 개발도 지원할 것입니다.
잠재적인 파괴의 여지
미국 기업들이 프론티어 모델 포럼을 발표하기 전인 7월 25일 미국 상원 사법위원회 소위원회 청문회에서 미국 상원의원들이 생물학적 공격에 AI가 사용될 위험이 있다고 경고한 지 며칠 만에 또 다른 논의가 있었습니다. 최근 OpenAI, Alphabet, Meta 등 7대 기술 회사가 백악관에 자발적으로 참여해 AI가 생성한 텍스트, 이미지, 오디오, 비디오 등 모든 콘텐츠를 식별하는 시스템을 개발해 사용자에게 정보 투명성을 제공하고 이 기술의 안전성을 보장하겠다고 약속했습니다.
AI Anthropic의 CEO인 다리오 아모데이는 AI가 아직 생물학 무기를 만드는 데 도움이 될 수는 없지만 "중기적" 위험이며 이는 앞으로 2~3년 내에 미국 국가 안보에 심각한 위협이 될 것이라고 언급했습니다. 그 이유는 대규모 생물학 무기 공격을 수행하는 주체가 더 이상 해당 분야의 전문 지식을 가진 사람들에게만 국한되지 않기 때문입니다.
세계는 생성적 AI 기술로 제작된 콘텐츠의 폭발적 증가에 직면해 있습니다. 미국, 유럽, 아시아 등지에서 통제가 점차 강화되고 있습니다. CNN에 따르면 미국 상원은 9월부터 의원들을 대상으로 AI가 일자리, 국가 안보, 지적 재산권에 어떤 영향을 미칠 수 있는지에 대해 배우는 9개의 추가 워크숍을 개최할 예정입니다. 미국에 앞서, 합의가 이뤄진다면 유럽연합이 내년에 세계 최초로 AI 관리법을 제정해 2026년부터 시행될 예정이다.
AI가 사회에 가져다주는 이점은 부인할 수 없지만, 이 새로운 기술이 가져올 수 있는 잠재적 위험에 대한 경고도 점점 커지고 있습니다. 6월, 유엔 사무총장 안토니우 구테흐스는 몇몇 AI 임원들이 제안한 국제원자력기구(IAEA)와 유사한 국제 AI 감시기관을 설립하자는 제안을 지지했습니다.
프론티어 모델 포럼에 복귀한 마이크로소프트 사장 브래드 스미스는 이 이니셔티브가 기술 기업들이 모여 AI의 책임감 있는 사용을 촉진하고 모든 인류에게 혜택을 가져다주기 위한 중요한 단계라고 확언했습니다. 마찬가지로 OpenAI의 글로벌 담당 부사장인 안나 마칸주는 첨단 AI 기술이 사회에 큰 혜택을 가져올 잠재력을 가지고 있으며, 이를 위해서는 감독과 거버넌스가 필요하다고 주장했습니다.
[광고2]
원천
댓글 (0)