OpenAI의 새로운 모델은 생물 무기 제작 위험을 높인다

이 모델은 추론하고, 복잡한 수학 문제를 풀고, 과학 연구 질문에 답할 수 있는데, 이는 인간과 같은 인지 능력을 가진 기계인 인공 범용 지능(AGI)을 개발하는 데 있어 중요한 진전으로 간주됩니다.

OpenAI는 o1 모델의 고급 기능을 감안할 때 대중에게 공개하는 데 특히 "신중했다"고 밝혔습니다. 사진: 게티이미지

파이낸셜 타임즈에 따르면 OpenAI는 화학, 생물, 방사선 및 핵(CBRN) 무기와 관련된 문제에 대해 이러한 새로운 모델의 위험을 "중간"으로 평가했는데, 이는 회사가 평가한 가장 높은 수준입니다. 즉, 이 기술은 전문가들이 생물학 무기를 만드는 능력을 "상당히 향상"시켰다는 의미입니다.

전문가들에 따르면, 세부적인 추론이 가능한 AI 소프트웨어는 특히 악의적인 행위자의 손에 들어가면 남용 위험이 커질 수 있습니다.

몬트리올 대학의 세계적인 AI 과학자인 요슈아 벤지오 교수는 이러한 중간 수준의 위험은 캘리포니아에서 논의되고 있는 SB 1047 법안과 같은 AI 규정을 제정하는 시급성을 증가시킨다고 강조했습니다. 이 법안은 AI 제작자가 자신이 만든 모델이 생물학 무기를 개발하는 데 오용될 위험을 줄이기 위한 조치를 취하도록 요구합니다.

The Verge에 따르면 Google, Meta, Anthropic과 같은 기술 회사들이 고급 AI 시스템을 구축하고 개선하기 위해 경쟁함에 따라 AI 모델의 보안과 안전성이 주요 관심사가 되었습니다.

이러한 시스템은 인간이 작업을 완료하고 다양한 분야에서 지원을 제공하는 데 큰 도움을 줄 수 있는 잠재력을 가지고 있지만, 안전과 사회적 책임이라는 과제도 안고 있습니다.

카오퐁 (FT, 로이터, 더버지에 따르면)

출처: https://www.congluan.vn/openai-thua-nhan-mo-hinh-ai-moi-co-the-duoc-su-dung-de-tao-ra-vu-khi-biological-hoc-post312337.html