OpenAI의 수석 연구원에 따르면, 세상은 아직 인공 일반 지능(AGI), 즉 인공 지능이 인간의 뇌만큼 똑똑한 순간을 맞이할 준비가 되어 있지 않습니다.
일반 인공지능은 위험한가?
수년간 연구자들은 인공 시스템이 인간처럼 다양한 작업을 처리하게 되는 인공 일반 지능(AGI)의 출현에 대해 추측해 왔습니다. 많은 사람들은 이런 기술의 등장을 실존적 위험으로 여긴다. 컴퓨터가 인간이 상상조차 할 수 없었던 방식으로 작동할 수 있기 때문이다.
마일즈 브린다지(Miles Brindage)에 따르면, 세상은 아직 인공 일반 지능(AGI)의 시대에 대비되지 않았습니다.
이제 ChatGPT 개발사 OpenAI가 AGI의 도래에 대비할 준비가 되었는지 확인하는 임무를 맡은 사람은 세상과 회사 자체 모두가 다음 단계에 "준비가 되지 않았다"고 인정했습니다. 마일즈 브런디지는 OpenAI의 "AGI 준비에 대한 수석 고문"이었으나, 회사가 그룹을 해체하면서 이번 주에 그의 사임을 발표했습니다.
"OpenAI나 다른 개척적 연구소는 [AGI에] 준비가 되어 있지 않고, 세상도 마찬가지입니다. 분명히 말해서, 저는 이것이 OpenAI의 리더십 사이에서 논란이 되는 발언이라고 생각하지 않습니다. 오히려 회사와 세상이 적절한 시기에 준비가 되어 있는지에 대한 의문입니다." 회사의 AI 안전 이니셔티브를 형성하는 데 6년을 보낸 Brundage의 말입니다.
브런디지의 이탈은 OpenAI 안전 팀의 주목할 만한 일련의 이탈 중 가장 최근의 사례입니다. 저명한 연구자인 얀 라이케는 "안전 문화와 프로세스가 반짝이는 제품에 밀려났다"고 주장한 뒤 자리를 떠났다. 공동 창립자인 일리야 수츠케버도 안전한 AGI 개발에 집중하는 자신의 AI 스타트업을 시작하기 위해 회사를 떠났습니다.
브런디지가 "AGI 준비" 그룹을 해체한 것은 회사가 장기적 AI 위험을 완화하는 데 전념한 "슈퍼얼라인먼트" 그룹을 해체한 지 몇 달 만에 이루어진 일로, OpenAI의 원래 사명과 회사의 상업적 야망 간의 갈등이 드러났습니다.
이익 압박으로 인해 OpenAI는 안전한 길에서 벗어났습니다.
OpenAI는 2년 이내에 비영리 기업에서 영리 기업으로 전환하라는 압력에 직면해 있다고 합니다. 그렇지 않으면 최근 66억 달러 규모의 투자 라운드에서 자금을 잃을 위험이 있습니다. 상용화로의 전환은 Brundage가 오랫동안 우려해 온 사항으로, OpenAI가 처음으로 영리 사업부를 설립한 2019년으로 거슬러 올라가서 이에 대한 우려를 표명하기도 했습니다.
OpenAI의 CEO 샘 알트먼은 회사가 수익을 추구해야 한다는 압력으로 인해 "골치 아픈 일"을 겪고 있습니다.
브런디지는 퇴사를 설명하면서 저명한 회사에서 연구하고 출판할 수 있는 자유가 점점 더 제한되고 있다는 점을 언급했습니다. 그는 AI 정책 논의에 산업계의 편견과 이해 상충 없이 독립적인 의견이 반영되어야 한다고 강조했습니다. 그는 OpenAI의 리더십에 내부 준비에 대한 조언을 한 후, 이제 조직 외부에서 글로벌 AI 거버넌스에 더 큰 영향을 미칠 수 있다고 믿습니다.
이러한 이탈은 OpenAI 내부의 더욱 심각한 문화적 분열을 반영하기도 합니다. 많은 연구자들이 AI 연구를 발전시키기 위해 협력하고 있으며, 이제는 점점 더 제품 중심적인 환경에 처해 있습니다. 내부 자원 할당이 쟁점이 되었습니다. 보고에 따르면 라이케의 팀은 해체되기 전에 안전 연구를 위한 컴퓨팅 파워가 거부되었다고 합니다.
OpenAI는 최근 몇 달 동안 인공지능 개발 계획과 회사가 안전을 얼마나 중요하게 생각하는지에 대해 많은 의문에 직면했습니다. ChatGPT는 인공지능을 안전하게 구축하는 방법을 연구한다는 목표로 비영리 단체로 설립되었지만, 그 성공은 새로운 기술을 수익을 위해 사용하려는 막대한 투자와 압력을 불러왔습니다.
[광고2]
출처: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm
댓글 (0)