OpenAI 스캔들의 배후에 있는 '초지능' 모델

[광고1]

Tech.co 소식통에 따르면, CEO 샘 알트먼이 해고된 후 OpenAI로 복귀하는 것을 둘러싼 논란이 일고 있는 가운데, 회사 연구원들이 이사회에 편지를 보냈다는 소문이 돌았습니다. 편지에는 인류에게 위협이 될 수 있는 AI 초지능 모델 개발에 대한 우려를 표명한 내용이 담겨 있었습니다.

프로젝트 Q*

내부적으로 Project Q*(Q-star로 발음)로 알려진 이 모델은 OpenAI가 인공 일반 지능(AGI)을 추구하는 데 있어 큰 돌파구를 마련한 것으로 알려져 있습니다. 인공 일반 지능은 누적 학습이 가능하고 대부분 작업에서 인간보다 우수한 성과를 낼 수 있는 고도로 자율적인 초지능 분야입니다.

이 문제에 정통한 소식통은 Q*가 AI의 추론 능력을 근본적으로 향상시키고 OpenAI를 AGI 개발의 주요 혁신에 한 걸음 더 가까이 다가가게 함으로써 인공지능 분야에 큰 도약을 가져올 수 있다고 전했습니다.

기존 AI 모델이 이전에 학습한 정보를 기반으로 응답을 생성하는 능력에 초점을 맞춘 것과 달리 AGI는 의사결정에 "이성"을 적용할 수 있는 자율 시스템으로, 인간 수준의 문제 해결 능력을 제공합니다.

AGI가 아직 완전히 실현되지는 않았지만, 많은 전문가들은 이 기술이 누적적으로 학습하는 능력을 갖게 될 것이라고 믿는다. 이는 인간에게 자신의 능력을 향상시킬 수 있는 능력을 부여하는 또 다른 특성이다.

일부 소식통에서는 Q*-OpenAI 프로젝트가 문제를 해결할 때 위의 속성을 증명할 수 있었다고 주장합니다. 그뿐만 아니라, 이 모델의 엄청난 계산 능력 덕분에 Q*는 초등학교 학생들보다 우수한 성적을 거두었으며, 현재 AI 기술의 역량을 크게 뛰어넘는 추론 능력과 인지 능력을 보여주었습니다.

Q*가 얼마나 오랫동안 개발되었는지, 그리고 어떤 응용 분야에 사용될지는 불확실하지만, OpenAI는 인사 스캔들이 터지기 전에 직원과 이사회 구성원들에게 이 프로젝트에 대해 알렸습니다.

윤리적 문제

OpenAI의 CEO인 샘 알트먼은 AGI 기술이 혁신을 주도할 것이라고 확신하지만, 일부 연구자들은 이 프로젝트의 잠재적 위험을 지적하기도 했습니다.

연구진은 이사회에 보낸 편지에서 이 강력한 알고리즘이 인간에게 미칠 수 있는 잠재적 위험을 경고했습니다. 해당 서한에 명시된 구체적인 AI 윤리 문제는 공개되지 않았지만, 경고 내용만으로도 이사회가 알트먼을 해고하기로 결정하기에 충분했습니다.

한편, 알트먼 해고의 당초 이유는 CEO의 "의사소통이 부족했다"는 것이었다. 얼마 지나지 않아 그는 마이크로소프트에서 새로운 직장을 찾았습니다. 이러한 조치로 인해 OpenAI의 직원 770명 중 700명이 CEO가 복직되지 않으면 똑같은 짓을 하겠다고 위협했습니다.

회사가 붕괴 위기에 처하자 OpenAI의 이사회는 알트만을 다시 최고위직에 복귀시켜야 했습니다. 이로 인해 회사 경영진이 대대적으로 개편되었고, 리더십 내부의 깊은 분열이 드러났습니다.

이제 알트만이 복귀하고 프로젝트 Q*가 다시 승인을 받을 가능성이 높아지면서 새로운 의문이 제기되고 있습니다.

프로젝트 Q*는 얼마나 현실적입니까?

OpenAI의 격동의 시기를 거치며 AGI라는 개념이 주목받게 되었지만, 알트만이 이 기술을 언급한 것은 이번이 처음이 아니다.

9월, 실리콘 밸리 기업가는 AGI를 "동료로 고용할 수 있는 평범한 인간"과 비교한 뒤 큰 난관에 봉착했습니다. 그는 작년에 이 AI가 "원격 동료와 함께 할 수 있는 모든 것을 할 수 있다"고 한 발언을 확인했습니다. 여기에는 훌륭한 의사와 프로그래머가 되는 법을 배우는 것도 포함됩니다.

AGI를 "평균적인 인간"의 지능과 비교하는 것은 새로운 일이 아니지만 AI 윤리학자이자 케임브리지 대학교 교수인 헨리 셰블린은 AI가 직업 안정에 미치는 영향에 대한 우려가 커지면서 Altman이 이 문구를 사용한 것을 "혐오스러운" 것으로 여겼습니다.

AGI 분야의 잠재적인 획기적인 발전은 다른 연구자들에게도 경각심을 불러일으키고 있다. 이 기술은 인간이 그 영향을 완전히 이해할 수 있는 것보다 더 빠른 속도로 개발되고 있기 때문이다.

OpenAI는 AGI의 긍정적인 결과가 위험한 "지뢰밭"도 시도해 볼 만한 가치가 있다고 믿습니다. 하지만 회사가 이러한 방향으로 계속 전진함에 따라 많은 사람들은 알트만이 사용자와 사회의 이익보다 상업적 성공을 우선시하고 있다는 우려를 표명했습니다.

Phuong Anh (출처: Tech.co, The Guardian)

[광고2]
원천