AI가 인류의 생존을 위협하지 않도록 하자

VinFuture 2024 상을 수상한 'AI의 대부'들은 과학자들이 AI 시나리오가 인류의 생존을 위협하지 않도록 해야 한다고 생각합니다.

오늘, 12월 7일, VinFuture 2024상 수상자들은 VinUni 대학의 학생들과 젊은 과학자들과 과학 연구와 자신들이 추구하는 분야의 미래 전망에 대해 이야기를 나누었습니다. 여기서 주요 상을 수상한 뛰어난 과학자들이 오늘날의 AI 혁명의 기초를 마련한 획기적인 연구를 진행하며 AI의 놀라운 발전에 대해 이야기했습니다.

교환 세션에 참석한 Yann LeCun 교수(가운데)와 Yoshua Bengio 교수(왼쪽 표지)

"우리는 마치 10년 후로 미래를 향해 나아간 것 같은 느낌이 듭니다."

상을 받기 위해 베트남에 오지 않고, 캐나다 토론토 대학의 제프리 힌튼 교수가 영상을 통해 교류에 참여했습니다. 그는 2018년에 얀 르쿤 교수, 요슈아 벤지오 교수와 함께 튜링상(컴퓨터 과학 분야의 노벨상으로 여겨지는 상)을 수상했으며, 모두 국제 언론에서 "AI 대부"로 불립니다. 이제 이 세 사람 모두 다른 두 과학자, 페이 페이 리 교수(미국)와 젠슨 황 씨(NVIDIA CEO)와 함께 VinFuture 2024의 주요 상을 수상하게 되었습니다.

힌튼 교수에 따르면, 최근 AI 붐은 세 가지 요인으로 인해 발생했습니다. 첫 번째는 신경망의 학습을 위한 보다 효율적인 방법을 개발하는 것을 목표로 한 연구로, 그와 요슈아 교수, 얀 교수를 비롯한 많은 사람들이 이를 수행했습니다. 게다가 그래픽 처리 장치(GPU)의 매우 빠른 컴퓨팅 성능과 엄청난 양의 데이터 수집도 가능합니다.

Geoffrey Hinton 교수가 영상을 통해 공유합니다.

"이 상(VinFuture 2024)의 가장 큰 장점은 AI에 유용한 GPU 보드 개발에 선구적인 역할을 한 젠슨 황 씨의 업적을 인정받았다는 점입니다. 젠슨 황 씨의 GPU 보드와 페이페이 리 교수의 데이터 세트는 현대 AI 발전에 중요한 역할을 했습니다. 신경망 알고리즘 연구자들과 함께 그들의 업적을 인정받게 되어 매우 기쁩니다."라고 힌튼 교수는 말했습니다.

"GPU를 사용하여 신경망을 훈련시켰더니 30배나 빨라졌다는 것을 발견했습니다. 엄청난 도약이었죠. 마치 컴퓨팅 속도가 시대를 10년 앞선 것 같았습니다. 갑자기 컴퓨팅 속도 측면에서 미래보다 10년 앞서 나간 셈이죠. AI의 판도를 완전히 뒤바꿔 놓았고, 정말 놀라웠습니다!" 힌튼 교수가 말했다.

오늘날 과학자들은 신경망 내의 연결을 더욱 깊이 이해하기 위해 계속해서 노력하고 있습니다. 이를 통해 과학자들은 인간 지능과 더 유사한 인공 지능을 개발하고, 심지어 직관까지 설명할 수 있게 될 것입니다. 전통적인 논리적 접근 방식은 결코 그런 일이 일어나지 않았습니다.

"AI가 무서워지기 시작했어요"

힌튼 교수는 오늘날의 대규모 신경망이 인간과 비슷한 방식으로 직관을 가지고 있다고 말했습니다. 그는 작년부터 AI가 인간만큼 지능을 갖추려면 5~20년 정도 걸릴 수 있다는 우려를 제기해 왔습니다. "그때부터 AI에 대한 두려움이 생기기 시작했습니다. 개발을 멈추는 것은 선택 사항이 아니죠. 그래서 유일한 선택지는 AI가 우리보다 더 똑똑해질 때 안전을 보장할 방법을 찾는 것입니다."라고 힌튼 교수는 말했습니다.

"하지만 저는 세상의 종말이 불가피하다고 생각하지 않습니다."라고 힌튼 교수는 말한다. 하지만 그 가능성을 무시할 수는 없으며, 우리는 이를 막기 위해 열심히 노력해야 합니다. 가장 재능 있는 학생들이 AI 안전에 대한 연구를 선택하여 AI의 지배와 같은 장기적 위협부터 사이버 범죄와 같은 단기적 위협까지 광범위한 위협에 대처하기를 바랍니다.

요슈아 벤지오 교수와 얀 르쿤 교수

얀 레쿤 교수는 AI가 인간만큼 지능을 갖추게 되면 인간을 지배하게 될 위험에 대해서도 우려한다고 말했습니다. 하지만 현재의 대답은 '아니요'입니다. "30유로짜리 작은 장난감으로 체스를 두다가 질 수도 있습니다. 그게 위험한 걸까요? 정답은 '아니요'입니다. AI는 우리가 AI에게 동기(인간의 통제)를 부여할 때만 위험해집니다. 하지만 현재 AI는 지식만 있을 뿐 동기는 없습니다."라고 얀 교수는 말했습니다.

얀 교수에 따르면, 인간에게 적극적으로 봉사하는 AI를 만드는 것은 단지 기술적인 문제일 뿐입니다. AI는 똑똑하기 때문에 AI가 인간을 지배할 것이라는 생각은 편견입니다. 현실은 사회에 똑똑한 사람들이 많았지만, 그들이 세상을 지배한 적은 없기 때문입니다! AI는 여전히 도구일 뿐이고, 문제는 AI가 아니라 인간에게 있습니다.

요슈아 벤지오 교수에 따르면, 우리는 주관적일 수 없으며, 사소한 문제라도 인류의 생존에 영향을 미칠 수 있다고 합니다. 인간은 기계에 동기를 부여할 수 있다. 예를 들어, 누군가가 기계를 사람으로 만들어서 기계가 "생존"해야 하는 필요성을 갖게 하고 싶어합니다. 우리는 기계를 끄고 싶어도 꺼지지 않습니다. "물론 우리는 그런 시나리오가 일어나지 않도록 해야 합니다."라고 벤지오 교수는 말했다.

출처: https://thanhnien.vn/vinfuture-award-2024-khong-de-ai-de-doa-su-ton-vong-cua-nhan-loai-185241207195331155.htm