인공지능(AI) 개발의 기초를 마련한 과학자 중 한 명인 요슈아 벤지오 교수는 12월 5일 오후 하노이에서 열린 고급 기술 워크숍 "안전한 AI - 책임 있는 혁신 형성"의 프레임워크 내에서 "AI 안전"에 대해 공유했습니다.
행사의 틀 안에서, 요슈아 벤지오 교수는 "책임 있는 AI와 교육에서 AI의 중요성"에 대한 토론을 했으며, 베트남 소프트웨어 및 정보 기술 서비스 협회(VINASA) 산하 AI 윤리위원회 출범식을 참석했습니다.
요슈아 벤지오 교수는 가장 중요한 것은 기술 발전과 함께 인권 보호와 지속 가능한 사회 발전이 함께 이루어져야 한다고 믿습니다. AI는 급속히 발전하고 있으며, 데이터 효율성은 30% 증가하고, 알고리즘 성능은 3배가 되었고, 이 분야에 대한 투자는 연간 평균 1,000억 달러에 달하며, 표준 평가에 따르면 AI의 역량은 언어 습득과 데이터 처리 측면에서 인간을 앞지르고 있습니다.
그러나 이러한 급속한 발전은 인간보다 똑똑한 AI 시스템을 제어할 수 있는 능력에 대한 우려스러운 의문을 제기합니다. 그러한 맥락에서 중요한 윤리적 문제가 제기됩니다. AI의 목표를 누가 결정해야 할까요? 올바르게 이해하고 행동하는 것은 긴박한 문제일 뿐만 아니라, 인류의 미래에 중요한 요소입니다.
요슈아 벤지오 교수가 제시한 중요한 원칙 중 하나는 AI가 목표를 설정하고 이를 달성하기 위해 행동할 수 있는 '대리인'이 아닌 인간을 섬기는 도구로 구축되어야 한다는 것입니다. AI의 목표는 원래 인간의 의도와 충돌하거나 넘어서는 경우가 있기 때문입니다.
따라서 요슈아 벤지오 교수에 따르면 우리는 AI 시스템에 대한 "생존 본능"을 설계하는 것을 피해야 합니다. 즉, 우리는 인간과 유사한 감정, 외모, 심지어 의식, 행위성, 자율성을 갖춘 AI 시스템을 설계해서는 안 된다는 의미입니다.
세계경제포럼이 2023년에 발표한 '노동 시장의 미래' 보고서에 따르면, 2025년까지 AI가 전 세계적으로 1,200만 개의 새로운 일자리를 창출할 것으로 예상된다고 합니다. 맥킨지가 실시한 또 다른 연구에 따르면 AI는 2030년까지 전 세계적으로 2,000만~5,000만 개의 새로운 일자리를 창출하는 데 기여할 수 있다고 합니다.
FPT Corporation 회장 Truong Gia Binh에 따르면, AI는 인간의 일자리를 빼앗는 위협이 아닌 "동맹"으로 간주되어야 합니다. 노동 시장에서 경쟁력을 유지하려면 AI를 배우고 적용하는 것이 중요합니다. AI, 머신 러닝, 데이터 과학에 대한 기본적인 이해는 물론, AI 시스템을 효과적으로 사용하는 데 필요한 문제 해결 및 분석 기술도 포함됩니다.
또한 워크숍의 틀에서 VINASA는 인공지능 윤리위원회의 설립을 발표했습니다. 이 행사에는 요슈아 벤지오 교수(몬트리올 대학교 및 밀라 연구소), VINASA 임원진 및 여러 VINASA 회원 기업의 리더들이 참석했습니다.
인공지능 윤리위원회의 설립은 윤리적 틀 안에서 혁신이 발전하고, 글로벌 경쟁력을 확보하며, 사회적 가치를 보호하는 인공지능 생태계를 구축하려는 베트남의 노력을 보여줍니다.
위원회는 베트남의 AI 개발 로드맵을 지도하고, AI가 윤리적이고 혁신적이며 사회적 이익을 위해 배포되도록 보장하며, AI에 유리한 법적 환경을 촉진하는 임무를 맡고 있습니다.
요슈아 벤지오 교수는 AI가 자연어 처리(NLP), 컴퓨터 비전, 머신 러닝, 로봇 공학 등의 분야에 널리 적용되는 실용적인 기술이 될 수 있는 기반을 마련하는 데 있어 세계적으로 가장 영향력 있는 인물 중 한 명입니다. 1993년 그는 밀라 AI 연구소를 설립했는데, 이 연구소는 몬트리올(캐나다)을 딥러닝 기술의 세계적 중심지로 만드는 데 큰 기여를 했습니다. |
VNA에 따르면
[광고2]
출처: https://doanhnghiepvn.vn/cong-nghe/giao-su-khai-sinh-ai-lan-dau-sang-viet-nam-chia-se-ve-dao-duc-ai/20241206103838021
Comment (0)