생성 AI가 미국 선거를 '위협'한다

[광고_1]

AI 전문가와 기술에 정통한 정치학자들은 2024년 미국 대선을 앞두고 ChatGPT와 같은 생성 AI 도구와 관련된 예측 불가능한 상황에 대해 경종을 울리고 있습니다.

"미국은 이에 대비하지 못했다"

폭스 뉴스는 5월 15일, 미국 미네소타주에 본사를 둔 사이버 보안 회사 제로폭스(ZeroFox)의 AI 부문 부사장인 AJ 내쉬(Nash)의 말을 인용해 미국인들이 인공 AI에 대처할 준비가 되어 있지 않다고 경고했습니다. 그에 따르면, 인공지능은 선거 캠페인을 위한 이메일, 메시지, 비디오 클립을 빠르게 작성할 수 있을 뿐만 아니라 위험한 도구로 변할 수도 있습니다.

정부, AI 도구 규제 경쟁

"생성적 AI는 오디오 및 비디오 콘텐츠 제작 능력에 있어 획기적인 발전을 제공합니다. 이를 대규모로 제작하고 소셜 미디어 플랫폼에 배포할 수 있다면 엄청난 효과를 얻을 수 있습니다."라고 내시는 설명했습니다. ChatGPT와 같은 생성 AI가 할 수 있는 많은 가능성 중에는 미국과 같은 현대 국가의 선거와 투표에 큰 영향을 미치는 가능성이 많습니다.

AI tao sinh 'đe dọa' bầu cử Mỹ - Ảnh 1. — ChatGPT는 짧은 시간에 많은 콘텐츠를 생성할 수 있습니다.

예를 들어, ChatGPT는 후보자의 목소리를 모방한 자동 음성 메시지를 생성하여 유권자들에게 잘못된 날에 투표하도록 지시할 수 있습니다. 후보자가 범죄를 자백하는 음성 녹음을 공개하거나 인종 차별적 콘텐츠를 만드는 것 실제로 일어나지 않은 연설이나 인터뷰를 하는 사람의 비디오 클립을 만들어 보세요. 또한, 지역 뉴스 발표를 기반으로 컴퓨터로 생성된 이미지가 등장할 수 있으며, 후보자가 경쟁에서 탈락했다는 내용 등 오해의 소지가 있는 내용이 포함될 수 있습니다.

"억만장자 일론 머스크가 직접 당신에게 전화를 걸어 특정 후보에게 투표하도록 설득한다면 어떨까요?" Allen Institute for AI(본사는 미국 워싱턴 주)의 전 CEO이자 설립자인 Oren Etzioni 박사는 말했습니다. "많은 사람들이 그의 말에 귀 기울였죠. 하지만 그는 그런 전화를 한 적이 없어요. AI였죠." 에치오니 박사는 지적했다.

적의 위험

미국 텍사스에 본사를 둔 사이버보안 회사 Forcepoint의 글로벌 최고기술책임자(CTO)인 페트코 스토야노프는 외국 세력이 인공지능을 이용해 2024년 미국 선거를 방해하려 할 수 있다고 경고했습니다. "외국 세력, 사이버 범죄 조직 또는 국가가 누군가를 사칭하려고 시도하면 어떻게 될까요? 피해 수준은 어느 정도일까요? 대응할 방법이 있을까요?" 스토야노프 씨는 해결해야 할 의문을 제기했습니다. 그에 따르면 미국은 선거 기간 동안 외국의 잘못된 정보가 쏟아지는 것을 보게 될 것입니다.

피트 리케츠 상원의원(네브래스카)도 2024년 선거 시즌에 친중 단체가 딥페이크(실제 사람이나 사건처럼 보이고 들리도록 조작된 이미지와 비디오를 만드는 기술)를 사용할 위험이 있다고 경고했습니다. 리케츠는 폭스 뉴스와의 인터뷰에서 "그들은 분명 이런 역량을 갖추고 있고, 우리는 이 부분에 대해 정말 경계해야 합니다."라고 말했습니다.

올해 초부터 AI가 만들어낸 가짜뉴스가 소셜 네트워크에서 폭풍을 일으키는 일이 여러 번 있었습니다. 여기에는 바이든이 트랜스젠더에 대해 모욕적인 발언을 하는 가짜 영상이나, 도서관에서 아이들이 사탄주의에 대해 배우는 모습을 조작한 이미지가 포함됩니다. 전직 대통령 도널드 트럼프의 경찰 기록 사진이 인터넷에 공개되자 많은 사람들이 그것을 믿었는데, 그가 범죄자로 사진에 찍히지 않았음에도 불구하고 말이다. AI가 생성한 다른 이미지에는 트럼프가 체포에 저항하는 모습이 나와 있지만, 그 역시 가짜입니다.

이벳 클라크(뉴욕) 의원은 후보자들이 AI가 생성한 광고에 대해 유권자들에게 알리도록 요구하는 법안을 발의했습니다. 클라크 여사는 또한 합성 이미지를 만드는 사람이 이미지의 출처를 명확히 표시하기 위해 워터마크를 포함하도록 요구하는 법안을 공동 발의했습니다. 몇몇 주에서는 딥페이크 우려를 해소하기 위한 자체적인 제안을 내놓기도 했습니다.

리케츠 상원의원은 지금 할 수 있는 일은 인공 AI의 위험에 대한 미국인들의 교육을 늘리는 것이라고 말했습니다. 그는 미국 정부가 대학들과 협력해 선거 전에 가짜 이미지를 감지하는 능력을 향상시킬 수 있다고 말했습니다.

ChatGPT 업그레이드됨

Mashable에 따르면, OpenAI(캘리포니아, 미국)가 ChatGPT에 대한 중요한 업그레이드를 진행했으며, 이에 따라 이 도구는 이제 작동 중에도 웹에 연결하고 웹을 검색할 수 있습니다. 이를 통해 ChatGPT는 최신 정보로 최신 상태를 유지하고 더욱 정확한 답변을 제공할 수 있습니다. 현재 미국의 Amazon과 같은 기업은 고객 거래소에 서비스를 제공하기 위해 ChatGPT와 같은 인터페이스를 구축하고 통합하기 위해 AI 엔지니어 팀을 고용하고 있습니다.

[광고_2]
소스 링크