생성 AI가 미국 선거를 '위협'한다

[광고1]

AI 전문가와 기술에 정통한 정치학자들은 2024년 미국 대선을 앞두고 ChatGPT와 같은 생성 AI 도구와 관련된 예측 불가능한 상황에 대해 경각심을 높이고 있습니다.

"미국은 이에 대비하지 못했다"

폭스 뉴스는 5월 15일 사이버 보안 회사 ZeroFox(미국 미네소타주에 본사를 둔)의 AI 부사장인 AJ 내쉬 씨의 말을 인용해 미국인들은 인공 AI에 대처할 준비가 되어 있지 않다고 경고했습니다. 그에 따르면 인공지능은 선거 캠페인을 위한 이메일, 메시지, 비디오 클립을 빠르게 작성할 수 있을 뿐만 아니라 위험한 도구로 바뀔 수도 있습니다.

정부, AI 도구 규제 경쟁 시작

"생성적 AI는 오디오 및 비디오 콘텐츠를 만드는 능력에 있어서 상당한 도약을 제공합니다. 이를 대규모로 수행하고 소셜 미디어 플랫폼에 배포할 수 있다면 엄청난 영향을 미칩니다." 내쉬가 설명했습니다. ChatGPT와 같은 생성 AI가 할 수 있는 많은 가능성 중에는 미국과 같은 현대 국가의 선거와 투표에 강력한 영향을 미치는 것들이 많습니다.

AI tao sinh 'đe dọa' bầu cử Mỹ - Ảnh 1. — ChatGPT는 짧은 시간에 많은 콘텐츠를 생성할 수 있습니다.

예를 들어, ChatGPT는 후보자의 목소리를 흉내 내는 자동 음성 메시지를 생성해 유권자들에게 잘못된 날에 투표하도록 지시할 수 있습니다. 범죄를 자백하는 후보자의 음성 녹음물을 공개하거나 인종 차별적 콘텐츠를 만드는 것 실제로 일어나지 않은 연설이나 인터뷰를 하는 사람의 비디오 클립을 만들어 보세요. 또한, 지역 뉴스 발표에 따른 컴퓨터 생성 이미지가 등장할 수도 있는데, 후보가 경선에서 탈락한다는 내용 등 오해의 소지가 있는 내용이 포함될 수 있습니다.

"억만장자 엘론 머스크가 직접 전화를 걸어 특정 후보에게 투표하도록 설득한다면 어떨까요?" Allen Institute for AI(미국 워싱턴주에 본사 있음)의 전 CEO이자 설립자인 Oren Etzioni 박사의 말입니다. "많은 사람들이 그의 말을 경청했습니다. 하지만 그는 그런 전화를 한 적이 없습니다. AI였습니다." 에치오니 박사가 지적했습니다.

적의 위험

사이버 보안 회사 Forcepoint(미국 텍사스에 본사 있음)의 글로벌 최고 기술 책임자인 페트코 스토야노프 씨는 외국 세력이 인공지능을 이용해 2024년 미국 선거를 방해하려 할 수 있다고 경고했습니다. "외국 세력, 사이버 범죄 조직 또는 국가가 누군가를 사칭하려고 하면 어떻게 되나요? 영향 수준은 어떻습니까? 대응할 방법이 있나요?" 스토야노프 씨는 해결해야 할 질문을 제기했습니다. 그에 따르면, 미국은 선거 기간 동안 외국의 정보원으로부터 엄청난 양의 잘못된 정보를 접하게 될 것이다.

피트 리케츠 상원의원(네브래스카주)도 2024년 선거 시즌에 친중 단체가 딥페이크(실제 사람이나 사건처럼 보이고 들리도록 조작된 이미지와 영상을 만드는 기술)를 사용할 위험이 있다고 경고했습니다. "그들은 분명히 이런 능력을 가지고 있고, 우리는 이 점에 대해 정말 경계해야 합니다." 릭켓이 폭스 뉴스에 말했다.

올해 초부터도 AI가 만들어낸 가짜뉴스가 소셜 네트워크에 폭풍을 일으키는 일이 여러 번 있었습니다. 여기에는 바이든이 트랜스젠더에 대해 모욕적인 발언을 하는 가짜 영상이나, 도서관에서 아이들이 사탄주의를 배우는 모습을 조작한 이미지가 포함됩니다. 전직 대통령 도널드 트럼프의 경찰 기록 사진이 인터넷에 공개되자 많은 사람들이 그것을 믿었는데, 그가 범죄자로 사진에 찍히지 않았음에도 불구하고 말이다. AI가 생성한 다른 이미지에는 트럼프 대통령이 체포에 저항하는 모습이 나와 있지만, 그 역시 가짜입니다.

이벳 클라크(뉴욕) 의원은 후보자들이 유권자들에게 AI가 생성한 광고에 대해 알리도록 요구하는 법안을 제출했습니다. 클라크 여사는 또한 합성 이미지를 만드는 사람이 이미지 출처를 명확히 표시하기 위해 워터마크를 포함하도록 요구하는 법안을 공동 발의했습니다. 몇몇 주정부도 딥페이크 우려를 해소하기 위해 자체적인 제안을 발표했습니다.

릭켓츠 상원의원은 지금 할 수 있는 일은 미국인들에게 인공 AI의 위험에 대한 교육을 늘리는 것이라고 말했습니다. 그는 미국 정부가 대학들과 협력해 선거 전에 가짜 이미지를 감지하는 능력을 향상시킬 수 있다고 말했습니다.

ChatGPT 업그레이드됨

Mashable에 따르면, OpenAI(캘리포니아, 미국)가 ChatGPT에 중요한 업그레이드를 가했으며, 이에 따라 이제 이 도구는 작동 중에도 웹에 연결하고 웹을 검색할 수 있습니다. 이를 통해 ChatGPT는 최신 정보로 업데이트하고 더욱 정확한 답변을 제공할 수 있습니다. 현재 미국의 Amazon과 같은 기업은 고객 거래소에 서비스를 제공하기 위해 ChatGPT와 같은 인터페이스를 구축하고 통합하기 위해 AI 엔지니어 팀을 고용하고 있습니다.

[광고2]
소스 링크