챗봇 Grok이 인터넷에서 잘못된 정보의 급증을 초래하고 있다는 우려

일론 머스크의 Grok 챗봇은 사용자가 텍스트에서 AI 이미지를 생성하여 X에 게시할 수 있도록 허용하기 시작했습니다. 여기에는 전 미국 대통령 도널드 트럼프, 미국 부통령 카말라 해리스와 같은 정치인의 가짜 이미지가 포함됩니다...

다른 주류 AI 이미징 툴과 달리 머스크의 그록은 규제가 덜한 것으로 보인다. 예를 들어 CNN 의 테스트에서 Grok은 정치인들의 가짜 이미지를 쉽게 만들어서 유권자들을 오도했습니다.

chatbox Grok이 만든 일론 머스크 이미지. (출처: CNN)

일부 X 사용자는 Grok이 만든 이미지를 게시하기도 했는데, 여기에는 유명인이 마약을 피우는 모습, 만화 캐릭터가 사람을 죽이는 모습, 비키니를 입은 여성의 성적 이미지가 포함되었습니다.

CNN 에 따르면, 그록은 AI가 인터넷에서 잘못된 정보가 폭발적으로 늘어날 수 있다는 우려를 더욱 제기했으며, 특히 미국 대선이 다가오면서 더욱 그렇다고 말했습니다.

의원, 사회운동가 집단, 기술 분야 리더들은 이러한 도구를 오용하면 유권자들에게 혼란과 혼돈을 초래할 수 있다고 경고했습니다.

세계 유수의 AI 기업 중 다수는 AI 기반 이미지 생성 도구를 사용해 정치적 허위 정보를 만드는 것을 방지하기 위한 정책을 시행했지만, 연구자들은 사용자가 때때로 규칙을 우회하는 방법을 찾는다는 사실을 발견했습니다.

OpenAI, Meta, Microsoft 등 몇몇 회사는 기술이나 레이블을 사용하여 시청자가 AI가 생성한 이미지를 알 수 있도록 돕습니다.

YouTube, TikTok, Instagram, Facebook을 포함한 소셜 네트워크 역시 사용자 피드에 있는 AI가 생성한 콘텐츠에 라벨을 붙여, 기술을 사용해 직접 감지하거나 사용자에게 콘텐츠를 게시한 시점을 식별하도록 요청합니다.

8월 16일, AI가 Grok에 몇 가지 제한을 가한 것으로 나타났습니다. 현재 이 도구는 정치 후보자나 유명 만화 캐릭터가 폭력 행위를 저지르는 이미지를 생성하는 것을 거부하고 있습니다.

출처: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html