AI 기반 제품 오류를 수정하기 위해 AI 도구 사용

AI 조작으로 가짜뉴스가 더욱 정교해지고 있다

최근 하노이에서 열린 베트남 언론인 협회와 태국 언론인 협회 간 회의에서 두 협회의 수장은 대부분의 시간을 "가짜 뉴스" 문제에 대해 언급하며 보냈고, 이는 더 이상 국가적 문제가 아니라 중대한 문제로, 이 지역과 세계에 예측할 수 없는 영향을 미치고 있다고 말했습니다.

Google DeepMind의 연구에 따르면, AI 챗봇과 같은 도구를 사용하여 잘못된 정보를 생성하는 것보다 인간을 가장한 이미지, 비디오, 오디오를 생성하는 것이 거의 두 배나 더 흔합니다.

최근 몇 달 동안 TikTok, X, Instagram에는 영국 재무장관 리시 수낵과 다른 세계 지도자들의 딥페이크 영상이 등장했습니다. 소셜 미디어에서 이런 콘텐츠에 라벨을 붙이거나 삭제하려는 노력에도 불구하고, 청중은 이를 가짜로 인식하지 못할 수 있으며 이러한 콘텐츠가 유권자에게 영향을 미칠 수 있다는 우려가 있습니다.

총선을 앞두고 영국 총리 리시 수낵의 가짜 사진이 TikTok과 Instagram에 등장했습니다. (사진: AFP)

기술 시대에 가짜 뉴스의 영향을 평가하다. 저널리즘과 선전 아카데미 저널리즘과 커뮤니케이션 연구소의 루옹 동 손 강사는 AI와 잘못된 정보가 결합된 산물, 즉 초현실적 가짜 뉴스는 사건과 사회 문제에 대한 대중의 인식을 왜곡하여 상황을 평가하고 의사 결정 방식에 영향을 미칠 수 있다고 말했습니다. 이러한 결정은 사소한 개인적 결정부터 지역 사회와 국가에 영향을 미치는 중대한 결정까지 심각한 결과를 초래할 수 있습니다.

초현실적인 가짜 뉴스는 여론을 조작하고, 폭력을 조장하고, 분열을 조장하고, 사회적 안정을 해치는 도구로 사용될 수 있습니다. 정치 분야에서는 초현실적인 가짜 뉴스가 민주주의 기관에 대한 신뢰를 떨어뜨리고, 선거 결과에 영향을 미치고, 심지어 갈등을 조장할 수도 있습니다.

언론인과 언론 기관이 겪는 과제에 대하여, 루옹 동 손은 매우 사실적인 가짜 뉴스, 특히 딥페이크의 정교화로 인해 숙련된 언론인이라도 진짜와 가짜를 구별하는 것이 점차 어려워지고 있다고 말했습니다.

손 씨는 "정보 폭발 시대에 대중은 기자와 뉴스 기관이 정보를 빠르고 정확하게 제공할 것을 점점 더 요구하고 있습니다. 그러나 이러한 압력으로 인해 기자는 신중하게 검증하지 않고 서둘러 정보를 게시하여 초현실적인 가짜 뉴스가 퍼질 수 있는 기회를 만들 수 있습니다. 또한 기자와 뉴스 기관은 정보를 신중하게 검증하고 게시하지 않으면 법적, 윤리적 위험에 직면하게 됩니다." 라고 말했습니다.

AI가 정보를 검증하도록 하세요

Ths에 따르면 루옹 동 손, 이런 종류의 가짜 뉴스를 다루기 위해서는 현대적 기술 솔루션을 적용하는 것이 매우 필요합니다.

"이러한 솔루션은 가짜 뉴스를 탐지하고 제거하는 데 초점을 맞출 뿐만 아니라 생산 초기 단계부터 이를 방지합니다." 라고 MSc. Dong Son이 말했습니다.

첫째, 손씨에 따르면 오늘날 가장 중요한 기술 중 하나는 인공지능 시스템을 사용하여 초현실적인 가짜 뉴스를 감지하는 것입니다. 최신 AI 시스템은 맥락을 분석하고, 여러 출처에서 정보를 수집하고, 정보 내용의 이상을 감지할 수 있습니다. 대표적인 예가 AI를 이용해 영상과 이미지를 분석해 편집이나 딥페이크 제작 흔적을 감지하는 것입니다.

다음으로, 소셜 미디어 플랫폼과 검색 엔진도 가짜 뉴스 콘텐츠가 널리 퍼지기 전에 이를 자동으로 분류하고 걸러내기 위해 기계 학습 알고리즘을 적극적으로 활용하고 있습니다. 이러한 알고리즘은 공유 패턴, 확산성, 심지어 게시물의 톤에서 특이한 징후를 인식하고 정보가 가짜일 가능성을 평가하도록 설계되었습니다.

또한, 블록체인 기술을 사용하여 정보 출처를 관리하는 것도 잠재적인 솔루션입니다. 블록체인은 투명하고 변경 불가능한 인증 시스템을 구축할 수 있는 잠재력을 가지고 있으며, 이를 통해 모든 정보의 출처와 이력을 추적하고 정확성과 신뢰성을 보장할 수 있습니다.

AI는 구별하기 어려운 가짜 콘텐츠나 오해의 소지가 있는 정보 및 이미지를 만들어내 개인이나 조직의 평판을 크게 손상시키고, 심지어 국가적, 민족적 이익을 해칠 수도 있습니다.

이 의견에 동의합니다. 루옹 동 손, 판 반 투 씨 - 저널리즘학과장 - 저널리즘 및 커뮤니케이션 학부, 호치민시 사회과학 및 인문학 대학. HCM은 저널리즘에 AI의 강점을 활용할 수 있는 기술을 제공하는 것 외에도 AI 도구를 사용하여 정보를 검증해야 한다고 강조했습니다.

출처 검증은 본질적으로 출처의 신뢰성을 평가하는 것으로, 정보 출처를 검증하고, 다른 출처와 비교하고, 사실 확인 도구를 사용하여 신뢰성을 확인하는 중요한 기술입니다.

흥미로운 점은 사실 확인을 지원하는 기존 도구인 Google Image, Tineye 역방향 이미지 검색, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz 외에도 이제 기자의 검증 과정을 지원하는 AI 통합 도구가 많이 있다는 것입니다.

판 반 투 씨는 현재 시기에 언론인의 전문적 기술을 훈련하려면 AI가 조작한 가짜 뉴스의 공격에 대항하여 정보 검증 역량을 제공하는 데 중점을 두어야 한다고 말했습니다. "AI 도구를 사용하여 AI 오류를 수정하는 것은 언론인과 언론 기관이 역할을 잘 수행할 수 있도록 돕는 가장 빠른 방법일 뿐만 아니라 정보의 질을 향상시키고 대중을 잘못된 정보와 미디어의 부정적 영향으로부터 보호하는 데 기여하는 방법이기도 합니다." 라고 투 씨는 말했습니다.

하지만 투 씨는 기자들의 정보 평가 능력이 도구에만 의존할 수는 없다고 지적했습니다. 우선 AI가 뉴스 내용 분석을 도울 수 있지만 모든 유형의 가짜 뉴스와 조작된 정보를 감지할 수는 없다는 점을 먼저 밝혀두겠습니다. AI 소프트웨어는 여전히 감지에 사용하는 AI 기술에 속을 가능성이 있습니다.

"어떤 도구도 마법의 지팡이는 아니지만, 가짜 사진/비디오를 감지하는 AI 도구는 검증 프로세스나 실사 방법의 일부로서 여전히 귀중한 리소스입니다." 라고 Phan Van Tu는 말했습니다.

호아장

출처: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html