사진 속 '4자매, 우리는 90살'의 진실

AI가 생성한 이미지는 Facebook에서 수천 건의 상호작용을 이끌어냅니다.

"저희는 네 자매입니다. 오늘 90번째 생일을 맞았습니다. 여러분의 축하를 기다리고 있습니다." 해당 캡션은 네 명의 어린 소녀와 네 명의 노부인이 밝은 미소를 띤 사진 콜라주와 함께 작성되었으며, 45,000개 이상의 좋아요와 9,000개에 가까운 댓글, 500건 이상의 공유를 기록했습니다.

아래에는 4명의 '노인'의 건강을 축하하고 그들의 아름다움을 칭찬하는 게시물이 많이 있습니다. 하지만 이건 AI가 그린 그림이에요. 이 이미지는 공유 계정에서 직접 만든 것이 아니고, 외국의 출처에서 가져온 것입니다.

Copilot, Midjourney, DALL-E와 같은 AI 도구의 개발 덕분에 사용자는 단 하나의 명령만으로 매우 사실적인 이미지를 만들 수 있습니다.

소셜 미디어에서 AI가 생성한 사진을 보는 건 어렵지 않습니다. 이러한 이미지는 종종 가족과 삶을 주제로 하며, 더 많은 상호 작용을 이끌어내기 위해 감정에 호소합니다.

이런 사진은 어디에나 나타나지만, AI가 생성한 사진과 일반 사진을 쉽게 구별할 수 있는 사람은 많지 않습니다. 이러한 콘텐츠는 단순한 '좋아요 미끼'에 그치지 않고 사칭 및 가짜 뉴스 유포 등 악의적인 목적으로도 악용될 수 있습니다.

소셜 미디어 "좋아요" 도구

페이스북, 인스타그램, X 등에서 사용자는 AI가 만든 이미지/비디오를 쉽게 볼 수 있습니다. "우리는 네 자매입니다" 또는 "이 소녀는 돌아가신 아버지의 초상화를 그렸지만 아무도 그녀를 응원하지 않았습니다"와 같은 콘텐츠는 수만 건의 상호작용과 수천 개의 댓글을 불러일으켰습니다.

이미지는 주로 가족, 사랑, 슬픔과 관련이 있습니다. 대부분의 댓글은 기사에 대한 동정을 표했고, 대부분은 AI가 만든 이미지를 알아보지 못했습니다. 많은 계정의 게시물도 명확하게 기록되지 않았습니다.

일부 AI가 생성한 이미지는 Facebook에서 실제 사진으로 오해받습니다.

전문가 레 콩 민 코이에 따르면, AI 콘텐츠가 페이스북에 등장하는 경우가 점점 더 늘어나고 있습니다. 많은 게시물이 플랫폼에서 추천되고 참여도가 높지만, 대부분은 AI가 생성했다는 라벨이 명확하게 표시되지 않습니다.

"기술에 거의 노출되지 않은 사람들은 차이점을 거의 알아차리지 못합니다. 게시물에 대한 수천 개의 댓글은 '너무 감동적'과 같이 동정적인 내용일 뿐입니다.

AI는 일부 새로운 모델이 손이나 치아와 같은 흔한 오류를 교정할 수 있는 수준까지 발전했습니다. 저는 직접 이미지를 확인해야 했습니다. AI 알림 라벨이 없다면 사용자는 거의 알아볼 수 없을 것입니다."라고 Khoi 씨는 공유했습니다.

워털루 대학(캐나다)이 2024년 3월에 발표한 조사에 따르면, 설문 참여자 260명 중 단 61%만이 AI가 생성한 인물 사진과 실제 사람 사진을 구분할 수 있었으며, 이는 연구자들이 예상한 비율(85%)보다 낮습니다.

AI가 생성한 콘텐츠 중 일부는 수만 건의 상호작용을 끌어냅니다.

소셜 네트워크에서 자주 활동하는 사람으로서, 코이 씨는 AI 이미지/비디오가 조회수 증가, 상호작용 증가 또는 심지어 사기에 악용되고 있다고 언급했습니다.

"AI 콘텐츠는 시청자가 심리적으로 조종당하고, 사실이 아닌 것을 믿게 만들거나, 심지어 품질이 좋지 않은 제품을 사거나, 편집된 광고, 음모론을 믿게 만들 수도 있습니다..."라고 코이 씨는 덧붙였다.

실제로 구글과 듀크 대학(미국)이 2024년 5월에 발표한 연구에 따르면, 잘못된 정보를 퍼뜨리는 형태 중에서 AI 이미지의 인기는 텍스트와 일반 편집 사진의 인기와 거의 비슷한 것으로 나타났습니다.

AI가 생성한 이미지를 구별하는 방법은?

AI가 생성한 이미지의 품질이 점점 좋아져 실제 사진과 구별하기 어려워지고 있습니다. 하지만 사용자는 면밀히 살펴보면 여전히 몇 가지 세부 정보를 믿을 수 있습니다.

AI는 종종 다른 이미지의 데이터를 기반으로 이미지를 만듭니다. 그러므로 훈련이 부족한 사람에게는 도구를 사용하는 것이 어려울 수 있습니다.

보안 전문가인 응오 민 히에우에 따르면, AI가 손을 재현하는 데 어려움을 겪는 경우가 많아 손이 더 많거나 변형된 손가락이 있는 이미지가 나오기 때문에 손과 손가락이 주목할 만한 세부 사항이라고 합니다.

AI가 생성한 배우 라이언 레이놀즈의 이미지. 사진: @joinrealmai/X .

예를 들어 배우 라이언 레이놀즈의 사진을 살펴보겠습니다. 사진의 대부분은 상당히 사실적이지만, 레이놀즈 오른손의 손가락은 부자연스러운 모양을 하고 있습니다. 배우의 재킷에 쓰인 글도 전혀 의미가 없습니다. 이는 AI가 생성한 이미지를 인식해야 한다는 확실한 신호입니다. AI는 아직 정확한 텍스트와 로고를 만들어낼 수 없기 때문입니다.

다음으로, 이미지의 조명 및 그림자 효과를 모니터링할 수 있습니다. 조명이나 그림자 각도가 특이한 경우 해당 이미지는 AI에 의해 생성되었을 가능성이 높습니다.

동일한 맥락을 공유하는 콘텐츠의 경우 사용자는 중복된 세부 정보를 확인해야 합니다. AI는 종종 완전히 다른 요소를 생성하는 데 어려움을 겪기 때문입니다.

BBC 에 따르면, 이는 "너무 완벽함"의 한 예이다. 아래의 가수 아리아나 그란데의 사진은 매우 실제처럼 보이지만, 자세히 보면 그녀의 얼굴이 너무 매끈해서 사진이 매우 선명하게 보입니다. 배경의 플라밍고의 배치도 좋지 않습니다.

AI가 만든 가수 아리아나 그란데의 이미지. 사진: @agswaffle/인스타그램 .

콘텐츠가 비디오 형식인 경우 확인해야 할 세부 정보로는 말과 일치하지 않는 입술 움직임, 눈 깜박임이 적거나 부자연스러움, 피부 질감이 흐릿함 등이 있습니다.

마지막으로, 얼굴, 손, 조명 등이 여전히 확실하지 않다면 Google 등의 도구에서 역방향 검색을 해서 출처를 확인해야 합니다.

"이미지의 진위성에 의심이 드는 경우 역방향 검색 도구를 사용하여 이미지가 이전에 다른 곳에 나타났는지 확인할 수 있습니다."라고 Hieu 씨가 덧붙였습니다.