타오바오, AI에 큰 박차

타오바오는 인공지능을 규제하려는 중국 정부의 노력에 대응하고 있습니다. 사진: Shutterstock .

알리바바 그룹의 전자상거래 플랫폼인 타오바오는 인공지능(AI)이 생성하는 가짜 및 오해의 소지가 있는 제품 이미지의 확산을 방지하기 위한 대책을 강화하고 있습니다. 이러한 조치는 점점 정교해지고 접근하기 쉬워지는 AI 기술의 오용을 막기 위한 것입니다.

알리바바의 전자상거래 사업부인 타오바오와 티몰 그룹은 이번 주에 타오바오, 티몰, 중고시장 셴위를 포함한 자사 플랫폼 전반에 걸쳐 AI가 생성하는 이미지 검토에 초점을 맞춘 새로운 이니셔티브를 발표했습니다.

회사 대표는 보도자료를 통해 "우리는 소비자에게 피해를 주고 진정한 판매자의 권리를 침해하는 사기 행위에 맞서 싸울 것을 결심했습니다."라고 밝혔습니다. "제품 이미지의 모든 편집은 진위성을 보장하기 위해 합리적인 수준이어야 합니다. 실제 상품과 다른 제품 이미지를 만드는 데 AI를 사용하는 것은 절대적으로 금지되어 있습니다."

이 캠페인의 일환으로, 타오바오는 이미지 감지 시스템을 업그레이드할 예정이며, 이미 10만 개에 가까운 과도하게 편집되거나 과장된 이미지를 제거했습니다. 이 플랫폼은 또한 제품 세부 정보 페이지에 경고 표시를 추가하여 사용자에게 AI가 생성한 콘텐츠에 대한 경고를 전달함으로써 소비자의 인식을 높이는 것을 목표로 합니다.

타오바오는 AI가 생성한 이미지에서 흔히 볼 수 있는 몇 가지 이상 현상을 지적하는데, 여기에는 자연스럽지 못한 손 위치, 기형의 발, 이상한 그림자, 말이 안 되는 언어 문자 등이 포함됩니다.

강력한 멀티모달 AI 모델의 개발로 인해 AI가 생성한 이미지와 실제 이미지를 구별하기가 점점 더 어려워졌습니다.

타오바오의 이니셔티브는 생성 AI를 규제하려는 중국 정부의 노력에 부합합니다.

2월에 중국 사이버공간 관리국(CAC)은 올해의 "칭랑" 캠페인이 AI 남용 퇴치, 합성 콘텐츠 감지 강화, AI가 생성하는 허위 정보 단속에 중점을 둘 것이라고 발표했습니다.

3월에 중국 정부는 모든 사용자 인터페이스와 데이터 파일에 AI가 생성한 콘텐츠에 대한 명확한 라벨을 지정하도록 요구하는 지침을 발표했습니다. 이 규정은 9월에 시행될 예정이다.

알리바바는 이러한 조치를 취한 최초의 대형 전자상거래 기업으로, 제품 광고의 진위성을 보장하기 위해 업계 전반의 협력을 촉구했습니다. 이러한 조치는 웨이보와 더우인(틱톡의 중국 버전) 등 소셜 미디어 플랫폼에서 취한 유사한 조치를 따른 것입니다.

"AI의 개발과 활용은 소비자 경험을 향상시키고 혁신을 촉진하며 합법적인 사업 이익을 보호해야지 불법적이고 비윤리적인 행동을 위한 도구가 되어서는 안 됩니다."라고 회사는 강조했습니다.

출처: https://znews.vn/taobao-siet-chat-quan-ly-hinh-anh-san-pham-gia-mao-do-ai-tao-ra-post1541470.html