스타트업 OpenAI가 2022년 말 첫 번째 AI 애플리케이션인 ChatGPT를 출시한 이후, 특히 생성 AI를 중심으로 AI 애플리케이션을 개발하기 위한 경쟁이 치열해졌으며, 이로 인해 삶의 모든 영역에 많은 편의가 제공되었습니다. 하지만 이는 많은 위험을 초래합니다.
개인정보 침해
최근 몇 년 동안 사이버 범죄자들이 AI를 사용하여 실제 사람의 이미지와 목소리를 가짜로 만든 비디오 클립을 만들면서 많은 조직과 개인이 손실을 입었습니다. 그 중 하나가 딥페이크(Deepfake) 기술이다.
Sumsub이 2023년 11월 말에 발행한 신원 사기 보고서에 따르면, 딥페이크 사기는 2022~2023년에 전 세계적으로 10배 증가했습니다. 이는 또한 세계적으로 인공 지능(AI) 응용 프로그램이 폭발적으로 늘어나는 시기이기도 합니다.
Status Labs는 딥페이크가 문화, 개인정보 보호, 개인의 평판에 큰 영향을 미쳤다고 밝혔습니다. 딥페이크를 둘러싼 뉴스와 관심은 대부분 유명인 포르노 영상, 복수 포르노, 허위 정보, 가짜 뉴스, 협박 및 사기에 집중되어 있습니다. 예를 들어, 2019년에 미국의 한 에너지 회사는 사기범이 회사 경영진의 이미지와 목소리를 사칭하여 직원들에게 파트너에게 돈을 이체하라고 요구하면서 243,000달러를 사기당했습니다.
로이터 통신에 따르면 2023년에는 약 50만 개의 영상과 음성 형태의 딥페이크 콘텐츠가 전 세계 소셜 네트워크를 통해 공유됐다고 합니다. 재미를 위한 딥페이크 외에도, 나쁜 놈들이 커뮤니티를 사기치기 위해 만든 속임수도 있습니다. 2022년에는 전 세계적으로 딥페이크 사기로 인해 최대 1,100만 달러의 피해가 발생한 것으로 추산됩니다.
많은 기술 전문가들은 AI가 지적 재산권과 진위성, 나아가 AI가 만든 '작품' 간의 지적 재산권 분쟁을 포함한 부정적인 영향을 초래할 것이라고 경고했습니다. 예를 들어, 어떤 사람이 AI 애플리케이션에 특정 주제로 그림을 그리라고 요청하지만, 다른 사람도 AI에 똑같은 그림을 그리라고 요청하여 결과적으로 많은 유사점이 있는 그림이 나오는 경우가 있습니다.
이로 인해 소유권 분쟁이 쉽게 발생합니다. 하지만 지금까지 세계는 AI가 생성한 콘텐츠에 대한 저작권 인정(창의적인 AI를 주문하는 개인이나 AI 애플리케이션을 개발하는 기업에 대한 저작권 인정)에 대한 결정을 내리지 않았습니다.
AI 애플리케이션이 생성한 이미지
진짜와 가짜를 구별하기 어렵다
그렇다면 AI가 생성한 콘텐츠도 저작권을 침해할 수 있을까? 기술적인 측면에서 보면, AI가 생성한 콘텐츠는 훈련된 데이터를 기반으로 알고리즘을 통해 합성됩니다. 이러한 데이터베이스는 AI 애플리케이션 개발자가 다양한 출처, 주로 인터넷의 지식 기반으로부터 수집합니다. 이 작품 중 다수는 소유자에게 저작권이 있습니다.
2023년 12월 27일, 뉴욕타임스(미국)는 OpenAI(ChatGPT 포함)와 Microsoft를 고소하며, 수백만 개의 기사가 이 두 회사의 AI 챗봇과 AI 플랫폼을 훈련하는 데 사용되었다고 주장했습니다. 사용자의 요청에 따라 챗봇이 생성한 콘텐츠 중 기사의 콘텐츠와 유사하거나 동일한 콘텐츠가 있다는 증거가 있습니다. 이 신문사는 기업이 '지적 재산'을 이익을 위해 사용할 때 이를 무시할 수 없습니다.
뉴욕 타임스는 AI와 관련된 저작권 소송을 제기한 최초의 주요 미국 신문입니다. 가까운 미래에, 특히 뉴욕 타임스의 성공 이후, 다른 신문사들도 소송을 제기할 가능성이 있습니다.
이전에 OpenAI는 2023년 7월에 Associated Press 통신사와 저작권 라이선스 계약을 체결했고, 2023년 12월에 Politico와 Business Insider라는 두 신문의 소유주인 독일 출판사인 Axel Springer와 저작권 라이선스 계약을 체결했습니다.
배우 사라 실버먼도 2023년 7월에 여러 소송에 참여하여 Meta와 OpenAI가 그녀의 회고록을 AI 프로그램의 훈련 텍스트로 사용했다고 비난했습니다. 또한 AI 시스템이 수만 권의 책을 데이터베이스에 흡수했다는 사실이 밝혀지자 많은 작가들이 경각심을 표했으며, 조나단 프랜즌과 존 그리샴 등의 작가들이 소송을 제기하기도 했습니다.
한편, 사진 서비스 게티이미지(Getty Images)도 회사의 저작권이 있는 영상 자료를 무단으로 사용했다는 이유로 텍스트 프롬프트를 기반으로 이미지를 생성한 AI 회사를 고소했습니다.
사용자는 AI 도구에 "작성"을 요청한 "작품"을 "부주의하게" 사용할 경우 저작권 문제가 발생할 수 있습니다. 전문가들은 AI 도구를 검색, 데이터 수집, 참고용 제안에만 사용할 것을 항상 권장합니다.
또 다른 문제는 AI 애플리케이션이 특정 콘텐츠의 진실과 거짓을 구분하지 못해 사용자를 혼란스럽게 한다는 것입니다. 출판사와 편집자는 원고 접수와 관련해 혼란스러워할 수 있습니다. 교사들 역시 학생들의 작업에 AI가 사용되었는지 아닌지 알아내는 데 어려움을 겪습니다.
이제 커뮤니티는 어떤 콘텐츠가 진짜이고 어떤 콘텐츠가 가짜인지 알 수 없기 때문에 더 경계해야 합니다. 예를 들어, 일반인이 사진에 AI가 '마법을 걸었는지', 아니면 편집했는지 알아내는 건 어려울 겁니다.
AI 활용에 대한 법적 규제가 필요하다
AI 개입을 감지할 수 있는 애플리케이션 도구를 기다리는 동안 관리 기관에서는 이 기술을 사용하여 비공개 콘텐츠를 생성하는 데 대한 명확하고 구체적인 법적 규정을 빨리 마련해야 합니다. 법적 규정을 통해 콘텐츠와 작품이 AI에 의해 개입되었다는 것을 사람들에게 보여줘야 합니다. 예를 들어, AI에 의해 조작된 이미지에는 기본적으로 워터마크를 표시해야 합니다.
[광고2]
출처: https://nld.com.vn/mat-trai-cua-ung-dung-tri-tue-nhan-tao-196240227204333618.htm
댓글 (0)