ChatGPT의 사실적인 사진 생성 기능으로 사기에 대한 두려움을 해소하세요

ChatGPT "사진처럼 그린다"

3월 26일, OpenAI가 자사의 지능형 모델 사용자를 위한 이미지 생성 기능에 초점을 맞춘 Images in ChatGPT를 공식 출시하자 전 세계와 베트남의 AI(인공지능) 사용자 커뮤니티는 흥분을 감추지 못했습니다. 이전에도 ChatGPT는 이미지를 생성하는 기능이 있었지만 제한적이었고 DALL-E라는 또 다른 유명한 텍스트-이미지 모델을 거쳐야 했습니다.

텍스트를 그림으로 바꾸고 "포토샵처럼 이미지를 결합"할 수 있는 이 도구의 능력은 금세 주목을 받았습니다. 많은 사람이 출력 이미지 품질이 "놀랍다"고 말했고, 대부분은 현재 시장에 출시된 인기 있는 AI 모델보다 "뛰어나다"고 평가했습니다.

ChatGPT는 간단한 명령만으로 사실적인 커피잔을 만들어냅니다.

OpenAI의 연구 책임자인 가브리엘 고(Gabriel Goh)에 따르면, GPT-4o 모델을 사용하여 ChatGPT의 이미지 생성 능력이 크게 향상된 것은 "바인딩"입니다. 바인딩은 AI 이미지 생성기가 속성과 객체 간의 연결을 유지하는 정도를 나타내는 용어입니다. 고 씨는 GPT-4o가 혼동 없이 15~20개의 서로 다른 객체의 속성을 정확하게 연관시켜 생성된 콘텐츠의 정확도와 신뢰성을 크게 향상시킬 수 있다고 주장했습니다.

ChatGPT의 이미지는 뛰어난 이미지 생성 능력뿐만 아니라, 다른 이미지 생성 AI 도구의 '치명적인' 약점, 즉 이미지 내부에 글과 텍스트를 표시하는 약점도 해결합니다. 실제로 많은 이미지에는 정확하게 표현된 텍스트가 포함되어 있어 이미지가 진짜인지 가짜인지 알아내기가 더욱 어렵습니다.

이 도구의 단점은 이미지를 만드는 데 시간이 오래 걸린다는 점이지만, 좋은 품질의 이미지, 정확한 세부 정보, 사용자 설명과의 일치는 항상 인내심을 필요로 하기 때문에 지연이 발생하는 것은 타당한 것으로 간주됩니다. 해당 팀은 지연 문제는 향후 개선될 것이라고 밝혔다.

사진을 결합하는 능력에 대한 많은 우려

ChatGPT와 OpenAI가 사용자에게 제공하는 초기 경험의 재미 외에도 정보 보안, 개인정보 보호 및 악용 위험 문제가 다시 한번 대두되었습니다. "가까운 미래에 온라인에 보이는 이미지가 반드시 실제와 다를 수 있습니다." 베트남의 한 Facebook 사용자는 ChatGPT에 사진처럼 실제와 같이 보이는 완전히 비현실적인 이미지를 만들어 달라고 요청했을 때 우려를 표명했습니다. 예를 들어, 배우이자 전 레슬러인 드웨인 존슨(더 락)이 껌 브랜드를 광고하는 사진이나 난로 위에 앉아 있는 얼룩 고양이가 사진과 똑같아 보이는 사진 등이 있습니다.

제공된 자세한 명령을 통해 사용자는 기존 사진 편집 도구에 대한 심층적인 지식이 없어도 놀라운 결과를 만들어낼 수 있습니다.

많은 사람들이 새로운 도구의 "스트리핑" 기능을 시도해 보기도 했습니다. TN(하노이)은 인터넷에서 가져온 모델 사진을 사용해 ChatGPT에 요청에 따라 옷을 갈아입으라고 요청했으며 거의 ​​모든 명령이 높은 정확도로 수행되었다고 밝혔습니다. "그러나 저작권이 있는 이미지를 만드는 것에 대한 시스템 정책을 위반하거나 지나치게 선정적인 콘텐츠를 포함하고 있다는 이유로 여전히 거부되는 경우가 있었습니다." TN이 공유했습니다.

Thanh Nien 의 테스트에서 ChatGPT는 실제 세계나 영화, 스토리에서 유명하거나 저작권이 있는 캐릭터와 관련된 이미지를 만드는 것을 거부했습니다. 베트남에서 아이스티를 마시는 닥터 스트레인지의 이미지를 만들어 달라는 요청을 받았을 때, 시스템은 "요청하신 이미지를 만들 수 없습니다. 보내주신 참조 이미지에는 마블의 저작권이 있는 캐릭터인 닥터 스트레인지가 명확하게 표시되어 있으며, 이는 현재 콘텐츠 정책을 위반하고 있습니다."라고 답했습니다.

ChatGPT의 멀티모달 제품 책임자인 재키 섀넌은 ChatGPT의 이미지가 딥페이크, 포르노 또는 사기성 콘텐츠로부터 강력한 보호 기능을 제공한다고 주장합니다. 특히, 생성된 이미지에는 AI가 생성한 것으로 표시하기 위해 C2PA 호환 메타데이터가 통합되지만, 확인하려면 별도의 도구가 필요합니다.

하지만 아직도 법을 성공적으로 우회하여 유명인의 이미지를 오락 목적으로 사용하는 사람들이 많이 있습니다. 예를 들어, 아이폰 대신 삼성 폰을 든 CEO 팀 쿡, 야채 사탕을 씹는 배우 로버트 다우니 주니어, 많은 사람들 앞에서 베트남의 작은 골목에서 리오넬 메시와 공을 놓고 싸우는 크리스티아누 호날두의 사진...

출처: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm