BGR 에 따르면, 중국의 새로운 AI(인공지능) 모델인 DeepSeek R1은 빠른 인기와 성능에 대한 칭찬에도 불구하고 커뮤니티로부터 강력한 비판의 물결에 직면해 있습니다. 사이버 보안
DeepSeek R1은 다른 AI보다 더 많은 악성 콘텐츠를 생성합니다.
사진: WIRED 스크린샷
DeepSeek R1은 더 많은 악성 콘텐츠를 생성하는 경향이 있습니다.
Enkrypt AI의 최신 연구에 따르면 R1은 ChatGPT와 같은 경쟁사보다 악성 콘텐츠를 생성할 가능성이 훨씬 더 높은 것으로 나타났습니다.
구체적으로, R1은 편향적 경향을 보이며 악성 코드, 악의적 언어, 극단주의적 내용은 물론 위험한 화학 및 생물학 무기와 관련된 정보까지 생성하는 것으로 나타났습니다. 우려되는 점은 이런 콘텐츠가 '탈옥' 기술 없이도 만들어질 수 있다는 것입니다.
보고서의 일부 주요 내용:
- R1은 Claude-3 Opus(Anthropic)보다 3배 더 편향되어 있습니다.
- R1은 o1(OpenAI)보다 맬웨어에 4배 더 취약합니다.
- R1은 o1보다 악성 콘텐츠를 생성할 가능성이 11배 더 높습니다.
이러한 위험은 DeepSeek R1의 안전성에 대한 큰 의문을 제기합니다. 특히 해당 애플리케이션이 널리 사용되고 있다는 점을 감안하면 더욱 그렇습니다. 사용자는 R1과 상호작용할 때 주의를 기울여야 하며, 더 안전한 대안을 고려해야 합니다.
그 외에도 DeepSeek은 다음과 같은 여러 논란에도 연루되었습니다.
- 중국 정부에 민감한 콘텐츠의 검열.
- 사용자 데이터를 중국으로 전송하여 개인정보 보호에 대한 우려를 제기합니다.
- 보안되지 않은 사용자 데이터 저장.
DeepSeek를 업데이트하여 R1의 안전성을 향상시킬 수 있지만, 사용자가 이 버전의 AI를 로컬에 설치하고 자동으로 업데이트하지 않으면 큰 문제가 될 것입니다. DeepSeek R1의 미래는 여전히 큰 의문으로 남아 있습니다. 특히 안전 및 보안 문제가 아직 완전히 해결되지 않았기 때문입니다.
[광고2]
출처: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm
Comment (0)