유네스코: AI 도구는 여성에 대한 편견을 갖고 있다

세계에서 가장 인기 있는 인공지능(AI) 도구 중 다수는 OpenAI와 Meta와 같은 회사가 개발한 여성에 대한 편견을 바탕으로 한 프로그램을 기반으로 합니다. 이는 유네스코(유네스코)가 3월 7일에 발표한 새로운 연구 결과입니다.

AI 경쟁에 참여하는 대형 기업들은 이제 인터넷에서 방대한 양의 데이터를 활용해 대규모 언어 모델(LLM)이라고 하는 알고리즘을 훈련하고 있습니다. UNESCO는 인기 채팅 앱 ChatGPT에 사용되는 Meta의 Llama 2 알고리즘과 OpenAI의 GPT-2 및 GPT-3.5를 테스트했습니다. 테스트 결과, 이러한 알고리즘 각각은 여성에 대한 편견이 명확히 드러났습니다.

연구 결과에 따르면, 이러한 도구를 사용하여 생성된 여성 이름과 관련된 텍스트에는 종종 "집", "가족" 또는 "자녀"와 같은 단어가 포함되었고, 남성 이름과 관련된 텍스트에는 종종 "사업", "급여" 또는 "경력"과 같은 단어가 포함되었습니다. 남성은 종종 교사, 변호사, 의사와 같은 직업을 가진 것으로 묘사됩니다. 여성은 종종 요리, 집안일 등의 직업과 연관됩니다.

도 카오

원천: https://www.sggp.org.vn/unesco-cac-cong-cu-ai-dinh-kien-voi-nu-gioi-post729797.html