AI 테스트 앱 오류로 학생이 0점을 받았습니다.

미국의 많은 대학에서는 학생들이 AI를 사용하여 에세이를 쓰는 것을 막기 위해 인공지능(AI) 테스트 애플리케이션을 사용하고 있습니다. 그러나 시험 도구가 올바르지 않아 학생들이 0점을 받는 경우가 많습니다.

블룸버그 통신에 따르면, 구체적인 사례로 미국 센트럴 메소디스트 대학교의 학생인 모이라 올름스테드(24세)는 AI 테스트 애플리케이션에서 자신의 에세이를 "AI가 생성한 글"로 평가해 0점을 받은 사연을 털어 놓았습니다 .

AI 테스트 애플리케이션 '오해' 비율 1%에서 10% 이상으로

해당 교수는 AI 검사 앱이 이전에 자신의 게시물에 플래그를 지정했다고 말했습니다. 하지만 올름스테드는 이러한 결론에 이의를 제기하며, 그녀의 글은 AI가 기사를 생성했기 때문이 아니라 그녀가 자폐 스펙트럼 장애를 앓고 있기 때문에 약간 "기계적"이라고 주장했습니다. 그러자 학교 측에서 그녀의 성적을 바꿔서 그 과목에 합격하게 했습니다.

또 다른 사례로, 이탈리아에서 자란 미국 학생인 켄 사히브는 뉴욕시(미국)의 버클리 대학에서 컴퓨터 네트워킹 과목을 수강하면서 자신의 논문이 0점을 받았을 때 큰 충격을 받았다고 말했습니다.

강사는 이렇게 설명했습니다. "제가 시도한 모든 도구는 같은 결과를 보였습니다. AI가 이 기사를 생성했습니다." 하지만 사힙은 10대 시절 이탈리아에서 공부했기 때문에 영어는 제2외국어에 불과하고 그의 글은 모국어 화자만큼 자연스럽지 않을 것이라고 주장하며, AI 테스트 앱이 잘못된 평가를 내렸다고 주장합니다. 남학생이 항의하자 학교 측은 논술 점수를 변경했다.

미국 민주주의와 기술 센터(Center for Democracy and Technology)가 3월에 발표한 보고서에 따르면, 미국에서 설문 조사에 참여한 450명 이상의 강사 중 약 3분의 2가 AI 테스트 애플리케이션을 정기적으로 사용한다고 답했습니다. 교육자들은 이러한 도구가 AI가 문장, 단락 또는 전체 학생 과제를 생성하는지 여부를 판단하는 데 도움이 된다고 말합니다.

Turnitin, GPTZero, Copyleaks와 같은 일련의 도구가 미국의 많은 고등학교와 대학에서 사용되고 있습니다.

기술 회사들은 AI 테스트 앱의 정확도가 최대 99%라고 주장합니다. 그러나 블룸버그는 2022년 말 ChatGPT 출시 전에 500개의 에세이를 대상으로 테스트를 실시했습니다. 그 결과, AI 테스트 애플리케이션이 학생이 쓴 에세이를 "AI가 생성한 에세이"로 "오해"하는 비율이 1%에서 10% 이상에 달하는 것으로 나타났습니다.

이러한 오류율과 매년 검토해야 할 논문의 양을 고려하면 이는 학생들의 심리에 큰 영향을 미치며, 심지어 교수와 학생 사이에 불필요한 의심과 긴장감을 조성하기도 합니다.

구체적으로, "AI가 생성한 기사"라는 딱지를 붙인 후, 여학생 모이라 올름스테드는 너무 예민해서 에세이를 쓰는 동안 컴퓨터 화면 전체의 비디오 녹화 기능을 사용하여 학교에 이를 증명했습니다.

미국의 많은 학생들은 이제 "AI 글쓰기"라는 딱지가 붙을 위험이 있는 문장을 검토 도구에서 신중하게 검토해야 하기 때문에 에세이를 쓰는 데 더 많은 시간을 소비한다고 말합니다.

Quillbot 앱은 기사의 43%가 AI가 생성한 콘텐츠라고 평가합니다.

스탠포드 대학(미국)이 2023년에 실시한 연구에 따르면, AI 테스트 애플리케이션은 미국에서 태어난 8학년 학생들의 에세이를 테스트할 때 "거의 완벽"한 것으로 나타났습니다. 하지만 이 앱은 학생(제2 외국어가 영어인)의 에세이 중 절반을 잘못 "AI 글쓰기"로 분류했습니다.

AI 테스트 앱을 '판사'로 사용하지 마세요

이러한 상황에 직면하여 미국의 일부 학교에서는 학생들에게 AI 검사 도구를 제공하여 제출하기 전에 자신의 글을 스스로 검사하게 합니다.

또한, 기술 회사들은 학교에서 AI 테스트 앱을 학생의 에세이에 대한 판단을 내리는 "판사"가 아닌, 지원 도구로만 보아야 한다고 강조합니다.

시간을 절약하고 싶어하는 일부 학생은 "AI 휴머나이저" 도구를 사용해야만 합니다. 이 도구는 사람이 쓴 글을 자동으로 편집하거나 AI 테스트 애플리케이션을 통과하도록 다시 쓸 수 있습니다.

일부 교육자와 학생의 경우, AI 테스트 애플리케이션을 남용하는 학교와 강사는 가르치고 배우는 과정에 영향을 미칩니다.

메릴랜드 대학교 영문학 교수인 애덤 로이드는 "AI는 우리가 좋아하든 싫어하든 미래의 일부가 될 것"이라고 말했습니다. "AI를 교실에서 없애야 할 대상으로 보거나 학생들이 사용하지 못하도록 해야 할 대상으로 보는 것은 실수입니다." 로이드 교수는 AI 테스트 앱을 사용하는 대신 자신의 직감에 의존합니다. "저는 학생들의 글쓰기 능력을 잘 알고 있습니다. 만약 의심스러운 점이 있다면, 솔직하게 이야기하고 학생들이 AI를 사용하여 논문을 쓴다고 성급하게 비난하지 않을 것입니다."라고 로이드 씨는 말했습니다.

출처: https://thanhnien.vn/sinh-vien-bi-0-diem-vi-loi-cua-ung-dung-kiem-tra-ai-185241028001727599.htm