Estudiante recibe cero puntos debido a error en aplicación de pruebas de IA

Muchas universidades en EE. UU. utilizan aplicaciones de pruebas de inteligencia artificial (IA) para evitar que los estudiantes utilicen IA para escribir ensayos. Sin embargo, hay muchos casos en los que la herramienta de prueba es incorrecta, lo que provoca que los estudiantes obtengan 0 puntos.

En un caso específico, Moira Olmsted (24 años), estudiante de la Universidad Metodista Central (EE. UU.), contó la historia de recibir una puntuación de 0 después de que la aplicación de pruebas de IA evaluara su ensayo como "escritura generada por IA", según la agencia de noticias Bloomberg .

La tasa de "malentendidos" en las aplicaciones de pruebas de IA aumentó del 1% a más del 10%.

La profesora dijo que la aplicación de verificación de inteligencia artificial había marcado previamente sus publicaciones. Olmsted, sin embargo, refutó esta conclusión, afirmando que su escritura era un poco “mecánica” porque tiene un trastorno del espectro autista, no porque una IA generara el artículo. Luego la escuela cambió sus resultados y le permitió aprobar esa materia.

En otro caso, Ken Sahib, un estudiante estadounidense que creció en Italia, dijo que se sorprendió cuando su artículo recibió un cero en un curso de redes de computadoras en el Berkeley College de la ciudad de Nueva York (EE. UU.).

El instructor explicó: "Todas las herramientas que probé dieron el mismo resultado: la IA generó este artículo". Sin embargo, Sahib afirma que estudió en Italia durante su adolescencia, por lo que el inglés es solo su segundo idioma y su escritura no sería tan natural como la de un hablante nativo, y afirma que la aplicación de prueba de inteligencia artificial arrojó evaluaciones incorrectas. Después de que el estudiante protestó, la escuela cambió la calificación del ensayo.

Según un informe del Centro para la Democracia y la Tecnología (EE. UU.) de marzo, aproximadamente dos tercios de más de 450 profesores encuestados en Estados Unidos dijeron que utilizan regularmente aplicaciones de pruebas de IA. Los educadores dicen que estas herramientas les ayudan a determinar si la IA está generando oraciones, párrafos o trabajos estudiantiles completos.

Una serie de herramientas como Turnitin, GPTZero y Copyleaks se están utilizando en muchas escuelas secundarias y universidades de los EE. UU.

Las empresas tecnológicas afirman que las aplicaciones de pruebas de IA tienen una precisión de hasta el 99%. Sin embargo, Bloomberg realizó una prueba con 500 ensayos antes del lanzamiento de ChatGPT a fines de 2022. Los resultados mostraron que la tasa de aplicaciones de pruebas de IA que "confundían" ensayos escritos por estudiantes con "ensayos generados por IA" oscilaba entre el 1% y más del 10%.

Con esta tasa de error, considerando la gran cantidad de trabajos que deben revisarse cada año, se afecta enormemente la psicología de los estudiantes, llegando incluso a crear sospechas y tensiones innecesarias entre profesores y estudiantes.

En concreto, tras ser marcada por un "artículo generado por IA", la estudiante Moira Olmsted se mostró tan sensible que utilizó la función de grabación de vídeo de toda la pantalla de su ordenador mientras escribía su ensayo para demostrárselo a la escuela.

Muchos estudiantes en EE. UU. dicen que ahora pasan más tiempo escribiendo ensayos porque tienen que revisar cuidadosamente las oraciones que corren el riesgo de ser etiquetadas como "escritura de IA" por la herramienta de verificación.

La aplicación Quillbot califica un artículo como si tuviera un 43 % de contenido generado por IA.

Un estudio de 2023 de la Universidad de Stanford (EE. UU.) mostró que las aplicaciones de pruebas de IA fueron "casi perfectas" al probar los ensayos de estudiantes de octavo grado nacidos en EE. UU. Sin embargo, la aplicación etiquetó incorrectamente la mitad de los ensayos de los estudiantes (que tenían inglés como segundo idioma) como “escritura con IA”.

No utilices aplicaciones de pruebas de IA como «jueces»

Ante esta situación, algunas escuelas en EE. UU. proporcionan a los estudiantes herramientas de revisión de inteligencia artificial para que autorevisen sus escritos antes de entregarlos.

Además, las empresas de tecnología enfatizan que las escuelas sólo deben ver las aplicaciones de pruebas de IA como herramientas de apoyo, no como “jueces” que juzguen los ensayos de los estudiantes.

Algunos estudiantes que desean ahorrar tiempo incluso se ven obligados a utilizar herramientas de “humanización de IA”, que pueden editar automáticamente la escritura humana o reescribirla para pasar las aplicaciones de pruebas de IA.

Para algunos educadores y estudiantes, escuelas y profesores, el abuso de aplicaciones de pruebas de IA afectará el proceso de enseñanza y aprendizaje.

“La IA será parte del futuro, nos guste o no”, señala Adam Lloyd, profesor de inglés en la Universidad de Maryland. “Es un error pensar que la IA es algo que debemos eliminar del aula o disuadir a los estudiantes de usarla”. En lugar de utilizar una aplicación de pruebas de inteligencia artificial, el profesor Lloyd confía en su intuición. “Conozco bien las habilidades de escritura de mis estudiantes. Si tengo alguna duda, la comentaré abiertamente y no me apresuraré a acusarlos de usar IA para escribir sus trabajos”, dijo el Sr. Lloyd.

Fuente: https://thanhnien.vn/sinh-vien-bi-0-diem-vi-loi-cua-ung-dung-kiem-tra-ai-185241028001727599.htm