Estudiante recibe cero puntos debido a error en aplicación de prueba de IA

Muchas universidades en EE. UU. utilizan aplicaciones de pruebas de inteligencia artificial (IA) para evitar que los estudiantes utilicen IA para escribir ensayos. Sin embargo, hay muchos casos en los que la herramienta de prueba es incorrecta, lo que provoca que los estudiantes obtengan 0 puntos.

En un caso específico, Moira Olmsted (24 años), estudiante de la Universidad Metodista Central (EE.UU.), contó la historia de recibir una puntuación de 0 después de que la aplicación de pruebas de IA evaluara su ensayo como "escritura generada por IA", según la agencia de noticias Bloomberg .

La tasa de “malentendidos” en las aplicaciones de pruebas de IA aumentó del 1 % a más del 10 %

La profesora dijo que la aplicación de verificación de inteligencia artificial había marcado previamente sus publicaciones. Olmsted, sin embargo, cuestionó esta conclusión, alegando que su escritura era un poco “mecánica” porque tiene un trastorno del espectro autista, no porque la IA generara el artículo. Luego la escuela cambió sus resultados y le permitió aprobar esa materia.

En otro caso, Ken Sahib, un estudiante estadounidense que creció en Italia, dijo que se sorprendió cuando su artículo recibió un cero en un curso de redes de computadoras en el Berkeley College de la ciudad de Nueva York (EE.UU.).

El instructor explicó: "Todas las herramientas que probé dieron el mismo resultado: la IA generó este artículo". Sin embargo, Sahib afirma que estudió en Italia durante su adolescencia, por lo que el inglés es solo un segundo idioma y su escritura no sería tan natural como la de un hablante nativo, y afirma que la aplicación de prueba de inteligencia artificial dio evaluaciones incorrectas. Después de que el estudiante protestó, la escuela cambió la puntuación del ensayo.

Según un informe del Centro para la Democracia y la Tecnología (EE.UU.) de marzo, aproximadamente dos tercios de los más de 450 profesores encuestados en EE.UU. dijeron que utilizan regularmente aplicaciones de pruebas de IA. Los educadores dicen que estas herramientas les ayudan a determinar si la IA está generando oraciones, párrafos o trabajos estudiantiles completos.

Una serie de herramientas como Turnitin, GPTZero y Copyleaks se están utilizando en muchas escuelas secundarias y universidades de Estados Unidos.

Las empresas tecnológicas afirman que las aplicaciones de pruebas de IA tienen una precisión de hasta el 99%. Sin embargo, Bloomberg realizó una prueba con 500 ensayos antes del lanzamiento de ChatGPT a fines de 2022. Los resultados mostraron que la tasa de aplicaciones de prueba de IA que “confundían” ensayos escritos por estudiantes con “ensayos generados por IA” oscilaba entre el 1% y más del 10%.

Con esta tasa de error, considerando la gran cantidad de trabajos que deben revisarse cada año, esto afecta enormemente la psicología de los estudiantes, creando incluso sospechas y tensiones innecesarias entre profesores y estudiantes.

En concreto, tras ser marcada por un "artículo generado por IA", la estudiante Moira Olmsted se mostró tan sensible que utilizó la función de grabación de vídeo de toda la pantalla de su ordenador mientras escribía su ensayo para demostrárselo a la escuela.

Muchos estudiantes en EE. UU. dicen que ahora pasan más tiempo escribiendo ensayos porque tienen que revisar cuidadosamente las oraciones que corren el riesgo de ser etiquetadas como “escritura de IA” por la herramienta de revisión.

La aplicación Quillbot califica un artículo como que tiene un 43 % de contenido generado por IA

Un estudio de 2023 de la Universidad de Stanford (EE. UU.) mostró que las aplicaciones de pruebas de IA eran "casi perfectas" al probar los ensayos de estudiantes de octavo grado nacidos en EE. UU. Sin embargo, la aplicación etiquetó incorrectamente la mitad de los ensayos de los estudiantes (que tenían inglés como segunda lengua) como “escritura de IA”.

No utilice aplicaciones de prueba de IA como "jueces"

Ante esta situación, algunas escuelas en EE. UU. proporcionan a los estudiantes herramientas de revisión de inteligencia artificial para que autocorrijan sus escritos antes de entregarlos.

Además, las empresas de tecnología enfatizan que las escuelas solo deben ver las aplicaciones de pruebas de IA como herramientas de apoyo, no como “jueces” que juzguen los ensayos de los estudiantes.

Algunos estudiantes que quieren ahorrar tiempo incluso se ven obligados a utilizar herramientas de “humanización de IA”, que pueden editar automáticamente la escritura humana o reescribirla para aprobar las aplicaciones de pruebas de IA.

Para algunos educadores, estudiantes, escuelas y profesores, el abuso de las aplicaciones de pruebas de IA afectará el proceso de enseñanza y aprendizaje.

“La IA va a ser parte del futuro, nos guste o no”, señala Adam Lloyd, profesor de inglés en la Universidad de Maryland. “Es un error pensar que la IA es algo que debemos eliminar de las aulas o que debemos desalentar a los estudiantes a que la utilicen”. En lugar de utilizar una aplicación de pruebas de inteligencia artificial, el profesor Lloyd confía en su intuición. “Conozco bien las habilidades de escritura de mis estudiantes. Si tengo alguna duda, la comentaré abiertamente y no me apresuraré a acusar a los estudiantes de usar inteligencia artificial para escribir sus trabajos”, afirmó Lloyd.

Fuente: https://thanhnien.vn/sinh-vien-bi-0-diem-vi-loi-cua-ung-dung-kiem-tra-ai-185241028001727599.htm