Студент получил ноль баллов из-за ошибки в приложении для тестирования ИИ

Многие университеты США используют приложения для тестирования на основе искусственного интеллекта (ИИ), чтобы помешать студентам использовать ИИ для написания эссе. Однако во многих случаях инструмент тестирования оказывается неверным, в результате чего учащиеся получают 0 баллов.

В конкретном случае Мойра Олмстед (24 года), студентка Центрального методистского университета (США), рассказала историю о получении оценки 0 после того, как приложение для тестирования на основе искусственного интеллекта оценило ее эссе как «письмо, сгенерированное искусственным интеллектом», сообщает информационное агентство Bloomberg .

Уровень «непонимания» при тестировании приложений ИИ вырос с 1% до более чем 10%

Профессор сообщила, что приложение AI-checker ранее помечало ее посты. Однако Олмстед оспорила этот вывод, заявив, что ее текст был немного «механистичным», поскольку у нее расстройство аутистического спектра, а не потому, что статью сгенерировал искусственный интеллект. Затем школа изменила ее результаты и позволила ей сдать этот предмет.

В другом случае Кен Сахиб, американский студент, выросший в Италии, сказал, что был шокирован, когда его работа получила нулевую оценку на курсе компьютерных сетей в колледже Беркли в Нью-Йорке (США).

Преподаватель объяснил: «Все инструменты, которые я пробовал, давали один и тот же результат: ИИ сгенерировал эту статью». Однако Сахиб утверждает, что в подростковом возрасте учился в Италии, поэтому английский для него всего лишь второй язык, и его письмо не было бы таким же естественным, как у носителя языка, а также утверждает, что приложение для тестирования на основе искусственного интеллекта выдавало неверные оценки. После протеста ученика школа изменила оценку за сочинение.

Согласно отчету Центра демократии и технологий (США), опубликованному в марте, около двух третей из более чем 450 опрошенных в США преподавателей заявили, что регулярно используют приложения для тестирования на основе ИИ. Преподаватели говорят, что эти инструменты помогают им определить, генерирует ли ИИ предложения, абзацы или целые студенческие работы.

Ряд инструментов, таких как Turnitin, GPTZero и Copyleaks, используются во многих средних школах и университетах США.

Технологические компании утверждают, что приложения для тестирования на основе ИИ имеют точность до 99%. Однако Bloomberg провел тест с 500 эссе до запуска ChatGPT в конце 2022 года. Результаты показали, что частота, с которой приложения для тестирования ИИ «ошибочно принимали» написанные студентами эссе за «эссе, созданные ИИ», варьировалась от 1% до более чем 10%.

Такой уровень ошибок, учитывая большое количество работ, которые необходимо проверять каждый год, сильно влияет на психологию студентов, создавая даже ненужную подозрительность и напряженность между преподавателями и студентами.

В частности, после того, как ее пометили как «статью, созданную искусственным интеллектом», студентка Мойра Олмстед проявила такую ​​чувствительность, что использовала функцию видеозаписи всего экрана своего компьютера во время написания эссе, чтобы доказать это школе.

Многие студенты в США говорят, что теперь они тратят больше времени на написание эссе, поскольку им приходится тщательно проверять предложения, которые могут быть помечены инструментом проверки как «письмо ИИ».

Приложение Quillbot оценивает статью как на 43% состоящую из контента, созданного искусственным интеллектом

Исследование, проведенное в 2023 году Стэнфордским университетом (США), показало, что приложения для тестирования на основе искусственного интеллекта оказались «почти идеальными» при проверке сочинений учащихся 8-го класса, родившихся в США. Однако приложение ошибочно обозначило половину эссе студентов (для которых английский язык был вторым) как «сочинения, написанные ИИ».

Не используйте приложения для тестирования ИИ в качестве «судей»

Столкнувшись с этой ситуацией, некоторые школы в США предоставляют учащимся инструменты проверки на основе искусственного интеллекта, чтобы они могли самостоятельно проверить свои работы перед сдачей.

Кроме того, технологические компании подчеркивают, что школы должны рассматривать приложения для тестирования на основе ИИ только как вспомогательные инструменты, а не как «судей», выносящих суждения по сочинениям учащихся.

Некоторые студенты, желающие сэкономить время, даже вынуждены использовать инструменты «ИИ-гуманизатора», которые могут автоматически редактировать человеческий текст или переписывать его, чтобы пройти тестирование ИИ.

Для некоторых преподавателей и студентов злоупотребление приложениями для тестирования на основе ИИ со стороны школ и преподавателей может повлиять на процесс преподавания и обучения.

«ИИ станет частью будущего, нравится нам это или нет», — отмечает Адам Ллойд, профессор английского языка в Мэрилендском университете. «Ошибочно считать ИИ чем-то, что нужно убрать из класса или отговорить студентов от его использования». Вместо того чтобы использовать приложение для тестирования на основе искусственного интеллекта, профессор Ллойд полагается на свою интуицию. «Я хорошо знаю письменные способности моих студентов. Если у меня возникнут какие-либо сомнения, я обсужу их открыто и не буду спешить обвинять студентов в использовании ИИ для написания своих работ», — сказал г-н Ллойд.

Источник: https://thanhnien.vn/sinh-vien-bi-0-diem-vi-loi-cua-ung-dung-kiem-tra-ai-185241028001727599.htm