Для многих газет раздел комментариев является прекрасной площадкой, где читатели могут поделиться своими разнообразными мыслями, опытом и точками зрения, но он также может стать питательной средой для негатива с аргументами и оскорбительными выражениями, которые могут заглушить ценные голоса.
С этой проблемой столкнулась редактор сообщества Financial Times Люси Уорвик-Чинг. В FT есть специальная команда модераторов, но они не справляются с сотнями статей, публикуемых каждую неделю, и большинство статей закрыты для комментариев. Они также решили закрыть все разделы комментариев по выходным, чтобы избежать выхода токсичных обсуждений из-под контроля, когда никого нет за рабочим столом.
Нанимать дополнительных модераторов слишком дорого, а создавать собственную систему модерации — тоже слишком обременительно. Поэтому команда Уорвик-Чинга использовала уже существующий инструмент модерации от Utopia Analytics. Затем инструмент был обучен на основе 200 000 реальных комментариев читателей распознавать вежливые, недвусмысленные и не относящиеся к теме обсуждения.
Инструменты искусственного интеллекта способны распознавать сексистские и расистские комментарии, несмотря на сложный язык. Фото: Эйдосмедиа
Когда этот инструмент впервые появился, FT все еще приходилось вручную проверять каждый одобренный комментарий. Инструменту требуются месяцы, чтобы принять правильные решения по модерации. Теперь он отслеживает большинство сексистских и расистских комментариев, несмотря на сложный язык, используемый читателями FT.
«Это не идеально, и работа над этим еще продолжается», — сказал Уорвик-Чинг шесть месяцев спустя.
Однако его влияние все еще значительно. Раньше модераторам требовалось много времени, чтобы отфильтровать негативные комментарии. Теперь ИИ берет на себя большую часть тяжелой работы, освобождая модераторов для сосредоточения на развитии сообщества.
ИИ не только эффективен в модерировании комментариев, но и заменяет людей в борьбе с эмоционально оскорбительными комментариями. Теперь ИИ поглощает большую часть негатива, который несут эти комментарии, защищая людей от него.
Самое главное, говорит Уорик-Чинг, появление инструментов ИИ не оставит операторов без работы. «С самого начала, когда мы представили инструмент модерации, мы ясно дали понять, что речь идет не о сокращении численности персонала, а о создании пространства для модераторов, чтобы они могли выполнять свою работу».
На данный момент инструмент ИИ дал положительные результаты. Читатели написали по электронной почте, что заметили улучшение вежливости в разделе комментариев и не получали никаких существенных жалоб на несправедливое отклонение комментариев.
Журналисты также отметили значительное увеличение пользы от комментариев, поскольку ценные отзывы читателей обогащают их статьи. Они также обнаружили, что использование ИИ позволяет модераторам сосредоточиться на том, что у них получается лучше всего: создании доброжелательного и информативного пространства для людей.
Хоай Фыонг (по данным журналистики)
Источник: https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html
Комментарий (0)