Эксперт по искусственному интеллекту: «Слепые» подсказки — это не ошибка

Профессор Эндрю Нг — один из основателей Google Brain. Фото: Coursera .

В посте на X г-н Нг называет этот метод « ленивым подсказыванием » , то есть передачей информации в ИИ с небольшим контекстом или без каких-либо конкретных инструкций. «Мы должны добавлять подробности в подсказку только тогда, когда это действительно необходимо», — сказал соучредитель Coursera и DeepLearning.

Типичный пример, который приводит Нг, — это программисты, занимающиеся отладкой. Они часто копируют и вставляют целые сообщения об ошибках — иногда длиной в несколько страниц — в модели ИИ без явного указания запроса.

«Большинство больших языковых моделей (LLM) достаточно умны, чтобы понимать, что вам нужно проанализировать, и предлагать исправления, даже если вы прямо об этом не говорите», — пишет он.

По словам Нг, это шаг вперед, показывающий, что LLM постепенно выходит за рамки способности реагировать на простые команды, начиная понимать намерения и рассуждения пользователя, чтобы предлагать соответствующие решения — тенденция, которой следуют компании, разрабатывающие модели ИИ.

Однако «ленивое подсказывание» не всегда эффективно. Нг отмечает, что этот метод следует использовать только в тех случаях, когда пользователи могут быстро провести тестирование, например, через веб-интерфейс или приложение ИИ, а модель достаточно способна делать выводы о намерениях на основе небольшого объема информации.

«Если ИИ требуется большой объем контекста для подробного ответа или он не может распознать потенциальные ошибки, то простая подсказка не поможет», — подчеркнул Нг.

Теоретически «ленивые подсказки» экономят время и усилия, особенно для людей, которые не привыкли писать подробные команды. Однако это не «короткий путь» для всех.

У обычных пользователей, не привыкших мыслить в машинном стиле, могут возникнуть проблемы, если подсказка слишком расплывчата, что приводит к неожиданным результатам. Если ИИ не знаком с определенным контекстом (например, с предыдущим чатом) или у пользователя нет опыта итерации и быстрой корректировки запроса, этот метод вряд ли будет эффективным.

Между тем, для программистов или людей, которые много работают с ИИ, сокращение подсказки иногда помогает модели не быть «шумной» из-за слишком большого количества избыточных инструкций. Поэтому Нг подчеркивает, что это продвинутая техника, подходящая для тех, кто уже понимает отзывчивость модели.

Источник: https://znews.vn/chuyen-gia-ai-prompt-mu-khong-sai-post1543586.html