Как разучить нейросеть врать?
Мне кажется, нейросети очень похожи на детей. А потому к ним легко можно применить простые правила обучения: учить постепенно, показывать хорошие примеры, не ругать за ошибки, а мягко корректировать. Чем понятнее и четче инструкция, тем лучше они справляются с задачей.
Под прошлым постом
Лена оставила вот такой вопрос:
«Еще заметила, что нейросеть может составить приличные вопросы для интервью (если скормить ей книгу автора, например). Заголовки, темы, идеи тоже подбрасывает неплохо. У меня одна боль: она часто тащит информацию со стороны и заметить это трудно. Как тут быть, есть ли у тебя советы?»
Отвечаю развернуто!
1. Хочу согласиться с Ильяховым и Скрябиным: все написанное нейросетью придется проверять. Фактчекинг — очень востребованный в этой области навык. И на это есть несколько причин.
🎞️Одно из самых интересных явлений – «галлюцинации», когда нейросеть выдает заведомо ложные факты с полной уверенностью. Это происходит из-за недостатка информации по запросу, когда модель пытается заполнить пробелы, но делает это некорректно. Как это можно скорректировать? Экспериментируйте с нейросетями и выбрайте более «устойчивые». Например, лидером по поиску информации и ее проверки является Perplexity AI.
🎞️Нейросети обучаются на огромных наборах данных, но эти данные могут содержать ошибки, неполные сведения или устаревшую информацию. Если нейросеть не нашла точного ответа в обучающем материале, она может «додумывать» или использовать похожие данные, но с искажением.
🎞️Статистическая природа ответов. Нейросети прогнозируют следующий фрагмент текста на основе вероятностей. Если какой-то ответ имеет высокую вероятность, но он ложный – нейросеть все равно его предложит, так как ей неизвестно, что истинно, а что нет.
🎞️Хотя современные модели умеют удерживать контекст, их возможности ограничены. Они могут терять ключевые детали на длинных отрезках текста или ошибочно связывать не связанные между собой элементы.
2. Грамотный промпт – это 80% успеха при работе с нейросетями. Как сделать его таким?
🌑Конкретизируйте инструкцию. Чем точнее задание, тем выше шанс получить качественный результат. Если просите цитаты, указывайте: «Возьми текст только из предоставленного документа. Не добавляй ничего извне». Можно даже взять буквально 10-15 страниц в формате pdf и попросить нейросеть работать с ними.
🌑 Добавляйте примеры. Нейросеть учится на том, что ей показывают. Если вам нужно структурированное саммари, дайте ей образец: «Сделай по примеру: 1. Основная мысль главы (1-2 предложения). 2. Ключевые аргументы. 3. Яркие цитаты».
🌑Постепенно усложняйте задачу. Сначала попробуйте дать нейросети минимально возможное задание и проверьте, справляется ли она. Например, попросите краткое саммари одной главы перед тем, как требовать полное содержание книги.
🌑Задавайте уточняющие вопросы. После получения ответа попробуйте спросить: «На каких страницах книги ты нашла эту информацию?» или «Какие примеры из текста подтверждают этот вывод?» Это помогает выявить ошибки.
🌑Используйте режим работы с файлами. Если загружаете книгу, уточните: «Работай ТОЛЬКО с загруженным текстом. Не используй внешние данные».
🌑Попросите чат пересказать текст в другом формате (например, сделать список тезисов) – так вы поймете, были ли вкрапления лишней информации.
🌑 Делите сложные запросы на части. Вместо «Сделай саммари всей книги» попробуйте: «Дай краткое описание первой главы. Теперь второй. Теперь сделай общий вывод».
Было полезно?
🆎🆎🅱️🆎