Как мы арену sbs изобретали
У каждого продакта наших LLM ассистентов есть дерево метрик. Наверху — деньги, доля рынка. Посередине — ретеншн, воронка... Но в основе всего — качество.
О каком ретеншене может идти речь, если приходишь в тревел-ассистента за билетами, а он тебе: «Здесь вам не билетная касса!» (пример из реального прошлого). Прежде чем качать конверсии, надо убедиться, что продукт работает адекватно на большом датасете.
Мы постоянно замеряем качество своих продуктов и стремимся быть лучшими по нему. Но как понять, что мы реально лучшие?
Решили честно сравниться с конкурентами — в тех же джобах и на тех же датасетах, что используем для себя. Устроить свою
арену, чтобы понять, где мы относительно других продуктов, обновить бенчмарки, найти точки роста. Не только в России, где конкуренты раз два и закончились, а во всём мире. Не только с аналогичными продуктами, но и с самими моделями. Какой смысл в ассистенте, если ChatGPT из коробки отвечает лучше?
Прежде чем сравниваться (и вообще измерять качество), нужно определить, что такое хороший ответ. «Расскажи про акции Т-Банка, хочу понять, покупать или нет» — что именно должно быть в ответе? Как понять, качественный он или нет?
Мы делаем так:
1. Пишем руками идеальные ответы
2. На их основе формируем критерии качества
3. Размечаем датасет с ответами, которые генерирует продукт, по этим критериям и получаем метрику качества
Остаётся проблема: идеальность ответа мы определяем сами, пусть и опираясь на исследования, оценки пользователей. Чтобы сравниться с конкурентами честнее, мы решили провести свою арену на пользователях. Классический sbs (side by side), который вы могли видеть в интерфейсе ChatGPT:
1. Покажем людям 2 обезличенных ответа на один и тот же запрос
2. Попросим выбрать лучший
3. Попарно сравним всех конкурентов
На выходе получим рейтинг, основанный на мнении реальных людей. Сравним его с рейтингом, который получили в результате разметки по нашим критериям, и откалибруем.
Так мы получим реальную картинку, насколько наш продукт хорош в глазах пользователей. И даже больше:
- Рейтинг конкурентов по качеству
- Обновленные бенчмарки
- Откалиброванные критерии качественного ответа
- Список улучшений нашего продукта
Кайф!
Арена, sbs — не новое изобретение. Всё уже давно придумано. Нужно только вовремя подсмотреть.