Привет!
Это снова Коля, продакт подписки Про.
В этом выпуске
#винтикишпунтики — разберёмся, как ускорить A/Б-тест (Вариант не проводить АБ тест аналитик мне не одобрил😑): когда это полезно, что влияет на скорость А/Б, и что можно подкрутить, чтобы получить результат быстрее.
Когда может потребоваться ускорить A/B?
Представим: мы делаем новый запуск — например, баннер с рекомендациями на главной. Всё готово, но:
— Трафика мало: экран новый, MAU низкий, а другие команды хотят запустить тесты параллельно с вами
— Надо успеть до начала сезонности, чтобы праздники не смазали результаты теста (Иначе давайте уже после праздников сделаем🙃)
— А еще вам надо скорее улучшать метрики продукта, чтобы к концу квартала были результаты и продукт начал быстрее зарабатывать больше денег
С такими вводными запуск АБ теста будет идти долго, сам запуск скорее всего придется отложить и в этом году эффектов для продукта почти не добавится. Поэтому по-хорошему его надо как-то ускорить и провести побыстрее
От чего зависит, сколько идёт тест?
A/B идёт столько, сколько нужно, чтобы набрать нужное количество событий (наблюдений).
Например, чтобы увидеть эффект должны случиться: 1000 покупок, 500 кликов, 200 регистраций и тд — зависит от цели.
На это влияют:
1. С какой скоростью приходят события
— Сколько у вас пользователей: охваты, MAU, WAU, DAU и тд
— Насколько часто пользователи совершают нужное действие: Покупки — редкие, клики — частые. Поэтому тест «баннер кликают или нет» идёт быстрее, чем «меняется ли выручка».
2. Сколько событий нужно собрать
Это зависит от того, насколько маленький эффект вы хотите заметить — это называется MDE (Minimal Detectable Effect).
— Хотите уловить +0.5%? Готовимся ждать.
— Хотите заметить только +10% и больше? Тогда можно обойтись меньшей выборкой и закончить тест быстрее.
💡 Также есть параметры «достоверность» и «мощность», но чаще всего они фиксированы и мы на них не влияем
Что можно подкрутить, чтобы тест прошёл быстрее?
✅ Добавить больше трафика в тест
Например, сейчас мы тестим только на 10% пользователей. Можем позволить себе 50%? Отлично — результат придёт в 5 раз быстрее.
✅ Объединить аудитории, если поведение похоже
Тестируем баннер и отдельно считаем по iOS и Android? Если поведение не отличается, то можно объединить все в один тест — это даст больше данных и ускорит вывод.
✅ Брать в работу фичи с ожидаемо крупным эффектом
Чтобы заметить более большое изменение нужно меньше наблюдений, а значит и меньше выборки. Если фича потенциально даёт +10% к метрике — результат виден быстрее. Мелкие изменения (+0.3%) — пусть ждут, если трафика мало.
✅ Выбрать прокси-метрику, которую проще сдвинуть
Хотим понять, влияет ли баннер на выручку, но она почти не двигается или в ней будет маленький MDE?
Вместо этого можно взять связанную метрику, например "добавления в корзину" — там эффект может быть в 5 раз больше. Если нужно меньше наблюдений или там быстрее набираются наблюдения, то и результаты теста получим быстрее.
Коротенькое резюме:
A/B-тесты идут дольше, если нужно много данных или события происходят редко.
Чтобы ускорить, можно изменить метрику, сегмент или то, как вы включаете пользователей в тест. Это помогает собрать нужное быстрее и запускать больше экспериментов.
💬 Тут поместились базовые штуки, но уверен что есть еще много способов ускорить АБ. А если вы поделитесь ими в комментариях, то вообще супер будет!
P.S. Еще у меня заканчиваются идеи для рубрики
#винтикишпунтики.🤔
Подскажите, пожалуйста, темы, которые вам были бы интересны — про метрики, тесты, фичи, боли продуктовых команд или что-то еще