Отчёт по исследованию: с интервалом и тремя отозванными выводами
Сначала проверяется выборка, потом печатается вывод: если интервал накрывает порог, утверждение в отчёт не идёт
- Работает в ваших сервисах: таблицы, анкеты, CRM, почта — без VPN и иностранной карты
- По умолчанию чтение и расчёт: метод и вывод утверждает человек
- Формулы открыты: ошибка доли, интервал и z-тест считаются от ваших чисел
Дело: 480 анкет, шесть страт и три вывода, которые пришлось отозвать
Кто в деле
Компания с базой клиентов и двумя каналами продаж. Исследование заказано, чтобы понять, почему клиенты уходят.
Что было
Анкета из двенадцати вопросов, 480 ответов, шесть страт. В черновике отчёта выводы стояли твёрдо: уходят из-за цены, скидка важнее срока, крупный чек уходит за ценой.
Что показала проверка
Две страты недобраны: шестьдесят две из ста и тридцать три из шестидесяти. По цене интервал накрывает порог, по скидке разница в пределах случайной, по крупному чеку данных меньше половины плана.
Где развилка
Напечатать выводы, потому что «клиенты же так сказали», — или отозвать три из шести и оставить то, что держит статистика. Второе выглядит слабее на слайде и выдерживает вопрос на защите.
Что сделал агент
Посчитал ошибку доли по стратам, поставил интервал каждому утверждению, прогнал z-тест разницы между «ответили в день» и «ответили позже» и пометил три вывода как недоказанные.
Чем закончилось
Доказано одно: клиенты, которым ответили в день обращения, возвращаются значимо чаще. Остальное — гипотезы для следующей волны. Данные кейса сконструированы.
Задача
Что за работа
Аналитический отчёт отличается от пересказа анкеты одной вещью: у каждого вывода видно, на чём он стоит. Доля без ошибки выборки — это мнение, а не результат. Поэтому работа начинается со страт и плана, а не с формулировки вывода: сначала считается, сколько данных есть, и только потом — что из них следует.
Предел
Предел: что внутри отчёта
Шесть страт с планом и фактом, ошибка доли по каждой и общий интервал. Шесть утверждений с нижней и верхней границей и вердиктом: подтверждено, опровергнуто, не доказано. Отдельный лист разницы двух долей с z-тестом. В pdf — те же числа и прямая фраза о том, что три вывода отозваны, а не «требуют уточнения».
Как это выглядит
Путь в системах: что берём и что отдаём
- 1
Вход: анкеты и план выборки
Ответы, страты, план по каждой. Если плана не было — он восстанавливается по факту и помечается как восстановленный.
- 2
Ошибка доли
Для каждой страты считается ошибка при 95 % доверии. Недобор сразу виден: там, где факт вдвое меньше плана, интервал широкий.
- 3
Интервалы утверждений
Каждое утверждение получает нижнюю и верхнюю границу и порог, с которым сравнивается. Пересечение порога — не вывод.
- 4
Разница двух долей
z-тест отвечает на вопрос «разница настоящая или случайная». Без него «ответили в день» и «ответили позже» выглядят одинаково.
- 5
Выход: отчёт с оговорками
Таблица с проверкой, доклад в pdf. Метод и итоговый вывод утверждает человек: это его подпись.
Агент делает · человек решает
| Считает ошибку доли по стратам | план против факта, доверие 95 % |
|---|---|
| Считает интервал утверждения | нижняя и верхняя граница, порог |
| Сравнивает две доли | z-тест: значима ли разница |
| Помечает недоказанное | «не доказано» вместо мягкого «требует уточнения» |
| Утверждает метод исследования | человек: аналитик или руководитель |
| Решает, что делать по итогам | человек: это решение по продукту |
| Подписывает отчёт заказчику | человек |
Подключения
Что подключим
Сервис · что читаем · что пишем · что нужно · срок
Google Таблицы: ответы и расчёты
подключим · читаем анкеты и страты · пишем листы расчёта · доступ к папке · 1 день
Яндекс Почта: рассылка анкеты
подключим · читаем ответы и отказы · пишем черновик письма · доступ к ящику · 1 день
Общий Яндекс Диск: архивы прошлых волн
подключим · читаем прошлые отчёты · пишем новый · доступ к папке · 1 день
Обработка сканов анкет
подключим · читаем бланки и сканы · пишем таблицу ответов · квота на страницы · 3 дня
Проверка внешних данных по рынку
по запросу · читаем обзоры и статистику · не пишем ничего · ключ сервиса · 1 день
Границы
Чего агент не делает
Агент не придумывает внешний замер и не подставляет рыночные доли: если нужен показатель рынка, он называется источником, а не числом. Он не утверждает метод исследования и не подписывает отчёт. Анкета не заменяет независимую оценку: самооценка клиента — это данные о словах, а не о поведении.
Вопросы
Зачем считать ошибку, если ответов много?
Ошибка зависит не только от числа ответов, но и от доли: при доле около половины и небольших стратах интервал широкий. Без этого «сорок один процент» звучит как факт, хотя это оценка с разбросом.
Что значит «не доказано»?
Что интервал утверждения накрывает порог, с которым мы его сравниваем. Это не «нет», это «данных не хватило» — и в отчёте так и написано, чтобы не рождать ложную уверенность.
Можно ли считать по всей базе, а не по выборке?
Можно, если есть данные о поведении всех клиентов. Тогда это не исследование, а выгрузка, и интервалы не нужны — нужна сверка источников.
Почему нельзя объединить страты, чтобы получить значимость?
Можно, если страты однородны. Обычно они разные по определению: объединение даёт средний эффект, которого нет ни в одной группе, — и вывод становится неверным.
Что остаётся человеку, если расчёт готов?
Метод: сколько волн, какие вопросы, кому верить. И решение — например, менять доставку или цену. Агент считает и предупреждает, где данных мало.
Соседние работы
Рядом
Метрики кампании к сроку
Книга метрик и сверка трёх источников
Сегментация, проверенная на данных
Отличаются ли группы поведением, а не названием
Цены и офферы рынка
Что на рынке и почему наш ценник такой
Роли
Проверьте вывод, который собираетесь защищать
Пришлите выгрузку ответов — вернём отчёт с проверкой выборки и списком того, что данных не держит.