Site Loader

Содержание

Что такое A/B-тестирование и как его проводить

*Обновление статьи

Бизнес не стоит на месте – чтобы выжить, нужно развиваться. Если остановить этот процесс, проект начнет деградировать. Часто приходится что-то менять – расширять ассортимент, увеличивать рекламный охват аудитории, улучшать дизайн сайта, добавлять новый, повышать конверсию. Как узнать заранее, что принесут эти новшества?

Одни из инструментов, помогающий развитию веб-проектов – A/B-тестирование. С его помощью можно проверить свои гипотезы и экспериментально оценить предпочтения посетителей – чтобы принять решение о том, стоит ли что-то менять или лучше оставить как есть.

Рассказываем, как это работает.

Что такое A/B-тестирование

A/B-тестирование — это маркетинговый метод, использующийся для оценки и управления эффективностью веб-страницы. Этот метод также называется сплит-тестированием (от англ. split testing — раздельное тестирование).

A/B-тестирование позволяет оценивать количественные показатели работы двух вариантов веб-страницы, а также сравнивать их между собой.

Также сплит-тестирование помогает оценивать эффективность изменений страницы, например, добавления новых элементов дизайна или призывов к действию. Практический смысл использования этого метода заключается в поиске и внедрении компонентов страницы, увеличивающих ее результативность. Обратите внимание еще раз, A/B-тестирование — это прикладной маркетинговый метод, с помощью которого можно влиять на конверсию, стимулировать сбыт и повышать прибыльность веб-проекта.

Сплит-тестирование начинается с оценки метрик существующей веб-страницы (A, контрольная страница) и поиска способов ее улучшения. Например, вы создали интернет-магазин. Представьте себе посадочную страницу этого магазина с коэффициентом конверсии 2%. Маркетолог желает увеличить этот показатель до 4%, поэтому планирует изменения, которые помогут решить эту задачу.

Разбор показателей для отслеживания эффективности интернет-маркетинга

Допустим, специалист предполагает, что изменив цвет конверсионной кнопки с нейтрального голубого на агрессивный красный, он сделает ее более заметной. Чтобы проверить, приведет ли это к увеличению продаж и росту конверсии, маркетолог создает усовершенствованный вариант веб-страницы (B, новая страница).

С помощью инструментов для проведения сплит-тестирования эксперт в случайном порядке разделяет трафик между страницами A и B на две приблизительно равные части. Условно говоря, половина посетителей попадает на страницу A, а вторая половина на страницу B. При этом маркетолог держит в уме источники трафика. Чтобы обеспечить валидность и объективность тестирования, необходимо направить на страницы A и B по 50% посетителей, пришедших на сайт из социальных сетей, естественного поиска, контекстной рекламы и т.п.

Собрав достаточно информации, маркетолог оценивает результаты тестирования. Как сказано выше, коэффициент конверсии страницы A составляет 2%. Если на странице B этот показатель составил 2,5%, значит изменение конверсионной кнопки с голубого на красный цвет действительно увеличило эффективность лэндинга. Однако показатель конверсии не достиг желаемых 4%. Поэтому маркетолог дальше ищет способы совершенствования страницы с помощью A/B-тестирования. При этом в качестве контрольной выступит уже страница с красной конверсионной кнопкой.

Что тестировать

Как отмечалось выше, сплит-тестирование — это прикладной метод, позволяющий влиять на различные метрики сайта. Поэтому выбор объекта тестирования зависит от цели и задач, которые ставит перед собой маркетолог.

Например, если показатель отказов посадочной страницы составляет 99%, при этом большинство посетителей покидает лэндинг в течение 2-3 секунд после «приземления», стоит задуматься об изменении визуальных компонентов страницы. С помощью A/B-теста маркетолог может найти оптимальный вариант макета страницы, выбрать привлекательную цветовую гамму и изображения, использовать читабельный шрифт. А если перед маркетологом стоит задача увеличить количество подписок, он может попробовать изменить соответствующую конверсионную форму. Сплит-тест поможет специалисту выбрать оптимальный цвет кнопки, лучший вариант текста, количество полей в форме подписки или ее расположение.

Чаще всего маркетологи тестируют следующие элементы веб-страниц:

  • Текст и внешний вид конверсионных кнопок, а также их расположение.
  • Заголовок и описание продукта.
  • Размеры, внешний вид и расположение конверсионных форм.
  • Макет и дизайн страницы.
  • Цену товара и другие элементы бизнес-предложения.
  • Изображения товаров и другие иллюстрации.
  • Количество текста на странице.

Какие инструменты сплит-тестирования использовать

Чтобы выполнить A/B-тестирование, маркетологу необходимо воспользоваться одним из специализированных инструментов. Один из наиболее востребованных – сервис Google «Оптимизация» (до августа 2019 назывался Content Experiments), который является теперь частью новой платформы для маркетологов Google Marketing Platform. С его помощью можно тестировать элементы страниц, включая заголовки, шрифты, конверсионные кнопки и формы, изображения и т. п. «Оптимизация» бесплатна для малого бизнеса и в этом ее большое преимущество по сравнению с конкурентами.

Также можно использовать для проведения сплит-тестирования следующие инструменты:

  • Optimizely — наиболее популярный в «буржунете» платный сервис A/B-тестирования. Стоимость его использования не публикуется – для уточнения нужно связаться с отделом продаж. К преимуществам относится возможность создания экспериментов в визуальном интерфейсе, что избавляет маркетолога от необходимости работать с HTML-кодом тестируемых страниц.
  • Visual Website Optimizer — платный сервис, позволяющий тестировать различные элементы страницы. Чтобы использовать этот инструмент, маркетологу необходимо иметь навыки работы с HTML-кодом. Стоимость месячной подписки VWO составляет от 99 до 999 долларов.
  • Unbounce – сервис, предназначенный для создания и оптимизации лэндингов. В том числе он позволяет выполнять A/B-тестирование. Стоимость использования составляет от 79 до 399 и более долларов в месяц. Является аналогом отечественного LPGenerator и тоже позволяет тестировать только лэндинги, сделанные в нем самом.

Как провести A/B-тестирование с помощью Google Optimize

Сервис «Оптимизация» Google Marketing Platform позволяет одновременно проверить эффективность пяти вариантов страницы. Используя его, можно проводить A/B/N-тестирование, которое отличается от стандартных A/B-экспериментов проверкой сразу несколько гипотез вместо двух.

Маркетолог имеет возможность самостоятельно определять долю трафика, участвующего в тестировании. Минимальная продолжительность теста составляет две недели, максимальная ограничена тремя месяцами. Результаты можно наблюдать в личном кабинете или получить по e-mail.

Чтобы провести сплит-тестирование с помощью «Оптимизации» сделайте следующее:

  1. Войдите в аккаунт Google Marketing Platform, откройте сервис «Оптимизация» и создайте свой первый проект. Дайте ему название, укажите URL базовой страницы, копии которой будут тестироваться и выберите режим «Эксперимент A/Б».
  1. Зайдите в созданный проект и продолжайте его настройку в соответствии с планом, предлагаемым в подсказке. Последовательно выполните все пункты от 1 до 5.
  1. Сначала создайте экспериментальные варианты и добавьте правила таргетинга. Для работы установите в браузер Chrome расширение «Оптимизация» из официального магазина Google. Оно позволяет визуально отредактировать изменения на страницах.
  1. Укажите, при переходе на какие URL пользователь будет видеть измененные варианты страницы. Можно задать несколько условий проверки. Главное, не забыть их сразу протестировать, чтобы не было ошибки.
  1. Настройте целевую аудиторию. Например, изменения на странице будут показаны только посетителям из Москвы.
  1. Выберите стандартные или создайте собственные цели эксперимента. Они должны быть связаны с Google Аnalitics.Например, нас может заинтересовать в виртуальном эксперименте, как зависит количество просмотренных статей блога от цвета фона заголовка h2 на главной. Исследуем, серый или фисташковый?
  1. Все готово, осталось только создать код эксперимента и вставить его на страницу. Если непонятно как это сделать, можно выбрать опцию «Отправить код веб-мастеру» или сделайте это самостоятельно. Но для этого нужно немного разбираться в HTML.

Еще важный момент – определить, какая часть трафика будет участвовать в эксперименте. По умолчанию используется все 100 %, а если у вас, как у «Текстерры», миллион уникальных посетителей в месяц – вполне хватить и 20–30 тысяч. А значит, выбираем 3 %.

  1. Если все сделано правильно, в меню появится сообщение о том, что проект готов к запуску и будет разблокирована кнопка «Ок».

Вы сможете оценить первые результаты тестирования через несколько суток после начала эксперимента. Чтобы следить за результатами тестирования, выберите соответствующий эксперимент в списке и перейдите на страницу отчетов.

Идеи, эффективность которых стоит обязательно проверить с помощью A/Б-тестирования

Мы уже говорили, что тестирование помогает увеличить эффективность веб-страниц. Чтобы этот метод принес результат, маркетолог должен генерировать идеи, способные позитивно влиять на те или иные метрики сайта. Нельзя просто брать какие-либо изменения с потолка, внедрять их и тестировать эффективность. Например, вряд ли метрики сайта изменятся, если вы просто решите изменить фон заголовка главной страницы, как в прошлом примере.

Маркетолог должен видеть способы улучшения страниц и понимать, почему они должны сработать. Cплит-тестирование просто помогает проверить предположения специалиста. Однако каждый маркетолог иногда оказывается в ситуации, когда все идеи проверены, а необходимого результата достичь не удалось. Если вы попали в такую ситуацию, попробуйте внедрить следующие изменения и проверить их эффективность:

  • Используйте конверсионную форму, которая остается перед глазами посетителя при прокрутке страницы. Например, эта форма может быть неподвижно «прикручена» к верхней части экрана, как навигационное меню Facebook.
  • Удалите лишние поля из конверсионной формы. Возможно, ваши потенциальные подписчики не хотят раскрывать свои паспортные данные.
  • Опубликуйте на посадочной странице видео. Обычно это позитивно влияет на ряд метрик, включая показатель отказов, коэффициент конверсии и время пребывания на странице.
  • Увеличьте срок, в течение которого пользователи могут бесплатно тестировать ваш продукт. Это простой и эффективный способ увеличения конверсий для компаний, продающих ПО и веб-сервисы.
  • Экспериментируйте с цветом конверсионных кнопок. В некоторых случаях хорошо работают кнопки агрессивного красного цвета. Однако иногда они раздражают пользователей. Используйте A/B-тест, чтобы найти наиболее эффективный цвет кнопки для вашего сайта.
  • Пообещайте бонусы первым 10 или 100 покупателям (подписчикам). Не спешите удалять это обещание даже после завершения акции. Многие пользователи не рассчитывают войти в число счастливчиков, однако все равно подсознательно реагируют на выгодное предложение.

Как и зачем тестировать разные варианты страниц

A/Б тестирование позволяет оценить эффективность изменений веб-страниц. Этот маркетинговый метод имеет прикладное значение. Он позволяет практически постоянно совершенствовать страницы, улучшая различные метрики.

Чтобы протестировать то или иное изменение, необходимо создать новый вариант страницы и сохранить старый. После этого следует воспользоваться одним из сервисов для проведения экспериментов, например, «Оптимизацией» Google. Оценку результатов можно проводить как минимум через две недели после его запуска.

A/B тест — это просто / Хабр

A/B тестирование — это мощный маркетинговый инструмент для повышения эффективности работы вашего интернет-ресурса. С помощью A/B тестов повышают конверсию посадочных страниц, подбирают оптимальные заголовки объявлений в рекламных сетях, улучшают качество поиска.

Мне часто приходится сталкиваться с задачами организации A/B тестирования в различных интернет-проектах. В этой статье хочу поделиться необходимыми базовыми знаниями для проведения тестов и анализа результатов.

Зачем нужны А/B тесты?

Итак, представим ситуацию, наш проект запущен в жизнь, на нем собирается трафик, пользователи активно используют ресурс. И в один прекрасный день мы решили что-то поменять, например, разместить всплывающий виджет для удобства подписки на новости.

Наше решение — это интуитивное предположение о том, что пользователям ресурса станет проще подписываться на новые материалы, мы ожидаем повышения числа подписчиков.

Наши предположения и гипотезы строятся на основе личного опыта и наших взглядов, которые совсем не обязательно совпадают со взглядами аудитории нашего ресурса. Другими словами, наше предположение вовсе не означает, что после внесения изменений мы получим желаемый эффект. Для проверки таких гипотез мы и проводим A/B тесты.

Как проводим тесты?

Идея A/B тестирования очень проста. Пользователи ресурса случайным образом делятся на сегменты. Один из сегментов остается без изменений — это контрольный сегмент “A”, на основе данных по этому сегменту мы будем оценивать эффект от вносимых изменений. Пользователям из сегмента “B” показываем измененную версию ресурса.

Чтобы получить статистически значимый результат, очень важно исключить влияние сегментов друг на друга, т.е. пользователь должен быть отнесен строго к одному сегменту. Это можно сделать, например, записав метку сегмента в cookies браузера.

Для снижения влияния внешних факторов, таких как рекламные кампании, день недели, погода или сезонность, замеры в сегментах важно делать параллельно, т.е. в один и тот же период времени.

Кроме того, очень важно исключить и внутренние факторы, которые также могут существенно исказить результаты теста. Таким факторами могут быть действия операторов call-центра, служба поддержки, работа редакции, разработчики или администраторы ресурса. В Google Analytics для этого можно воспользоваться фильтрами.

Число пользователей в сегментах не всегда удается сделать равным, в связи с этим метрики, как правило, выбираются относительные, т.е. без привязки к абсолютным значениям аудитории в сегменте. Нормирование осуществляется либо на число посетителей, либо на число просмотров страниц. Например, такими метриками могут быть средний чек или CTR ссылки.

Одной из причин делить аудиторию непропорционально может быть существенное изменение в интерфейсе. Например, полное обновление устаревшего дизайна сайта, изменение системы навигации или добавление всплывающей формы для сбора контактной информации. Такие изменения могут привести как к положительным, так и к отрицательным эффектам в работе ресурса.

Если есть опасение, что изменение может иметь сильное негативное влияние, например, привести к резкому оттоку аудитории, то, на первом этапе, имеет смысл тестовый сегмент делать не очень большим. В случае отсутствия негативного эффекта, размер тестового сегмента можно постепенно увеличить.

Что улучшаем?

Если вы собираетесь провести A/B тестирование на своем ресурсе, то наверняка у вашего проекта уже сформированы основные показатели, которые необходимо улучшить. Если таких показателей еще нет, тогда самое время о них задуматься.

Показатели прежде всего определяются целями проекта. Ниже приведу несколько популярных метрик, которые используются в интернет-проектах.

Конверсия

Конверсия

вычисляется как доля от общего числа посетителей, совершивших какое-либо действие. Действием может быть заполнение формы на посадочной странице, совершение покупки в интернет-магазине, регистрация, подписка на новости, клик на ссылку или блок.

Экономические метрики

Как правило, эти метрики применимы для интернет-магазинов:

величина среднего чека

,

объем выручки, отнесенный на число посетителей

интернет-магазина.

Поведенческие факторы

К поведенческим факторам относят оценку заинтересованности посетителей в ресурсе. Ключевыми метриками являются:

глубина просмотра

страниц — число просмотренных страниц, отнесенное к числу посетителей на сайте,

средняя продолжительность сессии

,

показатель отказов

— доля пользователей, покинувших сайт сразу после первого захода,

коэффициент удержания

(можно считать, как 1 минус % новых пользователей).

Одного показателя не всегда достаточно для оценки эффекта от вносимых изменений. Например, после изменений на сайте интернет-магазина средний чек может уменьшиться, но общая выручка вырасти за счет повышения конверсии посетителя в покупателя. В связи с этим, важно контролировать несколько ключевых показателей.

Анализ результатов

Отлично, ключевые показатели определены, тест запущен и мы получили первые данные. В этот момент, особенно если данные соответствуют нашим ожиданиям, возникает соблазн сделать поспешные выводы о результатах тестирования.

Торопиться не стоит, значения наших ключевых показателей могут меняться день ото дня — это значит, что мы имеем дело со случайными величинами. Для сравнения случайных величин оценивают средние значения, а для оценки среднего значения требуется некоторое время, чтобы накопить историю.

Эффект от внесения изменения определяют как разность между средними значениями ключевого показателя в сегментах. Тут возникает следующий вопрос, насколько мы уверены в достоверности полученного результата? Если мы еще раз проведем тест, то какова вероятность того, что мы сможем повторить результат?

Ниже на картинках приведены примеры распределения значений показателя в сегментах.


Графики распределения характеризуют частоту появления того или иного значения случайной величины в выборке. В данном случае все значения распределены вокруг среднего.

На обеих картинках средние значения показателя в соответствующих сегментах одинаковы, картинки отличаются только разбросом значений.

Данный пример хорошо иллюстрирует, что разности средних значений недостаточно для того, чтобы считать результат достоверным, необходимо также оценить площадь пересечения распределений.

Чем меньше пересечение, тем с большей уверенностью мы можем сказать, что эффект действительно значим. Эта “уверенность” в статистике называется значимостью результата.

Как правило, для принятия положительного решения об эффективности изменений уровень значимости выбирают равным 90%, 95% или 99%. Пересечение распределений при этом равно соответственно 10%, 5% или 1%. При невысоком уровне значимости существует опасность сделать ошибочные выводы об эффекте, полученном в результате изменения.

Несмотря на важность этой характеристики, в отчетах по A/B тестам, к сожалению, часто забывают указать уровень значимости, при котором был получен результат.

Кстати, на практике примерно 8 из 10 A/B тестов не являются статистически значимыми.

Стоит отметить, что чем больше объем трафика в сегментах, тем меньше разброс среднесуточных значений показателя. При небольшом трафике из-за большего разброса значений случайной величины потребуется больше времени для проведения эксперимента, но в любом случае это лучше, чем вовсе не проводить эксперимент.

Оценить значимость результатов

Для сравнения случайных величин математики придумали целый раздел под названием

проверка статистических гипотез

. Гипотез всего две: “нулевая” и “альтернативная”. Нулевая гипотеза предполагает, что разница между средними значениями показателя в сегментах незначительна. Альтернативная гипотеза предполагает наличие существенной разницы между средними значениями показателя в сегментах.

Для проверки гипотез существует несколько статистических тестов. Тесты зависят от характера измеряемого показателя. В общем случае, если мы считаем среднесуточные значения, можно воспользоваться тестом Стьюдента. Этот тест хорошо зарекомендовал себя для небольших объемов данных, т.к. учитывает размер выборки при оценке значимости.

В качестве примера приведу сравнение средней длительности сессии в сегментах на одном из ресурсов, для которых я проводил эксперимент: studentttest.xls.

Тест Стьюдента — универсален, его можно применять как для измерений конверсии, так и для таких количественных показателей как средний чек, средняя глубина просмотра или время, проведенное пользователем на сайте.

В случае, если вы измеряете только конверсию, то вы имеете дело с бинарной слуайной величиной, которая принимает только два значения: посетитель “сконвертировался” и “не сконвертировался”. Для оценки статистической значимости в этом случае можно воспользоваться он-лайн калькулятором.

Инструменты

Для организации теста необходим инструмент, позволяющий разметить аудиторию по сегментам и посчитать значения ключевых показателей отдельно в каждом сегменте.

Если ваши ресурсы позволяют, то такой инструмент можно реализовать самостоятельно на основе анализа логов действий пользователей. Если ресурсы ограничены, то стоит воспользоваться сторонним инструментом. Например, в Google Analytics есть возможность задавать пользовательские сегменты.

Существует ряд сервисов, которые позволяют полностью автоматизировать процесс тестирования, например, тотже Google Analytics Experiements, примеры других сервисов можно найти в обзоре.

А дальше?

В статье приведены базовые знания, необходимые для проведения A/B тестов и анализа результатов. Следующий шаг — это продуктовая аналитика. В завершении хочу поделиться

ссылкой

на отличную презентацию по продуктовой аналитике с примерами A/B тестирования от Курышева Евгения.

В каких случаях можно не проводить АБ-тесты

Как появились АБ-тесты, в каких ситуациях АБ-тестирование бесполезно и как определить лучший вариант лендинга или рекламы без тестирования.

Что такое АБ-тесты и причём тут пивоварение

АБ-тестирование — сравнение двух, реже — более двух, вариантов сайта, дизайна, офферов компании для определения наиболее эффективной версии. Варианты могу отличаться одним элементом, например, расположением заголовка или цветом кнопки, или совершенно отличаться друг от друга. По итогам тестирования выбирают лучшую альтернативу, например, страницу с максимальной конверсией в заявки и продажи.

Подробнее о том, что такое АБ-тестирование и как оно помогает увеличить продажи, читайте в нашем блоге.

АБ-тестирование началось с пива: основе АБ-тестирования лежит статистический анализ. Его развивал британский учёный Уильям Сили Госсет, в начале XX века работавший в компании Guinness.

Госсет хотел найти способ улучшить отбор сырья для пивоварения. Для этого он разработал математическое обоснование «закона ошибок» для малых статистических выборок. Сегодня его открытие известно как «t-распределение Стьюдента», которое и легло в основу концепции статистической значимости.

На основе статистических данных принимаются многие решения — от оценки эффективности политической кампании до оттенка синего цвета для гиперссылок на сайте.

Когда АБ-тесты бесполезны: парадокс Фредкина и закон тривиальности Паркинсона

Идеи в основе АБ-тестов содержат парадокс, который может поставить под сомнение ценность полученных данных.

Парадокс Фредкина. Чем больше два одинаковых варианта кажутся одинаково привлекательными, тем сложнее сделать выбор между ними. Из-за парадокса Фредкина выбор между двумя очень похожими вариантами не будет иметь ценности. Нет смысла запускать АБ-тестирование, чтобы определить какая кнопка — тёмно-синяя или светло-синяя — принесёт больше заявок.

Закон тривиальности Паркинсона. В 1955 году К. Норткот Паркинсон описал в своей книге вымышленную встречу, на которой 11 человек принимали решение о строительстве атомной электростанции и навеса для велосипедов. Из-за сложности вопроса только двое участников могли принять участие в обсуждении бюджета на строительство электростанции, который оценивался в $10 000 000. Через две минуты бюджет был утверждён. Обсуждение строительства навеса для велосипедов, стоимостью $2 350, заняло 40 минут, все присутствующие принимали активное участие в обсуждении.

Так Паркинсон показал, что время, затраченное на любой пункт повестки дня, будет обратно пропорционально затраченной денежной сумме. То есть зачастую на неважные решения затрачивается слишком много времени и денег. Поэтому иногда проведение АБ-теста не будет иметь ценности по сравнению с усилиями, которые будут потрачены на его проведение.

О том, какие ошибки мешают принимать правильные решения по итогам АБ-тестирования, рассказали в нашем блоге.

Альтернатива АБ-тестам

Проведение АБ-тестов может быть сложным и затратным. Создание второго, тестового варианта, может составлять половину суммы, которую компания потратила на создание первой версии. Поэтому АБ-тестирование стоит проводить только для проверки серьёзных изменений.

Как без АБ-тестов можно определить лучший вариант?

1. Проанализируйте действия пяти пользователей. Первые пять посетивших сайт пользователей обнаруживают более 75% проблем, связанных с простотой и удобством использования страницы. Проанализируйте их поведение — поймёте, как улучшить сайт без АБ-тестирования.

2. Вносите только одно простое изменение. Просто внесите это изменение и посмотрите, что произойдёт. Вместо того, чтобы показывать половине пользователей изменённый заголовок главной страницы и ждать статистически значимых результатов, покажите всем посетителям сайта новый вариант — получите результаты гораздо быстрее. Если страница станет хуже конвертировать посетителей в заявки, откатите её до старого варианта.

Такой способ не имеет такую статистическую точность как A/Б-тестирование, но он упрощает принятие решения о небольших изменениях.

3. Используйте сервис «А/Б-тесты» Roistat. В Roistat можно быстро настроить тестирование: поменять цвет кнопки или варианты главного меню без помощи программистов. Сервис сравнит, сколько заявок, продаж, выручки и прибыли принёс каждый вариант. При необходимости можно добавить другие важные для бизнеса показатели.

Пример отчёта в сервисе «А/Б-тесты» Roistat

Когда A/Б-тест принесёт пользу

Когда нужно проверить гипотезу в сжатые сроки. Например, если вы готовите лендинг к распродаже или мероприятию, и нужно быстро принимать решения. A/Б-тест поможет принимать обоснованные решения и быстро устранять проблемы, связанные с удобством и простотой работы с сайтом.

Когда вы рискуете потерять большую сумму денег, если не протестируете гипотезу. Например, если Amazon изменит цвет кнопки на форме заказа, не проведя АБ-тестирование, компания рискует потерять миллионы долларов за минуту: пользователи просто не поймут, как завершить заказ, и уйдут с сайта.

В таком случае АБ-тест снижает уровень возможных потерь и обеспечивает уверенность в том, что выбор был сделан правильно.

На нашем Telegram-канале делимся полезными материалами по маркетингу и аналитике, кейсами клиентов, собираем познавательные дайджесты и анонсируем бесплатные обучающие вебинары. Подписывайтесь, чтобы ничего не пропустить!

5 лучших шагов по их реализации в 2021 году

11 minutes

5 / 5 ( 50 голосов )

Примеры A B Tests вам ни о чем не говорят? Или, может быть, вы не знаете, как начать? Хорошо, оставайтесь с нами, мы дадим вам наши лучшие советы по оптимизации ваших кампаний 🔥

Прежде всего, вы должны знать, что вы используете A B Tests, сравнивая две (или более) процедуры с :

  • Страница,
  • элемент,
  • одно письмо.

Это делается для того, чтобы определить, что работает лучше всего. При проведении поисковой работы мы должны тестировать лучшие подходы, чтобы в конечном итоге конвертировать лучших. В A B тестировании все дело в оптимизации. Вот так, мы вам все объясним 🚀

Если вы удвоите количество экспериментов, которые вы проводите в год, вы удвоите свою изобретательность. – Джефф Безос.

Что такое A B тестирование?

Давайте подробнее рассмотрим этот термин 🤔. Вы должны знать, что A B тестирование – это маркетинговая техника, которая позволяет протестировать несколько решений (обычно это решение A и B). Мы сможем сравнить две версии (или больше, если вам так хочется):

  • Из приложения,
  • С целевой страницы,
  • из электронного письма,
  • от кнопки…

Вариации вашего предложения в случайном порядке представляются вашим сегментам пользователей. У вас будет возможность выяснить, привлекает ли определенный цвет вашу аудиторию, генерирует ли определенная тема письма лучший процент открытия, находится ли местоположение вашего CTA (призыва к действию) в правильном месте… На самом деле, вы можете протестировать все🧪!

Как только вы найдете сообщение, которое покажет наибольшую эффективность, вы сможете использовать его на остальной части вашей базы лидов. Таким образом, A B тестирование становится незаменимым шагом для экспериментов ⚗️ с тем, что лучше всего работает среди ваших пользователей.

Различные тесты, которые вы будете проводить, проводятся на образцах вашей базы данных. Будьте осторожны ☠️, чтобы хорошо сегментировать их. Аудитории должны быть похожими, чтобы у них было одинаковое конечное намерение (например, купить вашу продукцию).

Допустим, вы проводите тесты на 100 человек, 50 из них будут тестировать версию А, а другие 50 человек – версию В. Если одна из этих версий покажет лучшие результаты, она считается “победителем” 🏆, потому что она дала лучшие результаты, чем другая. Конечно, ваши клиенты или потенциальные покупатели не знают, что они “проходят” это тестирование, поэтому они ведут себя так, как будто представленное решение является правильным ✔️.

Зачем проводить A B тестирование?

Для начала, мы проводим примеры A B тестирования, потому что оно уже доказало свою эффективность 💪 в различных областях.

Когда вы начинаете завоевывать рынок, новых клиентов, вы, по сути, делаете предположения. Однако то, что работает для одной компании, не обязательно будет работать для другой, и это даже если они работают в одной отрасли.

И даже если вы хорошо известны🌱 получение качественного трафика на сайт может быть чрезвычайно сложным. Благодаря этому методу веб-маркетинга удается не только привлечь новых клиентов, но и удержать старых. Интерес проведения различных тестов заключается в том, что вы сможете собрать данные 📊.

А данные очень ценны, особенно когда вы хотите, чтобы ваше решение работало. Все ваши решения будут продуманными, потому что будут основаны на полученных результатах

Маленький бонус 🍀: вы станете лучше разбираться во вкусах своей аудитории. Вы будете знать их, а значит, сможете лучше предложить темы, продукты или даже контент, который заинтересует ваших посетителей. Это оставит мало места для сомнений, поскольку вы проведете тесты и будете знать, что лучше всего конвертируется среди различных вариантов, которые вы установите.

Вишенкой на торте будет то, что вы сможете повысить эффективность ваших кампаний, используя то, что привлекает больше всего. И мы не учим вас, что повышение эффективности означает экономию времени 🕛, денег 💳 и эффективность.

В каких случаях следует использовать A B тестирование?

Вы, вероятно, задаетесь вопросом, в каких случаях мы можем использовать примеры A B Tests. Ответ заключается в том, что мы можем использовать его практически в любой ситуации, будь то для :

  • 🟢 Физический продукт (выбор цвета),
  • 🟢 размер или расположение кнопки на вашем сайте,
  • 🟢 дизайн вашего решения, тема ваших писем,
  • 🟢 эффективность той или иной функции…

Как вы можете видеть… Возможности бесконечны. Если вы хотите добиться максимальной конверсии, вам придется проводить тесты.

Используйте его для целевых страниц

У вас в голове есть несколько решений, которые вы хотите предложить своим пользователям в случае с целевой страницей… Но вот в чем дело: все мешает тому, что вы хотите предложить своим будущим клиентам, и несколько вопросов “мучают” вас:

  • Какой визуальный ряд я размещу на своей странице?
  • Достаточно ли заметен или хорошо расположен мой призыв к действию?
  • Какой цвет лучше всего подходит для моего сайта?
  • Легко ли ответить на вопросы моей формы?
  • Достаточно ли броский мой заголовок?

Вы правы, задавая себе все эти вопросы 🤔 потому что вы хотите конвертировать. Тот факт, что вы можете протестировать несколько визуальных образов, изменить расположение ваших CTA (или изменить их размер или цвет), измерить графический устав вашего сайта – это важные элементы, которые следует принять во внимание. Когда мы попадаем на целевую страницу, она должна быть сексуальной.

Да, да, да, первое впечатление имеет значение, когда вы только заходите на сайт! Мы хотим конверсии 💰. Поэтому очень важно убедить пользователей остаться на вашей странице с первого взгляда 👀.

Благодаря примерам A B Tests вы сможете создать несколько сценариев для вашей целевой страницы. Вам останется только выбрать тот, который покажет наилучшие результаты. С помощью этих тестов вам не придется пересматривать всю страницу, вы сможете внести незначительные изменения и, таким образом, снизить риск ухудшения текущего коэффициента конверсии 💸.

Используйте примеры A B Tests для измерения эффективности функции

В случае если вы не знаете, понравится ли вам функция или нет, вы также можете провести A B тестирование. Будь то функция на десктопе 💻 или даже на мобильном устройстве

Больше чем формальность, если вы хотите оптимизировать конверсии и загрузки приложения, вам необходимо проводить тесты. Проведение A B tests на примере какой-либо функции поможет вам понять, завоюет ли изменение, которое вы хотите внедрить, сердца 💖 вашей аудитории.

Возможно, вы хотите внедрить функцию “поделиться в социальных сетях” в своем приложении. Вы не знаете, будет ли эта функция иметь значительный коэффициент кликов 🖱️…

Просто: проведите несколько A B тестов. Реализуйте свою идею и попросите своих пользователей протестировать версию с указанной функцией и без нее. Все, что вам нужно сделать, это проанализировать, что работает лучше, и после этого принять решение.

A B тестирование при рассылке электронной почты

Электронная почта по-прежнему остается отличным решением, когда речь идет о поиске потенциальных клиентов. Годы идут, а это решение по-прежнему используется так же часто, как и раньше

Провести A B тестирование в маркетинговых электронных письмах очень просто 📧. Вы отправляете А-версию письма части ваших подписчиков, а В-версию – другой части. Опять же, вы можете полностью изменить тему письма, визуальное оформление, кнопки, встроенные в письмо. Как только вы приняли решение, протестируйте его.

И снова решение, которое дает наилучший результат, – это удержание и закрепление во всем списке ваших клиентов и будущих клиентов. Это всегда отличная идея 💡 использовать примеры A B Testing для ваших потенциальных клиентов, но также и для тех, кто уже является вашим клиентом. При проведении веб-кампании у вас есть множество вариантов, из которых вы можете выбрать то, что обеспечит наилучший показатель открываемости. После проведения тестов у вас будут все необходимые данные, чтобы понять, что работает лучше всего. Но не прекращайте экспериментировать. Почтовая рассылка – это особый случай, потому что мы часто поддерживаем связь с помощью этого способа коммуникации. Поэтому необходимо быть последовательным в его использовании.

Внедрите ее в ваши спонсируемые объявления

A B-тестирование рекламы на Facebook

Знаете ли вы, что вы можете проводить A B тестирование на примере различных социальных сетей 📱? Допустим, вы рекламодатель и хотите начать A B тестирование с Facebook(Facebook ads). Это очень просто!

🌟 Шаг 1: Зайдите в свой менеджер объявлений. Затем нажмите на “Создать”

🌠 Шаг 2: Выберите цель кампании, исходя из ваших задач ️.

🌟 Шаг 3: Выбрав цель кампании, дайте ей название и активируйте кнопку “создать A B тест”.

🌠 Шаг 4: Выберите страницу, которую вы хотите продвигать, установите бюджет, дату начала и окончания, а также определите свою аудиторию.

🌟 Шаг 5: Настройте объявление, выберите его размещение и нажмите “Опубликовать”. Вы, наверное, думаете:“Ерунда, здесь только одна версия, черт возьми” 🤪. И мы скажем вам, что вы правы, но это еще не конец! Как только вы опубликовали свое объявление, у вас есть версия А.

Затем вам будет предложено продублировать опубликованную кампанию и внести необходимые изменения для версии В. Платформа фактически позволяет вам тестировать переменные, такие как выбор аудитории, размещение различных объявлений или даже тестировать контент. Это позволяет вам полностью контролировать различные кампании. Все, что вам нужно сделать, – это сделать ставку на то, что является наиболее релевантным.

Примеры A B Tests в Google Ads

Вы также можете проводить A B-тестирование в Google Adwords (к сожалению, пока не для видео и объявлений о покупках). Вы можете протестировать несколько элементов, имеющихся в ваших объявлениях:

  • Заголовок,
  • целевая страница,
  • Текст объявления,
  • Ваши ключевые слова,
  • Стратегия торгов.

Именно Google будет отвечать за показ ваших объявлений A и B. Он будет чередовать ваши объявления в результатах поиска ваших потенциальных клиентов. Как только вы проанализируете, какое объявление работает лучше, вам нужно будет просто отложить другое.

Как использовать A B тестирование в LinkedIn?

Да, вы все правильно поняли 🤯, вы можете использовать A B тестирование в LinkedIn. Но как это сделать? Ну, вы можете использовать:

  • Выяснить, лучше ли работают приглашения в этой профессиональной социальной сети с примечанием или без него,
  • Какой тип сообщения дает наибольший отклик,
  • Чтобы узнать, какой заголовок лучше всего подходит для вашего профиля…

Кстати, рекомендуем вам зайти и прочитать статью о том, как повысить свой титул в LinkedIn. Если вы не знаете, как это работает в этой профессиональной социальной сети. Вот небольшое туто 😉 (нет, это для нас, не волнуйтесь) по настройке теста A B.

Допустим, вы“SEO-специалист” и хотите пообщаться с другими профессионалами 👓 в этой отрасли. Начните с ввода вакансии, которую вы ищете, найдите людей и свяжитесь с ними.

Пройдите тест на установление связи с рейтингом и без рейтинга и посмотрите, какие приглашения были приняты больше всего.

Затем вам останется только подождать и посмотреть, какие приглашения показали наилучшие результаты 💪.

Как использовать A B тестирование на LinkedIn с помощью Waalaxy?

При проведении A B Tests самое главное – продолжать тестировать. Рынок меняется, меняются и ваши цели. Важно проводить различные тесты на лучших подходах и с течением времени ⌛. Это необходимо потому, что вы сможете опираться на качественные и значимые данные.

Мы проводим тестирование A B, да, но мы не принимаем поспешных решений. И если говорить о тестировании во времени, то мы предлагаем вам ассоциировать LinkedIn с нашим инструментом. Итак, как экспериментировать с A B тестированием на LinkedIn с помощью Waalaxy? Хорошо, что мы даем вам несколько советов 💡 прямо сейчас.

Начните поиск: экспортируйте свои цели

Для того чтобы ваш подход имел смысл, вам нужно нацелиться на своих потенциальных клиентов. Действительно, чтобы провести тестирование A B, вам необходимо иметь достаточно большую выборку пользователей, чтобы вы могли основывать свой подход на данных, которые сослужат вам хорошую службу. Рискуя повториться, количественные, но особенно качественные данные 👌.

Зайдите в Waalaxy, перейдите в LinkedIn и начните таргетировать, а затем экспортировать данные о различных потенциальных клиентах. Выберите достаточно большую выборку 🧪. Здесь мы решили выбрать 100 потенциальных клиентов для кампании А и 100 для кампании В. Пусть начнется празднование.

Определение последовательности примеров A B Tests

Возможно, вы не знакомы с термином “последовательность”, поэтому давайте быстро введем вас в курс дела. В Waalaxy то, что мы называем последовательностью или шаблоном, – это комбинация действий, которые вы будете выполнять и по которым будут продвигаться ваши потенциальные клиенты. Это шаги, через которые ваши цели 🎯 пройдут, чтобы прийти к окончательному действию.

Если вам нужно больше информации о последовательностях в Waalaxyи о том, как найти правильную ✔️ последовательность, ту, которая подходит именно вам, мы предлагаем вам прочитать эту замечательную статью. Определите свою последовательность в соответствии с вашими целями и потребностями.

Тесты A B для приглашений в LinkedIn

После того как вы выбрали последовательность, остается только определить ваше сообщение ✉️. Например, вы можете решить отправлять приглашения на подключение с сообщением и без него или два совершенно разных сообщения. Вам останется только увидеть различные результаты в зависимости от принятия приглашений.

Тестирование A B для отправки сообщений

Еще одна последовательность, которую вы можете объединить с A B тестированием, – это, конечно же, отправка сообщений. В частности, отправка сообщений людям, которые находятся в той же группе, что и вы в LinkedIn. После того, как вы импортировали своих потенциальных клиентов, вы можете отправить две версии сообщений и посмотреть, какая из них получит больше ответов 👊.

Проведение A B Tests в Waalaxy для почтовой рассылки

Мы уже говорили об этом ранее ⬆️ в этой статье. Примеры A B Tests отлично сочетаются с рассылкой, чтобы достичь ваших целей.

Было бы очень глупо делать это без Waalaxy. У вас есть возможность выбрать последовательность, которая позволит вам посетить профиль, а затем отправить письмо этому человеку.

Опять же, вы можете протестировать на образце, сообщении, заголовке и посмотреть, какой вариант даст вам больше результатов. Честно говоря, ничего сверхъестественного 🧙 , интерфейс Waalaxy прост в использовании и чрезвычайно интуитивен. Но мы думаем о вас (не благодарите нас), если вы забыли, как настроить кампанию, мы увидимся с вами здесь.

Проанализируйте свои результаты

Как только вы закончили с таргетингом 🎯, экспортом, выбором последовательности и сообщения, вам придется подождать. Подождите немного, чтобы вы могли ознакомиться со своими результатами.

Вам нужно дать время вашим различным целям открыть письма или просто дать им время войти в свой аккаунт LinkedIn. Благодаря нашему инструменту у вас есть доступ к очень красивой💎 (мы остаемся очень объективными) приборной панели. На экране слева нажмите на “Кампании”.

Перед вами откроется обзор кампаний, которые вы смогли создать. Нажмите на одну из них и сравните свой лучший показатель открываемости.

Таким образом, вы сможете в режиме реального времени следить за результатами настроенных вами версий и при необходимости продолжать их оптимизацию.

Что нужно помнить о примерах A B Tests ?

Как видите, возможности A B Tests  безграничны. Но главное🗝️, прежде всего, это последовательность в тестировании. Не останавливайтесь на достигнутом и стремитесь к постоянному совершенствованию. Помните, что ваша аудитория ведет себя по-разному, и для того, чтобы понять 🧠 ее, потребуется время. И это борьба со временем, потому что как только вы их поймете, вам обязательно придется начинать все сначала, потому что ваша аудитория тоже развивается.

Продолжайте проводить A B test до, во время и после сбора данных, основываясь, конечно, на Kpi, который вы установили, и измеряйте ROI. Отслеживайте кампании и постоянно следите 👁️ за своей приборной панелью, чтобы корректировать стратегию. Потому что да, именно так вы станете лидером в своей отрасли. Теперь вы знаете, как и почему нужно проводить A B Tests, эту технику, которая доказала и будет доказывать свою эффективность в будущем. Будь то повышение осведомленности, создание новой рассылки, A B тестирование – это настоящий рычаг 🎰 маркетинга, который следует использовать для постоянного совершенствования своей стратегии. И в качестве бонуса, мы дали вам все ключи для его использования с помощью нашего замечательного решения. Возможности многочисленны, дерзайте.

Discover Waalaxy 🪐

Вопросы к статье Примеры A B tests: 5 шагов по их внедрению

Примеры A B tests в основном используются для тестирования различных решений на ваших клиентах и лидах. Если вы маркетолог, A B тесты должны быть частью ваших различных задач. Чем более релевантен ваш контент и чем больше он нравится пользователям, тем выше вероятность конверсии, а также формирования лояльности 💑. Все ваши маркетинговые действия можно будет основывать на полученных результатах.

Как работают примеры A B Tests ?

Этот метод позволит вам организовать процесс экспериментов, в ходе которого будут представлены две версии (в случае A B Tests ) или более (существует A/B/C тестирование, если вы хотите представить 3 различных решения). Затем эти решения будут в случайном порядке представлены вашей целевой 🎯 аудитории. Это позволит вам определить, какая версия приводит к максимальному воздействию 💥 и генерирует наилучший ROI.

Примеры A B Tests: что вы можете оптимизировать для невероятных кампаний?

С помощью A B Tests можно оптимизировать что угодно. Для вас, маркетологов или нет, оно позволяет постоянно улучшать опыт ваших пользователей и при этом минимизировать затраты 💲. Давайте составим небольшой список 📃 того, что вы можете оптимизировать:

  • Формы,
  • Электронные письма,
  • Посадочные страницы,
  • Рекламные объявления,
  • Листы продуктов,
  • Функции.

Зачем мы проводим A B тестирование?

Все больше и больше компаний задаются вопросом 🤔 в каком направлении им следует двигаться, чтобы оптимизировать контент для посетителей своего сайта. Для этого им необходимо основывать свои решения на A/B тестировании. Эти различные варианты решений позволят:

  • Достигайте статистически значимых результатов,
  • Снижайте процент отказов,
  • Решите болевые точки ваших клиентов,
  • Получайте выгоду от лучшего возврата инвестиций,
  • Держите под контролем расходы.

Примеры A B Tests на LinkedIn?

На LinkedIn вы можете провести маркетинговое A B тестирование на :

  • Отправка сообщений,
  • Запросы на подключение с примечанием или без него,
  • Знайте, какой заголовок работает лучше всего…

Конечно, вы можете сделать это из приложения LinkedIn, но мы все же рекомендуем вам использовать Waalaxy из-за его удобства и простоты использования.

Теперь вы все знаете 😀 на старт, настраивайтесь, зажигайте, тестируйте!

6 простых шагов — Академия Яндекса

A/B-тестирование — это неотъемлемая часть процесса работы над продуктом. Это эксперимент, который позволяет сравнить две версии чего-либо, чтобы проверить гипотезы и определить, какая версия лучше. Должны ли кнопки быть черными или белыми, какая навигация лучше, какой порядок прохождения регистрации меньше всего отпугивает пользователей? Продуктовый дизайнер из Сан-Франциско Лиза Шу рассказывает о простой последовательности шагов, которые помогут провести базовое тестирование.

Кому нужно A/B-тестирование

  • Продакт-менеджеры могут тестировать изменения ценовых моделей, направленные на повышение доходов, или оптимизацию части воронки продаж для увеличения конверсии.
  • Маркетологи могут тестировать изображения, призывы к действию (call-to-action) или практически любые другие элементы маркетинговой кампании или рекламы с точки зрения улучшения метрик.
  • Продуктовые дизайнеры могут тестировать дизайнерские решения (например, цвет кнопки оформления заказа) или использовать результаты тестирования для того, чтобы перед внедрением определить, будет ли удобно пользоваться новой функцией.


Вот шесть шагов, которые нужно пройти, чтобы провести тестирование. В некоторые из пунктов включены примеры тестирования страницы регистрации выдуманного стартапа.

1. Определите цели 

Определите основные бизнес-задачи вашей компании и убедитесь, что цели A/B-тестирования с ними совпадают.

Пример: Допустим, вы менеджер продукта в «компании X» на стадии стартапа. Руководству нужно добиться роста количества пользователей. В частности, компания стремится к росту количества активных пользователей (метрика DAU), определяемых как среднее количество зарегистрированных пользователей сайта в день за последние 30 дней. Вы предполагаете, что этого можно добиться либо путем улучшения показателей удержания (процент пользователей, возвращающихся для повторного использования продукта), либо путем увеличения числа новых регистрирующихся пользователей.

В процессе исследования воронки вы замечаете, что 60% пользователей уходят до завершения регистрации. Это означает, что можно повысить количество регистраций, изменив страницу регистрации, что, в свою очередь, должно помочь увеличить количество активных пользователей.

2. Определите метрику 

Затем вам нужно определить метрику, на которую вы будете смотреть, чтобы понять, является ли новая версия сайта более успешной, чем изначальная. Обычно в качестве такой метрики берут коэффициент конверсии, но можно выбрать и промежуточную метрику вроде показателя кликабельности (CTR).

Пример: В нашем примере в качестве метрики вы выбираете долю зарегистрированных пользователей (registration rate), определяемую как количество новых пользователей, которые регистрируются, поделенное на общее количество новых посетителей сайта.

3. Разработайте гипотезу 

Затем нужно разработать гипотезу о том, что именно поменяется, и, соответственно, что вы хотите проверить. Нужно понять, каких результатов вы ожидаете и какие у них могут быть обоснования.

Пример: Допустим, на текущей странице регистрации есть баннер и форма регистрации. Есть несколько пунктов, которые вы можете протестировать: поля формы, позиционирование, размер текста, но баннер на главной странице визуально наиболее заметен, поэтому сначала надо узнать, увеличится ли доля регистраций, если изменить изображение на нём.

Общая гипотеза заключается в следующем: «Если изменить главную страницу регистрации, то больше новых пользователей будут регистрироваться внутри продукта, потому что новое изображение лучше передает его ценности».

Нужно определить две гипотезы, которые помогут понять, является ли наблюдаемая разница между версией A (изначальной) и версией B (новой, которую вы хотите проверить) случайностью или результатом изменений, которые вы произвели.

  • Нулевая гипотеза предполагает, что результаты, А и В на самом деле не отличаются и что наблюдаемые различия случайны. Мы надеемся опровергнуть эту гипотезу.
  • Альтернативная гипотеза — это гипотеза о том, что B отличается от A, и вы хотите сделать вывод об её истинности.

Решите, будет ли это односторонний или двусторонний тест. Односторонний тест позволяет обнаружить изменение в одном направлении, в то время как двусторонний тест позволяет обнаружить изменение по двум направлениям (как положительное, так и отрицательное).  

4. Подготовьте эксперимент 

Для того, чтобы тест выдавал корректные результаты сделайте следующее:

  • Создайте новую версию (B), отражающую изменения, которые вы хотите протестировать.
  • Определите контрольную и экспериментальную группы. Каких пользователей вы хотите протестировать: всех пользователей на всех платформах или только пользователей из одной страны? Определите группу испытуемых, отобрав их по типам пользователей, платформе, географическим показателям и т. п. Затем определите, какой процент исследуемой группы составляет контрольная группа (группа, видящая версию A), а какой процент — экспериментальная группа (группа, видящая версию B). Обычно эти группы одинакового размера.
  • Убедитесь, что пользователи будут видеть версии A и B в случайном порядке. Это значит, у каждого пользователя будет равный шанс получить ту или иную версию.
  • Определите уровень статистической значимости (α). Это уровень риска, который вы принимаете при ошибках первого рода (отклонение нулевой гипотезы, если она верна), обычно α = 0.05. Это означает, что в 5% случаев вы будете обнаруживать разницу между A и B, которая на самом деле обусловлена случайностью. Чем ниже выбранный вами уровень значимости, тем ниже риск того, что вы обнаружите разницу, вызванную случайностью.
  • Определите минимальный размер выборки. Калькуляторы есть здесь и здесь, они рассчитывают размер выборки, необходимый для каждой версии. На размер выборки влияют разные параметры и ваши предпочтения. Наличие достаточно большого размера выборки важно для обеспечения статистически значимых результатов.
  • Определите временные рамки. Возьмите общий размер выборки, необходимый вам для тестирования каждой версии, и разделите его на ваш ежедневный трафик, так вы получите количество дней, необходимое для проведения теста. Как правило, это одна или две недели.

Пример: На существующем сайте в разделе регистрации мы изменим главную страницу — это и будет нашей версией B. Мы решаем, что в эксперименте будут участвовать только новые пользователи, заходящие на страницу регистрации. Мы также обеспечиваем случайную выборку, то есть каждый пользователь будет иметь равные шансы получить A или B, распределенные случайным образом.

Важно определить временные рамки. Допустим, ежедневно на нашу страницу регистрации в среднем приходит трафик от 10 000 новых пользователей, это означает, что только 5000 пользователей могут увидеть каждую версию. Тогда минимальный размер выборки составляет около 100 000 просмотров каждой версии. 100 000/ 5000 = 20 дней — столько должен продлиться эксперимент.

5. Проведите эксперимент 

Помните о важных шагах, которые необходимо выполнить:

  • Обсудите параметры эксперимента с исполнителями.
  • Выполните запрос на тестовой закрытой площадке, если она у вас есть. Это поможет проверить данные. Если ее нет, проверьте данные, полученные в первый день эксперимента.
  • В самом начале проведения тестирования проверьте, действительно ли оно работает.
  • И, наконец, не смотрите на результаты! Преждевременный просмотр результатов может испортить статистическую значимость. Почему? Читайте здесь. 

6. Анализируйте результаты. Наконец-то самое интересное 

Вам нужно получить данные и рассчитать значения выбранной ранее метрики успеха для обеих версий (A и B) и разницу между этими значениями. Если не было никакой разницы в целом, вы также можете сегментировать выборку по платформам, типам источников, географическим параметрам и т. п., если это применимо. Вы можете обнаружить, что версия B работает лучше или хуже для определенных сегментов.

Проверьте статистическую значимость. Статистическая теория, лежащая в основе этого подхода, объясняется здесь, но основная идея в том, чтобы выяснить, была ли разница в результатах между A и B связана с изменениями или это результат случайности или естественных изменений. Это определяется путем сравнения тестовых статистических данных (и полученного p-значения) с вашим уровнем значимости.

Если p-значение меньше уровня значимости, то можно отвергнуть нулевую гипотезу, имея доказательства для альтернативы.

Если p-значение больше или равно уровню значимости, мы не можем отвергнуть нулевую гипотезу о том, что A и B не отличаются друг от друга.

A/B-тестирование может дать следующие результаты:

  • Контрольная версия, А выигрывает или между версиями нет разницы. Если исключить причины, которые могут привести к недействительному тестированию, то проигрыш новой версии может быть вызван, например, плохим сообщением и брендингом конкурентного предложения или плохим клиентским опытом.

    В этом сценарии вы можете углубиться в данные или провести исследование пользователей, чтобы понять, почему новая версия не работает так, как ожидалось. Это, в свою очередь, поможет собрать информацию для следующих тестов.

  • Версия B выигрывает. A/B-тест подтвердил вашу гипотезу о лучшей производительности версии B по сравнению с версией A. Отлично! Опубликовав результаты, вы можете провести эксперимент на всей аудитории и получить новые результаты.

Заключение

Независимо от того, был ли ваш тест успешным или нет, относитесь к каждому эксперименту как к возможности для обучения. Используйте то, чему вы научились, для выработки вашей следующей гипотезы. Вы можете, например, использовать предыдущий тест или сконцентрироваться на другой области, требующей оптимизации. Возможности бесконечны.

Что такое A/B-тестирование сайта и как его провести

После запуска сайта работа над ним не завершается, она входит в основную стадию, которая продолжается всё время, пока бизнес существует. Оптимизаторы и маркетологи не должны останавливаться в своём стремлении сделать ресурс более выгодным для владельца. Их задача — постоянное совершенствование с помощью дополнения новыми элементами, изменения дизайнерских решений, корректировки существующих фишек. Но работа над улучшением сайта не приведёт к значительным результатам, если нет возможности измерить практическую пользу от изменений его страниц. Именно для этого грамотные специалисты используют a/b, или сплит, тестирование.

Что такое сплит-тестирование сайта

A/B-тестирование — маркетинговый метод предварительного изучения эффективности корректировки элементов сайта, основанный на сравнении двух версий посадочной страницы. Благодаря этому инструменту специалисты могут проверить, принесёт ли пользу какое-либо изменение, не гадая на кофейной гуще и надеясь на своё знание целевой аудитории, а опытным путём.

Второе название метода раскрывает его основную суть. Split testing означает «раздельное тестирование», объясняя, что такое сплит-тестирование заключается в разделении потока пользователей на две группы «подопытных». Одна группа пользователей попадает на текущую версию страницы (страница A), вторая — на страницу с изменённым элементом (страница B). В результате разделения посетителей в течение определённого времени можно сравнить эффективность одной из двух контрольных страниц и принять решение о целесообразности внедрения изменения.

С помощью сервисов для проведения A/B-тестирования удаётся посмотреть точные количественные показатели целевых действий пользователей сайта, находящихся на разных версиях страницы. При этом посетители не знают, что они являются объектами исследования, для них переходы на страницу A или B ничем не отличаются.

Достаточно распространённый пример A/B-тестирования. На посадочной странице A используется некликабельное изображение товара. Маркетолог предполагает, что наличие возможности увеличить картинку и рассмотреть продукцию более детально может повысить конверсию и стимулировать рост объёмов продаж. Он создаёт копию страницы A и меняет статичное изображение на объект, который может быть увеличен по клику или при наведении мыши. Это будет страница B. С помощью любого сервиса A/B-тестирования, например, в Яндекс Метрике или Google Optimize, настраиваем параметры разделения пользователей по двум контрольным страницам и через некоторое время сравниваем результаты. Если новая страница приносит больше целевых действий (добавления товара в корзину или оформление заказа), устанавливаем её на сайте вместо версии A и получаем более высокую конверсию в награду.

Как провести А/Б-тест: последовательность действий

  1. Принятие решения о необходимости внедрения изменений и оценка своевременности его проведения.
    Современный бизнес и бешеный ритм развития технологий и интернет-маркетинга не терпят лентяев и любителей почивать на лаврах. Даже если сегодня ваш сайт впереди планеты, и вы имеете полное право гордиться своими достижениями в плане продвижения ресурса и продукта, это совсем не означает, что вы застрахованы от потери позиций, клиентов и выручки в ближайшем будущем. Поэтому мы рекомендуем никогда не останавливаться и использовать любую возможность для улучшения сайта и повышения конверсии. Тем более пока никому не удавалось добиться 100%-ого результата.

    С другой стороны, проведение А/Б-тестирования не всегда целесообразно, так как не всегда есть возможность получить реальную оценку ситуации. В первую очередь, речь идёт о сезонности. Нет смысла проводить сплит-тест в самый горячий или, наоборот, мёртвый сезон вашей бизнес-ниши. Эти данные не дадут полной ясности, а результаты могут существенно отличаться от усреднённых годовых показателей.
     

  2. Измерение контрольных (исходных) параметров страницы.
    С помощью инструментов аналитики измеряем параметры страницы сайта, чтобы в процессе тестирования можно было сравнить их с обновлёнными данными и оценить эффективность изменений.
     
  3. Поиск способов улучшения страницы сайта.
    На этом этапе нужно использовать все свои познания в интернет-маркетинге, понимание собственной целевой аудитории, опыт конкурентов и фантазию. Даже самые безумные идеи и, казалось бы, несущественные нюансы в реальности могут превзойти все ожидания и принести массу пользы как бизнесу, так и пользователям. A/B-тестирование позволит с минимальным риском проверить их эффективность и либо окончательно убедиться в необходимости внедрения таких изменений, либо понять, что ничего хорошего они не принесут, и продолжать искать дальше.
     
  4. Настройка параметров сплит-тестирования.
    Инструменты для сплит-тестирования позволят создать страницу B для проведения исследования, которая будет отличаться от исходной страницы A одним элементом. С помощью настроек сервиса можно задать количество просмотров каждой из страниц, которые необходимы для эксперимента, распределить трафик для проверки и указать некоторые другие параметры. Ниже мы расскажем о том, как настроить сплит-тестирование с помощью сервиса Google.
     
  5. Изучение результата тестирования и принятие решения.
    К сравнению результатов стоит приступать не раньше, чем через пару недель после начала теста. Чем больше невольных подопытных примет участие в тестировании, тем точнее будут данные. Результаты, полученные за пару дней, не позволят увидеть точной картины и принять правильное решение.

    Сравнивая полученные результаты, нужно решить, как поступить дальше. Если обновлённая версия страницы помогла повысить конверсию до желаемой отметки, есть смысл заменить ею исходную. Но, если страница B работает хуже или корректировка не принесла сколь-либо значимых положительных изменений, это вовсе не значит, что с идеей повысить эффективность сайта должно быть покончено. Это лишь означает, что следует придумать новую фишку и провести A/B-тест для неё.

Объекты A/B-тестирования

Набор элементов конкретной страницы сайта, который необходимо изменить (и, соответственно, проверить оправданность этих изменений) зависит от целей, которые вы ожидаете получить в результате доработки. Мы составили список из объектов сайта, изменение которых в действительности может положительно влиять на конверсию, что, в свою очередь, требуется проверять посредством А/Б-теста.

Рекомендуем периодически тестировать:

  • текстовый контент: заголовки, содержание, объём, шрифт и визуальное оформление, наличие изображений;
  • конверсионные формы: количество полей, размеры, шрифт, внешнее оформление;
  • A/B-тестирование дизайна страницы;
  • графические элементы: качество, размер, кликабельность, расположение;
  • кнопки: текст, форма, шрифт, цвет кнопки и/или текста, расположение, размер;
  • коммерческое предложение: стоимость, скидки, акции, условия сотрудничества.

В зависимости от вашей маркетинговой стратегии может потребоваться анализ изменений других элементов сайта.

Как сделать А/Б-тест: сервисы и особенности настройки

Так как сплит-тестирование — весьма полезный и популярный инструмент среди интернет-маркетологов, существует немало сервисов для его проведения.

Из платных чаще всего используют:

  • Optimizely, возможно, из-за стоимости (которую разработчики не афишируют) не пользуется особым успехом в странах СНГ, зато любим западными специалистами за возможность без особых сложностей создавать изменения на странице B на самой платформе;
  • Unbounce предназначен для работы с лэндинг-пейдж, в числе прочего позволяет проводить А/Б-тест созданной страницы;
  • VWO подходит для опытных маркетологов крупных компаний, умеющих работать с HTML-кодами. 

Для тех, кто не может похвастаться многомиллионными оборотами и не готов тратить сотни долларов в месяц на подобные сервисы, вполне подойдут инструменты A/B-тестирования, предлагаемые Yandex и Google. Тем более, они удобны, понятны и информативны.

Как сделать сплит-тестирование в Гугл

До недавнего времени функционал A/B-тестирования был доступен в Google Analytics. Сейчас это отдельный сервис Optimize, который входит в пакет продуктов Google Marketing Platform. С его помощью единовременно можно сравнивать не только 2, а до 5 вариантов страницы сайта. Здесь также имеется возможность выбора источника трафика.

Настройка параметров А/Б-теста в Google Optimize:

  1. Перед началом работы необходимо установить расширение «Оптимизация» в Google Chrome (если ранее не было установлено). Теперь можно вносить некоторые изменения на страницах сайта в самом сервисе.
  2. Проходим авторизацию в Гугл Маркетинг Платформ, заходим в раздел Optimize.
  3. Заходим в «Создание проекта», придумываем ему название и указываем адрес исходной страницы сайта.
  4. Выбираем тип проекта. В нашем случае «Эксперимент А/Б». Нажимаем «Создать».


     

  5. Для детальной настройки заходим в нужный проект, уточняем правила таргетинга.


     

  6. Создаём вариативную страницу, добавляем её адрес. Здесь же можно задать настройки, характеризующие целевую аудиторию, которая будет участвовать в эксперименте.
  7. Устанавливаем связь с аналитикой.
  8. Задаём цели для проверки результатов тестирования, которые должны совпадать с целями из Гугл Аналитики.


     

  9. Уточняем расписание и создаём код эксперимента, который необходимо указать в настройках сайта.
  10. После того, как всё будет выполнено, остаётся только нажать на OK.

Выводы

A/B-тестирование — это эффективный и достаточно простой метод проверки целесообразности реализации идей маркетолога для улучшения сайта и повышения конверсии, который позволяет достоверно ответить на вопрос, пойдут ли эти идеи на пользу бизнесу. С помощью этого инструмента можно избежать досадных ошибок при внедрении изменений на сайте, а также найти дополнительную возможность для роста прибыли без дополнительных вложений.

Вместе с тем не стоит забывать, что А/Б-тест сам по себе не способствует генерации великих идей, мотивирующих пользователей совершать целевые действия. Для этого необходима качественная предварительная работа, направленная на исследование рынка, характера целевой аудитории, продукта, предложений конкурентов и новинок интернет-маркетинговых решений.

Приходилось ли вам оценивать пользу вносимых на сайт изменений и каким инструментов вы пользовались? 

Ab initio — это… Что такое Ab initio?

Ab initio (лат. от начала) в физике — решение задачи из первых основополагающих принципов без привлечения дополнительных эмпирических предположений. Обычно подразумевается прямое решение уравнений квантовой механики. Несмотря на название при этом зачастую делаются какие-либо предположения и упрощения. Данные упрощения позволяют рассчитывать системы с большим числом атомов или атомы, имеющее большее число электронов. Примером такого упрощения является использование PAW-потенциалов.

Ab initio методы в физике твёрдого тела

Термин фактически именует одно из направлений современной теоретической физики твёрдого тела. Означает совокупность физических приближений, процедур вычисления и оптимизации, используемых для расчёта электронных и фононных спектров с целью нахождения термодинамических и кинетических характеристик материала, таких как коэффициент теплового расширения, электрическая проводимость и другие. Например, для расчёта энергии сублимации атома используется разница энергий атома в кристаллическом состоянии и изолированного атома, помещённого в ячейку большого размера (что аналогично свободному атому). Первыми из серьёзных достижений в этом направлении можно считать концепцию самосогласованного поля и уравнения Хартри и их прямые уточнения, уравнения Хартри-Фока. Эти уравнения с различными вариациями являются основой вычислительных методов в квантовой химии.

В последнее время все большее распространение в физике твёрдого тела приобретают методы ab initio расчётов, основанные на использовании метода функционала плотности.

Достоинством расчётов из первых принципов является точное описание атомного взаимодействия с учётом квантовых эффектов. Недостатком — невозможность расчёта за разумное время систем с достаточно большим числом атомов (на практике редко более 100).

Если расположить современные методы моделирования, используемые в физике, по возрастанию размеров моделируемых систем и времени моделирования, то картина получится следующей:

  1. Ab initio методы, не использующие приближений
  2. Ab initio методы, использующие приближения
  3. Методы молекулярной динамики, использующие полуэмпирические потенциалы
  4. Метод Монте-Карло
  5. Методы конечных элементов

Аналогично от 1-5 увеличивается количество упрощений и приближений которые могут влиять на корректность получаемого результата.

Программы, используемые при моделировании из «первых принципов»:

  • Gaussian
  • CPMD
  • NWCHEM
  • ABINIT — свободная программа
  • VASP — платная программа (по публикациям — используется более часто)
  • WIEN2K
  • GAMESS (US)
  • PC GAMESS
  • ORCA
  • CRYSTAL

При расчёте характеристик титана ABINIT и VASP дают аналогичные значения. VASP работает быстрее в однопроцессорной версии, но реализация MPI в ABINIT более качественна.

См. также

Ссылки

  • Ашкрофт Н., Мермин Н. «Физика твёрдого тела»
  • Слэтер Дж. «Методы самосогласованного поля для молекул и твёрдых тел»
  • Хартри Д. «Расчёты атомных структур»

Что означает AB? Бесплатный словарь

Фильтр категорий: Показать все (164) Наиболее распространенные (4) Технологии (13) Правительство и военные (29) Наука и медицина (33) Бизнес (28) Организации (25) Сленг / жаргон (38)

AB 9 0012 AB 90 010 Atomic Bom ) 9 0053
Сокращение Определение
AB Группа крови
AB Alberta
AB Алкогольные напитки
AB Airman Basic
AB
AB Живот
AB Счет за сборку
AB Абонемент (подписка на филателистический каталог)
AB О
AB Air Base
AB Способность выполнять (Общая функция; интеграция модели зрелости возможностей)
AB Взрослый ребенок
AB Абердин (почтовый индекс, Великобритания)
AB Аборт
AB Адресная книга
AB Angry Birds (игровой)
AB At Bat (бейсбол, софтбол)
AB Action By (Интернет-сленг)
AB Прервать (ITU-T)
AB Abbot
AB Похищение
AB Ancienne Belgique (Брюссель, культурный центр Бельгии)
AB Anrufbeantworter (немецкий: автоответчик)
Applied Biosystems
AB All Blacks (национальный ковер Новой Зеландии командой)
AB В воздухе
AB Антибактериальный
AB Подушка безопасности
AB Aftonbladet (шведская газета)
AB Авиабаза (Министерство обороны США)
AB American Beauty (фильм)
AB Антитела
AB Able-Bodied
AB Антибиотик
AB Плавки Apple (линия одежды)
AB Alter Bridge (ремешок)
AB Able Seaman
AB Apple Bloom (My Little Пони)
AB Altbau (нем.: Старое здание)
Добавленная выгода
AB Aktiebolag (шведский язык: компания с ограниченной ответственностью на долях)
AB Anheuser-Busch (пивоваренный завод)
AB Апелляционный орган ( различные организации)
AB Alec Baldwin
AB Agriculture Biologique (французский национальный логотип органических продуктов)
AB Андреа Бочелли (итальянский оперный тенор)
AB Amitabh Bachchan (индийский актер)
AB Algemeen Bestuur (голландский: General Board)
AB на основе агента
AB Доступный баланс (банковское дело)
AB Alton Brown (Good Eats TV show h ost)
AB Атомная бомба
AB Achtung Baby (альбом U2)
AB All Before
AB Asha Bhosle (индийский певец)
AB Кнопка действия
AB Кислотная ванна (лента)
AB Связывание антигенов
AB Able Bodied Seaman
AB Через границы (центр психического здоровья; Канада)
AB American Bandstand
AB Anchor Bay (поставщик DVD)
AB Форсажная камера
AB Административный совет
AB Art Bell
AB Arcane Brilliance (игры World of Warcraft)
AB Расширенная Библия
AB Адаптивное поведение
AB Absidia (грибки)
AB Аарон Брукс (футболист)
AB Доска для приобретения
AB Анкерный болт
AB Активный значок
AB Aimbot
AB Ответить
AB Andhra Bank
AB Access Burst
AB Апикально-базолатеральный (микробиология)
AB Анджелина Балерина (кукла American Girl)
AB Доп.двоичные файлы (группы новостей)
AB Алгебраическая биология
AB Air Blast
AB After-Burner (game)
AB Aryan Brotherhood ( white power group)
AB Aquabats (группа)
AB Air Berlin GmbH (Германия)
AB Клейкое соединение
AB Archie Бункер (телевизионный персонаж)
AB сигнальная земля
AB Art Building (университет)
AB Alcian Blue
AB Appenzeller Bahnen ( Немецкий; Швейцарская железнодорожная компания)
AB Бассейн Арати (Мир Warcraft Gaming)
AB Сборочный корпус
AB Помощь слепым
AB Счетный филиал
AB Внешний вид Обязательства (уголовное правосудие)
AB Адресная шина
AB After Body
AB Anchor Blue (розничный магазин одежды)
AB Ашаффенбург, Германия (номерной знак)
AB Агрегатная база (строительство)
AB Продавцы антикварных книг
AB Армейская бригада
AB Воздушный взрыв
AB Развлекательный бизнес ( журнал)
AB Arab Bank PLC
AB Alpha Blue (Star Wars Intelligence Group)
AB Помощник авиационного боцмана (рейтинг USN)
AB Барометр-анероид
AB Asthmatic Бронхит
AB Attentional Blink
AB Старшина авиационного боцмана (военно-морской ранг США)
AB Artium Baccalaureus
AB
AB Air Break
AB Ящик для золы
AB Крановоз
AB Основа авторизации
AB Адресный буфер
AB Alliance Battle (видеоигра) 9005 8
AB Административный бюллетень
AB Applix Builder (расширение файла)
AB У причала (корабли)
AB Отсек авионики
AB Assez Beau (французский: от удовлетворительного до хорошего; филателия)
AB На основе Ada
AB Асбестовое тело
AB Apex Beat
AB Avrupa Birliði (Турецкий: Европейский Союз)
AB Арчибальд Браун (филателистический знак колонии Британской Восточной Африки)
AB Advanced Bus
AB Alliance of Baptists
AB Apical-to-Basal
AB Asesores Bursátiles (испанская компания)
AB Avropa Birliyi (Азербайджан: Европейский Союз)
AB Ускоренный бюджет
AB Почти изогнутый (функция)
AB Arctic Brotherhood
AB Akbar & Birbal (сериал на хинди)
AB Предполагаемое пособие (тип квалифицированного пенсионного плана)
AB Распределенный базовый план
AB Алхоголик Напиток
AB Дуговая пайка
AB Asker and Bærum (Норвежская больница)
AB Ayan Baqur (игра Asheron’s Call)
AB После Blackout
AB Assault Breaker
AB Alabaster Blue (группа a-capella Университета Нью-Гэмпшира)
AB Асимметричный баланс
AB Осевое одеяло (тест)
AB AcmlmBoard (доска сообщений s ystem)
AB Адиабатический изгиб
AB Altered Beasts (игра)
AB Axiobuccal
AB Allen Bradley Corporation
AB Artis Baccularatum (латинское: бакалавр гуманитарных наук) Университетская степень
AB Array Bending
AB Arbeidsvoorwaarden en Beroepskwaliteit
AB Воздушная бомбардировка
ABropic
ABropic
ABropic
AB Amstelbrigade
AB Auntbrenda.com (Атланта, Джорджия)
AB Armeé Brittanique (британская филателистическая ручная марка 1748)

Что означает A.B. стоять за?

AB

Альберта

Региональный »Канадский — и другие …

Оцените:
AB

Антитело

Медицинская» Физиология — и более…

Оцените:
AB

AnrufBeantworter

Международный »Немецкий

911 911
0

Аномалии

Медицина »Физиология — и не только …

Оцените:
AB

Avrupa Birligi

Международный» Турецкий

3

Оцените:
AB

AirBorne

Governmental »Military

Оцените:
0 AB

Разное

Оцените 9000urora

12
Оцените:
AB

Аборт

Медицина »Физиология — и многое другое…

Оцените:
AB

Законопроект о сборке

Правительственный »Юридический и юридический

AB

Доступен

Вычислительная техника »Сети

Оцените:
AB

Alpha Beta

Academic & Science4 900 Universities

Оцените:
AB

At Bats

Sports

Оцените это:
AB

Академия и наука »Метеорология

91 157 Оцените:
AB

Кислотное основание

Академия и наука »Химия

Оцените:
9003
0 Годовой бюджет

Бизнес »Общий бизнес

13 911 911 911 911 911 911 911 911 911 911 911 911 911
Оцените:
AB

Air Base

Governmental» Air Force — и многое другое…

Оцените:
AB

Связывание антигенов

Медицина »Физиология

Оцените AB

Атомная бомба

Государственный »Военный

Оцените:
AB

Добавленная выгода

Медицина» Физиология

Оцените:
AB

Able Bodied

Governmental »Военное дело

Оцените:
AB Разное

Античное »Хобби

Оцените:
AB

Адаптивное поведение

Медицина »Физиология

Оцените:
Оцените:
AB

Абхазский

Региональные» Коды языков (2 буквы)

Оцените:
AB

Взрослый ребенок

Разное »Одежда

Оцените: