広告クリエイティブ検証と評価

目次

①適切なPDCAを回すためには

②基本的なルール

③クリエイティブの指標はなぜCTRなのか

④CTRだけの評価では正しくない

⑤バナーを構成する要素

⑥ABテストの注意点

⑦最適なテスト方法

⑧最適なPDCA

⑨検証の順序

⑩統計的有意差検定とは

⑪有意差検定の方法

⑫有意差検定を試してみる

⑬Excelでも検定を行ってみる

適切なPDCAを回すためには

画像やテキストを都度変更していって、どこに変数がうまれたかが特定できず
結局良し悪しがつかめず、仮説がうまれないなんてことはありませんか?

仮説や結果を説明できないマーケターにならないようPDCAをしっかり回せるようになりましょう。

基本的なルール

一般的な広告の評価方法としては、下記2つをルールとして設けましょう。

クリエイティブ  :CTR
ランディングページ:CVR

基本的にはこのようなルールが最適です。

クリエイティブの指標はなぜCTRなのか

ユーザーがタイムラインをスクロールする際に
優先的に視認するものは画像であるからです。

瞬間的にどれだけ惹きつけることができるかで、インプレッションに対するリーチ数が変わります。
惹きつけられるクリエイティブであれば、クリックに寄与する可能性が高くなる為です。

CTRだけの評価では正しくない

CTR(クリック率)だけを見て良し悪しを判断するケースがありますがこれは間違いです。

なぜならCTRは出稿ボリュームに影響されるからです。

広告出稿額が少なければ高くなったり、逆に増えれば下がったりする傾向があります。そして、最終的にはある一定の範囲内に収束します。ですので、一時的なCTRを見るのではなく、一定量の出稿額(クリック数)がある前提で比較する必要があります。また、CTRが高いからといって、その後のCVRが高いとは限りません。

特にクリック誘導を目的とするような表現の場合、クリックはされるけれどもコンバージョンに繋がらないケースもあります。また、フリークエンシーが高くなったクリエイティブなどは、CTRが高い状態でも、ある時から急にCVRが悪化するといったケースもあります。

GoogleやFacebookなど多くの広告プラットフォームでは、効果の良いクリエイティブを自動的に判断して露出を増やすようにロジックが組まれています。そのため、クリック数や広告出稿額が多いということは、結果的に効果が良いクリエイティブであると媒体に判断されているとも言えますが、ここでは有意差がどの程度出ているかデータを作成するために統計的有意差検定行います。

バナーを構成する要素

バナーを構成する要素は、大きく以下の3つ。 これを踏まえてテスト設計する必要がある。

①訴求軸

②画像

③全体演出

全てが違うバナーでテストを行うと、 勝敗が決まっても何が良かったのか(どこが勝因なのか)がわからない為

軸を決めてテストを行うようにしましょう。

ABテストの注意点

では、どの様にバナー広告の“more better ”を、勝ちパターンを見つけるか・・・
商店街の福引で「特賞ハワイ旅行」を狙うような一か八かの勝負では
良いバナーを引き当てることはできません。
その工程は基本的に【消去法】です。効果の薄いものを消し込み、
良いものを残す・・・という考え方のもと勝ちパターンを見定めていきます。

最適なPDCA

バナーPDCAは検証軸・比較要素 を洗い出すことで、この消し込み作業を効率的に行います。

例えば、下の図のように【4つ検証軸】と、これに紐づく【比較要素を各3つ】用意した場合、
全部で81パターン(3の4乗)のバナーデザインが考えられます。これをすべて作るのは大変です。
ですが、最初に検証軸2~4を同条件とした検証軸ABCの3パターンを比較し、
その中で1位を決定すれば、可能性を27パターンに限定することができます。

このケースであれば、3+2+2+2=計9パターンのバナー制作で 1/81 を見つけることができます。

検証の順序

それぞれの検証軸をどの様に設定し、順位をつければ効率的な 検証ができるのでしょうか。「バナーデザインに影響を与える大きさ」 という視点で考えると以下の並び方がオススメです。

注意点を踏まえ、以下の順でテストを実施。勝ったバナーをベースに次のテストへ

統計的有意差検定とは

統計的有意差検定や有意差検定などを検索すると複雑なものが多々出てきますが要約すると

「統計学的に有意」とは「仮説」と「実際に観察された結果」との差が誤差ではないことを意味します。
例えば,投薬による治療効果の検証では,偽薬を投与した人たちと実薬を投与した人たちとの間で症状が改善された人数を比較して、その差が偶然得られる確率を計算します。この確率が十分に低ければ有意であると表現します。有意であるかどうかの基準(有意水準)は目的によって異なり,統計的解析を行う前に設定します。

参照:実験医学on-line

つまり観察された結果」との差が誤差ではないことを意味します。

有意差検定の方法

下記サイトで簡単に検定が行えるツールが公開されています。

カシオ計算機株式会社様:有意差検定 – 高精度計算サイト – Keisan – CASIO

株式会社真摯様:A/Bテスト信頼度判定ツール

上記サイトで簡単に検定を行えます。良い時代ですね。ですが社内の報告や、クライアント様にご説明する際にExcelやPowerPointでまとめる機会が多いですよね。
そこで今回はExcelでも検定を行ってみます。

Excelってかなり優秀な分析ツールですので使いこなせる用意しましょう。

有意差検定を試してみる

CTRだけで判断をするとBが1.75%と高い数値となっています。
ここでテストをやめてしまうと検証を誤る可能性があります。

実際に上記のサイトを使用してみます。

株式会社真摯様のツールが非常に簡単でお勧めです。:A/Bテスト信頼度判定ツール

ここではVisitorとConversionと設定されていますのでVisitor=IMP Conversion=Clickとします。

すると『差や傾向は出ていません。』と表記されます。

レートを上げ見てみましょう。

上記のように簡単に有意差検定を行ってくれます。

Excelでも検定を行ってみる

Excelで簡単に正規分布を作成することで差がどの程度出ているか確認することができます。

上記の図のように進行具合を可視化することで非常にわかりやすくなります。

配信ボリュームが多い場合、下記のようになります。

Excelで数式を組めるのであればExcelが管理やデータ化しやすくお勧めです。
有意差検定をExcelでどのよう組むか検索すると色々出てきますので探してみるのもよいかと思います。
機会があれば今後そちらの記載できればと思います。