一件いくらを、どの段で測るか決めていない方へ/判断に使うと決めた数字が、そのまま最適化の対象になる

顧客獲得単価——どの段で測るかで、最大化されるものが変わる

同じ月に10万円を使ったとします。その10万円で、登録が50件、初回の購入が10件、半年後も続いている相手が3件になりました。一件あたりの費用は、2,000円でもあり、1万円でもあり、約33,000円でもあります。

三つとも正しい計算です。割り算に誤りはありません。違うのは分母だけで、どの段を「一件」と数えるかによって、同じ費用が三つの数字になります。

どれを使うかは、好みの問題に見えます。実際には、そうではありません。判断に使うと決めた数字が、そのまま最適化の対象になります。2,000円という数字を下げようとすれば、登録しやすさが最大化されます。登録しやすさを最大化する操作は、関与の低い相手を増やす操作でもあります。

そして、増えた分の影響は、その数字には現れません。登録は増え、一件あたりの費用は下がり、指標は改善したままです。現れるのは、数か月後の別の数字です。取引に至る割合と、続く割合。二つが落ちるころには、上流を良くした時期との間に季節が一つ挟まっています。

この三つの数字は、判断のどこに置くかによって、まったく違う運用を作ります。2,000円を見て運用すれば、下げる方向に手が伸びます。33,000円を見て運用すれば、そもそも下げようがないので、手は別の場所へ向かいます。同じ月の同じ費用が、見る場所によって別の行動を要求します。

以下で確かめられることを、三つ挙げます。

一つ目は、「一件」の段が四つあり、上ほど測りやすく下ほど意味が重いという順序です。この順序は偶然ではなく、時間の離れ方から出てきます。四つの段が順に並ぶのは、時間の離れ方の裏側に、関与の変わり目があるからです。その変わり目が段を作っているという話は段に並んでいるものは何かが扱っています。

二つ目は、目標に置いた指標が変質を免れないという性質と、その速さが指標によって違うという事実です。変質しない指標を探す作業は空振りに終わりますが、変質の遅い指標を選ぶ作業には意味があります。

三つ目は、「場が壊れる」という言い方が具体的に何を指しているかです。ここは比喩ではなく、構成の偏りが自分自身を強めていく状態を指します。壊れた時点というものが無いので、いつ入ったかを後から特定することもできません。

この記事が値を出せない項目が一つあります。一件あたりの上限額です。上限は、一人の相手から生涯どれだけの取引が生まれるかの見積もりから逆算されます。その見積もりは、実績が無ければ立ちません。実績の無い段階で置いた上限は、想定を数字の形にしたものです。数字の形になった時点で、元が想定だったことは自分にも見えなくなります。

顧客獲得単価(CPA)の計算式は明快で、明快さが選択を隠す

顧客獲得単価とは、一件の成果を得るためにかかった費用のことです。計算式は明快で、明快であるために、式の外側で行われた選択が見えなくなります。

かかった費用を、得られた成果の件数で割る。10万円を使って10件の成果が出たなら、一件あたり1万円です。ここに解釈の余地はありません。

目標値の設定についても、手順が示されています。一件から得られる利益の上限を出し、そこから確保したい利益を引く。残りが、一件にかけてよい費用の上限になります。

改善の方法として挙げられるのは、次のものです。表示や誘導にかかる単価を下げる。対象の絞り込みを調整して、成果に至る割合を上げる。到達したページを見直して、成果に至る割合を上げる。

いずれも、分子を小さくするか、分母を大きくするかのどちらかです。計算式が分数である以上、改善の方向は二つしかありません。費用対効果を測る指標として、この計算は正しく機能します。

式の外側の選択というのは、成果の定義のことです。並んでいる手順は、いずれも「成果」が何であるかを所与としています。定義は計測の設定として先に決まっており、その定義自体が判断の対象になっていません。

事業の形が固まっており、何を成果と数えるかが自明な場合には、この前提は問題になりません。取引が一度で完結する形式では、成果は購入以外にありようがありません。

問題になるのは、成果の定義がまだ選べる段階で、選択が計測の都合で行われたときです。最も測りやすい段が、そのまま成果の定義になります。測りやすさで決まった定義が、その後の最適化の方向をすべて決めます。

測れないものは管理できないのだから、測りやすい段を選ぶのは実務として当然だ、という筋はあります。管理できないことと、選ばないことは別です。測りやすい段を判断に使いつつ、その段が何を代理しているのかを自覚しておくことはできます。自覚があれば、代理が壊れたときに気づけます。

自覚が無い場合、代理は本体と同一視されます。登録の件数が成果そのものになり、登録が何の代理だったかは忘れられます。忘れられた時点で、代理が壊れても検出されません。

目標値の設定手順にも、同じ性質が入っています。生涯の取引額を見積もらなければ上限が出ないので、実績の無い段階では、見積もりは想定で置かれます。想定から逆算した目標値は、想定の精度をそのまま引き継ぎます。そして、その目標値は数字として提示されるので、想定であったことは見えなくなります。

「一件」の定義は、測る段によって変わる

費用をかけてから、取引が続く状態に至るまでには、複数の段があります。四つに分けると、順序の性質が見えます。

第一の段は、こちらの案内に到達したことです。ここで測ると、一件あたりの費用は最も小さくなります。

第二の段は、経路が成立したことです。連絡先が渡され、継続的に届けられる状態になった。多くの事業で、成果として設定されるのはこの段です。

第三の段は、最初の取引が成立したことです。ここで初めて、金額が発生します。

第四の段は、取引が続いていることです。二度目、三度目が発生し、関係として成立している。

同じ費用を、四つの分母で割ると、四つの数字が出ます。上の段ほど分母が大きいので、数字は小さくなります。下の段ほど分母が小さく、数字は大きくなります。

ここに、順序の性質があります。上の段ほど、測りやすい。到達も、経路の成立も、その場で記録されます。下の段ほど、測りにくい。取引が続いているかどうかは、数か月経たないと分かりません。

測りやすさと、意味の重さが、逆の順に並んでいます。

四つ全部を測ればよく、どれか一つを選ぶ必要はない、と考えることはできます。測ること自体は、全部できます。ただし、判断に使う数字は一つに絞られます。広告を止めるかどうか、予算を増やすかどうかを決めるとき、根拠として使われる数字は一つです。

そして、根拠として使われる数字が、最適化の対象になります。四つ測っていても、判断に使うのが第二の段の数字なら、最適化されるのは第二の段です。

段を四つに切るのが唯一の分け方ではありません。取引の形によって段の数は変わります。変わらないのは、上ほど測りやすく下ほど意味が重いという順序です。

この順序が生じる理由は、時間の側にあります。上の段ほど、こちらの操作から時間的に近い。費用をかけた直後に起きることは、費用との関係が明快です。下の段は、時間が離れているぶん、間に他の要因が入ります。

そして、意味が重いのは、他の要因が入った後まで残ったものだからです。残ったことが意味を持つのは、残らないものが多いからです。残りやすさと、測りやすさは、原理的に両立しません。

四つの数字を並べると、上の段の数字が最も良く見えます。分母が大きいので、一件あたりの費用が小さく出るからです。良く見える数字は、外に示すときにも選ばれやすくなります。実績として提示する場面、判断を説明する場面で、上の段の数字が使われます。使われるうちに、その数字が事業の状態を表す代表値になっていきます。

測ったものが目標になると、それは測るものでなくなる

この構造には、よく知られた定式化があります。そして、よく引かれる形と、元の主張は、同じものではありません。

経済学者チャールズ・グッドハートは1975年に、英国の金融政策について論じた文章の中で、次のように述べました。「観測された統計的な規則性は、制御の目的で圧力がかけられると、崩れる傾向がある」(Goodhart, 1975)。貨幣の総量と経済活動の間に安定した関係が観測されていても、その関係を政策の道具として使い始めると、関係そのものが変質するという指摘です。

一般によく引かれる「ある指標が目標になると、それは良い指標ではなくなる」という一文は、グッドハート自身の言葉ではありません。これは人類学者マリリン・ストラザーンが1997年の論文で、英国の大学評価を論じる中で、この観察を一般化して与えた表現です(Strathern, 1997, European Review, 5(3), 305–321)。元の主張は金融統計についての限定的な観察であり、一般化はその後に行われました。

この経緯を確認しておく理由は、適用の範囲が違うからです。元の主張が言っているのは、制御に使われた変数は、制御される側の行動変化によって、元の関係を失うということです。「悪い指標になる」よりも狭く、そして機序が明示されています。

顧客獲得単価に当てはめると、こうなります。登録一件あたりの費用を目標に置くと、登録という行為の性質が変わります。目標を達成するために、登録の障壁が下げられるからです。

下げられた後の登録は、下げる前の登録と同じものではありません。同じ「一件」として数えられていますが、その一件が意味していたことは変わっています。関係が変質したという、元の主張そのものの形です。

目標を持つこと自体が誤りだという話ではありません。目標が無ければ、費用の判断ができません。問題は、目標に置いた指標が、目標に置く前と同じ意味を保っていると想定することです。

変質するというならどの指標を目標にしても同じで、逃げ場が無いのではないか。逃げ場はありません。目標に置いた指標は、制御に使われた時点で変質の圧力を受けます。これは避けられない性質です。

避けられるのは、変質に気づかないことのほうです。変質の速さと方向は、指標によって違います。操作しやすい指標ほど速く変質し、操作しにくい指標ほど遅い。

したがって、選ぶべきなのは変質しない指標ではなく、変質が遅く、変質したことが別の場所に現れる指標です。登録の件数は最も操作しやすく、最も速く変質します。

一般化された一文のほうが広く流通しているために、この法則は「指標を信じるな」という警句として使われることが多い。元の主張は、警句ではなく機序の記述です。機序として読めば、どの指標がどれだけ速く変質するかを見積もることができます。警句として読むと、指標を選ぶ作業そのものが放棄されます。

登録の段で測ると、何が最大化されるか

第二の段——経路の成立——を目標に置いたとき、何が起きるかを具体的に追います。最も効くのは、登録の障壁を下げることです。

障壁を下げる方法は複数あります。入力の項目を減らす。判断を求める文章を短くする。引き換えに渡すものを具体的で分かりやすいものにする。どれも件数を増やします。

そして、下げ切ったとき、登録は「読むかどうかを決める行為」ではなくなります。渡されるものを受け取る行為になります。受け取った時点で完結するので、その後に何が届くかは判断に入っていません。

関与を伴わない登録が積み上がると、行数は増えますが、経路としては機能しません。この点はリスト集めの前提で扱っています。

この劣化は、顧客獲得単価には現れません。現れるのは、下流の数字です。取引に至る割合が下がり、続く割合が下がります。

下流の数字が下がった時点で気づけるはずだ、という見込みは成り立ちます。実際、気づきます。問題は、気づいたときに何が原因として指名されるかです。下流の数字が下がったとき、下流に原因があるという推定が立ちます。取引に至る割合が下がったなら、提案の仕方を見直す。続く割合が下がったなら、内容を見直す。

上流の測り方が原因だという仮説は、簡単には出てきません。上流の数字は改善しているからです。改善している場所が原因だという推定は、順序として不自然に見えます。

改善している数字と悪化している数字が同時にあると、説明が分かれます。一人で全部やっている場合でも、時期が違えば同じことが起きます。上流を良くした時期と、下流が悪くなった時期が数か月ずれるからです。

ずれがあると、二つの出来事は別々の問題として記憶されます。「春に集客が改善した」と「夏に反応が落ちた」は、時期が離れているので結び付きません。結び付けるには、両方を並べて時系列で見る必要があります。

障壁を下げること自体が誤りなのでもありません。障壁の中には、何も確認していないものがあります。入力項目の多さ、手続きの煩雑さ、表示の遅さ。これらを下げても、関与の水準は変わりません。

下げてはいけないのは、判断を伴う障壁のほうです。登録する前に読んで決める必要のある文章、対象が誰であるかの明示、扱わない範囲の記載。これらは、通過する人を選んでいます。

二つは、どちらも「障壁」という同じ語で呼ばれます。そして、下げる操作の手触りも同じです。区別できるのは、その障壁が何を確認していたかを問うたときだけです。

下流で測ろうとすると、なぜ測りにくくなるのか

では、下流で測ればよいのか。測れますが、二つの障害があります。

第一の障害は、時間差です。続いたかどうかが確定するまでに、数か月から一年かかります。その間、判断に使える数字がありません。

判断は、待ってはくれません。広告を続けるか止めるかは、今週決める必要があります。確定していない数字では、決められません。決められないので、確定している上流の数字が使われます。

第二の障害は、帰属です。費用と、続いた状態のあいだには、他の要因がいくつも挟まります。その間に出した内容、他の場所からの接触、相手の側の状況の変化。続いた理由が最初の費用にあると言えるかどうかは、明確ではありません。

上流では、この問題が小さくなります。費用をかけて到達し、その場で登録したなら、因果は短く、帰属は明快です。下流へ行くほど、間に入る要因が増え、帰属が曖昧になります。帰属の明快さも、意味の重さとは逆の順に並びます。

下流で測ること自体は、不可能ではありません。時間差を受け入れ、帰属の曖昧さを承知したうえでなら、測れます。必要なのは、上流の数字を判断に使い、下流の数字を検証に使うという役割分担です。

分担が成立するには、下流の数字を実際に見る工程が要ります。見る工程が無ければ、上流の数字だけで運用が閉じます。閉じた運用は、上流の数字が良くなり続けるかぎり、疑われません。

時間差があるぶん、下流の数字を見た時点では既に手遅れになっています。その回の費用については、取り返しがつきません。取り返せるのは、その後の判断だけです。

ただし、手遅れであることは、見ない理由になりません。見なければ、次の判断も同じ設定で行われます。見れば、次からは設定を変えられます。一回分の遅れは残りますが、循環には入りません。

帰属のほうは、厳密さを諦めるほうが実務的です。どの費用がどの結果を生んだかを正確に割り当てる作業には、多くの手間がかかり、それでも確定しません。

代わりに使えるのが、時期を揃えた比較です。ある月に入ってきた相手の集団を一つの単位として扱い、その集団が半年後にどうなっているかを見る。個々の帰属は分からなくても、集団としての推移は読めます。集団ごとに設定が違えば、設定の差が推移の差として現れます。

この比較には、個別の帰属を諦めることで得られる性質があります。集団単位なら、間に入った要因が集団の中で平均されます。個々の相手について「なぜ続いたか」は分からないままですが、「この月の集団は、前の月の集団より続いているか」には答えが出ます。

費用の側にも、測る段の問題がある

何を費用に数えるかも、自明ではありません。

広告に払った金額は、明らかに費用です。では、その広告を作るのに使った時間は。到達したページを作った時間は。登録した人に届ける内容を書く時間は。

時間は、多くの場合、費用に数えられません。支払いが発生しないからです。数えられない費用は、計算に入りません。

すると、次のことが起きます。時間を多く使い、支払いを少なくする方法が、指標の上では有利になります。自分で書き、自分で作り、自分で届ける。支払いはゼロに近づき、一件あたりの費用は小さくなります。

この数字は、正しく計算されています。ただし、測っていないものが大きくなります。測っていない部分がどれだけ膨らんでも、指標は改善したままです。

この構造は、時間を売る形式が持つ上限と同じ形をしています。詳しくは時間単価を上げても、自由にならない理由で扱っています。

自分の時間に金額を付けるのは恣意的だ、という指摘は当たっています。ただし、金額を付ける必要はありません。時間として、そのまま数えれば足ります。一件の登録を得るのに、何時間かかったか。この数字は、金額と並べなくても意味を持ちます。

並べられないことが、むしろ重要です。金額に換算すると、時間と金額が交換可能に見えます。交換可能に見えると、時間を増やして金額を減らす判断が、常に正しく見えます。別々に数えていれば、両方の推移が見えます。

時間を数える作業自体にも、時間がかかります。厳密に記録する必要はありません。月に一度、おおよその配分を書き留めるだけでも、推移は読めます。

時間が費用に入っていないと、外部への支払いを減らす判断が常に正しく見えます。自分でやれば支払いはゼロになるからです。そして、この判断は積み重なります。一つずつ内製化していくと、支払いは減り続け、指標は改善し続けます。

改善が止まるのは、時間が尽きたときです。時間が尽きた状態は、指標には現れません。現れるのは、新しいことに着手できなくなったという形です。着手できないことは、数字として記録される項目ではありません。

費用に数えるかどうかとは別に、時間には交換できない性質があります。支払いは増減できますが、時間の総量は変えられません。総量が固定された資源を、可変の資源と同じ計算式に入れると、配分の判断が歪みます。

「場が壊れる」とは、具体的に何が起きることか

この表現が指しているのは、偏った構成がさらに偏りを呼ぶ循環です。

上流の指標を最適化し続けると、集まってくる相手の構成が変わります。変わり方には、方向があります。関与を払っている相手の比率が下がり、払っていない相手の比率が上がります。障壁を下げる操作は、関与を持たない相手だけを追加で通すからです。関与を持っている相手は、障壁があっても通っていました。

構成が変わると、こちらの出すものへの反応が変わります。反応の平均が下がるので、平均に合わせた調整が始まります。分かりやすくする、短くする、負荷を下げる。

この調整は、関与を持っている相手にとっては物足りないものになります。物足りない状態が続くと、その相手は静かに離れます。離脱として記録されることもなく、単に開かなくなります。

すると、構成はさらに偏ります。偏った構成に合わせて、また調整が行われます。この循環に、外から止める力は働きません。各段階の判断は、どれも観測された反応に基づいて正しく行われているからです。

特定の時点で何かが破損するのではありません。壊れるという語が指しているのは、この自己強化の状態に入ることです。

構成が変わること自体は、常に悪いことではありません。対象を広げる判断として意図的に行うなら、それは設計です。問題は、指標の最適化の副産物として、意図せず起きる場合です。

この循環に入っている間、数字は良く見えます。登録は増え、一件あたりの費用は下がり、反応の絶対数も増えることがあります。悪化しているのは構成であり、構成は数字として集計されていません。

関与の高い相手が離れたなら、反応の絶対数も落ちるはずだ、という推論が立ちます。落ちないことがあります。関与の高い相手は、もともと少数だからです。少数が離れ、多数が増えれば、絶対数は増えます。平均は下がりますが、平均が下がったことは、母数が増えた結果として説明できてしまいます。

説明が付いてしまうことが、この現象の見えにくさを作っています。数字の変化には、常に複数の説明が立ちます。構成の偏りという説明は、その中で最も検証しにくい説明です。

すべての事業で、関与の高い相手が重要だとは限りません。一度きりの取引で完結する形式では、構成の偏りが直接の損失にならないこともあります。偏りが問題になるのは、取引が続くことを前提にした設計の場合です。

そして、続くことを前提にした設計では、関与の高い少数が、取引の大半を支えていることがよくあります。この場合、少数の離脱は、絶対数には現れずに収入に現れます。現れる場所が違うので、原因の推定も別方向へ向かいます。

判断に使う数字と、監視に使う数字を分ける

判断に使う数字を一つに絞るとして、その一つをどう選ぶか。選ぶ基準は、その段が「取り返しのつくもの」かどうかです。

上流で測ると、判断は速くなりますが、誤った方向へ最適化が進みます。進んだ最適化は、後から戻せます。障壁を下げすぎたなら、上げ直せます。戻すのに時間はかかりますが、操作としては可能です。

戻せないのは、構成の偏りが循環に入った場合です。離れた相手は戻りません。そして、離れたことは記録に残っていません。

したがって、判断は上流の数字で行い、循環に入っていないかを下流の数字で監視する、という組み合わせになります。監視は、判断ほど頻繁でなくてかまいません。四半期に一度でも、構成の推移が読めれば足ります。

ここに、一つの原理が要ります。目標に置く指標と、監視する指標は、別のものでなければなりません。

同じ指標を両方に使うと、監視が機能しません。目標として最適化されている指標は、良くなるように操作されているからです。良くなっている指標を見て、健全だと判定することはできません。

監視に使う指標の条件は、こちらが直接操作できないことです。操作できるものは、目標にした瞬間に監視の役目を失います。

直接操作できない指標は、動きが遅く、解釈も難しくなります。監視として使いにくいことは事実です。使いにくさは、操作されにくさと同じ性質から来ています。使いやすい監視指標は、原理的に存在しません。

監視の指標にも、同じことが起きます。良くしようとして操作を始めた時点で、その指標も変質します。防ぐ方法は、指標の側にはありません。

防げるのは、役割を明示的に分けておくことによってです。この数字は判断に使う、この数字は判定にだけ使う。判定にだけ使うと決めた数字については、それを直接動かす施策を打ちません。

この規律は、外からは検証できません。自分で決めて、自分で守るしかない種類のものです。守られているかどうかは、その数字が悪化したときに、どこへ手を入れたかで分かります。監視指標そのものに手を入れたなら、規律は既に崩れています。

取り返しがつくかどうかという基準は、指標の選択だけでなく、施策の選択にも使えます。元に戻せる操作から先に試し、戻せない操作は最後に回す。構成を変える操作の多くは、戻せない側に入ります。

順序を逆にすると、費用の出方も変わります。戻せる操作から試した場合、外れたぶんは時間の損失で済みます。戻せない操作から試した場合、外れたぶんは構成の損失として残り、しかも損失の大きさが測れません。測れない損失は、次の判断の材料にもなりません。

構成の偏りは、四半期に一度だけ見れば足りる

監視に使うのは、一件あたりの費用そのものではありません。入ってきた相手の構成のほうです。そして、月次では読めません。

第一の指標は、四つの段の数字の推移が、同じ方向を向いているかどうかです。上流が改善し、下流が横ばいなら、増えた分は下流へ届いていません。上流が改善し、下流が悪化しているなら、循環に入っています。一つの数字を見ているかぎり、この関係は見えません。

第二の指標は、登録から最初の取引までの期間です。期間が伸びているなら、関与の低い相手の比率が上がっています。関与を持って入ってきた相手は、判断までの時間が短いからです。期間は自動的に記録されるので、集計は容易です。

第三の指標は、こちらが出したものに対する反応の分布です。平均ではなく、分布を見ます。強く反応する少数と、まったく反応しない多数に分かれているなら、構成は既に偏っています。平均だけを見ていると、この分裂は一つの数字に潰れます。

三つとも、費用の効率ではなく、入ってきた相手の構成を見ています。測る段の選択が構成を決める以上、確認すべきは構成の側だからです。

一件あたりの費用を主指標から外している理由も、ここにあります。この数字は、二つの異なる出来事で同じように下がります。対象への届き方が良くなって下がる場合と、障壁を下げて関与の低い相手を通して下がる場合です。後者は下流を悪化させますが、その悪化は数か月後にしか現れません。

三つの指標はいずれも、単月では読めません。推移として並べて初めて意味を持ちます。したがって、この確認は月次の作業ではなく、四半期あるいは半期の作業になります。

頻度が低いことは、忘れられやすいことでもあります。毎月見る数字は習慣になりますが、四半期に一度の確認は予定に入れないと実行されません。予定に入れる作業自体が、この監視の実質になります。

三つのうち、第二の指標——登録から最初の取引までの期間——は、最も自動化しやすいものです。記録は既に残っているので、集計するだけで出ます。始めるなら、ここからが最も抵抗が少なくなります。

なお、入ってきた相手が続くかどうかという問題は、リピート率を動かすのは、施策ではなく関係の設計で扱います。

上限額を置くなら、置いた数字が想定であることを、同じ場所に書いておくしかありません。上限は生涯の取引の見積もりから逆算され、その見積もりは実績が無ければ立たないからです。実績が出るまでの期間について、置ける値はありません。

2,000円と1万円と約33,000円。この三つは、どれも正しく、どれも別のことを測っています。測りやすさと意味の重さが逆順に並ぶこと。判断に使うと決めた一つだけが最適化されること。三つの数字の差は、この二つに畳めます。

結局のところ、決めることは二つに絞られます。判断に使う数字を上流のどれにするか。そして、それとは別に、自分が直接動かさない数字を一つ、監視のために取っておくかどうか。二つ目を決めていない場合、監視の役目はどの数字にも割り当てられていません。

上部へスクロール