バックテストに取引は何回必要か:2,126件を再標本した
執筆 chwoo · 仮想通貨トレード7年。2026年春から自動売買ボットを運用。 · · 更新
居心地の悪い実験をしてみましょう。公正なコインを10回投げます。表が7回出ることはかなりよくあります。その コインが魔法だと結論する人はいません。ところがトレーダーは、バックテストの10取引のうち7取引に勝った戦略を 見て、勝率70%のシステムを見つけたと結論します。
普通はここで平方根の法則を引用して先へ進みます。私たちは測ることにしました。結果が大きく明確な戦略を ひとつ選びました。BTC 1時間足のボリンジャー平均回帰で、 取引2,126回、勝率39.2%、口座の98.1%を失います。 そのうえで問いました。同じ取引のうち、より小さな標本だけを見ていたら何と言っていたか。
ひとつの勝率にどれだけ霧が掛かるか
標本サイズごとに、その2,126回から非復元で2,000回ずつ無作為に標本を取り、各標本の勝率を記録しました。5%と 95%の列は標本の90%が入った帯です。真の値はどの行でも39.2%です。
| 標本サイズ | 勝率 5% | 中央値 | 勝率 95% | 帯の幅 |
|---|---|---|---|---|
| 10取引 | 20.0% | 40.0% | 60.0% | 40.0pt |
| 20取引 | 20.0% | 40.0% | 55.0% | 35.0pt |
| 30取引 | 26.7% | 40.0% | 53.3% | 26.7pt |
| 50取引 | 28.0% | 40.0% | 50.0% | 22.0pt |
| 100取引 | 32.0% | 39.0% | 47.0% | 15.0pt |
| 200取引 | 34.0% | 39.0% | 44.5% | 10.5pt |
| 500取引 | 36.0% | 39.2% | 42.4% | 6.4pt |
| 1,000取引 | 37.4% | 39.2% | 41.1% | 3.7pt |
10取引では帯が 20.0%から60.0%まで 伸びます。同じ戦略、同じ市場、同じ期間で、どの10取引を見たかだけが違います。勝率60%も勝率20%も、勝率 39.2%のシステムから普通に出てくる結果です。
幅はおおむね平方根の法則に従います。10取引から100取引は標本が10倍で、帯は40.0ポイントから15.0ポイントに 縮みます。法則が予想する約3倍に近い値です。そこからさらに5倍の500取引で6.4ポイントになります。 精度は高価です。霧を半分にするには取引が4倍必要です。
98%を失う戦略が3回に1回は利益に見える
勝率はこの問題の礼儀正しい版です。同じ実験を、今度は各標本のリターンで読みます。このサイトの既定である 建玉比率90%で複利にしています。
| 標本サイズ | リターン 5% | 中央値 | リターン 95% | 利益に見えた標本 |
|---|---|---|---|---|
| 10取引 | -9.9% | -1.5% | +7.7% | 35.9% |
| 20取引 | -18.9% | -3.0% | +11.0% | 38.4% |
| 30取引 | -20.1% | -4.4% | +14.4% | 26.3% |
| 50取引 | -29.1% | -7.2% | +16.1% | 30.0% |
| 100取引 | -39.9% | -17.7% | +17.8% | 19.3% |
| 200取引 | -56.8% | -32.3% | +10.8% | 10.7% |
| 500取引 | -80.8% | -60.6% | -19.2% | 2.1% |
| 1,000取引 | -93.2% | -84.5% | -64.5% | 0.0% |
最後の列を上から下へ読んでください。 口座の98.1%を破壊する戦略が、10取引の標本では35.9%、100取引の標本でも19.3%が利益に見えます。 その数字が0に届くには1,000取引が必要です。アイデア10個をそれぞれ20取引で検証すれば、いくつかが優位性の ように見えるのが当たり前です。運が悪いのではなく、選んだ検証方法の算数です。
この列の揺れも指摘しておく価値があります。10取引で35.9%、20取引で38.4%へ上がり、30取引で26.3%へ下がり ます。これ自体が標本の雑音です。2,000回の抽出から作った測定値でさえ滑らかではありません。小さな数に ついては何も安定していません。小さな数についての記述そのものも含めて。
チェリーピッキングで買えるもの
上の標本は無作為でした。スクリーンショットを選ぶ人は無作為ではありません。そこで連続N取引の窓を全期間に わたって滑らせ、長さごとに最良と最悪の窓を残しました。
| 窓の長さ | 検査した窓 | 最良の窓 | 最悪の窓 | 利益の窓 | 最良の窓の勝率 |
|---|---|---|---|---|---|
| 10取引 | 2,117 | +17.9% | -17.7% | 34.9% | 80.0% |
| 20取引 | 2,107 | +27.0% | -25.8% | 39.2% | 70.0% |
| 30取引 | 2,097 | +43.1% | -30.2% | 25.2% | 70.0% |
| 50取引 | 2,077 | +38.9% | -38.0% | 29.1% | 58.0% |
| 100取引 | 2,027 | +34.7% | -52.0% | 21.1% | 50.0% |
| 200取引 | 1,927 | +38.7% | -62.2% | 13.1% | 47.0% |
| 500取引 | 1,627 | -22.8% | -83.2% | 0.0% | 42.2% |
98.1%を失う戦略の最良の30取引区間は、勝率70%で+43.1%でした。 最良の10取引区間は勝率80%です。その行のすべての数字が実在し、測定されたもので、再現でき、そして完全に 誤解を招きます。マーケティングのスクリーンショットはこれで作られます。捏造はまったく必要ありません。
有用なのは最下行です。連続500取引では 1,627個の窓のうち利益のものがひとつもありません。 最良の区間が-22.8%です。200取引と500取引のあいだのどこかで、この戦略は隠れる場所を失います。表題の問いに 対する具体的な答えです。少なくともこの戦略では、チェリーピッキングが効かなくなる地点は数百取引です。
取引数と頑健さは同じものではない
私たちは、取引数が少ない戦略ほど期間の窓が食い違うだろうと予想して確かめました。 データはそれを支持しませんでした。
| 戦略 | 取引数 | 7年 | 3年 | 1年 | 最大の差 |
|---|---|---|---|---|---|
| ゴールデンクロス | 40 | +152.5% | +62.7% | +1.2% | 151.3pt |
| トレンドフィルター付きRSI | 80 | +6.3% | +5.1% | +0.5% | 7.1pt |
| スーパートレンド・モメンタム | 376 | +100.2% | +24.2% | -4.9% | 106.7pt |
| RSI 30で入り70で出る | 420 | -68.3% | -25.5% | -35.4% | 72.6pt |
| ドンチャン・ブレイクアウト | 477 | -33.1% | +50.9% | -26.3% | 129.0pt |
| RSI 売られすぎの反発 | 676 | -84.5% | -52.3% | -39.5% | 103.7pt |
| MACDクロス | 1,743 | -97.6% | -65.0% | -24.4% | 116.2pt |
| ボリンジャー平均回帰 | 2,126 | -98.6% | -61.5% | -51.2% | 105.1pt |
取引40回のゴールデンクロスが151.3ポイントで最も差が大きく、予想どおりです。ところが取引2,126回の ボリンジャーが105.1ポイント、1,743回のMACDが116.2ポイントで、特に良くありません。そして表で最も差が 小さい7.1ポイントは、取引が 80回しかない 戦略のものです。
説明は、この2つの列が別のものを測っているからです。窓の差は、関わるリターンの大きさにも左右されます。 トレンドフィルター付きRSIはどの窓でもほとんど動かないので、窓どうしが大きく食い違えません。標本サイズは 推定値の雑音を閉じ込めます。前の2つの表がそれをきれいに示しています。しかし、異なる時代を互いに同意 させてはくれません。 十分な取引数とレジームを越えた一貫性は、別々の2つの要件です。 戦略は片方を通りながら、もう片方で落ちることがあります。
実際に効いた検証
大きな標本で決着しないなら、何で決着するのか。同じルールを別の場所で走らせることです。同じボリンジャー 戦略をルールそのままで5つの通貨で走らせました。
| 通貨 | 取引数 | 勝率 | リターン | 最大ドローダウン |
|---|---|---|---|---|
| BTC | 2,126 | 39.2% | -98.1% | 98.8% |
| ETH | 2,875 | 37.3% | -100.0% | 100.0% |
| SOL | 3,109 | 37.2% | -100.0% | 100.0% |
| XRP | 3,048 | 36.5% | -100.0% | 100.0% |
| DOGE | 3,283 | 36.6% | -100.0% | 100.0% |
5つの市場、1万4千取引以上、答えはひとつです。先ほどの+43.1%の窓と比べれば、証拠と逸話の違いが目に 見えます。 標本外の検証はクリック1回で済み、より大きな標本内の検証では答えられない問いに答えます。
ではどうするか
- 30取引を下回るなら意見を作らないこと。 10取引で測った帯は、真の値のまわりに40ポイントの厚みがありました。
- 数百取引を主張の入場料と考えること。 上でチェリーピッキングが効かなくなった地点であり、勝率の帯が1桁に狭まった地点です。
- 小さな検証の3分の1は偶然よく見えると想定すること。 アイデア10個を20取引で回したなら、そのうち最良のものは何も教えてくれません。
- 合計だけでなく期間表を読むこと。 窓どうしが矛盾する戦略は、どんな取引数でも解けない問題を抱えています。
- 別の通貨と時間足で走らせ直すこと。 このスイープ全体で最も安く、最も決定的な検証でした。
参考資料
- Sample size determination — How wide an estimate stays when the sample is small.
- Overfitting