「統計解析」と聞くと、多くの方はいきなり検定やp値を思い浮かべるかもしれません。
でも実は、統計の世界には大きく分けて2つのアプローチがあります。
探索的データ解析(EDA):データをまず見て、構造やパターン、外れ値を探る
確認的データ解析(CDA):仮説を立てて、それが正しいかどうかを検定する
学会発表や論文で使う「t検定」「カイ二乗検定」といった手法は、すべて後者のCDAに含まれます。今回は、その手前にある「EDA」について、なぜ大切なのかをお話しします。
データが集まったら、すぐに検定にかけたくなりませんか?
一刻も早く結果を出したい。そう思うのは自然なことです。
ただ、ここで一つだけ、料理を思い浮かべてみてください。
冷蔵庫から出した材料を、状態も確認せずに、いきなり鍋に入れる人はいないはずです。
傷んでいないか、必要なものが揃っているか、まず目で見て確かめてから、調理に取りかかります。
データも、実はこれとまったく同じです。
集めたばかりのデータには、思いがけない落とし穴が
潜んでいることがよくあります。
・明らかに測定ミスと思われる、極端に大きい・小さい数値(外れ値)
・一部の患者さんだけ記録が抜けている項目(欠損値)
・想定していたのと違う分布をしているデータ
こうした「材料の状態」を確認しないまま調理を始めてしまうと、
どれだけ良い調理法(統計手法)を選んでいても、
美味しい料理にはなりません。
傷んだ食材が入っていれば、腕の良い料理人が作っても
台無しになってしまうのと同じで、データも元の状態が悪ければ、
どんなに正しい検定を選んでも、信頼できる結果にはならないのです。
極端な話、外れ値がひとつ混ざっているだけで、
平均値も検定結果も大きく変わってしまうことがあります。
「まずデータをじっくり見る」という考え方
このような問題を防ぐために大切なのが、検定に入る前に、
データそのものをじっくり眺めるという工程です。
・グラフにしてみて、分布の形を確認する
・極端な値がないか、目で見て確認する
・欠損している項目がどれくらいあるか把握する
これが、探索的データ解析(EDA)と呼ばれるアプローチです。
この考え方は、決して目新しいものではありません。
統計学の世界では、
20世紀後半から「まず仮説ありき」で検定するやり方だけでなく、
「データそのものと向き合い、そこに何が潜んでいるかを探る」姿勢が
大切にされてきました。
近年では、データサイエンスの分野でもこの考え方が改めて注目されており、「解析の8割はデータの整理・確認に費やされる」とも言われるほど、
重要な工程として位置づけられています。
EDAなくして、CDAは成立しない
ここで強調しておきたいのは、
「探索的解析の方が、確認的解析より優れている」
という話ではないということです。
学会発表や論文執筆では、最終的にt検定やロジスティック回帰といった、
仮説を検定するCDAの手法が必要になります。
これは今後も変わりません。
大切なのは、CDAという確認の工程は、
EDAという土台があって初めて正しく機能するということです。
外れ値が残ったまま、あるいは欠損値の扱いを誤ったまま検定にかけても、
その結果は最初から歪んでいる可能性があります。
順番でいえば、
まずEDAでデータと向き合う → その上でCDAによって仮説を確かめる
という流れが、遠回りに見えて、実は最も確実な道筋です。
まとめ
・統計解析には「探る(EDA)」と「確かめる(CDA)」という2つの側面がある
・いきなり検定にかけると、外れ値や欠損値の影響で結果が歪むことがある
・EDAはCDAの「対抗馬」ではなく「土台」——この順番を大切にすることが、信頼できる解析への近道
次回は、この2つのうち
「確かめる」側にあたる確認的データ解析(CDA)について、
もう少し詳しく取り上げます。