データ解析には「探る」と「確かめる」の2つがある

データ解析には「探る」と「確かめる」の2つがある

記事
IT・テクノロジー

「統計解析」と聞くと、多くの方はいきなり検定やp値を思い浮かべるかもしれません。

でも実は、統計の世界には大きく分けて2つのアプローチがあります。

探索的データ解析(EDA):データをまず見て、構造やパターン、外れ値を探る
確認的データ解析(CDA):仮説を立てて、それが正しいかどうかを検定する

学会発表や論文で使う「t検定」「カイ二乗検定」といった手法は、すべて後者のCDAに含まれます。今回は、その手前にある「EDA」について、なぜ大切なのかをお話しします。

データが集まったら、すぐに検定にかけたくなりませんか?


一刻も早く結果を出したい。そう思うのは自然なことです。

ただ、ここで一つだけ、料理を思い浮かべてみてください。
冷蔵庫から出した材料を、状態も確認せずに、いきなり鍋に入れる人はいないはずです。
傷んでいないか、必要なものが揃っているか、まず目で見て確かめてから、調理に取りかかります。

データも、実はこれとまったく同じです。
集めたばかりのデータには、思いがけない落とし穴が
潜んでいることがよくあります。

・明らかに測定ミスと思われる、極端に大きい・小さい数値(外れ値)

・一部の患者さんだけ記録が抜けている項目(欠損値)

・想定していたのと違う分布をしているデータ

こうした「材料の状態」を確認しないまま調理を始めてしまうと、
どれだけ良い調理法(統計手法)を選んでいても、
美味しい料理にはなりません。
傷んだ食材が入っていれば、腕の良い料理人が作っても
台無しになってしまうのと同じで、データも元の状態が悪ければ、
どんなに正しい検定を選んでも、信頼できる結果にはならないのです。
極端な話、外れ値がひとつ混ざっているだけで、
平均値も検定結果も大きく変わってしまうことがあります。

「まずデータをじっくり見る」という考え方


このような問題を防ぐために大切なのが、検定に入る前に、
データそのものをじっくり眺めるという工程です。

・グラフにしてみて、分布の形を確認する

・極端な値がないか、目で見て確認する

・欠損している項目がどれくらいあるか把握する

これが、探索的データ解析(EDA)と呼ばれるアプローチです。

この考え方は、決して目新しいものではありません。
統計学の世界では、
20世紀後半から「まず仮説ありき」で検定するやり方だけでなく、
「データそのものと向き合い、そこに何が潜んでいるかを探る」姿勢が
大切にされてきました。
近年では、データサイエンスの分野でもこの考え方が改めて注目されており、「解析の8割はデータの整理・確認に費やされる」とも言われるほど、
重要な工程として位置づけられています。

EDAなくして、CDAは成立しない


ここで強調しておきたいのは、
「探索的解析の方が、確認的解析より優れている」
という話ではないということです。

学会発表や論文執筆では、最終的にt検定やロジスティック回帰といった、
仮説を検定するCDAの手法が必要になります。
これは今後も変わりません。

eda1.png


大切なのは、CDAという確認の工程は、
EDAという土台があって初めて正しく機能するということです。
外れ値が残ったまま、あるいは欠損値の扱いを誤ったまま検定にかけても、
その結果は最初から歪んでいる可能性があります。

順番でいえば、

まずEDAでデータと向き合う → その上でCDAによって仮説を確かめる

という流れが、遠回りに見えて、実は最も確実な道筋です。

まとめ

・統計解析には「探る(EDA)」と「確かめる(CDA)」という2つの側面がある

・いきなり検定にかけると、外れ値や欠損値の影響で結果が歪むことがある

・EDAはCDAの「対抗馬」ではなく「土台」——この順番を大切にすることが、信頼できる解析への近道

次回は、この2つのうち
「確かめる」側にあたる確認的データ解析(CDA)について、
もう少し詳しく取り上げます。


サービス数40万件のスキルマーケット、あなたにぴったりのサービスを探す