すべてのカテゴリ

「データサイエンス入門」シリーズの最終回です。第1回では確率の基本的な考え方を、第2回ではデータを「見る」ための可視化と仮説検定の入り口を紹介しました。最終回となる今回は、集めたデータから「法則」や「構造」を積極的に取り出していく3つの技術、回帰分析・主成分分析(PCA)・圧縮センシングを紹介します。回帰分析とは ― データに一番フィットする直線を見つける「回帰分析」とは、誤差を最小にするという意味で、もっとも観測データへの当てはまりの良いモデルを求めることです。これによって、複数の変数間の関係をとらえたり、未知のデータに対する予測を行ったりすることができます。もっともシンプルな回帰(単回帰)は、1つの説明変数xから1つの目的変数yを予測するモデルで、直線の式 y = ax + b を使って表現します。観測データ(xᵢ, yᵢ)の一つひとつについて、実際の観測値yᵢと、直線から求めた予測値(axᵢ + b)との差(誤差)を考え、この誤差を2乗して全部足し合わせたものを「誤差の二乗和」と呼びます。Δ = Σᵢ₌₁ⁿ {yᵢ − (axᵢ + b)}²回帰分析では、この誤差の二乗和Δが最小になるように、傾きaと切片bを決めます。これが「最小二乗法」と呼ばれる、回帰分析でもっとも基本的な考え方です。なぜわざわざ2乗するのかというと、単純に誤差(yᵢ − 予測値)を全部足し合わせると、プラスの誤差とマイナスの誤差が打ち消し合ってしまい、「実際にはどれくらいズレているか」を正しく評価できなくなってしまうからです。2乗することで、すべての誤差を正の値にそろえてから足し合わせる、というわけで