生成AIパスポート 第2章「ランダムフォレスト」｜たくさんの決定木で答えを安定させる仕組み

たくさんの木が集まれば、1本の木よりも強い森になります。ランダムフォレストは、そんな発想の機械学習の手法です。生成AIパスポート第2章では、ランダムフォレストが「アンサンブル学習」の代表例として出題されます。決定木を1本だけ使うのではなく、たくさんの決定木の答えを多数決で決める——この仕組みを押さえると、分類の単元がぐっと整理できます。なお、この記事の問題例は主催団体の公式問題ではなく、シラバスに沿って作ったオリジナルの練習問題です。

決定木のおさらいと、1本だけの弱点

ランダムフォレストを理解するには、まず決定木を思い出しましょう。決定木は、データの特徴をもとに「はい・いいえ」の質問を繰り返し、枝分かれさせながら分類していく手法です。たとえば「年齢が30歳以上か」「過去に購入したことがあるか」といった質問を順にたどり、最後にたどり着いた葉のラベルを答えにします。図にすると木の形になるため、判断の理由が目で見て分かりやすいのが長所です。

ただし、決定木には弱点があります。学習データの細かい特徴まで覚え込んでしまうと、新しいデータに対してうまく分類できなくなる「過学習」が起きやすいのです。木が深く育ちすぎると、たまたまの例外までルールにしてしまい、未知のデータでは外れやすくなります。そこで登場するのが、決定木をたくさん作って多数決を取るランダムフォレストです。

ランダムフォレストの3つの仕組み

ランダムフォレストの名前は、「ランダムに作った森」から来ています。仕組みのポイントは3つです。

1つ目は、学習データの一部をランダムに抜き出して、それぞれ別の決定木を作ることです。これを「バギング」と呼びます。元のデータから重複を許してランダムに選び直すことで、木ごとに少しずつ違う学習データができます。同じデータから作る木が1本だけなら、データの偏りをそのまま引き継いでしまいますが、違う切り取り方をした木をたくさん作れば、偏りが平均化されます。

2つ目は、各木の分岐で使う特徴をランダムに絞ることです。たとえば特徴が10個あっても、分岐のたびにそのうち3個だけを候補にします。こうすると、どの木も「一番強い特徴」ばかりに頼らなくなり、木ごとの個性が生まれます。似たような木ばかりが集まるのではなく、バラバラの視点を持つ木が集まる森になるのです。

3つ目は、たくさんの木の答えを多数決で決めることです。分類の問題なら、最も多くの木が選んだラベルが最終的な答えになります。100本の木のうち70本が「購入する」と答えれば、森全体の答えは「購入する」です。回帰の問題では、木の答えの平均を取ります。1本の木の間違いは、他の木の正しい答えにかき消されやすくなります。

なぜ森にすると精度が上がるのか

ランダムフォレストの精度の高さは、「たくさんの弱い予測を集めると、強い予測になる」という考え方に基づいています。個々の決定木は過学習しがちですが、違うデータ・違う特徴で作られた木を集めれば、誤りが打ち消し合います。試験では「ランダムフォレストは過学習を抑えやすい」という点がよく問われます。

ただし、ランダムフォレストにも注意点があります。木が何百本もあるため、1本の決定木のように「なぜその答えになったか」を説明しにくいことです。判断の理由を説明する場面では、決定木のほうが向いています。また、学習と予測に時間がかかる点も、決定木との違いとして押さえておきましょう。試験の選択肢では「説明しやすさ」と「精度の高さ」のトレードオフがすり替えられやすいので、どちらがどちらの長所かを整理しておくことが大切です。

問1：ランダムフォレストの仕組みとして正しいものはどれか。

1. 1本の決定木を深く育て、葉の数を増やす

2. 複数の決定木を作り、多数決で最終的な答えを決める

3. 学習データをすべて使い、1本の決定木で分類する

4. 特徴を1つだけ使い、単純なルールで分類する

答え：2。ランダムフォレストは、たくさんの決定木の答えを多数決（回帰では平均）で決める手法です。1は決定木そのものの説明、3と4はランダムフォレストの仕組みではありません。

問2：ランダムフォレストが過学習を抑えやすい理由として正しいものはどれか。

1. 学習データをランダムに抜き出し、特徴も絞って、異なる木をたくさん作るから

2. 1本の木を深く育て、学習データの細部まで覚え込むから

3. 特徴をすべて使い、判断の理由を1つのルールに集約するから

4. 木の数を1本に絞り、計算を単純にするから

答え：1。バギングと特徴のランダムな絞り込みにより、木ごとの偏りが平均化され、過学習が抑えられます。2は過学習を助長する説明です。

問3：ランダムフォレストの弱点として正しいものはどれか。

1. 分類の精度が、決定木1本よりも必ず低くなる

2. 判断の理由を説明しにくく、学習や予測に時間がかかる

3. 学習データが少ないときしか使えない

4. 数値データにしか使えず、カテゴリのデータには使えない

答え：2。多数の木の多数決であるため、理由の説明が難しく、計算コストも大きくなります。1は誤りで、精度は一般に決定木1本より高くなります。

まとめ

ランダムフォレストは、ランダムに作ったたくさんの決定木の多数決で答えを決める「アンサンブル学習」の代表例です。バギングで学習データをランダムに抜き出し、分岐で使う特徴も絞ることで、木ごとの偏りを平均化し、過学習を抑えます。精度が高い反面、判断の理由を説明しにくい点と、計算に時間がかかる点が弱点です。試験では、決定木との対比で「精度はランダムフォレスト、説明のしやすさは決定木」と整理して覚えると、すり替えに強くなります。なお、この記事の問題は公式問題ではなく、シラバスに沿って作ったオリジナルの練習問題です。