この章で学ぶこと

第1章で見た「AIレベルの4分類」のうち、レベル3にあたる機械学習を体系立てて学ぶ章です。機械学習は、正解データの有無によって教師あり学習・教師なし学習・強化学習の3つに大別されます。それぞれ「何を入力し、何を出力させるか」という枠組みが異なるため、個別の手法を覚える前に、この3分類のどれに属するかを常に意識すると整理しやすくなります。最後に、作ったモデルが本当に使えるのかを判定するモデルの選択・評価を学び、次章以降のディープラーニングにも共通する土台を固めます。既存theory記事「教師あり学習・教師なし学習の基礎」もあわせて参照すると理解が深まります。

教師あり学習

教師あり学習は、入力データ（特徴量）と正解（教師データ）のペアを与えて学習させる方式です。出力が連続値を予測する回帰問題と、カテゴリを予測する分類問題（3クラス以上を扱う場合は多クラス分類）に大別されます。

回帰の基本形が線形回帰で、説明変数が1つなら単回帰分析、複数なら重回帰分析と呼びます。分類でよく使われるのが、出力を0〜1の確率に変換して分類するロジスティック回帰（名前に「回帰」とありますが分類手法です）、Yes/Noの分岐を繰り返して予測する決定木です。境界線（超平面）とデータ点の間の距離であるマージンを最大化するように分類境界を引くサポートベクターマシン(SVM)も代表的な手法で、このマージン最大化の考え方により、未知データへの汎化性能が高いという特徴があります。データを高次元空間に写像することで、直線では分けられない複雑な境界も扱えるようにする工夫がカーネルで、その計算を効率化する仕組みがカーネルトリックです。時系列データに特化した回帰モデルとして、過去の自分自身の値から将来を予測する自己回帰モデル(ARモデル)、複数の時系列を同時に扱うベクトル自己回帰モデル(VARモデル)も押さえておきましょう。

複数のモデルを組み合わせて精度を高める考え方をアンサンブル学習と呼び、2つの代表的なアプローチがあります。元データから重複を許してランダムに複数のデータセットを作るブートストラップサンプリングを使い、複数のモデルを並列に学習させて多数決や平均を取るバギング（ランダムフォレストはバギングに決定木を組み合わせた代表例）。もう1つは、前のモデルが間違えたデータを重点的に学習する次のモデルを順番に作っていくブースティングで、その代表的な実装が勾配ブースティングです。バギングは「並列に作って多数決」、ブースティングは「直列に作って弱点を補強」という対比で覚えると区別しやすくなります。

扱う用語（精選・18語）

• 回帰問題／分類問題／多クラス分類
• 線形回帰／単回帰分析／重回帰分析／ロジスティック回帰／決定木
• サポートベクターマシン(SVM)／マージン最大化／カーネル／カーネルトリック
• 自己回帰モデル(ARモデル)／ベクトル自己回帰モデル(VARモデル)
• アンサンブル学習／バギング／ブートストラップサンプリング／ランダムフォレスト／ブースティング／勾配ブースティング

教師なし学習

教師なし学習は正解データを使わず、入力データ（特徴量）そのものが持つ構造やパターンを見つけ出す学習方式です。代表的なタスクが、似た性質のデータをグループ（クラスタ）にまとめるクラスタリングです。各データを最も近い中心点に割り当てる操作を繰り返すk-means法、クラスタ同士の併合を繰り返して階層構造を作るウォード法があり、後者の結果は樹形図であるデンドログラム(樹形図)として可視化されます。

データの特徴量の数（次元）を減らしつつ、重要な情報をできるだけ保持する処理が次元削減です。データのばらつき（分散）が最大になる方向を新しい軸として抽出する主成分分析(PCA)、行列を複数の行列の積に分解することで次元削減や特徴抽出を行う特異値分解(SVD)が代表的です。高次元データを2次元・3次元に落とし込み、可視化に特化した手法がt-SNE、データ間の距離関係をできるだけ保ったまま低次元に配置する多次元尺度構成法(MDS)もあわせて覚えておきましょう。文書集合から話題（トピック）の構成比を推定する潜在的ディリクレ配分法(LDA)は、トピックモデルの代表的な手法として自然言語処理（第5章）にもつながります。

教師なし学習はレコメンデーション（おすすめ）システムの基盤技術としても使われます。似た趣味嗜好を持つ他のユーザーの行動履歴から推薦する協調フィルタリング、アイテム自体の特徴（ジャンル・属性など）に基づいて推薦するコンテンツベースフィルタリングがあり、新規ユーザー・新規商品のようにデータの蓄積がなく推薦精度が出せないコールドスタート問題は協調フィルタリングの代表的な弱点として出題されます。

扱う用語（精選・14語）

• クラスタリング／k-means法／ウォード法／デンドログラム(樹形図)
• 次元削減／主成分分析(PCA)／特異値分解(SVD)／t-SNE／多次元尺度構成法(MDS)
• 潜在的ディリクレ配分法(LDA)／トピックモデル
• 協調フィルタリング／コンテンツベースフィルタリング／コールドスタート問題

強化学習

強化学習は、教師あり学習・教師なし学習とは異なり、正解データも構造もない代わりに、行動の結果として得られる報酬を手がかりに、試行錯誤しながら最適な行動方針を学びます。ゲームAIやロボット制御のように「今の一手が将来の結果にどう影響するか」を扱う問題に適した枠組みで、その数学的な土台がマルコフ決定過程（現在の状態だけで次の行動を決定でき、過去の履歴に依存しないという前提）です。

強化学習のアプローチは大きく2つに分かれます。1つは、ある状態や行動がどれだけ価値を持つかを見積もる価値関数の学習です。ある状態そのものの価値を表す状態価値関数、ある状態である行動を取ったときの価値を表す行動価値関数を推定し、価値が最大になる行動を選びます。代表的な手法がQ学習（行動価値関数=Q値を、実際には選ばなかった最善の行動を仮定して更新する）とSARSA（実際に選んだ行動をもとに更新する）で、両者は「学習に使う行動が理論上の最善手か、実際に取った手か」という違いで対比されます。もう1つのアプローチが、行動の選び方そのもの（方策）を直接改善していく方策の学習です。方策勾配法はその基本形で、報酬が高かった行動の確率を直接引き上げるREINFORCE、価値関数（Critic）を使って方策（Actor）の学習を安定させるActor-Criticが代表例です（深層強化学習への発展は第6章で扱います）。

行動を選ぶ際には、今知っている中で一番良さそうな行動ばかり選ぶと、実はもっと良い行動を見逃してしまう可能性があります。既知の最良手を選ぶ「活用」と、未知の可能性を試す「探索」のバランスを取る代表的な方策が、一定確率でランダムな行動を試すε-greedy方策、不確実性が高い（まだ試行回数が少ない）行動を優先的に試すUCB方策です。このように行動の選択肢を「腕」に見立てて探索と活用のバランスを最適化する問題設定をバンディットアルゴリズムと呼びます。将来の報酬を現在の価値にどれだけ割り引いて評価するかを表すパラメータが割引率で、1に近いほど将来の報酬を重視します。

扱う用語（精選・12語）

• マルコフ決定過程／状態価値関数／行動価値関数
• Q学習／SARSA／方策勾配法／REINFORCE／Actor-Critic
• ε-greedy方策／UCB方策／バンディットアルゴリズム／割引率

モデルの選択・評価

学習させたモデルが、訓練に使ったデータだけでなく未知のデータにもきちんと通用するかを見極めるのがモデルの選択・評価です。訓練データに対する誤差がいくら小さくても、未知データへの対応力である汎化性能が低ければ実用にはなりません。訓練データに過剰に適合してしまい汎化性能が落ちる現象を過学習と呼びます。

汎化性能を正しく見積もるための検証方法として、データを訓練用と検証用に1回だけ分割するホールドアウト検証、データをいくつかに分割し、検証用を入れ替えながら複数回評価して平均を取る交差検証（分割数をk個にするものをk-分割交差検証と呼ぶ）があります。データ量が少ない場合は、1回だけの評価より交差検証の方が信頼できる推定になります。

分類モデルの評価では、予測結果と実際の正解を「陽性・陰性」で突き合わせた表である混同行列が基本になります。実際に陽性で陽性と予測できたものが真陽性、実際は陰性なのに陽性と誤って予測したものが偽陽性、逆に実際は陽性なのに陰性と予測してしまったものが偽陰性、実際に陰性で陰性と正しく予測できたものが真陰性です。この4つの数値から、全体のうちどれだけ正しく予測できたかを表す正解率、陽性と予測したもののうち実際に陽性だった割合である適合率、実際に陽性だったもののうちどれだけ正しく陽性と予測できたかを表す再現率、両者のバランスを取ったF値が計算されます。分類の判定しきい値を変化させたときの性能変化を可視化するROC曲線と、その曲線の下側の面積で総合性能を1つの数値にしたAUCもあわせて押さえておきましょう。

回帰モデルの評価では、予測値と実際の値の差（誤差）をどう集計するかで指標が変わります。誤差を2乗して平均した平均二乗誤差(MSE)、その平方根を取り元の単位に戻した二乗平均平方根誤差(RMSE)、誤差の絶対値を平均した平均絶対値誤差(MAE)が代表的です。MSE・RMSEは大きな誤差ほど強く罰するのに対し、MAEは誤差の大きさに関わらず均等に評価する、という違いがあります。モデル選択の指針としては、モデルの複雑さと当てはまりの良さのバランスを情報量として評価する赤池情報量規準(AIC)・ベイズ情報量規準(BIC)があり、いずれも「同じ精度なら、より単純なモデルを選ぶべきだ」というオッカムの剃刀の考え方を数式に落とし込んだものと理解すると覚えやすくなります。

扱う用語（精選・18語）

• 汎化性能／過学習
• ホールドアウト検証／交差検証／k-分割交差検証
• 混同行列／真陽性・偽陽性・偽陰性・真陰性／正解率・適合率・再現率・F値／ROC曲線・AUC
• 平均二乗誤差(MSE)／二乗平均平方根誤差(RMSE)／平均絶対値誤差(MAE)
• 赤池情報量規準(AIC)／ベイズ情報量規準(BIC)／オッカムの剃刀

AIで学ぶ

ここまでの用語は、ChatGPTやClaudeなどの生成AIに以下のプロンプトを投げかけると、比較表つきでさらに深く掘り下げて学習できます。コピーして使ってみましょう。

あなたはG検定（ジェネラリスト検定）の講師です。「機械学習の基礎」の範囲について、以下の用語を初学者向けに**関連づけながら**説明してください（単体の丸暗記より、用語同士のつながりを理解したほうが記憶に定着しやすく、試験本番で紛らわしい選択肢を見分ける力もつくためです）。教師あり学習・教師なし学習・強化学習のどれに属するかを整理し、用語同士の違いが分かる**比較表**を最後に付けてください。

【教師あり学習】回帰問題、分類問題、多クラス分類、線形回帰、単回帰分析、重回帰分析、ロジスティック回帰、決定木、サポートベクターマシン(SVM)、マージン最大化、カーネル、カーネルトリック、自己回帰モデル(ARモデル)、ベクトル自己回帰モデル(VARモデル)、アンサンブル学習、バギング、ブートストラップサンプリング、ランダムフォレスト、ブースティング、勾配ブースティング
【教師なし学習】クラスタリング、k-means法、ウォード法、デンドログラム、次元削減、主成分分析(PCA)、特異値分解(SVD)、t-SNE、多次元尺度構成法(MDS)、潜在的ディリクレ配分法(LDA)、トピックモデル、協調フィルタリング、コンテンツベースフィルタリング、コールドスタート問題
【強化学習】マルコフ決定過程、状態価値関数、行動価値関数、Q学習、SARSA、方策勾配法、REINFORCE、Actor-Critic、ε-greedy方策、UCB方策、バンディットアルゴリズム、割引率
【モデルの選択・評価】汎化性能、過学習、ホールドアウト検証、交差検証、k-分割交差検証、混同行列、真陽性、偽陽性、偽陰性、真陰性、正解率、適合率、再現率、F値、ROC曲線、AUC、平均二乗誤差(MSE)、二乗平均平方根誤差(RMSE)、平均絶対値誤差(MAE)、赤池情報量規準(AIC)、ベイズ情報量規準(BIC)、オッカムの剃刀

このプロンプトが3分類への整理を明示的に指示しているのは、この章が「教師あり・教師なし・強化学習のどれに属する手法か」を混同しやすいためです。特にQ学習とSARSAのような似た名前の手法は、比較表で違いを可視化させると記憶に定着しやすくなります。

章末チェック

最後に、この章で学んだ知識をアウトプットして定着させましょう。全問に答えたら「答え合わせ」を押してください。

この章のまとめ

この章では、機械学習を教師あり学習・教師なし学習・強化学習の3分類で整理し、回帰・分類・クラスタリング・次元削減といった代表的な手法、そしてモデルの汎化性能をどう検証・評価するかを学びました。ここで押さえた評価指標（混同行列・交差検証など）は、次章以降のディープラーニングのモデルを評価する際にもそのまま使う土台知識です。

次章では、機械学習の中でもディープラーニングがどのような理論的な仕組みで学習を進めるのか——活性化関数・誤差関数・最適化手法といった構成要素を学びます。→ 第3章 ディープラーニングの理論基盤