この章で学ぶこと
第1〜6章までは、AIそのものの技術的な仕組みを学んできました。この章では視点を変え、AIプロジェクトをどう進めるかという実務の型、AIの学習対象となるデータをどう扱うかという注意点、そしてあらゆるAI技術の土台になる数理・統計知識を学びます。最後の数理・統計は、コース唯一の計算例題つきセクションです。用語を知っていても実際の算出でつまずくケースが多いため、標準偏差・相関係数を実際に電卓で計算しながら読み進めてください。既存theory記事「平均・分散・確率・サンプリングの基礎」もあわせて参照できます。
AIプロジェクトの進め方
AIプロジェクトは、一般的なシステム開発と同じように進め方の型があります。要件を固めてから順番に開発を進めるウォーターフォールに対し、短い期間で開発とフィードバックを繰り返すアジャイルは、精度が事前に見通しにくいAI開発と相性が良い進め方として重視されます。AI・機械学習プロジェクト特有の進め方の型として、ビジネス理解→データ理解→データ準備→モデリング→評価→展開という6段階を繰り返すCRISP-DM、それを機械学習の運用まで含めて拡張したCRISP-MLがあります。本格的な開発に入る前に、その技術が実現可能かを小規模に検証するPoC(Proof of Concept)は、AIプロジェクトでは特に重要な工程です。想定した精度が出ないままPoCを繰り返す「PoC死」もAIプロジェクトの現場でよく知られた課題です。
AI開発を支える技術環境として、機械学習で最も広く使われるプログラミング言語Python、コードと実行結果を対話的に記録・共有できるJupyter Notebook、開発環境をコンテナ化して再現性を保つDocker、学習したモデルを外部から呼び出せるようにするWeb API、計算資源をオンデマンドで利用できるクラウドがあります。開発したモデルを実運用に乗せた後、精度の劣化を監視し再学習を繰り返す一連の運用の仕組みをMLOpsと呼びます。
AIプロジェクトを成功させるには技術だけでなく組織的な視点も欠かせません。AIを実際の業務に活かすAIのビジネス活用を進めるには、業務プロセスを根本から見直すBPR(Business Process Re-engineering)が必要になることも多く、現場のステークホルダーのニーズを正しく把握しないままAIを導入すると使われない仕組みになりがちです。データ分析・AI活用の専門知識を持つデータサイエンティストの確保・育成に加え、自社にない知見を外部から取り込むオープン・イノベーション、大学と企業が協力する産学連携、業種を超えた他企業や他業種との連携も、AIプロジェクトの進め方全体を扱うこのセクションのテーマとして押さえておきましょう。
扱う用語(精選・16語)
- ウォーターフォール/アジャイル/CRISP-DM/CRISP-ML/PoC
- Python/Jupyter Notebook/Docker/Web API/クラウド/MLOps
- AIのビジネス活用/BPR/ステークホルダーのニーズ/データサイエンティスト
- オープン・イノベーション/産学連携・他企業や他業種との連携
データの収集・加工・分析・学習
データマネジメント(DM)試験20時間コースとの接続点: このセクションはAI開発フローの視点でデータの扱いを学びますが、実務でのデータガバナンス・品質管理をより深く体系的に学びたい場合は、DMコース第1〜3章(データガバナンスと組織体制/データ品質管理とメタデータ管理/データ基盤とデータ活用の仕組み)が実務目線での深掘りになります。
AIの学習にデータを使う際は、いくつかの注意点があります。データに正解ラベルを付与する作業をアノテーションと呼び、その品質がモデルの精度を大きく左右します。すべてを自前で用意する必要はなく、研究・実務で公開されているオープンデータセット(第1章のImageNetもその一例)を活用することも一般的です。自然言語処理では、大量の文章を集めた言語データの集合をコーパスと呼び、学習・評価に使います。
データを扱う際に特に注意すべき落とし穴がデータリーケージです。本来モデルが学習時に知りえない未来の情報や、評価に使うはずのデータの情報が、誤って学習データに混入してしまう現象で、これが起きると学習時の評価は高精度に見えても、実運用では全く性能が出ないという事態を招きます(例: 株価予測で、本来知りえない翌日の情報を特徴量に含めてしまう)。第2章で学んだ「訓練データとテストデータを正しく分ける」という基本が、このデータリーケージを防ぐ第一歩になります。
扱う用語(精選・4語)
- アノテーション/オープンデータセット/コーパス/データリーケージ
AIに必要な数理・統計知識
DMコース第4章との接続点: このセクションは確率・統計の考え方を定義中心に扱いますが、標準偏差・相関係数を実務データでさらに計算練習したい場合は、DMコース第4章 統計手法とデータ分析に計算例題が豊富にあります。
AIモデルの多くは確率・統計の考え方の上に成り立っています。ある試行の結果が偶然によってどう変化しうるかを表す変数を確率変数、その結果ごとの起こりやすさを表したものが確率分布です。連続的な値を取る確率変数の分布の形を表す確率密度、複数の要因を含む条件のもとでの確率を扱う条件付き確率も基本用語です。代表的な確率分布として、自然現象や測定誤差の多くが従う釣鐘型の正規分布、成功・失敗のような2択の試行を繰り返したときの分布である二項分布(1回だけの2択試行が従う分布がベルヌーイ分布)、まれな事象の発生回数をモデル化するポアソン分布があります。
データ全体の特徴を1つの値で表す代表値として、単純な平均である平均、データを順に並べたときの中央にくる値である中央値、最も多く出現する値である最頻値があります。データのばらつき具合を表す指標が分散と標準偏差です。他と大きく離れた値である外れ値や、データがどの値の範囲にどれだけ分布しているかを表す度数分布も、データの特徴を把握する基本的な視点です。一定期間ごとの平均を計算しながらずらしていくことで変動を滑らかにする移動平均も、時系列データの傾向を把握する際によく使われます。
計算例題: 標準偏差を実際に求める
あるAIモデルの5回のテスト実行で得られた推論時間(ミリ秒)が次のとおりだったとします。
ステップ1: 平均を求める
ステップ2: 各データの偏差(データ − 平均)を2乗して合計する
ステップ3: 2乗和をデータ数で割って分散を求め、平方根を取る
平均100ミリ秒に対して標準偏差が約14.1ミリ秒というのは、実行のたびに±14ミリ秒程度のばらつきがあることを意味します。
2つの変数がどれだけ連動して動くかを表す指標が相関係数です。その計算の土台になるのが、2変数がどれだけ同じ方向に変動するかを表す共分散で、共分散をそれぞれの標準偏差で割って−1〜+1の範囲に標準化したものが相関係数です。見かけ上は相関があるように見えても、第三の要因が両方に影響しているだけの疑似相関には注意が必要です(第三の要因の影響を取り除いた相関を偏相関係数と呼びます)。ベクトル同士の向きの近さで類似度を測るコサイン類似度、2点間の直線距離を測るユークリッド距離、データのばらつき(分散・相関)を考慮して測るマハラノビス距離は、第2章のクラスタリングや第5章の単語埋め込みの類似度計算などで登場した、AIモデル内部で広く使われる距離・類似度の指標です。2つの確率変数がどれだけ情報を共有しているかを表す相互情報量も関連の深さを測る指標の1つです。
データから最もよく当てはまる直線・曲線を求める代表的な方法が最小二乗法(実際の値と予測値の差の2乗和を最小にするパラメータを選ぶ)、確率分布のパラメータをデータに最もよく合うように推定する方法が最尤法です。統計的に「差がある」と言えるかを検証する枠組みが仮説検定で、「差がない」という帰無の立場から出発する帰無仮説と、それに対立する対立仮説を立て、データから帰無仮説を棄却できるかを判定します。
扱う用語(精選・25語)
- 確率変数/確率分布/確率密度/条件付き確率
- 正規分布/二項分布・ベルヌーイ分布/ポアソン分布
- 平均・中央値・最頻値(代表値)/分散・標準偏差/外れ値/度数分布/移動平均
- 相関係数/共分散/疑似相関/偏相関係数/コサイン類似度/ユークリッド距離/マハラノビス距離/相互情報量
- 最小二乗法/最尤法/帰無仮説・対立仮説
AIで学ぶ
ここまでの用語は、ChatGPTやClaudeなどの生成AIに以下のプロンプトを投げかけると、比較表つきでさらに深く掘り下げて学習できます。コピーして使ってみましょう。
あなたはG検定(ジェネラリスト検定)の講師です。「AI開発の実務と数理・統計」の範囲について、以下の用語を初学者向けに**関連づけながら**説明してください(単体の丸暗記より、用語同士のつながりを理解したほうが記憶に定着しやすく、試験本番で紛らわしい選択肢を見分ける力もつくためです)。数理・統計の用語は、標準偏差・相関係数の計算プロセスのどこで使われるかも整理し、用語同士の違いが分かる**比較表**を最後に付けてください。
【AIプロジェクトの進め方】ウォーターフォール、アジャイル、CRISP-DM、CRISP-ML、PoC、Python、Jupyter Notebook、Docker、Web API、クラウド、MLOps、AIのビジネス活用、BPR、ステークホルダーのニーズ、データサイエンティスト、オープン・イノベーション、産学連携
【データの収集・加工・分析・学習】アノテーション、オープンデータセット、コーパス、データリーケージ
【AIに必要な数理・統計知識】確率変数、確率分布、確率密度、条件付き確率、正規分布、二項分布、ベルヌーイ分布、ポアソン分布、平均、中央値、最頻値、分散、標準偏差、外れ値、度数分布、移動平均、相関係数、共分散、疑似相関、偏相関係数、コサイン類似度、ユークリッド距離、マハラノビス距離、相互情報量、最小二乗法、最尤法、帰無仮説、対立仮説このプロンプトが計算プロセスのどこで使われるかという整理を指示しているのは、数理・統計の用語は定義を覚えるだけでなく「何を求めるための道具か」を理解した方が定着しやすいためです。標準偏差の計算例題を自分の手でもう一度たどってから、AIに関連づけの説明をさせると理解が深まります。
章末チェック
最後に、この章で学んだ知識をアウトプットして定着させましょう。全問に答えたら「答え合わせ」を押してください。
問1. ビジネス理解→データ理解→データ準備→モデリング→評価→展開という6段階を繰り返す、機械学習プロジェクト特有の進め方の型はどれか。
問2. 本格的な開発に入る前に、その技術が実現可能かを小規模に検証する工程を何と呼ぶか。
問3. 実運用に乗せたモデルの精度劣化を監視し、再学習を繰り返す一連の運用の仕組みを何と呼ぶか。
問4. 本来モデルが学習時に知りえない未来の情報などが誤って学習データに混入し、学習時の評価は高精度に見えても実運用では性能が出なくなる現象を何と呼ぶか。
問5. 推論時間(ミリ秒)が80, 90, 100, 110, 120の5回のテスト結果について、標準偏差に最も近い値はどれか。
問6. 見かけ上は2つの変数に相関があるように見えても、実際には第三の要因が両方に影響しているだけの状態を何と呼ぶか。
問7. 自然現象や測定誤差など、多くのデータが従う釣鐘型の確率分布はどれか。
問8. 統計的仮説検定において、「差がない」という立場から出発し、データによって棄却できるかどうかを判定する仮説はどれか。
この章のまとめ
この章では、AIプロジェクトの進め方(CRISP-DM・PoC・MLOps)、データの収集・加工・分析・学習の注意点(アノテーション・データリーケージ)、そして確率分布・標準偏差・相関係数といったAIの土台となる数理・統計知識を、計算例題を交えて学びました。ここまでの第1〜7章で、G検定シラバスの技術分野をすべてカバーしたことになります。
次章では最後の技術以外の分野、AI開発に関わる法律(個人情報保護法・著作権法など)とAI倫理・AIガバナンスを学びます。→ 第8章 AIの法律と倫理・ガバナンス