【SA】自律型AIエージェントをどう設計するか。システムアーキテクトに求められるLLM統合設計

機能設計から推論設計へ

システムアーキテクト（SA）にとって、生成AIは単なる「外部API」ではありません。その推論能力がシステムの意思決定プロセスに深く関わるため、従来の機能設計とは異なるアプローチが求められます。

従来のシステムが明確なルールに基づいて動作するのに対し、AIは曖昧な情報から最適な判断を下す自律型エージェントとして振る舞います。この変化は、SAに求められる設計思想を、固定された機能の組み合わせから、AIの「振る舞い」と「判断プロセス」をいかに制御・誘導するかにシフトさせます。

資格試験では、このパラダイムシフトを理解し、従来の設計手法との違いを説明できるかが問われるでしょう。実務では、AIの不確実性を考慮しつつ、システムの信頼性と性能を保証するアーキテクチャを構築する能力が不可欠となります。

AIエージェントのアーキテクチャ設計

AI、特に大規模言語モデル（LLM）の応答には、ネットワーク通信やモデルの推論処理のため、ある程度の時間がかかります。また、使用するトークン数に応じて費用が発生するため、応答時間とコストのバランスを考慮した設計が極めて重要になります。

ユーザーを待たせないためには、AIからの応答を待たずに次の処理を進める非同期処理や、イベント発生時にのみ処理を実行するイベント駆動型設計が不可欠です。これらは、メッセージキューを介してリクエストを一時的に保持し、AIの処理が完了次第、結果をユーザーに通知する仕組みを構築することで実現できます。

資格試験では、応答性能やコスト効率を考慮したアーキテクチャパターンとして、これらの設計手法の選択理由が問われることがあります。

さらに、すべてのリクエストに高性能なモデルを使うとコストが高騰するため、ルーティングロジックを設計し、「安価なモデル」と「高性能モデル」を使い分けることで、トークンコストを最適化することが重要なテーマです。例えば、簡単な質問には軽量なモデルを、複雑な分析や長文生成には高性能なモデルを割り当てることで、全体の運用コストを抑えつつ、必要なパフォーマンスを維持します。実務では、システムの要件と予算に応じて、最適なモデル選択とルーティング戦略を立案する能力が求められます。

RAG（検索拡張生成）の最適化

AIに社内知識や最新情報を正確に答えさせるためのRAG（Retrieval-Augmented Generation）は、AIが学習していない特定の情報源を参照し、その情報に基づいて回答を生成する技術です。これはAIの「知識」を外部から補完し、ハルシネーション（誤情報生成）を抑制する上で不可欠であるため、SA試験の記述問題でも頻出テーマです。

RAGの性能を最大化するには、検索精度とシステム全体のスケーラビリティを両立させるための設計が求められます。具体的には、膨大な文書の中から関連性の高い情報を高速かつ正確に探し出すために、ベクトルDB（ベクトルデータベース）の選定が非常に重要です。ベクトルDBは、テキスト情報を数値のベクトル（埋め込み表現）に変換して保存し、意味的に近いベクトルを高速に検索できるため、RAGの中核を担います。

資格試験では、ベクトルDBの役割や選定基準、RAG全体のデータフローが問われることがあります。

また、情報をどう切り分け、AIが理解しやすい「文脈」を作るかというチャンキング戦略の設計思想を磨くことが、RAGの精度に直結します。例えば、単に文章を一定の文字数で区切るだけでなく、意味のまとまりや段落構造を考慮してチャンク（情報の断片）を作成することで、AIが参照する情報の質を高めることができます。実務では、対象とするデータの特性を理解し、最適なチャンキング手法とベクトルDBを組み合わせることで、AIの回答精度と信頼性を飛躍的に向上させることが期待されます。

ハルシネーションを防ぐガードレール設計

AIが事実に基づかない、あるいは誤った情報を生成してしまう現象をハルシネーションと呼び、これはAIシステムの信頼性を損なう大きな課題です。この「間違った回答」をシステム的にどうフィルタリングし、ユーザーに提供されるのを防ぐかが、システムアーキテクトの重要な役割となります。

このための対策として、有害な入力（プロンプトインジェクションなど）や、不適切な出力（倫理に反する内容や誤情報）をAI自身に自己チェックさせる、入力・出力のバリデーションが重要です。例えば、AIの回答を別のAIモデルで評価したり、事前に定義したルールセットと照合したりすることで、不適切な内容を検出し、修正を促したりブロックしたりする仕組みを構築します。

資格試験では、AIの信頼性や安全性を確保するための設計原則として、これらのガードレール設計が問われることがあります。

さらに、システムが稼働した後も、ユーザーの評価やフィードバックを元に検索ロジックやプロンプトを継続的に改善する、フィードバックループの構築を目指してください。このループを通じて、AIの振る舞いをより望ましい方向へと誘導し、システム全体の品質を長期的に向上させることができます。実務では、AIの活用において不可避なハルシネーションリスクを最小限に抑え、システムの安定性とユーザーからの信頼を確保するための継続的な改善プロセスが求められます。

まとめ

従来の機能要件だけでなく、AI特有の「振る舞い」を制御し、不確実性に対応できる堅牢なアーキテクチャを目指しましょう。AIの応答時間、コスト、そして信頼性といった多角的な視点から設計を最適化することで、AIの力を最大限に引き出すことができます。

システムアーキテクトがAIの特性を深く理解し、その統合設計をリードすることで、システムの可能性を無限に広げることが可能になります。次世代のアーキテクトとしての第一歩を、AI時代のシステム設計という新たな挑戦として、今ここから始めましょう。

この記事は 高度情報処理技術者試験 完全攻略ガイド の一部です。