AzureでのRAG構築の概要
まずはRAGとは何か、なぜ現代のAI活用において重要視されているのか、その基本的な仕組みとAzureで構築することによるメリットについて解説します。
生成AIの課題
現在、ChatGPTなどの生成AIの導入が急激に進んでいます。しかし実際に業務へ導入するにあたって、多くの企業が以下のような課題を感じています。
- 最新・社内固有の情報が反映されない
- 回答内容の正確性・根拠が不明瞭
- ハルシネーション（もっともらしい誤情報）のリスク
- ナレッジの活用先として限定的
こうした課題の多くは、生成AIが「学習済みの知識しか使えない」ことに起因しています。 特に業務で扱う情報は企業固有であり、常に変化するため、あらかじめモデルに学習させておくのでは対応しきれません。
そこで注目されているのが、外部のデータベースや社内文書をリアルタイムで参照しながら生成を行う「RAG（Retrieval-Augmented Generation）」というアプローチです。
RAGとは何か？
RAG（Retrieval-Augmented Generation）とは、検索と生成を組み合わせたAIの技術です。具体的には、ユーザーの質問に対して、まず検索エンジンで関連情報を探し出し、それをもとにAIが自然な文章で回答を生成するという流れで行われます。
以下の図は、RAGの基本的な仕組みを示したものです。
RAGイメージ（参考：Microsoft）
【処理の流れ】
- 質問 (Question): ユーザーが質問をします。
- 検索・取得 (Search & Retrieve): システムは、その質問に関連する情報を独自のデータベース（Your Data store）から検索し、関連情報（Matching Results）を取り出します。
- プロンプト構築 (Construct Prompt): 取り出した情報と元の質問を組み合わせて、大規模言語モデル（LLM）への指示（プロンプト）を生成します。
- 応答 (Response): 作成されたプロンプトをLLMに送り、LLMがその情報に基づいて最終的な回答を生成します。
たとえば、ユーザーが「会社の育休制度について教えて」とAIに聞いたとき、AIはこれまで学習した知識の中から答えを出します。そのため、それが古い情報だったり、会社ごとのルールまではわからなかったりすることがあります。
しかし、RAGを利用すれば、AIがまず社内の資料を探して、その内容を元に回答するようになります。そのため社内の資料に沿った「正しい答え」が返ってくるようになるのが大きな特徴です。
Azure上でRAGを構築するメリット
RAGを構築するには、検索機能・AIモデル・データ保存場所など、いくつかの技術が必要です。Microsoft Azureのエコシステムには、そうしたRAGを構築するために必要なすべての機能がそろっています。
例えば
- Azure AI Search：文書の意味を理解した高度な検索が可能です。
- Azure OpenAI Service：ChatGPTやGPT-4などの高性能な生成AIを利用することができます。
- OneLake / Azure Blob Storage / Azure Cosmos DB:大量のPDFや社内ナレッジを格納・管理する柔軟なデータ保存基盤を提供します。
- セキュリティ・ガバナンス：会社の情報を安全に守れる機能が充実しています。
そのため、企業利用に適したセキュアな環境でRAGを構築するのであれば、Azureを利用するメリットは大きいと言えるでしょう。
AzureでのRAG構成の全体像
Azure上でRAGを構築する際には、Azureのいくつかのサービスを組み合わせて使う必要があります。 全体像と、それを支える主要な個別サービスの役割について、わかりやすく解説します。
Azureエコシステムを活用したRAGアーキテクチャ（参考：Microsoft）
データソースの保存場所
RAGで活用するデータソースは多岐にわたります。FAQや社内マニュアル、議事録、PDF、Wordファイル、データベース、さらには業務システムのデータやリアルタイムデータまで、企業が保有するあらゆる情報がRAGの対象となり得ます。
これらの多様なデータを保存・管理する場所として、Azureでは以下のような選択肢があります。
- OneLake(Microsoft Fabric) 企業のあらゆるデータを統合管理できる統一データレイクとして、特にデータ分析基盤との連携を重視する場合に適しています。
- Azure Blob Storage PDFやWordファイルなどの非構造化データの保存に最適で、大容量ファイルのコスト効率的な管理が可能です。
- Azure Cosmos DB グローバル分散型NoSQLデータベースとして、リアルタイム性が求められるデータや多地域での利用に適しています。
こうした場所に格納されたデータは、後の検索や回答生成の元情報（ナレッジソース）として使われます。
【関連記事】
Azure Cosmos DBとは？グローバル分散型NoSQLデータベースを徹底解説
【Microsoft Fabric】OneLakeとは？統合データレイクで実現する次世代データ分析基盤を解説
インデクシングと検索
次に保存されたデータから必要な情報を取り出す仕組みが必要です。その中核を担うのが Azure AI Search です。
Azure AI Searchは、文章の意味を理解して関連情報を探し出す高度な検索エンジンであり、以下の2つの役割を担います。
インデクシング（索引化）
ファイルやデータベースに保存された情報は、そのままでは検索できません。まず、内容を読み取り、検索しやすい形式に変換して登録する必要があります。 これが「インデクシング」と呼ばれる処理です。
検索
インデクシングされたデータをもとに、ユーザーの質問に対して意味の近い情報を探します。 Azure AI Searchでは、以下のような高度な検索が可能です。
- セマンティック検索：単語の一致ではなく、文の意味に基づいて関連情報を見つける検索です。
- ベクトル検索：文章をAIが理解できる数値（ベクトル）に変換し、意味的に似た情報を精度高く見つける手法です。表現が異なっていても、本質的に同じ内容を探し出すことができます。
このように、Azure AI Searchを活用することで、社内にある膨大な情報から、質問の意図に合った答えを探し出すことができるのです。
【関連記事】
Azure AI Searchとは？3種の検索機能や料金、使い方をわかりやすく解説
さらに、Azure AI Searchは進化を続けており、例えば2025年5月には「Agentic Retrieval」という、LLMを活用して複雑な質問を複数のサブクエリに分解し、より高度な検索を行うアプローチも発表されています（プレビュー段階）。
これにより、将来的にRAGシステムはさらに高度な情報検索能力を持つことが期待されます。
Azure AI Searchイメージ（参考：Microsoft）
Azure OpenAI Service（LLMによる回答生成）
検索で見つかった文書は、必ずしもそのままでは読みやすいとは限りません。情報が断片的であることや、質問に対してピンポイントに答えていない場合もあります。
そこで、AIが答えを作るステップでは、Azure OpenAI Service（GPTモデルなど）を使って、検索結果をもとに自然な文章で回答を生成します。
たとえば 検索で「売上報告書」や「マニュアル」の一部が見つかっても、それを人間が読むには手間がかかります。 しかし、AIモデル（GPTモデルなど）に対して「この情報を使って、ユーザーの質問に答えて」と指示すると、文脈を理解したわかりやすい返答を自動で生成してくれるようになります。
【関連記事】
Azure OpenAI Serviceとは？主な特徴や使い方、ChatGPTとの違いについて解説
Azure OpenAI Serviceイメージ（参考：Microsoft）
Azure AI FoundryによるRAG構築の効率化
現在Azureでは、Azure AI Foundryというツールが利用可能であり、このサービスによってRAG利用がより便利になりました。
ここでは、Azure AI Foundryについてご紹介します。
従来のRAG構築の課題
AzureでRAGを構築するには、検索・生成・データ保存といった複数のサービスを組み合わせる必要があります。従来はこれらをすべて自分で個別に設定・連携する必要があり、構築のハードルは決して低くありませんでした。
それを解決したのが、Azure AI Foundryです。
Azure AI Foundryイメージ
Azure AI Foundryの主要機能
Azure AI Foundryは、RAGをはじめとするAIアプリケーションをより簡単かつ効率的に開発・運用できる開発支援ポータルで、以下の機能を備えています。
- サービスとの統合 Azure OpenAI Service、Azure Blob Storage、Azure AI Searchなどと簡単に連携することができます。
- モデル呼び出し（Azure OpenAI等） GPT-4oなどのLLMを直接組み込んで、検索結果やプロンプトをもとに自然な応答を生成します。
- データソースとの接続（例：Azure AI Search、Blobなど） PDFやWordなどの文書データを読み込み、ベクトル化・インデックス化してRAGの検索対象にできます。
- 評価・モニタリング・バージョン管理 応答の品質（正確さ・関連性など）を自動評価し、フローの改善サイクルを回すことができます。
【関連記事】
Azure AI Foundryとは？ 生成AIアプリ開発・運用を加速する統合プラットフォームを徹底解説
AzureでRAGを構築する手順
ここからは、実際にAzureでRAGシステムを構築するための具体的な手順を解説します。
具体的なステップは次のとおりです。
- Azure OpenAI Serviceのリソース作成
- モデルのデプロイ
- チャットプレイグラウンドでRAG構成の設定
- 動作確認
前提条件
前提条件として、以下の二つを準備してください。
- Azureアカウント
- ファイルの準備： RAGに利用するファイルを準備しておきます。ここでは、「product_info.txt」というサンプルファイルを用意しました。
サンプルファイル例
ステップ1：Azure OpenAI Serviceのリソース作成
まず、Azure OpenAIを使うためのリソースを作成します。
- Azureポータルにアクセスし、「リソースの作成」ボタンをクリックします。
リソースの作成ボタン
- 検索ボックスに、①「Azure OpenAI」と入力し、②検索結果の[Azure OpenAI] →「作成」を選択します。
検索画面
- 基本画面で、以下の設定を入力します。「次へ」をクリックします。
- サブスクリプション
- リソースグループ
- リージョン
- 名前
- 価格レベル
基本画面
- ネットワーク設定では、「インターネットを含むすべてのネットワークがこのリソースにアクセスできます」という項目を選択し、「次へ」をクリックします。
ネットワーク設定画面
- Tags画面で「次へ」を押した後、レビューおよび送信画面で入力内容を確認したら「作成」をクリックします。
レビューおよび送信画面
- デプロイ完了後、「リソースに移動」ボタンをクリックします。
リソースに移動ボタン
- 「Go to Azure AI Foundry portal」をクリックします。
Go to Azure AI Foundry portalボタン
ステップ2：モデルのデプロイ
検索用に「ベクトル化するモデル（埋め込み）」と回答生成用の「大規模言語モデル（LLM）」を用意します。
- Azure AI Foundry portalに移動したら、左メニューの 「モデルカタログ」をクリックします。 その後、「text-embedding-ada-002」を選択します。
モデルカタログ画面
- 「デプロイ」をクリックします。
デプロイボタン - 「text-embedding-ada-002」の展開画面に以下を入力し、「デプロイ」をクリックします。
- デプロイ名
- デプロイの種類
展開画面
- 同じ要領で、「gpt-4o」もデプロイします。
gpt-4o選択画面
ステップ3：チャットプレイグラウンドでRAG構成の設定
アップロードしたファイルを検索できるように設定を行います。
- 左の項目から「チャット」を選択し、チャットプレイグラウンドを開きます。
チャット選択 - ①「データを追加する」→②「＋データソースの追加」をクリックします。
データの追加画面
- データの追加画面が開きます。「Upload files」を選択します。
Upload filesボタン
- ここでAzure Blob ストレージ リソースとAzure AI 検索リソースを作成することができます。既存のリソースがある場合は、それを選択します。
リソース作成・選択成画面
- さらに、以下の設定をした後、「次へ」をクリックします。
- インデックス名
- 「ベクトル検索をこの検索リソースに追加します」にチェック。
- 埋め込みモデル：text-embedding-ada-002を選択
インデックス名等設定画面
- 準備しておいたファイルをアップロードし、「ファイルのアップロード」ボタンをクリックします。
ファイルのアップロードボタン
- アップロードが完了したら、「次へ」をクリックします。
次へボタン
- データ管理画面が開きます。「検索の種類」や「チャンクサイズ」などを選択肢、「次へ」をクリックします。
データ管理画面
- データ接続画面で、リソース認証の種類を選択します。「次へ」をクリックします。
データ接続画面
- 確認画面で内容を確認したら、「保存して閉じる」をクリックします。
保存して閉じるボタン
ステップ4： 動作確認
チャットプレイグラウンドで、アップロードしたデータを元に回答できるかテストします。
- チャットプレイグラウンドに戻ります。データが追加されているのが確認できます。
データの追加確認画面
- さっそく、先ほどのサンプルファイルのデータ内容に沿った質問をしてみましょう。
サンプルファイル例
- 「クラウドストレージProはどれくらいの容量まで保存できますか？」と質問してみます。
質問1
- 以下のように、ファイル内容に沿った回答がされました。
回答1
- なお、このファイルをデータソースから削除すると、以下のような一般的な回答がされます。
回答2
Azure上で構築したRAGのユースケース
Azure上で構築したRAGは、企業内のさまざまな業務に応用できます。 以下に用途別のユースケースを紹介します。
社内ナレッジ検索の高度化・効率化
社内に散在する規程、手順書、過去の議事録、製品仕様書、技術ドキュメント、営業資料などをRAGで横断的に検索できるようにします。
これにより、社員が必要な情報へ迅速かつ正確にアクセスできる環境を実現し、業務効率の大幅な向上に貢献します。
具体的な活用例：
- オンボーディング支援: 新入社員が社内ルールや業務手順を質問すると、関連ドキュメントを基にAIが分かりやすく回答し、早期の戦力化をサポートします。
- 専門知識の共有: 特定の担当者しか知らなかったような専門知識やノウハウをAIが学習・提供することで、属人化を解消し、組織全体の知識レベルを底上げします。
- 問い合わせ対応の削減: よくある質問とその回答をRAGシステムに集約することで、バックオフィス部門への問い合わせ件数を削減し、担当者がよりコアな業務に集中できる環境を作ります。
例： 「育児休業の申請方法は？」「A製品の最新の技術仕様書はどこにある？」「過去のBプロジェクトの最終報告書を見たい」といった質問に対し、関連ドキュメントを即座に探し出し、その内容に基づいてAIが正確かつ簡潔な回答を生成します。
FAQチャットボットのインテリジェント化
顧客からの問い合わせ対応や、社内ヘルプデスク業務において、RAGを活用した高機能なチャットボットを導入することで、24時間365日の自動応答体制を構築し、顧客満足度の向上と運用コストの削減を両立します。
具体的な活用例：
- 多言語対応FAQ: 翻訳機能と組み合わせることで、グローバルな顧客からの問い合わせにも多言語で対応可能です。
- パーソナライズされた回答: 顧客の過去の購買履歴や問い合わせ履歴と連携することで、より個々の状況に合わせた最適な回答を提供できます。
- 複雑な問い合わせへの対応: 単純なキーワードマッチングではなく、質問の意図を理解し、複数のドキュメントを横断して情報を組み合わせることで、より複雑な問い合わせにも対応できるようになります。
例： 「オンラインストアで購入した商品の返品手続きについて教えてください」「自社ウェブサイトのパスワードを忘れました。再設定するにはどうすればよいですか？」「Wi-Fiに接続できないのですが、考えられる原因と対処法を教えてください」といった質問に対し、関連するマニュアルやFAQページをRAGが参照し、ユーザーが求める情報を的確に提供します。
製造業における高度なマニュアル検索とトラブルシューティング支援
製造ラインの現場作業者や保守メンテナンス担当者が、複雑な機械の操作マニュアル、トラブルシューティングガイド、部品情報などを、必要な時に即座に確認できる環境を提供します。 これにより、ダウンタイムの削減、作業品質の向上、技術伝承の促進に貢献します。
具体的な活用例：
- 音声や画像による検索: 作業者がハンズフリーで作業しながら、音声で質問したり、エラーコードが表示された機器の写真をアップロードして関連情報を検索したりできます。
- AR（拡張現実）との連携: スマートグラスなどを通じて、現実の機械映像にマニュアル情報や作業指示を重ねて表示し、作業の正確性と効率を向上させます。
- 熟練技術者のノウハウ継承: 過去のトラブル事例やベテラン作業員の対応記録をRAGに学習させることで、若手作業員でも高度な判断や対応が可能になります。
例： 作業員が「NC旋盤でエラーコードE-123が表示された。原因と対処法は？」「部品番号XYZの交換手順を動画で確認したい」「この設備の定期点検項目と周期を教えて」といった質問をAIに投げかけると、膨大なマニュアルの中から該当箇所を瞬時に特定し、テキストだけでなく、図や動画などの情報も合わせて提示します。
法務・コンプライアンス分野での契約書・規定レビュー支援
大量の契約書、法律文書、社内規程、判例データなどから、必要な条文や関連情報を迅速に検索・抽出し、要約や比較を行うことで、法務担当者やコンプライアンス担当者のレビュー業務の効率を大幅に向上させ、リスク管理を強化します。
具体的な活用例：
- リスク条項の自動検出: 新規契約書をアップロードすると、AIが過去の類似契約や業界標準と比較し、潜在的なリスクが含まれる可能性のある条項をハイライトします。
- 関連法令・判例の提示: 特定の契約条項について質問すると、関連する法律や過去の判例をRAGが検索し、解釈の助けとなる情報を提供します。
- 社内規程の整合性チェック: 新しい社内規程を作成する際に、既存の規程との矛盾点や関連箇所をAIが指摘し、規程全体の整合性を保つのを支援します。
例： 「この業務委託契約書における秘密保持義務の範囲と期間を教えて」「A国の個人情報保護法に関連する当社の社内規程はどれか？」「過去の類似案件の契約書で、損害賠償の上限額はどのように設定されていたか？」などの質問に対し、AIが関連文書を横断的に検索し、該当箇所とその要約、関連情報を提示します。
研究開発における論文・技術文献調査の効率化
研究開発部門において、膨大な量の学術論文、特許情報、技術レポート、社内の過去の研究データなどをRAGで効率的に検索・分析できるようにします。 これにより、研究者は最新の技術動向を迅速に把握し、新たなアイデアの創出や研究開発のスピードアップにつなげることができます。
具体的な活用例：
- 関連技術の動向調査: 特定の技術キーワードや研究テーマについて質問すると、関連する最新の論文や特許情報をRAGが抽出し、要約を提示します。
- 新規性の調査: 新しい研究テーマや発明アイデアについて、既存の文献や特許との重複がないかを効率的に確認できます。
- 実験計画の最適化: 過去の実験データや類似研究の情報を参照し、より効率的で成功確率の高い実験計画の立案を支援します。
例： 「〇〇材料に関する最新の論文とその応用事例を教えて」「△△技術の特許動向と主要な出願企業は？」「過去の社内研究で、□□という課題に対してどのようなアプローチが試されたか？」といった質問に対し、AIが膨大な文献データベースを検索し、関連性の高い情報を抽出・整理して提示します。
RAG構築時のセキュリティとガバナンス
RAGでは社内文書や機密情報を扱うため、セキュリティや運用管理（ガバナンス）の観点が非常に重要です。
Azure上では、以下のような機能や設計方針により、安全かつ適切にRAGシステムを構築・運用することが可能です。
アクセス制御と認証管理
Microsoft Entra ID（旧Azure AD） によるユーザー認証とロールベースのアクセス制御（RBAC）を活用することで、誰がどの情報にアクセスできるかを厳格に管理できます。
また特定の部署や職種に応じて、検索対象や表示結果を絞ることも可能です。
データの保護と暗号化
Azure Blob Storage や Cosmos DB などに保存される社内データは、保存時（at rest）・通信時（in transit）ともに暗号化されます。
さらに必要があれば、カスタマー マネージド キー（自社専用のカギ）を使うこともできます。
利用ログと監査証跡の取得
Azure Monitor や Log Analytics を使えば、誰がいつ、どのような質問を行い、どのデータにアクセスしたかといった操作ログを記録できます。
そのためガバナンス要件として、内部統制や監査対応にも活用することができるでしょう。
Azure RAG構築・運用におけるコスト考慮事項
RAGは柔軟かつ強力な仕組みですが、複数のAzureサービスを組み合わせて動作するため、コストが複雑化しやすいという特徴もあります。
ここでは、RAG構築にあたって意識すべき主なコストポイントと、コストを抑えるための工夫について解説します。
RAG構築におけるコスト発生のポイント
RAGを構成する各Azureサービスは、それぞれ個別に課金されます。詳細な料金体系は以下をご覧ください。
Azure AI Foundryの料金について
Azure AI Foundry自体は無料で使用できますが、Azure AI Foundryはあくまで構築や統合、評価を効率化する開発ポータルであり、実際の処理は「裏側のAzureサービス」で動作します。
そのため、実際には各サービスの使用料が通常通り発生します。
コストを抑えるための具体的な工夫
コストを防ぐために、以下のような対策が有効です。
- 使うサービスは最小構成から始める 最初から高性能なSKUを使うのではなく、必要に応じたプランを選択もしくは段階的に拡張しましょう。
- トークン数とモデル選びに注意する 生成量を抑える工夫や、安価なモデルを利用することにより節約することができます。
- Embeddingや検索処理は無駄をなくす 毎回処理せず、あらかじめ用意したデータやキャッシュを活用するとコスト削減になります。
- データ保存と呼び出しは整理する アクセス頻度に応じてOneLakeやAzure Blob Storageのプランを分けたり、使わないデータは削除したりするようにしましょう。
まとめ
本記事では、Azure上でRAG（Retrieval-Augmented Generation）を構築する方法について、基本的な仕組みから使用するサービスの役割、構築ステップ、セキュリティやコスト最適化の観点までを体系的に解説しました。
AzureでRAGを構築することは、単に生成AIを導入するのではなく、自社のナレッジやドキュメントを活用して、より正確で信頼性の高いAI回答を実現するうえで非常に有効です。Azure AI SearchやOpenAI Service、OneLakeなどのサービスに加え、開発支援基盤であるAzure AI Foundryを活用することで、複雑な構成も効率的に設計・運用できるという大きなメリットがあります。
ぜひ、Azureを活用してRAGを構築し、社内ナレッジ検索やFAQ対応、契約書要約など、日々の業務にAIを自然に組み込んでみてください。情報へのアクセススピードと業務の生産性が大きく向上することが実感できるはずです。
東京エレクトロンデバイスは、Azure AI FoundryをはじめとするAzureの企業導入をサポートしています。 無料相談も受け付けておりますので、お気軽にご相談ください。
