Azure OpenAI On Your Data とは
Azure OpenAI On Your Data は、独自データを活用してカスタマイズされた AI アプリケーションを作成できるサービスです。
例えば通常の AI では、製品に関する質問に答える際に限られた情報しか提供できません。
しかし、Azure OpenAI On Your Data を使えば、会社の製品マニュアルや最新の製品情報を AI が学習するため、顧客からの詳細な質問にも的確に答えることができるようになります。
Azure OpenAI On Your Data のイメージ 参考:Microsoft
Azure OpenAI On Your Data の概要
まず、Azure OpenAI On Your Data の概要についてご説明します。
このサービスを理解するためのポイントは、以下の二つです。
- RAG（Retrieval-Augmented Generation）
- 「Azure OpenAI Service」と「Azure AI Search」との連携
RAG（Retrieval-Augmented Generation）
RAG（Retrieval-Augmented Generation）は、Azure OpenAI On Your Data の中心となる技術で、質問に対して関連する情報をデータベースから検索し、その情報を基に回答を生成するアプローチです。
RAG の基本的な仕組みは、以下のようになります。
1. 情報検索（Retrieval）
ユーザーからの質問やリクエストが入力されると、
関連する情報をデータベースなどから検索します。
2. 情報の拡張（Augmentation）
検索された情報を使って、言語モデルへの入力を拡張します。
3. 文章生成（Generation）
拡張された入力を基に、大規模言語モデル(LLM)が自然な文章で回答を生成します。
たとえば、製品の技術仕様や FAQ データベースから適切な情報を引き出し、顧客の問い合わせに対して具体的で正確な回答を生成します。
Azure OpenAI Service と Azure AI Search の連携
Azure OpenAI On Your Data では、Azure OpenAI ServiceとAzure AI Searchの連携が鍵となります。
1. Azure OpenAI Service
Azure OpenAI Serviceは、OpenAI が提供する高度な AI モデル（例:GPT シリーズ）を Azure 上で利用できるサービスです。
Azure OpenAI Service イメージ
2. Azure AI Search
Azure AI Search は、企業が持っている大量のデータを整理（インデックス化）し、簡単に検索できるようにするサービスです。
Azure AI Search イメージ
両サービスの連携により、以下の流れで情報が処理されます。
1.データの準備（インデックス作成）
Azure AI Search が企業のデータを整理して、検索しやすい状態にします。
2. 質問の受け取りと検索
ユーザーが質問をすると、Azure AI Search がその質問に関連する情報をデータベースから探します。
3. 回答の生成
検索で見つかった情報を「Azure OpenAI Service」に送り、AI モデルがその情報を元に、わかりやすい回答を作ります。
この連携によって効率的に情報検索と応答生成を行うことができ、より信頼性の高い AI ソリューションを実現できます。
Azure OpenAI On Your Data の主要機能とメリット
Azure OpenAI On Your Data は、企業独自のデータを活用した高度な AI 機能を提供します。
以下では、このサービスの 4 つの主要な特徴について説明します。
1.企業固有の知識ベースの活用
Azure OpenAI On Your Data の最大の特徴は、企業独自の情報を AI システムに統合できることです。
これにより、一般的な AI モデルでは不可能な、企業特有の深い知識に基づいた応答が可能になります。
- カスタマイズされた応答
企業固有の製品情報、サービス内容、社内ルールなどに基づいて、一般的な AI モデルでは難しい専門的な質問に対しても正確で関連性の高い回答を生成します。
- セキュアなデータ統合
企業の機密情報を含む内部データをセキュアに統合し、外部に漏洩することなく AI モデルに活用できます。
2.高度なデータ処理と検索機能
このサービスは、多様な形式のデータを効率的に処理し、高度な検索機能を提供します。
そのため、企業内の膨大な情報から必要なデータを迅速に抽出し、活用することが可能になります。
- 多様なデータ形式の処理
構造化データ（データベース）と非構造化データ（ドキュメント、ログ）を統合して処理し、PDF や Word 文書などからも重要情報を抽出します。
- メタデータの活用
ファイルの作成日時、著者、カテゴリーなどのメタデータを考慮し、より関連性の高い情報を提供します。
- 高度な検索機能
Azure AI Search と連携し、自然言語クエリに対して関連性の高い情報を素早く抽出します。
3.リアルタイムな情報更新と拡張性
Azure OpenAI On Your Data は、常に最新の情報を反映し、大規模なデータセットにも対応できる拡張性を持っています。
急速に変化する企業環境においても、最新かつ正確な情報に基づいた応答を実現します。
- 動的なインデックス更新
新しい情報や変更をリアルタイムでインデックス化し、常に最新の情報を反映した回答を生成します。
- スケーラビリティ
Azure のクラウドインフラストラクチャにより、大規模なデータセットや高頻度のクエリに対応し、一貫して高速な応答を実現します。
4. AI モデルとの効率的な統合
Azure OpenAI On Your Data は、企業データと AI モデルをシームレスに統合し、精度の高い自然言語処理機能を実現します。
この統合により、企業は高度な AI 機能を簡単に活用できます。
最適化されたプロンプト生成
ユーザーからの質問やリクエストに応じて、適切なコンテキストやデータを組み合わせたプロンプトを自動生成します。
これにより、AI モデルに効果的な入力を行い、より正確で関連性の高い回答を引き出します。
コンテキストに基づく回答生成
Azure OpenAI は単に情報を抽出するだけでなく、ユーザーの意図を理解し、文脈を考慮した回答を生成します。
これらの機能により、Azure OpenAI On Your Data は企業固有の知識を最大限に活用し、正確で関連性の高い応答を実現します。
さらに、企業のニーズに合わせたカスタマイズされた AI アプリケーションの構築を可能にし、データ駆動型の意思決定や業務効率化を支援します。
Azure OpenAI On Your Data の料金体系
Azure OpenAI On Your Data は、Azure OpenAI Service を用いて自社データを活用するための「機能」であり、この機能を実現するために 3 つの主要な「サービス」を組み合わせて使用します。
それぞれのサービスに応じた料金が発生するため、全体の料金体系は以下の 3つの要素で構成されます。
1. Azure OpenAI Service の利用料金
これは OpenAI のモデルを利用する際の料金で、使用するモデルの種類と処理したテキスト量（トークン数）に基づきます。
埋め込みモデルの利用も含まれ、テキストを数値ベクトルに変換する処理はこの料金に含まれます。
2. Azure AI Search の利用料金
Azure AI Search を使ってデータを取り込み、検索可能にする際の料金です。
データのインデックス化や検索クエリの実行に対して課金され、データ量や検索の実行回数、インデックスの複雑さによって料金が変動します。
3. ストレージ料金
データを保存するための Azure Blob Storage やその他のストレージサービスに対してかかる料金です。保存するデータ量に応じて課金されます。
従って、「Azure OpenAI On Your Data」の利用料金は、OpenAI のモデル使用量と検索の実行回数、保存するデータ量に応じて変動します。
各サービスの料金情報については、以下の記事をご参照ください。
- Azure OpenAI Service の料金:Azure OpenAI Service の料金体系・コスト最適化のポイントを解説
- Azure AI Search の料金:Azure AI Search とは？3 種の検索機能や料金、使い方をわかりやすく解説
Azure OpenAI On Your Data の使い方
ここからは、Azure OpenAI On Your Data を使用するためのステップを解説します。 Azure OpenAI On Your Data には、REST API、SDK、または Azure OpenAI Studio の Web ベースのインターフェイスを使用してアクセスできます。
今回は、Azure Blob と、 Azure OpenAI Studio の「On Your Data」機能を使って情報を追加した際に、どのような回答が生成されるのかを確認していきます。
具体的な流れとしては、以下のようになります。
- データ保管用のストレージの作成
- Azure AI Search リソースの作成
- Azure OpenAI Studio でのデータの追加
前提条件
まず、Azure OpenAI On Your Data を利用するためには、以下の条件を満たす必要があります。
- Azure のサブスクリプションとリソースグループが既に作成済み。
- Azure OpenAI リソース作成済み。
- Azure OpenAI Studio が利用可能で、モデルをデプロイ済み。
データ保管用のストレージの作成
前提条件を満たしたら、まずはストレージとコンテナーを作成します。
これは、企業のデータを安全に保存し、AI モデルがアクセスできるようにするためのものです。
1. Azure ポータルトップ画面上部にある検索バーに「ストレージアカウント」と入力し、結果から選択します。
ストレージアカウント検索画面
- 「+ 作成」をクリックします。
ストレージアカウントの作成画面
- 入力画面が現れるので必要事項を記載します。
ストレージ アカウント作成入力画面
- 「確認と作成」画面で設定を確認し、「作成」をクリックしてストレージアカウントを作成します。
ストレージアカウント作成ボタン
- 作成したストレージアカウントを選択し、左メニューからコンテナーを選択、次に「＋コンテナー」をクリックします
コンテナー作成ボタン
- 「新しいコンテナー」作成画面を入力し、「作成」をクリックします
新しいコンテナー作成画面
- 作成されたコンテナー画面から、「アップロード」をクリックし、アップロードからデータをアップロードします。
今回は、あらかじめ準備したサンプルデータをアップロードしました。
データアップロード画面
Azure AI Search リソースの作成
大量のデータから必要な情報を迅速に検索できるようにするために、Azure AI Search リソースを作成します。
- Azure ポータルの検索バーに「AI Search」と入力し、AI Search を選択します。
AI Search 検索画面
- 「+ 作成」をクリックします。
AI Search 作成ボタン
- 必要情報の入力をします。
検索サービス作成の入力画面
- 「確認および作成」画面で設定を確認し、「作成」をクリックします
検索サービスの作成ボタン
これで、検索リソースが作成されました。
Azure OpenAI Studio でのデータの追加
作成したストレージに保存されたデータを Azure OpenAI モデルで使用するためにデータを追加します。
このステップでデータをモデルに取り込み、AI の機能を活用できるようにします。
- Azure ポータルの検索バーに「Azure OpenAI」と入力し、検索結果から Azure Open AI を選択します。
Azure OpenAI 検索
- リソースの概要ページから「Azure OpenAI Studio に移動する」で移動します。
Azure OpenAI Studio 移動ボタン
- Azure OpenAI Studio で、「データ持ち込み」を選択します。
データ持ち込み選択画面
- ストレージに保存したデータを選び、アップロードします。
先ほど作成したストレージとコンテナー、AI Search のリソースなどの設定を入力します。
データの追加入力画面
インデクサーの実行スケジュールは、データソースのインデクサーが実行される頻度を設定します。
画像の選択肢には「Once」が含まれており、一度だけインデックスを作成する設定になっていますが、この他にも「Daily（毎日）」「Hourly（毎時間）」などのスケジュールオプションがあります。
今回は、定期的なデータ更新が不要なため、一度のみの実行を選択しています。
次のステップに進むと「データ接続」の設定が表示されます。
ここでは、選択されたデータソース（今回は Azure Blob Storage）と Azure AI Search がどのように連携してデータをインデックス化し、検索を可能にするかを設定します。
- 「レビューして終了」画面で確認し、「保存して閉じる」をクリックします。
データの追加終了画面
- Azure OpenAI Studio の左メニュー「チャット」から「チャットプレイグラウンド」を開きます。
設定メニューの「データの追加」セクションに、追加したコンテナーの情報が表示されていれば、データの追加は成功です。
これで、独自データを使ったチャットボットの開発を始められます。
チャットプレイグラウンド画面
応答例の比較
今回は、サンプルデータとして以下のテキストデータを用いました。
【サンプル文書データ】
- プラン名: Contoso Health Plus
- 提供者: Contoso Electronics
- 概要:このプランは、医療、視力、歯科サービスをカバーしており、さらに処方薬、メンタルヘルス、予防医療の追加サービスが提供されます。
- 特徴:プロバイダー選択の自由があり、地元の病院や専門医を選べます。また、ネットワーク外の緊急医療サービスもカバーしています。
このデータを Azure OpenAI On Your Data に追加し、「Contoso Health Plus について教えて」と質問してみると、応答は次のようになりました。
チャット回答例
比較のため、同じ質問を一般的な AI モデル（ChatGPT）にも尋ねてみました。
【ChatGPT の回答】
「Contoso Health Plus は、フィクションの会社で、通常は教育やテクノロジーのデモやトレーニングに使用される例として登場します。具体的な情報はありませんが、一般的に"Contoso"は、Microsoft が提供するリソースや教材で使われる架空の企業名です。もし特定の文脈や機能について質問があれば、教えてください！」
上記から、Azure OpenAI On Your Data で作成したチャットは提供されたデータに基づいて返答をしていることが分かります。
Azure OpenAI On Your Data のセキュリティとコンプライアンス
企業が Azure OpenAI を導入する際、セキュリティとコンプライアンスは非常に重要です。
ここでは、主な Azure OpenAI On Your Data のセキュリティ機能とコンプライアンス機能について説明します。
データプライバシーとデータ保護
Azure OpenAI On Your Data は、企業の機密データを安全に扱うため、以下のような堅牢な機能を提供しています。
【主な特徴】
- データ暗号化：データは保存中（at rest）と転送中（in transit）の両方で暗号化され、不正アクセスから保護されます。
- データ残留性：データは顧客が選択した Azure リージョン内に保持され、その地域の法律や規制に従って管理されます。
- データ分離：他の顧客のデータと物理的または論理的に分離され、データの機密性が確保されます。
アクセス制御と認証
安全なアクセス管理は、Azure OpenAI On Your Data の重要な機能です。
主な機能は以下のとおりです。
【主な特徴】
- ロールベースのアクセス制御（RBAC）：ユーザーに対して役割に基づいた権限を設定し、必要最小限のアクセスを確保します。
- 多要素認証（MFA）：ログイン時に追加の認証要素を要求することで、セキュリティを強化します。
- シングルサインオン（SSO）：企業の既存の認証システムと統合し、ユーザーが一度のログインで複数のサービスにアクセスできるようにします。
責任ある AI 利用のガイドライン
Azure OpenAI On Your Data は、AI を倫理的かつ責任を持って利用するために、以下のようなガイドラインや機能を提供しています。
【主な特徴】
- バイアス検出と軽減：AI の出力にバイアスが含まれていないかをチェックし、必要に応じて修正するツールを提供します。
- 透明性の確保：AI がどのように意思決定を行ったかを説明可能にする機能を提供し、結果の透明性を向上させます。
- 倫理的利用ポリシー：AI の責任ある使用に関するガイドラインやトレーニング資料が用意されています。
コンプライアンス対応
Azure OpenAI On Your Data は、Azure プラットフォームの一部として、高度なセキュリティ機能とコンプライアンス対応を提供しています。
【準拠している主な規制・基準】
- GDPR（EU 一般データ保護規則）
- HIPAA（医療保険の相互運用性と説明責任に関する法律）
- ISO 27001（情報セキュリティマネジメントの国際基準）
- SOC 2（内部統制の保証報告書）
※特定のコンプライアンス要件への適合は、お客様の具体的な実装と利用方法に依存する場合があります。
これらのセキュリティ機能とコンプライアンス対応により、Azure OpenAI On Your Data は、企業が求めるデータ保護基準を満たしながら、最新の AI ソリューションを安全に導入できる環境を提供します。
具体的なコンプライアンス要件については、最新の情報を Microsoft の公式ドキュメントで確認し、必要に応じて Microsoft サポートに相談することをお勧めします。
Azure OpenAI On Your Data 利用時のポイント
Azure OpenAI On Your Data を効果的に活用するには、いくつかの重要なポイントを理解し、適切に対応することが必要です。
このセクションでは、主要な考慮事項と最適化のヒントをご紹介します。
サポートされるデータ形式
Azure OpenAI On Your Data で対応可能なデータ形式は、さまざまな業務用途に対応しています。
以下のファイル形式がサポートされています。
【サポートされる主なデータ形式】
- .txt: プレーンテキストファイル
- .md: マークダウンファイル
- .html: HTML ファイル
- .docx: Microsoft Word の文書ファイル
- .pptx: Microsoft PowerPoint のプレゼンテーションファイル
- .pdf: PDF ファイル
応答の正確性と品質管理
Azure OpenAI On Your Data で、AI モデルの質の高さと正確性を維持し向上させるためには、次の方法を活用することが効果的です。
【品質向上のための施策】
- 1. 定期的な監査：AI の出力を人間が定期的に確認し、品質基準を保ちます。これにより、不適切な回答や誤解を防止します。
- 2. フィードバックループ：ユーザーからのフィードバックを集め、AI の応答内容を継続的に改善します。フィードバックの活用は、システムの強化に不可欠です。
- 3. コンテンツフィルタリング：不適切な内容や企業方針に合わない回答を検出し、排除するフィルタリング機能を導入することで、品質の一貫性を保ちます。
【正確性を保つための施策】
- プロンプトエンジニアリング：明確で具体的な指示を含むプロンプト（質問や命令）を設計することで、AI が意図通りの回答を出しやすくします。
- ファインチューニング：特定の業務や目的に合わせて AI モデルを調整し、企業固有の知識や専門分野の要件に適応させます。
- 多段階推論：複雑な質問や問題に対しては、段階的に回答を生成することで、より正確で詳細な結果を得ることができます。
これらの方法を取り入れることで、Azure OpenAI On Your Data の応答の質を高め、信頼性を維持することができます。
まとめ
本記事では、Azure OpenAI On Your Data について主要機能、導入方法、さまざまな使い方、セキュリティ対策、効果的な利用ポイントを詳しく紹介しました。
Azure OpenAI On Your Data は、企業の独自データを使った高度な AI 機能を提供し、RAG モデルを基盤としているもので、業務効率の向上や顧客体験の改善、データに基づく意思決定の促進など、多くの利点があります。正しく活用することで AI を使った企業の革新を進めていきましょう。
