Azure AI Foundry Agent Service

Question

Azure AI Foundry Agent Serviceについての質問です。 Agentを作成し、ナレッジ設定にAI Searchを登録しました。その後、プロンプト文をAgentに送信した際に生成する回答はナレッジに登録されているAI Search（に紐づいているコンテナ）に格納されているファイル情報から回答すると思います。その際に読み込むファイル数は制限されていると認識しているのですが、読み込むファイル数の上限をなくす方法はありますでしょうか？ Agentの設定は以下の通りです。

モデル：gpt-4o-mini

リージョン：japaneast

ナレッジ：AI Search

アクション：未設定

接続されたエージェント：未設定

モデル設定

温度：1

上位Ｐ1

Answer 1

Hi QF_Azure,

Azure AI Foundry Agent Service で AI Search を知識ソースとして使用する場合、エージェントが回答生成時に読み込み、考慮できるドキュメントまたはファイルの数には固有の制限があります。この制限は主に、Azure Cognitive Search の制約によるものです。Azure Cognitive Search では、パフォーマンスと応答時間を維持するためにクエリごとに返されるドキュメント数が制限されています。また、基盤となる GPT-4o-mini モデルのトークン/コンテキスト ウィンドウの制限も制限されています。これらの技術的およびサービス設計上の制約により、現時点では読み込み可能なファイル数の上限を完全に排除することはできません。ただし、エージェントまたは AI Search 構成でそのような設定が公開されている場合は、取得するドキュメント数を増やすことができますが、その増加には依然として上限があります。大規模なデータセットを効果的に処理するには、ドキュメントを小さなチャンクに分割する、関連性を高めるためにセマンティック検索を適用する、またはより多くのドキュメントをより効率的に管理できるカスタム取得パイプラインを構築するなどの手法を使用することをお勧めします。これにより、モデルの入力制限を超えることなく関連情報を取得および要約できるため、実用的な制限を回避しながら優れた回答品質を維持できます。