Azure AI Studio でプロンプトフローコンピューティングセッションを作成して管理する

[アーティクル]
05/21/2024

重要

この記事で説明する機能の一部は、プレビューでのみ使用できる場合があります。このプレビューはサービスレベルアグリーメントなしで提供されており、運用環境ではお勧めしません。特定の機能はサポート対象ではなく、機能が制限されることがあります。詳しくは、Microsoft Azure プレビューの追加使用条件に関するページをご覧ください。

プロンプトフローを実行するには、コンピューティングセッションが必要です。 Azure AI Studio を使用してプロンプトフローコンピューティングセッションを作成および管理します。

プロンプトフローコンピューティングセッションには、必要なすべての依存関係パッケージを含む Docker イメージなど、アプリケーションの実行に必要なコンピューティングリソースがあります。 Azure AI Studio では、フローの実行に加えて、プロンプトまたはコードの内容を更新するときに、フロー内に組み込まれているツールの正確性と機能を検証して確認するために、コンピューティングセッションが利用されます。

前提条件

Azure AI Studio にサインインし、プロンプトフローを選択します。

コンピューティングセッションを作成する

コンピューティングセッションの開始時には、既定の設定を使用することも、詳細設定をカスタマイズすることもできます。

既定の設定でコンピューティングセッションを開始する

既定では、コンピューティングセッションはフローフォルダー内の flow.dag.yaml で定義された環境を使用します。これは、ワークスペースに十分なクォータを持つ仮想マシン (VM) サイズのサーバーレスコンピューティング上で実行されます。

Azure AI Studio のプロジェクトに移動します。
左側のウィンドウから [フロー] を選択し、実行するフローを選択します。
プロンプトフローの上部のツールバーから [コンピューティングセッションを開始する] を選択します。

詳細設定でコンピューティングセッションを開始する

詳細設定では、コンピューティングの種類を選択できます。サーバーレスコンピューティングとコンピューティングインスタンスのどちらかを選択できます。

Azure AI Studio のプロジェクトに移動します。
左側のウィンドウから [フロー] を選択し、実行するフローを選択します。
プロンプトフローの上部のツールバーから、[コンピューティングセッションを開始する] ボタンの右側にあるドロップダウン矢印を選択します。 [詳細設定から始める] を選択して、コンピューティングセッションをカスタマイズします。

サーバーレスコンピューティングとコンピューティングインスタンスのどちらかを選択できます。
- サーバーレスコンピューティングを選択する場合は、次のように設定します。
  - コンピューティングセッションで使用する VM サイズをカスタマイズします。
  - アイドル時間をカスタマイズする。使用されていない場合は、そのコンピューティングセッションを削除することでコードを保存します。
  - ユーザー割り当てマネージド ID を設定する。コンピューティングセッションではこの ID を使用して基本イメージをプルし、パッケージをインストールします。ユーザー割り当てマネージド ID に、Azure Container Registry のプルアクセス許可があることを確認してください。
  ユーザー割り当て ID を設定しない場合、プロンプトフローは既定でユーザー ID を使用します。ワークスペースのユーザー割り当て ID を作成および更新する方法の詳細を確認してください。
- コンピューティングインスタンスを選択する場合は、アイドルシャットダウン時間のみを設定できます。
  - これは既存のコンピューティングインスタンスであるため、VM のサイズは固定され、コンピューティングセッション側で変更することはできません。
  - このコンピューティングセッションに使用される ID はコンピューティングインスタンスでも定義され、既定ではユーザー ID が使用されます。コンピューティングインスタンスに ID を割り当てる方法の詳細
  - アイドルシャットダウン時間は、コンピューティングセッションの有効期間を定義するために使用されます。コンピューティングセッションが設定した時間アイドルであれば、自動的に削除されます。コンピューティングインスタンスでアイドルシャットダウンを有効にしている場合、そのインスタンスはシャットダウンされますが、削除されることはありません。
[次へ] を選択して基本イメージ設定を指定します。既定の基本イメージを使用するか、カスタムベースイメージを指定します。カスタマイズした基本イメージを選択した場合は、イメージの URL とイメージタグを入力してください。パブリック docker レジストリまたは Azure Container Registry (ACR) にあるイメージのみがサポートされます。 ACR でイメージを指定する場合は、お客様 (または ID を管理するユーザー) に ACR プルアクセス許可があることを確認してください。
[次へ] を選択して、設定を確認します。
[コンピューティングセッションを適用して開始する] を選択して、コンピューティングセッションを開始します。

コンピューティングセッションを管理する

コンピューティングセッションを管理するには、フローページの上部のツールバーで[実行中のコンピューティングセッション] を選択します。

[コンピューティングセッション設定を変更する] コンピューティングセッション構成ページを開き、コンピューティングセッションの VM 側とアイドル時間を定義できます。
requirements.txt からのパッケージのインストール プロンプトフロー UI で requirements.txt を開くと、パッケージを追加できます。
インストールされているパッケージの表示 コンピューティングセッションにインストールされているパッケージを表示します。これには、基本イメージにベイクされたパッケージと、フローフォルダー内の requirements.txt ファイルで指定されたパッケージが含まれます。
コンピューティングセッションのリセット 現在のコンピューティングセッションが削除され、同じ環境で新しいコンピューティングセッションが作成されます。パッケージの競合が発生した場合は、このオプションを試すことができます。
コンピューティングセッションの停止 現在のコンピューティングセッションが削除されます。基になるサーバーレスコンピューティングにアクティブなコンピューティングセッションがない場合、コンピューティングリソースも削除されます。コンピューティングセッションがコンピューティングインスタンス上にある場合、セッションを停止すると、そのインスタンスはアイドル状態になります。

フローフォルダー内の requirements.txt ファイルにパッケージを追加することで、このフローの実行に使用する環境を簡単にカスタマイズできます。このファイルにさらにパッケージを追加した後は、次のいずれかのオプションを選択します。

[Save and install] (保存してインストール) を使用すると、フローフォルダー内の pip install -r requirements.txt がトリガーされます。インストールするパッケージによって、このプロセスは数分かかる場合があります。
[Save only] (保存のみ) を使用すると、requirements.txt ファイルの保存だけが行われます。後から自分でパッケージをインストールできます。

Note

requirements.txt の場所とファイル名を変更できますが、必ずフローフォルダー内の flow.dag.yaml ファイル内でもそれらを変更してください。

requirements.txt 内では promptflow と promptflow-tools のバージョンを固定しないでください。これは既にコンピューティングセッションの基本イメージ内に含めてあります。

Azure DevOps のプライベートフィードにパッケージを追加する

Azure DevOps でプライベートフィードを使用する場合は、次の手順に従います。

ユーザー割り当てマネージド ID を作成し、この ID を Azure DevOps 組織に追加します。詳細については、「サービスプリンシパルとマネージド ID を使用する」を参照してください。

Note

[ユーザーの追加] ボタンが表示されていない場合は、おそらくこのアクションを実行するために必要なアクセス許可がありません。
ユーザー割り当て ID をプロジェクトに追加するか、ID を更新します。
プライベートフィードの URL に {private} を追加します。たとえば、Azure DevOps の test_feed から test_package をインストールする場合は、次のように requirements.txt に -i https://{private}@{test_feed_url_in_azure_devops} を追加します。
```
-i https://{private}@{test_feed_url_in_azure_devops}
test_package
```
コンピューティングセッションが実行されていない場合は [詳細設定から始める] でユーザー割り当てマネージド ID を指定し、コンピューティングセッションが実行されている場合は [編集] ボタンを使用します。

基本イメージを変更する

既定では、最新のプロンプトフローイメージが基本イメージとして使われます。別の基本イメージを使う場合は、独自の基本イメージをビルドする必要があります。 Docker イメージは、プロンプトフローの基本イメージ (mcr.microsoft.com/azureml/promptflow/promptflow-runtime:<newest_version>) からビルドする必要があります。できる限り最新バージョンの基本イメージを使用します。

プロンプトフローを開きます。
上部のツールバーで [生ファイルモード] を選択して、ファイルエディターで編集できるようにします。
[ファイル] セクションを開き、flow.dag.yaml を選択します。
flow.dag.yaml ファイルの environment セクションでイメージを指定します。たとえば、イメージ <your-custom-image> を使用するには、次のコードに追加します。
```
environment:
    image: <your-custom-image>
    python_requirements_txt: requirements.txt
```

コンピューティングインスタンスランタイムをアップグレードする

コンピューティングインスタンスランタイムを以前作成していた場合、次の手順を使用してコンピューティングセッションに切り替えます。

フローフォルダーの requirements.txt ファイルを準備します。詳細については、コンピューティングセッションの管理に関するページを参照してください。
カスタム環境を作成する場合は、環境の詳細ページからイメージを取得し、フローフォルダーの flow.dag.yaml ファイルでそれを指定できます。詳細については、「基本イメージを変更する」を参照してください。イメージに対する acr pull アクセス許可があることを確認してください。
有効期間を手動で管理する場合は、既存のコンピューティングインスタンスを引き続き使用できます。

次の方法で共有

Azure AI Studio でプロンプトフローコンピューティングセッションを作成して管理する

前提条件