Share via

クイックスタート: Azure AI Studio でコンテンツの安全性を備えたテキストと画像をモデレートする

  • [アーティクル]

重要

この記事で説明する機能の一部は、プレビューでのみ使用できる場合があります。 このプレビューはサービス レベル アグリーメントなしで提供されており、運用環境ではお勧めしません。 特定の機能はサポート対象ではなく、機能が制限されることがあります。 詳しくは、Microsoft Azure プレビューの追加使用条件に関するページをご覧ください。

このクイックスタートでは、Azure AI Studio の Azure AI Content Safety サービスを使ってテキストと画像のモデレートを行います。 Content Safety を使うと、アプリケーションやサービス内の有害なユーザー生成コンテンツや AI 生成コンテンツを検出できます。

注意事項

Azure AI Studio で提供されるサンプル コンテンツには、不快なものも含まれている場合があります。 サンプル画像は既定でぼかされています。 ユーザーの裁量が推奨されます。

前提条件

  • Azure サブスクリプション - 無料アカウントを作成します
  • Azure サブスクリプションを入手したら、Azure portal で Content Safety リソースを作成し、キーとエンドポイントを取得します。 リソースの一意の名前を入力し、サブスクリプションを選択して、リソース グループ、サポートされているリージョン、サポートされている価格レベルを選択します。 [作成] を選択します。
  • Azure AI Studio の AI Studio ハブ。

設定

  1. Azure AI Studio にサインインします。
  2. 作業するハブを選択します。
  3. 左側のナビゲーション メニューで [AI サービス] を選択します。 [Content Safety] パネルを選択します。 Azure AI Studio の [Content Safety] パネルが選択されているスクリーンショット。

テキストまたは画像をモデレートする

Azure AI Studio の Content Safety を開始するには、次のいずれかのタブを選択します。

Azure AI Studio には、テキスト モデレーションをすぐに試すことができる機能が用意されています。 "テキスト コンテンツのモデレーション" 機能では、コンテンツの種類、プラットフォームのポリシー、ユーザーに対する潜在的な影響など、さまざまな要因が考慮されます。 サンプル コンテンツに対してモデレーション テストを実行します。 次に、フィルターを構成して、テスト結果をさらに微調整します。 ブロックリストを使って、検出して対処する特定の用語を追加することもできます。

  1. Azure AI Studio の [Content Safety] ページで、[テキスト コンテンツのモデレート] パネルを選択します。
  2. ドロップダウン メニューから、AI Services リソースまたは Content Safety リソースの名前を選択します。
  3. 事前に記述されたテキスト サンプルを選択するか、入力フィールドに独自のサンプル テキストを記述することができます。
  4. 必要に応じて、[Configure filters] (フィルターの構成) タブでコンテンツ フィルターを構成します。スライダーを使って、各カテゴリのどの重大度レベルをモデルによって拒否するかを決定します。 サービスでは、検出されたすべての危害カテゴリがそれぞれの重大度レベル (0 - 安全、2 - 低、4 - 中、6 - 高) と共に返されますが、許可/ブロックの結果はフィルターの構成方法によって異なります。
  5. 必要に応じて、[ブロックリストの使用] タブを使ってブロックリストを設定します。既に作成済みのブロックリストを選択するか、ここで新しいブロックリストを作成することができます。 [編集] ボタンを使って、用語の追加と削除を行います。 同じフィルターで複数のブロックリストを設定することができます。
  6. フィルターの準備ができたら、[テストの実行] を選択します。

コードの表示とエクスポート

"テキスト コンテンツのモデレート"、"画像コンテンツのモデレート" どちらのシナリオでも、ページの上部にある [コードの表示] ボタンを使うと、重大度のフィルター処理、ブロックリスト、モデレーション機能の構成を含むサンプル コードを表示し、コピーすることができます。 次に、このコードを自分のアプリに展開できます。

リソースをクリーンアップする

不要な Azure コストが発生しないように、このクイックスタートで作成したリソースが不要になったら削除してください。 リソースを管理するために、Azure portal を使用できます。

次のステップ