Azure AI Content Safety の新機能
サービス内の新機能について説明します。 以下の項目には、リリース ノート、ビデオ、ブログの投稿、およびその他の種類の情報が含まれる可能性があります。 このページにブックマークを設定して、新機能、機能の強化、修正、ドキュメントの更新についての最新情報を入手してください。
2024 年 3 月
プロンプト シールドのパブリック プレビュー
以前はジェイルブレイク リスク検出と呼ばれていたこの更新された機能は、ユーザー プロンプト インジェクション攻撃を検出します。この攻撃では、ユーザーが意図的にシステムの脆弱性を悪用して、大規模言語モデルから未承認の動作を引き出します。 プロンプト シールドでは、ユーザー プロンプトによる直接的な攻撃と、入力されたドキュメントまたは画像に埋め込まれている間接的な攻撃の両方を分析します。 詳細については、「プロンプト シールド」を参照してください。
根拠性検出のパブリック プレビュー
根拠性検出 API では、大規模言語モデル (LLM) のテキスト応答が、ユーザーが提供するソース資料に基づいているかどうかを検出します。 根拠なしとは、ソース資料に存在していた事実に基づかない、または不正確な情報が LLM から生成されることを指します。 詳細については、「根拠性検出」を参照してください。
2024 年 1 月
Content Safety SDK の一般提供
Azure AI Content Safety サービスは、次のクライアント ライブラリ SDK を通じて一般提供されるようになりました。
- C#: パッケージ | API リファレンス | サンプル | クイックスタート: テキスト、イメージ
- Python: パッケージ | API リファレンス | サンプル | クイックスタート: テキスト、イメージ
- Java: パッケージ | API リファレンス | サンプル | クイックスタート: テキスト、イメージ
- JavaScript: パッケージ | API リファレンス | サンプル | クイックスタート: テキスト、イメージ
重要
Azure AI Content Safety SDK のパブリック プレビュー バージョンは、2024 年 3 月 31 日までに非推奨となります。 GA バージョンを使用するには、アプリケーションを更新してください。
2023 年 11 月
脱獄リスクと保護されたマテリアルの検出 (プレビュー)
脱獄リスクと保護済み素材の新しい API により、生成 AI の使用時、一部のリスクを軽減できます。
- 脱獄リスク検出では、大規模言語モデルに脱獄攻撃のリスクがないか、テキストがスキャンされます。 クイックスタート
- 保護済み素材検出では、既知のテキスト コンテンツ (曲の歌詞、記事、レシピ、一部の Web コンテンツなど) がないか、AI によって生成されたテキストがスキャンされます。 クイックスタート
脱獄リスクと保護されたマテリアルの検出は、米国東部および西ヨーロッパの Azure リージョンで利用できます。
2023 年 10 月
Azure AI Content Safety が一般提供 (GA) されました
Azure AI Content Safety サービスが、クラウド サービスの 1 つとして一般提供されました。
- このサービスは、他の多くの Azure リージョンで利用できます。 一覧については、「概要」を参照してください。
- Analyze API の戻り値の形式が変更されました。 最新の例については、「クイック スタート」を参照してください。
- 数種類の API について、名前と戻り値の形式が変更されました。 すべての破壊的変更を記載した一覧については、「移行ガイド」を参照してください。 その他のガイドとクイック スタートに、GA バージョンが反映されました。
Azure AI Content Safety の Java SDK と JavaScript SDK
Azure AI Content Safety サービスが、Java SDK と JavaScript SDK で利用可能になりました。 SDK は、Maven と npm の上で使用できます。 クイックスタートに従って始めてください。
2023 年 7 月
Azure AI Content Safety C# SDK
Azure AI Content Safety サービスが C# SDK を介して利用できるようになりました。 SDK は NuGet で入手できます。 クイックスタートに従って始めてください。
2023 年 5 月
Azure AI Content Safety パブリック プレビュー
Azure AI Content Safety は、不快なもの、危険なもの、またはその他の望ましくないものである可能性がある素材を検出します。 このサービスでは、問題のあるコンテンツを検出する最先端のテキストと画像のモデルが提供されます。 Azure AI Content Safety は、ユーザーや AI が生成した有害なコンテンツからアプリケーションとサービスを守るのに役立ちます。 クイックスタートに従って始めてください。