Mulai cepat: Kategori kustom (mode standar)

Ikuti panduan ini untuk menggunakan REST API kategori Kustom Keamanan Konten Azure AI untuk membuat kategori konten Anda sendiri untuk kasus penggunaan Anda dan melatih Keamanan Konten Azure AI untuk mendeteksinya dalam konten teks baru.

Penting

Fitur ini hanya tersedia di wilayah Azure tertentu. Lihat Ketersediaan wilayah.

Penting

Izinkan cukup waktu untuk pelatihan model

Eksekusi menyeluruh pelatihan kategori kustom dapat memakan waktu sekitar lima jam hingga sepuluh jam. Rencanakan alur moderasi Anda dengan sesuai.

Prasyarat

• Langganan Azure - buat langganan gratis
• Setelah Anda memiliki langganan Azure, buat sumber daya Content Safety di portal Azure untuk mendapatkan kunci dan titik akhir Anda. Masukkan nama unik untuk sumber daya Anda, pilih langganan Anda, dan pilih grup sumber daya, wilayah yang didukung, dan tingkat harga yang didukung. Lalu pilih Buat.
  • Sumber daya membutuhkan waktu beberapa menit untuk disebarkan. Setelah selesai, Pilih buka sumber daya. Di panel kiri, di bawah Manajemen Sumber Daya, pilih Kunci Langganan dan Titik Akhir. Salin titik akhir dan salah satu nilai kunci ke lokasi sementara untuk digunakan nanti.
• Buat juga kontainer penyimpanan blob Azure tempat Anda akan menyimpan file anotasi pelatihan.
• Salah satu hal berikut ini terinstal:
  • cURL untuk panggilan REST API.
  • Python 3.x terinstal

Menyiapkan data pelatihan Anda

Untuk melatih kategori kustom, Anda memerlukan contoh data teks yang mewakili kategori yang ingin Anda deteksi. Dalam panduan ini, Anda dapat menggunakan data sampel. File anotasi yang disediakan berisi perintah teks tentang saran kelangsungan hidup dalam situasi berkemah/hutan belantara. Model terlatih akan belajar mendeteksi jenis konten ini dalam data teks baru.

Tip

Untuk tips membuat himpunan data Anda sendiri, lihat panduan Cara Penggunaan.

1. Unduh file data teks sampel dari repositori GitHub.
2. Unggah file .jsonl ke kontainer blob akun Azure Storage Anda. Kemudian salin URL blob ke lokasi sementara untuk digunakan nanti.

Memberikan akses penyimpanan

Selanjutnya, Anda perlu memberikan akses sumber daya Content Safety anda untuk membaca dari sumber daya Azure Storage. Aktifkan identitas Terkelola yang ditetapkan sistem untuk instans Azure AI Content Safety dan tetapkan peran Kontributor Data Blob Penyimpanan/Pemilik/Pembaca ke identitas:

1. Aktifkan identitas terkelola untuk instans Azure AI Content Safety.

   

2. Tetapkan peran Kontributor/Pemilik Data Blob Penyimpanan ke identitas Terkelola. Peran apa pun yang disorot di bawah ini harus berfungsi.

   

   

   

Membuat dan melatih kategori kustom

cURL

Dalam perintah di bawah ini, ganti <your_api_key>, <your_endpoint>, dan parameter lain yang diperlukan dengan nilai Anda sendiri. Kemudian masukkan setiap perintah di jendela terminal dan jalankan.

Membuat versi kategori baru

curl -X PUT "<your_endpoint>/contentsafety/text/categories/survival-advice?api-version=2024-02-15-preview" \
     -H "Ocp-Apim-Subscription-Key: <your_api_key>" \
     -H "Content-Type: application/json" \
     -d "{
            \"categoryName\": \"survival-advice\",
            \"definition\": \"text prompts about survival advice in camping/wilderness situations\",
            \"sampleBlobUrl\": \"https://<your-azure-storage-url>/example-container/survival-advice.jsonl\"
        }"

Mulai proses build kategori:

Ganti <your_api_key> dan <your_endpoint> dengan nilai Anda sendiri. Izinkan cukup waktu untuk pelatihan model: eksekusi menyeluruh pelatihan kategori kustom dapat memakan waktu sekitar lima jam hingga sepuluh jam. Rencanakan alur moderasi Anda dengan sesuai. Setelah Anda menerima respons, simpan ID operasi (disebut sebagai id) di lokasi sementara. ID ini akan diperlukan untuk mengambil status build menggunakan GET status API di bagian berikutnya.

curl -X POST "<your_endpoint>/contentsafety/text/categories/survival-advice:build?api-version=2024-02-15-preview" \
     -H "Ocp-Apim-Subscription-Key: <your_api_key>" \
     -H "Content-Type: application/json"

Dapatkan status build kategori:

Untuk mengambil status, gunakan yang id diperoleh dari respons API sebelumnya dan letakkan di jalur API di bawah ini.

curl -X GET "<your_endpoint>/contentsafety/text/categories/operations/<id>?api-version=2024-02-15-preview" \
     -H "Ocp-Apim-Subscription-Key: <your_api_key>" \
     -H "Content-Type: application/json"

Menganalisis teks dengan kategori yang dikustomisasi

Jalankan perintah berikut untuk menganalisis teks dengan kategori yang dikustomisasi. Ganti <your_api_key> dan <your_endpoint> dengan nilai Anda sendiri.

curl -X POST "<your_endpoint>/contentsafety/text:analyzeCustomCategory?api-version=2024-02-15-preview" \
     -H "Ocp-Apim-Subscription-Key: <your_api_key>" \
     -H "Content-Type: application/json" \
     -d "{
            \"text\": \"<Example text to analyze>\",
            \"categoryName\": \"survival-advice\", 
            \"version\": 1
        }"

Python

Pertama, Anda perlu menginstal pustaka Python yang diperlukan:

pip install requests

Kemudian, buka skrip Python baru dan tentukan variabel yang diperlukan dengan detail sumber daya Azure Anda sendiri:

import requests

API_KEY = '<your_api_key>'
ENDPOINT = '<your_endpoint>'

headers = {
    'Ocp-Apim-Subscription-Key': API_KEY,
    'Content-Type': 'application/json'
}

Membuat kategori baru

Anda dapat membuat kategori baru dengan nama kategori, definisi, dan sample_blob_url, dan Anda akan mendapatkan nomor versi yang dibuat secara otomatis dari kategori ini.

def create_new_category_version(category_name, definition, sample_blob_url):
    url = f"{ENDPOINT}/contentsafety/text/categories/{category_name}?api-version=2024-02-15-preview"
    data = {
        "categoryName": category_name,
        "definition": definition,
        "sampleBlobUrl": sample_blob_url
    }
    response = requests.put(url, headers=headers, json=data)
    return response.json()

# Replace the parameters with your own values
category_name = "survival-advice"
definition = "text prompts about survival advice in camping/wilderness situations"
sample_blob_url = "https://<your-azure-storage-url>/example-container/survival-advice.jsonl"

result = create_new_category_version(category_name, definition, sample_blob_url)
print(result)

Memulai proses build kategori

Anda dapat memulai proses build kategori dengan nama kategori dan nomor versi. Izinkan cukup waktu untuk pelatihan model: eksekusi menyeluruh pelatihan kategori kustom dapat memakan waktu sekitar lima jam hingga sepuluh jam. Rencanakan alur moderasi Anda dengan sesuai. Setelah menerima respons, pastikan Anda menyimpan ID operasi (disebut sebagai id) di suatu tempat seperti buku catatan Anda. ID ini akan diperlukan untuk mengambil status build menggunakan fungsi 'get_build_status' di bagian berikutnya.

def trigger_category_build_process(category_name, version):
    url = f"{ENDPOINT}/contentsafety/text/categories/{category_name}:build?api-version=2024-02-15-preview&version={version}"
    response = requests.post(url, headers=headers)
    return response.status_code

# Replace the parameters with your own values
category_name = "survival-advice"
version = 1

result = trigger_category_build_process(category_name, version)
print(result)

Dapatkan status build kategori:

Untuk mengambil status, gunakan yang id diperoleh dari respons sebelumnya.

def get_build_status(id):
    url = f"{ENDPOINT}/contentsafety/text/categories/operations/{id}?api-version=2024-02-15-preview"
    response = requests.get(url, headers=headers)
    return response.status_code

# Replace the parameter with your own value
id = "your-operation-id"

result = get_build_status(id)
print(result)

Menganalisis teks dengan kategori yang dikustomisasi

Anda perlu menentukan nama kategori dan nomor versi (opsional; layanan menggunakan yang terbaru secara default) selama inferensi. Anda dapat menentukan beberapa kategori jika sudah ditentukan.

def analyze_text_with_customized_category(text, category_name, version):
    url = f"{ENDPOINT}/contentsafety/text:analyzeCustomCategory?api-version=2024-02-15-preview"
    data = {
        "text": text,
        "categoryName": category_name,
        "version": version
    }
    response = requests.post(url, headers=headers, json=data)
    return response.json()

# Replace the parameters with your own values
text = "<Example text to analyze>"
category_name = "survival-advice"
version = 1

result = analyze_text_with_customized_category(text, category_name, version)
print(result)

Konten terkait

• Untuk informasi tentang operasi Kategori kustom lainnya, lihat panduan Cara Penggunaan.
• Konsep kategori kustom
• Memoderasi konten dengan Keamanan Konten