다음에만 적용됩니다:
Foundry(클래식) 포털. 이 문서는 새 Foundry 포털에서 사용할 수 없습니다.
새 포털에 대해 자세히 알아봅니다.
참고
이 문서의 링크는 현재 보고 있는 Foundry(클래식) 설명서 대신 새 Microsoft Foundry 설명서의 콘텐츠를 열 수 있습니다.
중요
이 문서에서 미리 보기로 표시된 항목은 현재 미리 보기로 제공됩니다. 이 미리 보기는 서비스 수준 계약 없이 제공되며 Microsoft 프로덕션 워크로드에 권장하지 않습니다. 특정 기능이 지원되지 않거나 기능이 제한될 수 있습니다. 자세한 내용은 Microsoft Azure 미리 보기에 대한 사용 약관 참조하세요.
이 문서에서는 서버리스 API 배포를 사용하여 배포된 모델 카탈로그의 모델에 대한 콘텐츠 안전 기능에 대해 알아봅니다.
콘텐츠 필터 기본값
Azure AI는 Azure AI 콘텐츠 보안 콘텐츠 필터의 기본 구성을 사용하여 serverless API 배포 통해 배포된 모델에 대한 증오와 공정성, 자해, 성적 및 폭력을 포함한 4가지 범주에서 유해한 콘텐츠를 검색합니다. 콘텐츠 필터링에 대한 자세한 내용은 피해 범주 이해를 참조하세요.
텍스트 모델에 대한 기본 콘텐츠 필터링 구성은 중간 심각도 임계값에서 필터링하도록 설정되어 이 수준 이상에서 검색된 콘텐츠를 필터링합니다. 이미지 모델의 경우 기본 콘텐츠 필터링 구성이 낮은 구성 임계값으로 설정되고 이 수준 이상에서 필터링됩니다.
팁
서버리스 API 배포를 통해 배포되는 특정 모델 유형에는 콘텐츠 필터링을 사용할 수 없습니다. 이러한 모델 유형에는 모델 포함 및 시계열 모델이 포함됩니다.
콘텐츠 필터링은 서비스가 콘텐츠를 생성하라는 메시지를 처리할 때 동기적으로 발생합니다. 이와 같은 용도에는 Azure AI 콘텐츠 보안의 가격 책정 에 따라 별도 요금이 부과될 수 있습니다. 개별 서버리스 엔드포인트에 대해 콘텐츠 필터링을 사용하지 않도록 설정할 수 있습니다.
- 언어 모델을 처음 배포하는 경우
- 나중에 배포 세부 정보 페이지에서 콘텐츠 필터링 토글을 선택하여
모델 유추 API 이외의 API를 사용하여 서버리스 API 배포를 통해 배포된 모델을 사용한다고 가정합니다. 이러한 상황에서는 Azure AI 콘텐츠 보안 사용하여 별도로 구현하지 않는 한 콘텐츠 필터링(미리 보기)이 활성화되지 않습니다. Azure AI 콘텐츠 보안 시작하려면 Quickstart: 텍스트 콘텐츠 분석 참조하세요. 서버리스 API 배포를 통해 배포된 모델을 사용할 때 콘텐츠 필터링(미리 보기)을 사용하지 않는 경우 사용자를 유해한 콘텐츠에 노출시킬 위험이 더 높습니다.
피해 범주 이해
피해 범주
| 범주 | 설명 | API 용어 |
|---|---|---|
| 증오와 공정성 | 증오와 공정성의 피해는 특정 차별화된 특성을 기준으로 개인이나 정체성 그룹을 공격하거나, 차별적 언어를 사용하는 모든 콘텐츠를 의미합니다. 여기에는 다음이 포함되지만 이에 국한되지는 않습니다.
|
Hate |
| 성 관련 | 성적은 해부학 적 장기와 성기, 낭만적 인 관계 및 성적 행위와 관련된 언어를 묘사하며, 폭행이나 자신의 의지에 대한 강제 성적 폭력 행위로 묘사 된 것을 포함하여 에로틱하거나 애정어로 묘사 된 행위를 묘사합니다. 여기에는 다음이 포함되지만 이에 국한되지는 않습니다.
|
Sexual |
| 폭력 | 폭력은 누군가 또는 무언가를 다치게 하거나, 다치게 하거나, 손상시키거나, 죽이려는 신체적 행동과 관련된 언어를 설명합니다. 는 무기, 총 및 관련 엔터티를 설명합니다. 여기에는 다음이 포함되지만 이에 국한되지는 않습니다.
|
Violence |
| 자해 | 자해는 의도적으로 다치거나, 다치거나, 몸을 손상시키거나, 자신을 죽이기 위한 신체적 행동과 관련된 언어를 설명합니다. 여기에는 다음이 포함되지만 이에 국한되지는 않습니다.
|
SelfHarm |
| 작업 준수 | AI 에이전트가 사용자 지침 및 작업 목표에 따라 일관되게 동작하도록 도와줍니다. 잘못된 정렬된 도구 호출, 사용자 의도에 대한 부적절한 도구 입력 또는 출력, 응답과 고객 입력 간의 불일치와 같은 불일치를 식별합니다. |
심각도 수준
| 수준 | 설명 |
|---|---|
| 안전한 | 콘텐츠는 폭력, 자해, 성적 또는 증오 범주와 관련이 있을 수 있습니다. 그러나 이 용어들은 일반적으로 사용되며, 언론적, 과학적, 의료적, 그리고 대부분의 청중에게 적절하여 유사한 전문적인 맥락에서 사용됩니다. |
| 낮은 | 편견, 판단적 또는 의견 있는 견해를 표현하는 콘텐츠에는 언어의 공격적인 사용, 스테레오티핑, 가상의 세계(예: 게임, 문학)를 탐구하는 사용 사례 및 낮은 강도의 묘사가 포함됩니다. |
| 중간 | 특정 정체성 집단을 대상으로 모욕적, 조롱적, 위협적 또는 비하적인 언어를 사용하거나, 해로운 지시의 탐색 및 실행을 포함하는 묘사, 중간 수준의 강도로 피해를 미화·조장·정당화하는 환상을 포함하는 콘텐츠입니다. |
| 높음 | 명시적이고 심각한 유해 지침, 행동, 손상 또는 남용을 표시하는 콘텐츠에는 심각한 유해 행위, 극단적이거나 불법적인 형태의 피해, 과격화 또는 비합의적 권력 교환이나 남용에 대한 지지, 찬미 또는 홍보가 포함됩니다. |
요금 계산 방법
가격 책정 세부 정보는 Azure AI 콘텐츠 보안 가격 책정 볼 수 있습니다. Azure AI 콘텐츠 보안 프롬프트 또는 완료의 유효성을 검사할 때 요금이 발생합니다. Azure AI 콘텐츠 보안 프롬프트 또는 완료를 차단하는 경우 콘텐츠 평가와 유추 호출 모두에 대한 요금이 청구됩니다.