Введение
Объем содержимого, созданного пользователем, размещенного в Интернете, быстро растет. Мы также все чаще осознаем необходимость защиты всех от неуместного или вредного содержимого.
Microsoft Foundry Content Safety — это служба искусственного интеллекта, предназначенная для того, чтобы разработчики включали расширенную безопасность содержимого в свои приложения и службы.
Проблемы в поддержании безопасных и уважаемых онлайн-пространств растут для команд разработчиков, ответственных за размещение онлайн-обсуждений. Foundry Content Safety определяет потенциально небезопасное содержимое и помогает организациям соответствовать нормативным требованиям и соответствовать собственным стандартам качества.
Потребность в улучшении безопасности контента в Интернете имеет четыре основных драйвера:
- Увеличение вредного содержимого: был огромный рост пользовательского контента, в том числе вредного и неуместного содержимого.
- Нормативное давление: давление правительства на регулирование онлайн-содержимого.
- Прозрачность. Пользователям требуется прозрачность в соответствии со стандартами и принудительной применением режим палатки.
- Сложное содержимое: технологии упрощают публикацию многомодального содержимого и видео.
Примечание.
Безопасность содержимого Microsoft Foundry заменяет Azure Content Moderator, который был устаревшим в феврале 2024 года и будет прекращён к февралю 2027 года.
В этом модуле вы узнаете о ключевых функциях безопасности содержимого Microsoft Foundry и о том, когда они могут использоваться.