Сводка
Распространение содержимого, созданного пользователем, делает практически невозможным для людей модераторов для эффективного управления онлайн-платформами. Тем не менее, по мере роста объема создаваемого пользователем содержимого, поэтому важность онлайн-безопасности.
Microsoft Foundry Content Safety использует модели искусственного интеллекта для автоматического обнаружения насильственных, сексуальных, самоповреждения или ненавистного языка в режиме реального времени. Он выделяет уровень серьезности, чтобы человеческие модераторы могли сосредоточиться на высокоприоритетных случаях и быть подвержены меньшему количеству тревожного содержимого. Функция безопасности содержимого в Foundry включает в себя инструменты для модерирования материалов, созданных как пользователями, так и ИИ.
В этом модуле вы узнали, как функции Foundry Content Safety могут помочь брендам электронной коммерции, игровым компаниям и преподавателям, чтобы обеспечить безопасные пространства для пользователей.