Определите доверие, отслеживаемость и прозрачность

Доверие, отслеживаемость и прозрачность помогают системам агентов следовать ответственным принципам ИИ, поддерживать аудитируемые операции и обеспечивать чёткую видимость процессов обработки данных и принятия решений. Эта статья закладывает основу для безопасного, соответствующего и ответственного развертывания агентов в корпоративных средах.

• Trust гарантирует, что агенты следуют ответственным принципам ИИ, соблюдают нормативные требования и обеспечивают безопасность данных на протяжении всех операций.
• Отслеживаемость требует, чтобы все действия и решения были ясными и подлежащими проверке, что позволяет пользователям всесторонне понимать и проверять работу агентов.
• Прозрачность гарантирует, что пользователи и администраторы понимают места хранения данных и модели использования, а также могут последовательно проверять источники информации.

Механизмы прозрачности

Механизмы прозрачности обеспечивают пользователям и администраторам доступ к работе агентов, обработке данных и процессам принятия решений. Эти механизмы включают логирование аудита, поиск ответов и чёткую коммуникацию о возможностях и ограничениях агента.

Эффективная прозрачность требует от агентов чёткого указания источников информации, объяснения процессов рассуждения при необходимости и ведения подробных журналов всех операций для соблюдения требований и устранения неполадок.

Непрерывный мониторинг и соблюдение требований

Доверие, отслеживаемость и прозрачность требуют постоянного мониторинга и оценки, чтобы агенты продолжали работать в рамках установленных границ безопасности и соответствия. Это требование включает регулярные оценки безопасности, аудиты соответствия и сбор отзывов пользователей для выявления потенциальных проблем до их влияния на операционную деятельность.

Системы мониторинга должны отслеживать работу агентов, события безопасности, удовлетворённость пользователей и показатели соответствия, чтобы обеспечить всестороннюю видимость работы и эффективность агентов со временем.

Используйте следующие статьи для определения доверия, отслеживаемости и прозрачности:

• основы безопасности и соответствия: Понимание обязательств по безопасности и сертификации соответствия, доступных на платформах агентов ИИ Microsoft.
• Ответственный ИИ: Внедряйте принципы ответственного ИИ Microsoft при проектировании и внедрении решений на основе агентов.
• модели управления и администрирования: Поддерживайте безопасность и контроль, понимая базовые модели управления и администрирования при развертывании агентов для Microsoft 365.
• Справочные потоки данных и модели угроз для оценки безопасности: Понимайте потоки данных агентов для выявления границ безопасности, требований доверия и потенциальных уязвимостей в агентных системах.