책임 있는 AI는 AI 시스템의 작동 방식을 정의하는 일련의 원칙에 따라 안내됩니다. 이러한 원칙은 공정성, 안정성, 안전, 개인 정보 보호, 보안, 포용성, 투명성 및 책임에 초점을 맞춥니다. Microsoft 위험을 평가하고, AI 기능을 설계하고, 책임 있는 시스템 동작을 보장하는 방법을 제어하는 표준을 설정합니다.
이러한 원칙을 에이전트 설계에 적용하면 편견, 잘못된 정보 또는 개인 정보 침해와 같은 의도하지 않은 피해를 방지할 수 있습니다. 또한 사용자 신뢰 및 장기 채택을 지원합니다. 이러한 지침에 따라 사용자와 사회가 Microsoft 제품에서 기대하는 무결성 및 존중의 표준을 유지하면서 효과적으로 수행하는 AI 에이전트를 만들 수 있습니다.
이 문서에서는 에이전트 디자인에 적용되는 책임 있는 AI에 대한 개략적인 소개를 제공합니다. 포괄적인 지침은 Microsoft 책임 있는 AI 원칙 및 접근 방식 참조하세요.
책임 있는 AI 원칙
책임 있는 AI 원칙은 Microsoft 365 Copilot 에이전트를 디자인, 빌드 및 운영하는 방법을 안내합니다. 에이전트 동작, 데이터 처리 및 사용자 상호 작용에 대한 공유 표준을 설정하여 AI 시스템이 신뢰할 수 있고 안전하며 인간의 가치에 부합하도록 보장합니다.
이러한 원칙은 설계 및 개발에서 배포 및 지속적인 사용에 이르기까지 전체 에이전트 수명 주기에 적용됩니다. 상호 작용 디자인, 모델 및 지식 선택, 자율성, 보안 및 거버넌스에 대한 결정을 알려줍니다. 이러한 원칙에 따라 에이전트는 사용자 신뢰와 장기 채택을 유지하면서 책임감 있게 가치를 제공할 수 있습니다.
| 원칙 | 에이전트 디자인의 의미 |
|---|---|
| 공정 | AI 시스템은 모든 사용자에게 일관되고 공평한 결과를 제공해야 합니다. 에이전트 동작은 중요한 특성 또는 사용자 컨텍스트에 따라 부당한 처리를 만들거나 강화하는 것을 피해야 합니다. |
| 안정성 및 안전성 | AI 시스템은 다양한 조건에서 의도한 대로 수행해야 합니다. 에이전트는 안전하고 예측 가능한 동작을 지원하는 방식으로 가변성, 에지 사례 및 예기치 않은 입력을 처리해야 합니다. |
| 개인 정보 보호 및 보안 | AI 시스템은 사용자 데이터를 보호하고 설정된 개인 정보 보호 및 보안 요구 사항을 준수해야 합니다. 에이전트는 액세스 권한이 있는 정보만 사용해야 하며 해당 정보를 책임감 있게 처리해야 합니다. |
| 포용성 | AI 시스템은 모든 사용자에게 권한을 부여하고 다양한 요구 사항을 수용해야 합니다. 에이전트는 접근성, 언어 변형 및 다양한 수준의 기술적 숙련도를 고려하여 포괄적인 환경을 보장해야 합니다. |
| 투명성 | AI 시스템은 해당 기능과 제한 사항을 명확히 해야 합니다. 에이전트는 사용자가 정보에 입각한 결정을 내릴 수 있도록 수행할 수 있는 작업, 정보 사용 방법 및 출력 생성 방법을 전달해야 합니다. |
| 책임성 | AI 시스템에는 명확한 감독이 필요합니다. 에이전트를 개발하는 팀은 시스템이 책임 있는 AI 원칙을 준수하고, 규정 준수 요구 사항을 충족하며, 적절한 인적 거버넌스에 따라 운영되도록 할 책임이 있습니다. |
에이전트 개발에 책임 있는 AI 적용
Microsoft 구조화된 모델을 사용하여 AI 에이전트 개발 전반에 걸쳐 책임 있는 AI 원칙을 통합합니다. 이 모델은 팀이 위험을 식별하고, 올바른 완화를 찾고, 에이전트의 수명 주기 동안 책임 있는 행동을 유지하는 데 도움이 됩니다.
디자이너의 결정은 이러한 함수가 수행되는 방식에 직접적인 영향을 줍니다. 다음 주요 함수는 책임 있는 AI를 구현하는 방법을 설명합니다.
| Function | Description |
|---|---|
| Govern | 에이전트를 디자인하고 배포할 때 팀이 따르는 정책, 역할 및 프로세스를 설정합니다. 거버넌스는 책임 있는 AI 원칙과 일치하도록 보장하고 명확한 책임을 제공합니다. |
| 지도 | AI 시나리오와 관련된 잠재적 위험을 식별하고 우선 순위를 지정합니다. 매핑을 사용하면 완화 전략에 대한 정보에 입각한 의사 결정을 내릴 수 있으며 AI 솔루션이 의도한 컨텍스트에 적합한지 여부를 결정하는 데 도움이 됩니다. |
| Measure | 위험 및 시스템 성능을 평가하여 완화의 설계 및 구체화를 안내합니다. AI 기능이 복잡해지고 지속적인 평가가 필요하므로 측정은 필수적입니다. |
| 관리 | 배포 및 지속적인 작업 전반에 걸쳐 위험 완화를 적용하고 유지 관리합니다. 팀은 시스템의 동작을 모니터링하고 필요에 따라 완화 조치를 조정하여 에이전트가 시간이 지나도 책임 있는 상태를 유지하도록 합니다. |
AI 투명도 및 안전 필터
투명성은 책임 있는 AI의 초석입니다. 에이전트를 디자인할 때 제품 환경 내에서 AI의 존재와 역할을 명확하게 전달합니다. 에이전트의 목적, 기능, 제한 사항 및 잠재적 위험에 대해 사용자에게 교육합니다. 이러한 투명성은 사용자가 정보에 입각한 의사 결정을 내릴 수 있도록 하고 시스템에 대한 신뢰를 키워줍니다.
투명성의 실질적인 구현에는 AI가 작동하는 방식과 사용자가 기대할 수 있는 것을 설명하는 투명도 정보 및 제품 내 공개가 포함됩니다. 예를 들어 비즈니스 채팅 환경에서 에이전트는 "AI 생성 콘텐츠가 올바르지 않을 수 있음"과 같은 레이블과 같은 명확한 지표를 사용하여 적절한 기대치를 설정하고 책임 있는 사용을 지원합니다.
안전 필터
안전 필터는 에이전트가 적절하고 존중하며 Microsoft 책임 있는 AI 원칙에 부합하는 방식으로 동작하도록 하는 데 도움이 됩니다. 이러한 보호 장치는 상호 작용 전반에 걸쳐 사용자 개인 정보 및 중요한 정보를 보호하면서 유해하거나 편향되거나 오해의 소지가 있는 출력의 위험을 줄입니다.
Copilot 구축된 에이전트는 공정성, 안정성, 개인 정보 보호 및 투명성에 초점을 맞춘 Microsoft 책임 있는 AI 약속을 상속합니다. 안전 필터는 에이전트가 사용자 입력에 응답하고, 중요한 토픽을 처리하고, 데이터에 대한 액세스를 관리하는 방법을 안내하여 이러한 약정을 적용하는 데 중요한 역할을 합니다.
Important
디자이너는 안전 필터를 직접 구성하지 않습니다. Microsoft 플랫폼 수준에서 적용합니다. 그러나 톤, 범위 및 투명성에 대한 디자인 결정은 안전 필터가 보호하도록 설계되었다는 신뢰를 직접 강화하거나 훼손합니다.
에이전트는 보안 필터를 일관되게 적용하여 사용자 신뢰와 신뢰를 지원할 수 있습니다. 사용자는 책임 있는 행동 및 AI의 윤리적 사용을 촉진하기 위해 보호 장치가 마련되어 있다는 것을 알고 에이전트 응답에 더 잘 의존할 수 있습니다.
Tip
자세한 원칙, 거버넌스 프레임워크 및 투명성 보고를 포함하여 Microsoft 책임 있는 AI 접근 방식에 대한 포괄적인 지침은 Microsoft 책임 있는 AI 원칙 및 접근 방식을 참조하세요.