책임 있는 AI 지도 원칙 파악
마지막 단원에서는 AI의 사회적 의미 중 일부에 대해 설명했습니다. AI 기술의 의도하지 않은 결과를 예상하고 완화할 기업, 정부, NGO, 학계 연구자의 책임에 관해 설명했습니다. 이러한 책임을 고려하는 조직이 늘어나면서 AI 노력을 안내하는 내부 정책과 관행을 만드는 사례가 늘고 있습니다.
Microsoft는 AI 개발 및 사용의 지침이 되어야 한다고 믿는 여섯 가지 원칙, 즉 공정성, 안정성 및 안전성, 개인 정보 보호 및 보안, 포용성, 투명성, 책임성을 파악했습니다. 특히 우리가 일상적으로 사용하는 제품과 서비스에서 지능형 기술이 갈수록 보편화됨에 따라 Microsoft에 이 원칙은 AI에 대한 책임성 있고 신뢰할 수 있는 접근 방식의 기초입니다.
공정성
AI 시스템은 모든 사람을 공정하게 대하고 비슷한 상황에 있는 집단에게 상이한 방식으로 영향을 미치지 않아야 합니다. 예를 들어 AI 시스템이 의료, 대출 신청 또는 고용에 관한 지침을 제공하는 경우, 증상, 재정 상황 또는 전문 자격이 비슷한 모든 사람에게 동일한 제안을 해야 합니다.
AI 시스템의 공정성을 보장하려면 다음을 수행해야 합니다.
- 다음과 같은 질문을 통해 AI 시스템의 범위, 정신, 잠재적 사용을 이해합니다. 시스템은 어떻게 작동하도록 되어 있나요? 시스템은 누구를 위해 일하도록 설계되었나요? 시스템은 모두에게 공평하게 작동하나요? 다른 사람들에게 피해를 줄 수도 있을까요?
- 다양한 인재 풀을 유치합니다. 설계 팀에 배경, 경험, 교육, 관점이 다양한 팀원을 포함시켜 우리가 사는 세상을 반영하도록 합니다.
- 데이터 출처를 평가하고 데이터 구성 방식을 이해하며 데이터가 대표성을 갖는지 테스트하여 데이터 세트의 바이어스를 파악합니다. 바이어스는 수집부터 모델링 및 작동까지 생성의 모든 단계에서 유입될 수 있습니다. 리소스 섹션에서 사용할 수 있는 책임 있는 AI 대시보드에는 이 작업에 도움이 되는 기능이 포함되어 있습니다.
- 모델의 투명성과 이해 가능성을 개선하는 도구와 기법을 적용하여 기계 학습 알고리즘의 바이어스를 파악합니다. Azure OpenAI Service에서 제공하는 모델과 같이 미리 빌드된 모델을 사용하는 경우 Microsoft 및 OpenAI가 편향을 방지하기 위해 노력하고 있음을 고려합니다. 그러나, 사용자는 모델에서 제공하는 결과에 특히 주의해야 합니다.
- 인간의 검토와 도메인 전문 지식을 활용합니다. 특히 AI를 사용하여 사람에 대한 결과적 결정을 위한 정보를 제공하는 경우, 직원들이 AI 결과의 의미와 영향을 이해하도록 교육하세요. AI를 사용하는 결정은 항상 사용자 검토와 연결되어야 합니다. 디자인 프로세스 및 배포 결정에 관련 주제 전문가를 포함합니다. 예를 들어 신용 점수 매기기 AI 시스템에 대한 소비자 신용 주제 전문가를 포함할 수 있습니다. AI를 Copilot로 사용해야 합니다. 즉, 작업을 더 원활하고 빠르게 수행하는 데 도움이 되지만 어느 정도의 감독이 필요한 보조 도구입니다.
- AI 시스템의 바이어스를 탐지, 예방, 처리하는 데 도움이 되는 다른 기관 및 기업의 모범 사례, 분석 기법, 도구를 조사하고 채택합니다.
안정성 및 안전성
신뢰를 구축하기 위해서는 정상적인 상황뿐 아니라 예기치 못한 조건에서도 AI 시스템이 안정적이고 안전하며 일관되게 작동하는 것이 중요합니다. 이 시스템은 예상하지 못한 조건에서도 원래 설계대로 안전하게 대응하고 유해한 조작에 대한 저항성이 있어야 합니다. 또 해당 시스템이 실제 작동 조건에서 의도대로 동작하는지 확인할 수 있어야 합니다. 시스템이 동작하는 방식과 시스템이 안정적이고 안전하게 처리할 수 있는 다양한 조건은 대체로 개발자가 설계 및 테스트 중에 예상한 상황의 범위를 반영합니다.
AI 시스템의 안정성과 안전을 보장하려면 다음을 수행해야 합니다.
- 데이터와 모델의 품질 및 적합성을 평가하고, 지속적인 성능을 모니터링하며, 확립된 성능 척도에 따라 시스템이 의도대로 동작하고 있는지 확인하려면 AI 시스템을 감사하는 프로세스를 개발하세요.
- 설계 사양, 학습 데이터에 관한 정보, 발생한 학습 실패 및 학습 데이터의 잠재적 부족, 생성된 추론 및 유의미한 예측 등 시스템 작동에 관한 상세한 설명을 제공합니다.
- 우발적인 시스템 상호 작용, 악성 데이터 유입 또는 사이버 공격 같은 의도하지 않은 상황을 고려하여 설계하세요.
- 특히 AI를 사용하여 사람에 관한 결과적 결정을 내리는 경우에는 설계 및 구현 프로세스에 도메인 전문가를 참여시킵니다.
- AI 시스템 개발 및 배포 중에 엄격한 테스트를 수행하여 시스템이 예기치 않은 상황에 안전하게 대응하도록 하고, 예상하지 않은 성능 오류가 없도록 하며, 예상하지 않은 방법으로 진화하지 않도록 합니다. 인간의 안전이나 대규모 모집단에 영향을 주는 중대한 시나리오에 관련된 AI 시스템은 랩 시나리오와 실제 시나리오에서 모두 테스트해야 합니다.
- 큰 영향을 미치는 결정을 하거나 위험한 상황에서 AI 시스템이 언제 어떻게 인간의 입력을 구해야 하는지 평가하세요. 의미 있고 이해할 수 있는 방식으로 AI 시스템이 인간에게 제어권을 어떻게 이전해야 하는지 고려하세요. 매우 큰 영향을 미치는 결정에서는 필수적 수준의 입력을 인간이 하도록 AI 시스템을 설계합니다.
- 성능 문제를 신속히 해결할 수 있도록 사용자가 성능 문제를 보고할 수 있는 강력한 피드백 메커니즘을 개발합니다.
개인 정보 보호 및 보안
AI가 점점 더 일반화됨에 따라 개인 정보 보호와 중요한 개인 정보 및 비즈니스 정보 보안이 점점 중요하고 복잡해지고 있습니다. AI 시스템이 사람에 관한 정확하고 정보에 근거한 예측과 결정을 하기 위해서는 데이터에 대한 액세스가 필수적이므로 개인 정보 보호 및 보안 문제에 특히 주의해야 합니다.
AI 시스템에서 개인 정보 보호 및 보안을 보장하려면 다음을 수행해야 합니다.
- 규정 준수 기술 및 프로세스에 리소스를 투자하거나 AI 시스템 개발 중에 기술 리더와 협력하여 관련 데이터 보호, 개인 정보 보호, 투명성 법률을 준수합니다. AI 시스템이 이러한 법률의 모든 측면을 충족하는지 지속적으로 확인하는 프로세스를 개발합니다.
- 개인 데이터의 무결성을 유지하는 AI 시스템을 설계하여 필요할 때 고객과 공유한 정의된 목적으로만 개인 데이터를 사용할 수 있도록 합니다. 우연히 수집된 개인 데이터나 정의된 목적과 더 이상 관련이 없는 데이터는 삭제합니다.
- 역할 기반 액세스를 사용하고 제3자에게 전송되는 개인 및 기밀 데이터를 보호하여 안전한 개발 및 운영 기초에 따라 AI 시스템을 설계함으로써 AI 시스템을 공격자로부터 보호합니다. 이상 동작을 식별하고 조작 및 악의적 공격을 방지하도록 AI 시스템을 설계합니다.
- 고객이 자신의 데이터의 수집 및 이용 방법과 목적에 관해 선택할 수 있는 적절한 제어 수단을 갖춘 AI 시스템을 설계합니다.
- 시스템에서 데이터에서 개인 식별을 제거하는 방법을 고려하여 AI 시스템이 익명성을 유지하도록 합니다.
- 모든 AI 시스템의 개인 정보 보호 및 보안 검토를 수행합니다.
- 고객 데이터에 관한 관련 정보 추적, 해당 데이터 액세스 및 이용, 액세스 및 이용 감사에 대한 업계 모범 사례를 조사하고 구현합니다.
포용성
Microsoft는 모든 사람이 지능형 기술의 혜택을 누려야 한다고 굳게 믿습니다. 즉, 지능형 기술은 광범위한 인간의 필요와 경험을 통합하고 해결해야 합니다. AI 기술은 장애가 있는 전 세계 10억 명의 상황을 획기적으로 바꿔 놓을 수 있습니다. AI는 교육, 정부 서비스, 고용, 정보 및 그 밖의 광범위한 기회에 대한 접근을 향상시킬 수 있습니다. 실시간 음성 텍스트 전사, 시각적 인식 서비스, 예측 텍스트 기능과 같은 지능형 솔루션은 이미 청각, 시각, 기타 장애가 있는 사람들을 지원하고 있습니다.
AI 시스템에서 포용성을 보장하려면 다음을 수행해야 합니다.
- 접근성 기술의 조달을 의무화하는 접근성 및 포용성에 관한 법률을 준수합니다.
- 이 모듈의 리소스 섹션에서 제공하는 인클루시브 101 가이드북을 사용하여 시스템 개발자들이 제품 환경에서 사람들을 의도치 않게 배제할 수 있는 장애물을 이해하고 처리하도록 돕습니다.
- 장애가 있는 사람들이 시스템을 테스트하도록 하여 가능한 한 가장 광범위한 대상 그룹이 의도대로 시스템을 사용할 수 있는지 파악하세요.
- 능력에 상관없이 모든 사람이 시스템에 액세스할 수 있도록 일반적으로 사용되는 접근성 표준을 고려해 보세요.
투명성
앞서 언급한 가치의 바탕에는 나머지 가치가 효과를 갖도록 하는 데 필수적인 두 가지 근본 원칙, 즉 투명성과 책임성이 있습니다. 사람들의 삶에 영향을 미치는 의사결정을 내리는 데 AI 시스템이 어떻게 결론을 내리는지 사람들이 이해하는 것이 중요합니다. 예를 들어 은행에서 개인의 신용도를 결정하거나 회사에서 채용할 적격 지원자를 결정할 때 AI 시스템을 사용할수 있습니다.
투명성의 중요한 부분은 우리가 이해 가능성이라고 부르는 것, 즉 AI 시스템과 그 구성 요소의 동작에 관한 유용한 설명입니다. 이해 가능성을 높이려면 이해 관계자는 AI 시스템의 작동 방식과 이유를 이해하여 잠재적 성능 문제, 안전성 및 개인 정보 보호 우려, 선입견, 배제적 관행 또는 의도하지 않은 결과를 식별할 수 있어야 합니다. Microsoft는 AI 시스템을 사용하는 사람들이 AI 시스템을 배포하기로 선택하는 시기, 이유, 방법에 관해 정직하고 솔직해야 한다고 생각합니다.
AI 시스템의 투명성을 보장하려면 다음을 수행해야 합니다.
- 데이터 세트의 주요 특징을 공유하여 개발자가 해당 사용 사례에 특정 데이터 세트가 적합한지 이해하도록 돕습니다.
- 보다 단순한 모델을 활용하고 모델의 동작에 대한 이해 가능한 설명을 생성하여 모델 이해 가능성을 개선합니다. 이 작업의 경우 리소스 섹션에서 사용할 수 있는 책임 있는 AI 대시보드를 사용할 수 있습니다.
- AI 출력을 해석하는 방법을 직원들에게 교육하고 직원들이 결과에 기반한 결과적 결정에 대해 책임을 지도록 합니다.
책임성
AI 시스템을 설계하고 배포하는 사용자는 시스템의 작동 방식에 대해 책임을 져야 합니다. 조직은 업계 표준을 기반으로 책임성 규범을 개발해야 합니다. 규범을 통해 사람들의 삶에 영향을 주는 결정에서 AI 시스템이 최종적 권위가 아니라 자율성이 높은 AI 시스템에 대한 의미 있는 제어권을 인간이 유지하도록 할 수 있습니다.
AI 시스템의 책임을 보장하려면 다음을 수행해야 합니다.
- AI 시스템의 책임 있는 개발과 배포를 감독하고 지도할 내부 심사 위원회를 설치합니다. 개발 중에 AI 시스템을 문서화하고 테스트하기 위한 모범 사례를 정의하거나 중요한 사례에 대한 지침을 제공하는 등의 작업에 도움이 될 수 있습니다.
- 책임 있고 윤리적인 방식으로 솔루션을 사용 및 유지 관리하고 솔루션에 추가 기술 지원이 필요한 시기를 이해할 수 있도록 직원을 교육합니다.
- 보고와 모델 실행에 관한 의사 결정 참여를 통해 필요한 전문 지식을 갖춘 사람과 계속 정보를 공유하세요. 의사 결정 자동화가 필요한 경우, 모델 출력 및 실행 문제를 검사, 식별, 해결할 수 있어야 합니다.
- 모델이 공정하지 않거나 잠재적으로 유해한 방식으로 동작하는 것처럼 보이는 경우, 수정 또는 시정 활동을 수행할 수 있도록 명확한 책임성 및 거버넌스 시스템을 마련합니다.
Microsoft는 개인, 회사, 지역마다 AI 여정에 반영되어야 하는 고유한 믿음과 표준이 있음을 알고 있습니다. Microsoft는 자체 지도 원칙 개발을 고려하는 조직과 Microsoft의 시각을 공유하고자 합니다.
이러한 원칙은 AI를 개발하고 사용할 때 해야 할 일에 대한 일반적인 아이디어를 제공합니다. 그러나 좀 더 실용적인 수준에 반영될 필요가 있습니다. 다음으로 AI 거버넌스 시스템을 통해 이러한 원칙을 보장하는 방법을 살펴보겠습니다.