따라서 AI 기능 또는 애플리케이션에 대한 사용 사례를 제안하고 비즈니스 사례로 정당화하고 승인을 받았습니다. 잘하셨습니다! 이제 무엇을 해야 할까요? 이제 이해 관계자가 무언가를 볼 준비가 되었습니다.
생성 AI 기반 기능을 사용하여 애플리케이션을 빌드할 계획인 경우 여기에 제공된 팁과 지침을 고려하여 원하는 UX(사용자 환경)를 만드는 것이 중요합니다. 이러한 주요 원칙을 이해하면 사용자의 요구를 가장 잘 지원하는 매력적이고 효과적인 애플리케이션을 빌드하는 데 도움이 될 수 있습니다.
다음 지침에서는 사용자 지정 부조종사 환경을 빌드하기 위한 고려 사항에 중점을 두고 생성 AI 애플리케이션용 UX를 개발할 때 고려해야 할 사항을 안내합니다.
이 문서는 다음을 돕기 위한 것입니다.
- UX 프레임워크 옵션을 탐색하고 사용 사례에 가장 적합한 방법을 선택합니다.
- 부조종사 개발을 위한 세 가지 기본 원칙과 인간-AI 상호 작용에 대한 지침을 알아봅니다.
- 강력한 입력 및 출력 디자인을 통해 공동 작업 UX를 달성하는 방법 알아보기
다음 지침에서는 사용자 지정 부조종사 환경을 빌드하기 위한 고려 사항에 중점을 두고 생성 AI 애플리케이션용 UX를 개발할 때 고려해야 할 사항을 안내합니다.
이 지역은 매우 유동적이고 배워야 할 것이 많기 때문에 심층 다이빙을 위한 주요 리소스를 제공했습니다. Microsoft의 책임 있는 AI 원칙 과 HAX(HumanAI Experience) 도구 키트 는 이 문서의 연구 및 실제 환경에 대한 몇 가지 배경을 제공합니다.
작업을 완료하는 데 적합한 포커스
다음 지침에서는 사용자 지정 부조종사 환경을 빌드하기 위한 고려 사항에 중점을 두고 생성 AI 애플리케이션용 UX를 개발할 때 고려해야 할 사항을 안내합니다.
UX에 대해 고려해야 할 세 가지 프레임워크 변형이 있습니다.
- 전체 기술 자료 포커스를 위한 몰입형
- 앱 내 보조 포커스
- 단일 엔터티 포커스에 포함
이러한 각 프레임워크를 좀 더 자세히 살펴보겠습니다.
전체 기술 자료 몰입형 포커스
따라야 할 좋은 규칙은 작업이 더 중요할수록 더 많은 부동산이 필요하다는 것입니다.
몰입형 환경은 전체 캔버스를 활용하여 관련 정보를 표시하여 더욱 심층적인 인사이트를 제공하고 사용자의 방해 요소를 줄여 완전히 집중된 환경을 제공합니다. 이 수준의 포커스는 특정 데이터 원본과 관련된 정보를 표시하려는 애플리케이션에 적합합니다. 이러한 예로는 Microsoft의 Project Sophia와 유사한 AI 생성 대시보드 또는 보안용 Microsoft Copilot가 포괄적인 프로세스를 통해 사용자를 안내하는 방법이 있습니다. 몰입형 공간에서 복잡한 데이터 또는 정보는 사용자가 이해하고 분석하기 쉽습니다.
앱 내 환경을 위한 보조 포커스
부조종사로 통합하여 기존 기능을 확장하여 Microsoft Teams, Power BI 또는 사용자 고유의 앱과 같이 이미 작업 중인 애플리케이션 내에서 AI 지원 서비스에 액세스할 수 있는 기능을 사용자에게 제공합니다.
앱 내 포커스를 사용하면 사용자가 도구 또는 인터페이스 간 전환을 방지할 수 있습니다. 이 프레임워크를 사용하면 부조종사들이 사용자의 워크플로에 원활하게 통합되어 현재 작업을 방해하지 않고 요청 시 관련 제안, 정보 및 지원을 제공할 수 있습니다. 이 보기는 주요 콘텐츠 영역을 방해하지 않고 도구, 정보 및 지원에 대한 지속적인 액세스를 제공합니다. 지속적인 지원 또는 모니터링이 필요한 애플리케이션에 특히 효과적입니다.
단일 엔터티에 대한 포함된 포커스
단일 진입점을 포함하면 부조종사 통합을 애플리케이션에 간소화하여 복잡성을 줄이고 사용자가 특정 항목 또는 작업에 대한 지원을 받을 수 있습니다. 이렇게 하면 영구 화면 공간을 차지하지 않고도 컨텍스트 인식 지원을 통해 원활한 부조종사 환경을 만들 수 있습니다.
이 옵션은 간헐적인 지침 또는 상호 작용만 필요한 작업에 적합할 수 있지만 더 복잡하거나 자세한 상호 작용에는 적합하지 않을 수 있습니다. 부조종사 완전히 포함은 공동 작업 수행을 위해 부조종사 호출 코드의 일부를 강조 표시하거나 사용자가 분석 대시보드의 차트를 자세히 살펴볼 수 있도록 하는 것과 같은 일반적인 상호 작용 패턴과 일치해야 합니다.
보조 포커스 통합
이러한 세 가지 프레임워크를 개별적으로 사용하는 것 외에도 선택한 포커스를 추가 프레임워크 옵션으로 보완하여 보다 강력한 환경을 만들 수 있습니다. 포함된 옵션을 몰입형 또는 보조 부조종사와 통합하면 사용자에게 더 많은 가치를 제공할 수 있습니다.
사용 사례에 대해 어떤 수준의 포커스를 선택하든, 궁극적인 목표는 사용자에게 부조종사 환경을 긍정적이고 생산적인 환경으로 제공하는 것입니다. 다음 지침은 효과적인 UX 디자인을 통해 부조종사 성공을 극대화하는 데 도움이 됩니다.
부조종사 UX에 대한 세 가지 기본 원칙
AI 기반 환경은 인상적일 수 있으며, 사람들이 대화적이고 독창적인 콘텐츠처럼 보이는 것에 대해 감정적이고 신뢰할 수 있는 반응을 보이는 것은 드문 일이 아닙니다. 그러나 부조종사들은 진리에 대한 본질적인 이해 없이 단어별 응답을 예측하기 위해 학습된 정보를 사용합니다. 따라서 다음 원칙에 따라 부조종사에 기반을 두어 사용자에게 적절한 기대치를 설정하는 것이 중요합니다.
원칙 1: 제어할 수 있는 인간
모든 훌륭한 부조종사 환경은 다음과 같은 기본 개념에 기반을 두고 있습니다. 부조종사란 단순히 사용자를 지원하는 도구입니다. 인간은 조종사입니다.
이 기대치를 설정하려면 사용자를 운전석에 배치합니다. 즉, 부조종사 작동 방식에 대한 투명성을 제공하면서 필요한 정보를 제공합니다. 해당 기능과 제한 사항을 전달하고 출력의 기반이 되는 데이터에 대한 명확성을 제공합니다. 사용자가 자신있고 반복적으로 자신의 목표를 향해 부조종사 안내 할 수 있도록 의미있는 인간 제어에이 정보를 패키지.
예를 들어 부조종사 기능을 도입할 때는 UI에서 "copilot"라는 단어를 작업 단어로 잠그지 마세요. "부조종사, 요약" 대신 "부조종사로 요약"이라고 말합니다. 이 언어는 부조종사만 도우미임을 사용자에게 상기시킵니다.
원칙 2: 인트로포모핑 부조종 방지
오늘날 사용할 수 있는 많은 생성 AI 환경은 자연인의 언어를 밀접하게 모방할 수 있습니다. 이 기술은 이 작업을 수행하는 데 매우 능숙하기 때문에 사용자가 특성과 능력에 대해 부적절하게 높은 기대치를 개발하여 부조종사 응답에 의존할 가능성이 있습니다.
사용자가 이러한 가정을 하지 못하게 하는 데 도움이 되는 몇 가지 방법이 있습니다.
부조종사에게 목소리를 주세요. 부조종사들이 인간과 같다는 인식을 피하기 위해 올바른 언어를 사용하고 응답에서 특정 단어를 피하도록 가르칩니다. 예를 들어 부조종사에게 인간과 같은 것을 전달할 수 있으므로 어떤 맥락에서든 "이해", 생각 또는 "느낌"와 같은 단어를 피하십시오. 대신 "처리" 및 분석과 같은 컴퓨터와 관련된 단어를 사용합니다."
그러나 부조종사들이 1인칭 단수 대명사(나, 나, 내, 나 자신)를 사용할 수 있도록 허용하는 것은 대화형이기 때문에 잘 작동합니다. 1인칭 복수 대명사(우리, 우리, 우리)를 사용하여 사용자와 부조종사를 함께 참조하는 것은 괜찮지만, 해당 대명사를 사용하여 회사를 대표하지 마십시오. 이유는 무엇입니까? 이는 부조종사 라이선스를 음성으로 제공하고 경우에 따라 회사를 대신하여 말하는 것처럼 보일 수 있기 때문입니다.개성에 빛을 이동합니다. UI 내에서 부조종사라고 부르는 것의 의미를 고려합니다. 사용자에게 어떻게 소개하고 마케팅 및 지원 자료에 어떻게 언급합니까? 더 많은 문자를 줄수록 더 많은 인간화가 됩니다.
원칙 3: 직접 및 간접 이해 관계자 고려
모든 기술과 마찬가지로 생성 AI 애플리케이션은 기본 사용자 이상으로 도달할 수 있는 영향을 미칩니다. 디자인 프로세스 전반에 걸쳐 직계 사용자뿐만 아니라 제품이 영향을 미칠 수 있는 모든 사람, 특히 가장 취약한 직접 및 간접 이해 관계자를 고려합니다. 기본 사용자와 출력을 볼 수 있는 다른 모든 사용자를 위해 디자인하는 습관을 만듭니다. 생성 AI 애플리케이션의 의도하지 않은 결과를 포함하여 더 광범위한 결과를 고려하는 것이 중요합니다.
이러한 고려 사항은 모든 조직에 대해 다르므로 팀 및 몇 가지 잠재적 사용자와 논의하여 다음과 같은 질문을 합니다.
- 이 출력은 어떻게 사용되나요?
- 사용자가 다른 사용자와 공유합니까?
- 다른 팀 또는 그룹이 생성 AI 전략을 검토해야 하나요?
- 가장 취약한 이해 관계자는 누구이며 어떻게 보호할 수 있습니까?
- 다른 능력을 가진 사용자에게 권한을 부여하기 위해 의미 있는 인간 제어를 구현하고 있습니까?
- 기술이 실패하거나 오용된 경우 의도하지 않은 결과는 어떻게 될까요?
애플리케이션 수명 주기에 대한 환경 디자인
첫 실행 환경
사용자가 처음 부조종사에게 호출할 때 대화를 시작할 수 있을 만큼 매력적인 것을 발견해야 합니다. 그들은 부조종사들이 할 수 있는 것과 할 수 없는 일에 자신감을 가져야 하므로, 새로운 사용자에게 AI를 사용할 수 있는 다양한 방법을 보여줘야 합니다.
Microsoft 연구에 따르면 사용자는 부조종사에서 수행할 수 있는 작업을 설명하고 시작하는 방법에 대한 제안을 제공하는 환경을 선호합니다. 이러한 환경을 만드는 방법에는 여러 가지가 있으며 최종 사용자와 다른 방법을 시도하는 것이 좋습니다. 다음 고려 사항은 HAX 도구 키트에서 제공되며, 사용자 기대치를 설정하기 위해 혼합하고 일치시킬 수 있는 몇 가지 기술을 제공하는 디자인 패턴을 사용할 수 있습니다.
- 시스템에서 수행할 수 있는 작업을 명확히 합니다. 사용자가 AI 시스템에서 수행할 수 있는 작업을 이해할 수 있도록 도와주세요.
- 시스템에서 수행할 수 있는 작업을 얼마나 잘 수행할 수 있는지 명확히 합니다. 사용자가 AI 시스템에서 실수를 할 수 있는 빈도를 파악할 수 있도록 도와주세요.
이 공간에서 모든 사람이 배우고, 모든 부조종사 노력에서 성공하려면 열린 마음을 유지하고 창의적으로 생각해야합니다. 실험, 학습, 검색 및 자체 연구를 수행할 준비가 되어 있습니다.
애플리케이션의 수명 주기 동안 다른 지침을 고려해야 합니다. 가장 관련성이 있는 일부 항목은 여기에 해당 패턴에 대한 링크와 함께 나열됩니다. HAX 디자인 라이브러리에서 Microsoft의 다른 지침에 대해 자세히 알아보세요.
상호 작용 중에
- 관련 사회 규범과 일치합니다. 소셜 및 문화적 맥락을 고려할 때 사용자가 기대하는 방식으로 환경을 제공할 수 있는지 확인합니다.
- 사회적 편견을 완화합니다. AI 시스템의 언어와 동작이 바람직하지 않고 불공정한 고정관념과 편견을 강화하지 않도록 합니다.
잘못된 경우
- 효율적인 수정을 지원합니다. AI 시스템이 잘못된 경우 쉽게 편집, 구체화 또는 복구할 수 있습니다.
- 시스템이 그 일을 한 이유를 분명히 하십시오. 사용자가 AI 시스템이 작동한 이유에 대한 설명에 액세스할 수 있도록 합니다.
시간별로
- 세밀한 피드백을 장려합니다. 사용자가 AI 시스템과 정기적으로 상호 작용하는 동안 기본 설정을 나타내는 피드백을 제공할 수 있도록 합니다.
- 전역 컨트롤을 제공합니다. 사용자가 AI 시스템이 모니터링하는 것과 동작 방식을 전역적으로 사용자 지정할 수 있도록 허용합니다.
공동 작업 UX
부조종사에서는 추가 데이터 없이 변경하거나 새 예제를 만들어 기존 정보를 개선할 수 있습니다. 그러나 이 기능은 부조종사에서 때때로 잘못되거나 도움이 되지 않는 응답을 생성할 수도 있음을 의미합니다.
제작 가능성을 줄이기 위해 사용자가 부조종사에게 안내하고 공동 작업 UX라고 하는 개인 목표와 목표를 향해 이동할 수 있도록 하는 것이 좋습니다.
입력 및 출력 디자인에 대한 다음 팁을 사용하여 사용자를 위한 공동 작업 환경을 만들 수 있습니다. 또한 인간-AI 파트너십을 통해 협업 UX를 구축하기 위한 이러한 모범 사례에 부합하는 것이 유용할 수 있습니다.
입력 디자인 팁
효과적인 입력 디자인은 공동 작업 환경의 초석을 형성합니다. 사용자가 잘 구조화된 입력을 하도록 안내함으로써 관련성 있고 정확한 응답을 위한 토대를 마련합니다.
1: 사용자가 진행하는 데 도움이 되는 제안 제공
생성 AI는 새로운 기술이므로 많은 사람들이 무엇을 해야 할지 또는 바로 입력해야 하는지 알기가 어렵습니다. 긴 형식의 자연어 입력은 여전히 많은 사람들에게 습관이 아닙니다. 사용자가 진행하는 데 도움이 되도록, 쾌적한 온보딩 환경 외에도 좋은 입력을 형성하도록 장려하는 큰 입력 상자 및 문자 카운터와 같은 명확한 제안 및 어워던스를 제공합니다.
보다 구체적인 요구 사항을 위해 사용자에게 예측 가능하고 반복 가능한 방식으로 사용자 지정 데이터와 상호 작용하는 특정하고 짧은 쿼리를 제공하는 프롬프트북과 같은 기능을 추가하면 유용한 정보를 더 빠르게 얻을 수 있습니다.
2: 세부 정보 권장
사용자가 좋은 세부 입력을 만드는 데 도움이 되는 또 다른 방법은 다양한 요소를 사용하는 환경을 디자인하는 것입니다.
예를 들어 하나의 일반 프롬프트를 여러 입력 필드로 구분할 수 있습니다. "블로그에 어떤 내용을 적용하시겠습니까?"라는 질문을 다음과 같은 네 가지 입력으로 바꿉니다.
- 제목 입력
- 몇 가지 세부 정보 추가
- 이미지 포함
- 톤 설명
3: 톤 및 기타 옵션을 사용하여 입력 사용자 지정 허용
톤에 대해 말하면 사용자가 처음에 미리 정의된 옵션을 제공하여 입력을 사용자 지정할 수 있습니다. 사용자에게 톤 설정이 명확한지 확인하고 대화 내에서 언제든지 톤 설정을 변경할 수 있음을 알릴 수 있습니다.
4: 멀티모달 디자인으로 사용자 상호 작용 및 참여 향상
사용자가 선호하는 디바이스 또는 방법을 통해 부조종사에 효과적으로 참여할 수 있도록 하려면 입력 인터페이스에서 여러 형식을 제공합니다. 포용성을 위한 이러한 노력은 음성 및 텍스트 옵션을 모두 추가하는 것을 의미할 수 있으며 다국어 입력을 허용하도록 확장됩니다. 사용자에게 입력을 만들 수 있는 여러 옵션을 제공하면 보다 쉽고 공동으로 통신할 수 있습니다.
출력 디자인에 대한 팁
공동 작업 UX 접근 방식에서 사용자는 목표를 달성하기 위해 입력과 출력 간의 지속적인 피드백 루프를 통해 부조종사에게 안내해야 합니다. 출력 디자인은 사용자가 부조종사 응답에 영향을 미치고 원하는 출력을 향해 나아갈 수 있는 길을 만듭니다.
1: 입력 및 출력을 함께 표시
이렇게 하면 사용자가 출력 품질을 입력 선택과 연결하여 모델이 원하는 출력을 생성할 때까지 사용자가 입력을 계속 빌드할 수 있는 긴밀한 피드백 루프를 제공합니다.
2: 출력 및 프롬프트 기록 유지
사용자가 의미 있는 출력을 얻기 위해 다양한 입력을 시도하도록 장려하는 것이 중요합니다. 그러나 항상 출력과의 정방향 상호 작용이 매번 개선되는 것은 아닙니다.
경우에 따라 새 프롬프트가 더 나쁜 출력으로 이어질 수 있습니다. 출력의 타임라인 또는 기록을 통해 사용자는 더 나을 수 있는 이전 출력에 대한 액세스가 손실되거나 여러 출력의 일부를 사용할 수 있다는 두려움 없이 새 입력을 자신 있게 시도할 수 있습니다.
마찬가지로 사용자가 이전 프롬프트를 사용할 수 있도록 허용하는 것은 반복 프로세스에 매우 중요합니다.
3: 적절한 마찰을 추가 (그것은 좋은 일이다!)
제품 환경에서 마찰을 제거하는 경우가 많습니다. 그러나 부조종사들은 실수를 할 가능성이 있는 부정확한("확률적") 시스템이라는 것을 기억하십시오. 이러한 가능성 때문에 사용자가 새로운 정신 모드를 구축할 수 있도록 적절한 마찰을 추가해야 합니다.
여기서 목표는 사용자의 속도를 늦추고 전체 출력을 검토하도록 권장하는 것입니다. 저장, 공유, 복사 및 붙여넣기와 같은 중요한 순간에 마찰을 추가하고 사용자에게 콘텐츠 소유권을 부여할 것임을 분명히 합니다. 따라서 먼저 보다 철저하게 확인하도록 장려하는 데 사용하는 콘텐츠에 대한 책임을 진다.
여기서는 사용자가 콘텐츠를 편집하여 더 많은 컨텍스트를 제공하거나 개인적인 터치를 추가하도록 권장하는 것이 좋습니다. AI 생성 콘텐츠를 명확하게 표현하는 각 출력에 AI 알림 및 고지 사항을 추가하면 올바르지 않을 수 있습니다.
4: 인용 및 직접 따옴표를 사용하여 사실 확인 장려
사실 확인을 장려하는 한 가지 구체적인 방법은 참조하는 데이터의 참조를 부조종사로 표시하여 AI가 데이터와 정보를 조작하는 대신 기존 리소스의 응답을 사용할 가능성이 더 높아지는 것입니다. 또한 이러한 참조는 부조종사 출력을 다시 살펴보고 원본에 대해 확인하여 사용자가 사용하는 콘텐츠에 대한 책임을 지도록 사용자에게 상기시킵니다.
원본의 직접 따옴표를 통합하고 사용자를 해당 정보의 특정 위치로 보내면 부조종사에서 보다 철저한 사실 확인을 지원할 수 있습니다. 이러한 따옴표는 부조종사들이 학습 데이터 세트에 맞춰진 상태를 유지하고 적절한 신뢰와 적절한 의존도를 구축하는 데 도움이 됩니다.
사실 확인에 대한 마지막 참고 사항: 참조를 표시해도 부조종사들이 작업을 수행하는 것을 완전히 막을 수는 없습니다. 한 단계 더 나아가 사용자를 느리게 하는 환경을 설계하고("적절한 마찰 추가" 참조) 응답을 검토하도록 권장합니다.
5: 사용자가 출력을 편집할 수 있도록 허용
부조종사 원하는 출력에 가까이 올 수 있지만 정확히 일치하지 않을 수 있습니다. 일부 컨텍스트가 누락된 것을 확인할 수 있습니다. 유사한 콘텐츠를 직접 만든 경우와 달리 응답이 너무 일반적이거나 일반적인 개인 톤과 일치하지 않을 수 있습니다.
공동 작업 UX의 핵심 부분은 사용자가 개입하여 출력을 수정하도록 하는 것입니다. 또한 부조종사는 파일럿으로 사용자와 도우미 또는 도우미임을 보여줍니다.
6: 필요한 경우 출력 보류
경우에 따라 부조종사에게 잠재적으로 부적절한 것을 출력하는 대신 아무런 대답도 하지 않는 것이 좋습니다. 모델을 해제하고 사용자에게 "죄송합니다. 이 항목에 대해 채팅할 수 없습니다. 채팅을 저장하고 새로 시작하려면 새 채팅을 선택합니다."
경우에 따라 미리 작성된 응답을 만들어야 하는 오류 상태와 부적절한 입력이 있습니다. 자해 및 선거와 같은 유해하거나 논란의 여지가 있는 항목의 경우 부조종사에서 분리되지 않고 미리 정의된 환경을 대신 사용하는 것이 좋습니다. 사용자를 완전히 분리하지 않고 단순히 대화를 리디렉션하려는 경우 "다른 토픽을 시도해 보세요"라고 추천할 수 있습니다.
모든 경우는 다르며 애플리케이션의 목적과 예상 사용에 맞게 이러한 응답을 조정하는 것이 가장 좋습니다.
7: 사용자가 출력에 대한 피드백을 제공할 수 있도록 허용
사용자가 정확도 등급 시스템, 사용자가 부조종사에게 응답을 수정하도록 요청하거나, 응답을 도움이 되거나 도움이 되지 않는 것으로 표시하거나, 수신된 출력에 의견을 남기는 옵션과 같은 항목을 통해 부조종사 출력을 평가할 수 있는 메커니즘을 디자인합니다. 또한 사용자 피드백이 부조종사 출력 및 환경을 개선하여 피드백의 가치를 강화하는 방법을 보여 줄 수 있습니다.
다음 단계
이제 원하는 사용자 환경을 구현하는 방법을 알게 되었으므로 생성 AI 애플리케이션 빌드를 시작할 때 도움이 되는 Microsoft의 리소스 및 도구는 다음과 같습니다.