Vägledning för integrering och ansvarsfull användning av Personanpassning

Microsoft arbetar för att hjälpa kunder att utveckla och distribuera lösningar på ett ansvarsfullt sätt med hjälp av Azure AI Personalizer. Vår principfasta metod upprätthåller personlig handlingsfrihet och värdighet genom att överväga AI-systemets:

• Rättvisa, tillförlitlighet och säkerhet.
• Sekretess och säkerhet.
• Delaktighet.
• Öppenhet.
• Mänsklig ansvarsskyldighet.

Dessa överväganden återspeglar vårt engagemang för att utveckla ansvarsfull AI.

Allmänna riktlinjer för integrering och principer för ansvarsfull användning

När du gör dig redo att integrera och använda AI-baserade produkter eller funktioner på ett ansvarsfullt sätt hjälper följande aktiviteter dig att konfigurera för framgång:

• Förstå vad den kan göra. Utvärdera personanpassningens potential fullt ut för att förstå dess funktioner och begränsningar. Förstå hur det kommer att fungera i ditt specifika scenario och kontext genom att noggrant testa det med verkliga förhållanden och data.

• Respektera en individs rätt till privatliv. Samla endast in data och information från individer för lagliga och berättigade ändamål. Använd endast data och information som du har samtyckt till att använda för detta ändamål.

• Få juridisk granskning. Få lämplig juridisk rådgivning för att granska Personanpassning och hur du använder den i din lösning, särskilt om du kommer att använda den i känsliga eller högriskprogram. Förstå vilka begränsningar du kan behöva arbeta inom och ditt ansvar för att lösa eventuella problem som kan uppstå i framtiden.

• Ha en människa i slingan. Inkludera mänsklig tillsyn som ett konsekvent mönsterområde att utforska. Säkerställ konstant mänsklig tillsyn över den AI-drivna produkten eller funktionen. Behåll människans roll i beslutsfattandet. Se till att du kan få mänsklig inblandning i realtid i lösningen för att förhindra skada och hantera situationer när AI-systemet inte presterar som förväntat.

• Skapa förtroende hos berörda intressenter. Informera berörda intressenter om förväntade fördelar och potentiella risker. Hjälpa människor att förstå varför data behövs och hur användningen av data kommer att leda till deras fördelar. Beskriva datahantering på ett begripligt sätt.

• Skapa en loop för kundfeedback. Ange en feedbackkanal som gör det möjligt för användare och individer att rapportera problem med tjänsten när den har distribuerats. När du har distribuerat en AI-driven produkt eller funktion krävs kontinuerlig övervakning och förbättring. Var redo att implementera feedback och förslag på förbättringar. Upprätta kanaler för att samla in frågor och problem från berörda intressenter. Personer som kan påverkas direkt eller indirekt av systemet är anställda, besökare och allmänheten.

• Feedback: Sök feedback från ett varierat urval av communityn under utveckling och utvärdering (till exempel historiskt marginaliserade grupper, personer med funktionshinder och servicearbetare). Mer information finns i Community-juryn.

• Användarstudie: Eventuella rekommendationer om medgivande eller avslöjande bör utformas i en användarstudie. Utvärdera den första och kontinuerliga användningsupplevelsen med ett representativt urval av communityn för att verifiera att designvalen leder till ett effektivt avslöjande. Genomför användarundersökningar med 10–20 communitymedlemmar (berörda intressenter) för att utvärdera deras förståelse av informationen och för att avgöra om deras förväntningar uppfylls.

• Öppenhet & Förklaring: Överväg att aktivera och använda personanpassningens slutsatsdragningsförklarbarhet för att bättre förstå vilka funktioner som spelar en viktig roll i personanpassningens beslutsval i varje rankningsanrop. Med den här funktionen kan du ge användarna insyn i hur deras data har spelat en roll när det gäller att skapa den rekommenderade bästa åtgärden. Du kan till exempel ge användarna en knapp med etiketten "Varför dessa förslag?" som visar vilka viktigaste funktioner som har spelat en roll när det gäller att producera personanpassningsresultatet. Den här informationen kan också användas för att bättre förstå vilka dataattribut om dina användare, kontexter och åtgärder som fungerar till förmån för personanpassningens val av bästa åtgärd, som arbetar mot den och som kan ha liten eller ingen effekt. Den här funktionen kan också ge insikter om dina användarsegment och hjälpa dig att identifiera och åtgärda potentiella fördomar.

• Adversarial användning: överväg att upprätta en process för att identifiera och agera på skadlig manipulation. Det finns aktörer som kan dra nytta av maskininlärnings- och AI-systemens förmåga att lära sig av sin miljö. Med samordnade attacker kan de på konstgjord väg förfalska beteendemönster som flyttar data- och AI-modeller mot sina mål. Om din användning av Personanpassning kan påverka viktiga val bör du se till att du har rätt metoder för att identifiera och minimera dessa typer av attacker.

• Avregistrera dig: Överväg att ge användarna en kontroll över att få anpassade rekommendationer. För dessa användare anropas inte API:et för personanpassningsrankning från ditt program. I stället kan ditt program använda en alternativ mekanism för att avgöra vilka åtgärder som vidtas. Genom att till exempel välja bort anpassade rekommendationer och välja standardåtgärden eller baslinjeåtgärden skulle användaren uppleva den åtgärd som skulle vidtas utan personanpassningens rekommendation. Alternativt kan ditt program använda rekommendationer baserat på aggregerade eller befolkningsbaserade mått (t.ex. nu trendande, de 10 mest populära osv.).

Ditt ansvar

Alla riktlinjer för ansvarsfull implementering bygger på grunden att utvecklare och företag som använder Personanpassning är ansvariga för effekterna av att använda dessa algoritmer i samhället. Om du utvecklar ett program som din organisation ska distribuera bör du känna igen din roll och ditt ansvar för dess drift och hur det påverkar människor. Om du utformar ett program som ska distribueras av en tredje part kan du få en delad förståelse för vem som är ansvarig för programmets beteende. Se till att dokumentera den förståelsen.

Frågor och feedback

Microsoft uppgraderar kontinuerligt verktyg och dokument som hjälper dig att agera utifrån dessa ansvarsområden. Vårt team bjuder in dig att ge feedback till Microsoft om du tror att andra verktyg, produktfunktioner och dokument skulle hjälpa dig att implementera dessa riktlinjer för att använda Personanpassning.

Rekommenderad läsning

• Se Microsofts sex principer för ansvarsfull utveckling av AI som publicerades i januari 2018-boken The Future Computed.

Nästa steg

Förstå hur API:et för personanpassning tar emot funktioner: Funktioner: Åtgärd och kontext