Útmutató a Personalizer integrációjához és felelős használatához

  • Cikk

A Microsoft az Azure AI Personalizer használatával segít az ügyfeleknek a megoldások felelősségteljes fejlesztésében és üzembe helyezésében. Az elven beállított megközelítésünk a személyes ügynökséget és a méltóságot tartja fenn az AI-rendszer figyelembevételével:

  • Méltányosság, megbízhatóság és biztonság.
  • Adatvédelem és biztonság.
  • Befogadóság.
  • Átláthatóság.
  • Emberi elszámoltathatóság.

Ezek a szempontok tükrözik a felelős mesterséges intelligencia fejlesztése iránti elkötelezettségünket.

Az integráció és a felelős használat alapelveinek általános irányelvei

Ha készen áll az AI-alapú termékek vagy szolgáltatások integrálására és felelősségteljes használatára, az alábbi tevékenységek segítenek a sikeres beállításban:

  • Értse meg, mire képes. A Personalizer képességeinek és korlátainak teljes körű felmérése. A valós körülmények és adatok alapos tesztelésével megtudhatja, hogyan fog teljesíteni az adott forgatókönyvben és környezetben.

  • Tiszteletben kell tartani egy személy magánélethez való jogát. Csak jogszerű és igazolható célból gyűjtsön adatokat és információkat az egyénektől. Csak azokat az adatokat és információkat használja fel, amelyek használatához Ön hozzájárult.

  • Szerezzen be jogi felülvizsgálatot. Szerezze be a megfelelő jogi tanácsokat a Personalizer és a megoldásban való használatának áttekintéséhez, különösen akkor, ha bizalmas vagy magas kockázatú alkalmazásokban fogja használni. Ismerje meg, hogy milyen korlátozásokon belül kell dolgoznia, és milyen felelőssége van a jövőben felmerülő problémák megoldásához.

  • Legyen egy ember a hurokban. Vegye fel az emberi felügyeletet egy egységes mintaterületként, ahol megvizsgálhatja. Az AI-alapú termék vagy szolgáltatás folyamatos emberi felügyeletének biztosítása. Az emberek szerepének fenntartása a döntéshozatalban. Győződjön meg arról, hogy valós idejű emberi beavatkozást végezhet a megoldásban, hogy megelőzze a kárt, és kezelje azokat a helyzeteket, amikor az AI-rendszer nem a várt módon teljesít.

  • Bizalmi kapcsolat kialakítása az érintett felekkel. Tájékoztassa az érintett érdekelt feleket a várható előnyökről és a lehetséges kockázatokról. Segítsen a felhasználóknak megérteni, hogy miért van szükség az adatokra, és hogy az adatok használata milyen előnyökkel jár. Ismertesse az adatkezelést érthető módon.

  • Hozzon létre egy ügyfélvisszajelzési hurkot. Adjon meg egy visszajelzési csatornát, amely lehetővé teszi, hogy a felhasználók és a felhasználók az üzembe helyezés után jelentsenek problémákat a szolgáltatással kapcsolatban. Miután üzembe helyezett egy AI-alapú terméket vagy szolgáltatást, az folyamatos monitorozást és fejlesztést igényel. Legyen készen arra, hogy bármilyen visszajelzést és fejlesztési javaslatot megvalósítson. Hozzon létre csatornákat az érintett érdekelt felektől érkező kérdések és aggodalmak gyűjtéséhez. Kapcsolatok, akiket a rendszer közvetlenül vagy közvetve érinthet, az alkalmazottak, a látogatók és a nyilvánosság.

  • Visszajelzés: Kérjen visszajelzést a közösség különböző mintavételezéséből a fejlesztési és értékelési folyamat során (például a történelmileg marginalizált csoportokból, a fogyatékkal élőkből és a szolgáltatásban dolgozókból). További információ: Közösségi zsűri.

  • Felhasználói tanulmány: Minden hozzájárulási vagy közzétételi javaslatot egy felhasználói tanulmányban kell keretbe venni. Értékelje ki az első és folyamatos használatot a közösség reprezentatív mintájával annak ellenőrzéséhez, hogy a tervezési döntések hatékony közzétételhez vezetnek-e. 10-20 közösségi taggal (érintett érdekelt felekkel) végezzen felhasználói kutatást, hogy értékelje az információk megértését, és megállapítsa, teljesülnek-e az elvárásaik.

  • Átláthatóság & Magyarázhatóság: Fontolja meg a Personalizer következtetési magyarázó funkciójának engedélyezését és használatát, hogy jobban megértse, mely funkciók játszanak jelentős szerepet a Personalizer döntési döntésében az egyes Rang-hívásokban. Ez a képesség lehetővé teszi, hogy átláthatóvá tegye a felhasználókat azzal kapcsolatban, hogy adataik milyen szerepet játszottak a javasolt legjobb művelet végrehajtásában. Megadhat például a felhasználóknak egy "Miért ezek a javaslatok?" nevű gombot, amely bemutatja, hogy mely funkciók játszottak szerepet a Personalizer eredményeinek előállításában. Ezek az információk arra is felhasználhatók, hogy jobban megértsék, milyen adatattribútumok működnek a felhasználókról, a környezetekről és a műveletekről a Personalizer által választott legjobb művelet mellett, amelyek ellen dolgoznak, és amelyek esetleg kevés vagy semmilyen hatással nem rendelkeznek. Ez a képesség betekintést nyújt a felhasználói szegmensekbe, és segít azonosítani és kezelni a lehetséges torzításokat.

  • Kártékony célú használat: érdemes lehet létrehozni egy folyamatot a rosszindulatú manipuláció észlelésére és kezelésére. Vannak olyan szereplők, amelyek kihasználják a gépi tanulás és az AI-rendszerek azon képességét, hogy tanuljanak a környezetükből. Az összehangolt támadásokkal mesterségesen hamis viselkedési mintákat hozhatnak létre, amelyek az adatokat és az AI-modelleket céljuk felé irányítják. Ha a Personalizer használata befolyásolhatja a fontos döntéseket, győződjön meg arról, hogy rendelkezik a megfelelő eszközökkel az ilyen típusú támadások észlelésére és enyhítésére.

  • Letiltás: Fontolja meg, hogy a felhasználók számára lehetővé tegye a személyre szabott javaslatok fogadásának letiltását. Ezen felhasználók esetében a Personalizer Rank API nem lesz meghívva az alkalmazásból. Ehelyett az alkalmazás használhat egy alternatív mechanizmust annak eldöntéséhez, hogy milyen műveletet hajtanak végre. Ha például letiltja a személyre szabott javaslatokat, és kiválasztja az alapértelmezett vagy alapkonfigurációs műveletet, a felhasználó azt a műveletet tapasztalja, amelyet a Personalizer javaslata nélkül hajtanak végre. Azt is megteheti, hogy az alkalmazás összesített vagy népességalapú mértékek alapján javaslatokat is használhat (például most már népszerű, 10 legnépszerűbb stb.).

Az Ön felelőssége

A felelősségteljes implementációra vonatkozó irányelvek arra épülnek, hogy a Personalizert használó fejlesztők és vállalkozások felelősek és elszámoltathatóak ezeknek az algoritmusoknak a társadalomban való használata hatásaiért. Ha olyan alkalmazást fejleszt, amelyet a szervezete üzembe fog helyezni, fel kell ismernie a szerepkörét és a működéséért való felelősségét, valamint azt, hogy az hogyan érinti az embereket. Ha egy harmadik fél által üzembe helyezendő alkalmazást tervez, ismerje meg, hogy végül ki felelős az alkalmazás viselkedéséért. Mindenképpen dokumentálja ezt a megértést.

Kérdések és visszajelzés

A Microsoft folyamatosan frissíti az eszközöket és dokumentumokat, hogy segítsen önnek eljárni ezen feladatkörökkel kapcsolatban. Csapatunk arra kéri, hogy küldjön visszajelzést a Microsoftnak , ha úgy véli, hogy más eszközök, termékfunkciók és dokumentumok segítenek megvalósítani ezeket az irányelveket a Personalizer használatához.

  • Tekintse meg a Microsoft 2018. januári The Future Computed című könyvében közzétett, a mesterséges intelligencia felelős fejlesztésére vonatkozó hat alapelvét.

Következő lépések

A Personalizer API funkcióinak fogadása : Funkciók: Művelet és környezet