Jaa

Vastuullisen tekoälyn huomioita älykkäiden sovellusten työkuormissa

Älykkäiden sovellustyökuormien on noudatettava vastuullisen tekoälyn periaatteita oikeudenmukaisuuden, vastuullisuuden, avoimuuden ja eettisen käyttäytymisen varmistamiseksi.

Suunnittele tekoälyjärjestelmä kohtelemaan kaikkia käyttäjiä oikeudenmukaisesti, pitämään kehittäjät ja käyttäjät vastuussa sen suorituskyvystä, varmistamaan tekoälytoimintojen avoimuus ja noudattamaan eettisiä normeja.

Microsoft on sitoutunut tekoälyn edistämiseen niin, että ihmiset ovat etusijalla. Generatiivisilla malleilla on merkittäviä potentiaalisia etuja, mutta ilman huolellista suunnittelua ja harkittuja lievennyksiä tällaiset mallit voivat tuottaa virheellistä tai jopa haitallista sisältöä. Microsoft on panostanut merkittävästi väärinkäytöksiltä ja tahattomalta haitalta suojautumiseen. Tämä sisältää Microsoftin vastuullisen tekoälyn käyttämisen käytännöt, sääntöjen käyttöönoton, sisältösuodatinten luomisen asiakkaiden tukemista varten ja vastuullista tekoälyä koskevien tietojen ja ohjeiden tarjoamisen asiakkaille generatiivisen tekoälyn käyttämisen yhteydessä.

Power Platform -avustajat ja generatiivisen tekoälyn ominaisuudet noudattavat keskeisiä tietoturva- ja yksityisyyskäytäntöjä sekä Microsoftin vastuullisen tekoälyn standardia. Power Platform -tiedot on suojattu kattavilla, alan johtavilla vaatimustenmukaisuus-, tietoturva- ja tietosuojaominaisuuksilla.

Lisätietoja:

Vastuullisen tekoälyn perusperiaatteet

Vastuullisen tekoälyn keskeisiä periaatteita ovat oikeudenmukaisuus, vastuullisuus, avoimuus ja etiikka. Power Platformin avulla luotu älykkään sovelluksen työmäärä noudattaa näitä perusperiaatteita. Tämä varmistetaan seuraavien tärkeiden käytäntöjen avulla:

  • Oikeudenmukaisuus: Käytä monipuolisia ja edustavia koulutustietoja vinoumien minimoimiseksi. Päivitä koulutustiedot säännöllisesti ja värvää tilintarkastajia varmistamaan oikeudenmukaisuus ja tasapuolisuus.
  • Vastuullisuus: Määritä selkeät roolit ja vastuualueet tekoälyprojektiin osallistuville ryhmän jäsenille. Luo ja noudata eettisiä standardeja, jotka asettavat etusijalle oikeudenmukaisuuden ja vastuullisuuden.
  • Läpinäkyvyys: Varmista, että käyttäjät tietävät käyttävänsä generatiivisia tekoälyominaisuuksia käyttävää työkuormaa. Kerro selkeästi, miksi tekoälyratkaisu on valittu, miten se on suunniteltu ja miten sitä valvotaan ja päivitetään.
  • Etiikka: Ota henkilöstö mukaan työhön ja pyydä palautetta erilaisilta yhteisöiltä kehitysprosessin varhaisessa vaiheessa. Arvioi ja testaa säännöllisesti eettisiä huolenaiheita ja suorituskykypoikkeamia koskevia malleja. Luo hallintokehys, joka sisältää säännöllisiä tarkastuksia.

Sisällytä nämä käytännöt kehitys- ja käyttöönottoprosesseihisi luodaksesi älykkään sovellustyökuorman, joka noudattaa vastuullisen tekoälyn perusperiaatteita.

Tietojen yksityisyys ja tietosuoja

Tietosuojan varmistaminen on kriittistä, varsinkin kun älykäs sovellustyökuorma voi käsitellä arkaluonteisia tietoja. Suunniteltaessa älykkään sovelluksen työmäärää Power Platformin avulla on tärkeää puuttua useisiin keskeisiin riskeihin ja ottaa käyttöön tehokkaita lieventämisstrategioita seuraavasti:

  • Ympäristön ominaisuudet: Tietoja suojaavien alkuperäisten ohjausobjektien ja ympäristön ominaisuuksien tunteminen. Microsoft Copilot perustuu Microsoft Azure OpenAI -palveluun. Se suoritetaan kokonaan Azuren pilvipalvelussa. Copilot käyttää OpenAI -malleja ja kaikkia Microsoft Azuren tietoturvaominaisuuksia. Copilot on integroitu Microsoftin palveluiden, kuten Dynamics 365:n ja Power Platformin, kanssa. Se perii niiden tietoturva-, tietosuoja- ja vaatimustenmukaisuuskäytännöt ja -prosessit, kuten monivaiheisen todennuksen ja vaatimustenmukaisuusrajat.
  • Tietojen salaus: Palvelupuolen tekniikat salaavat organisaation sisällön levossa ja siirrossa vankan tietoturvan saavuttamiseksi. Yhteydet suojataan TLS (Transport Layer Security) -salauksella, ja Dynamics 365:n, Power Platformin ja Azure OpenAI:n välillä tapahtuvat tietojen siirrot suoritetaan Microsoftin runkoverkon kautta. Tämä varmistaa sekä luotettavuuden että turvallisuuden. Lisätietoja salauksesta Microsoftin pilvipalveluissa.
  • Käyttöoikeuksien hallinta: Copilotille (tai mukautetulle agentille) toimitetaan tiedot nykyisen käyttäjän käyttöoikeustason perusteella. Ota käyttöön roolipohjainen käyttöoikeuksien hallinta (RBAC) Microsoft Entra ID:n avulla. Näin varmistetaan, että vain valtuutetut käyttäjät voivat käyttää tietoja. Käytä alhaisimman tarvittavan käyttöoikeuden periaatetta, jolloin käytettävissä ovat vain välttämättömät tiedot.
  • Valvonta ja seuranta: Mahdolliset tietoturvahäiriöt havaitaan ja niihin voidaan vastata, koska tekoälyjärjestelmän käyttöoikeuksia ja käyttöä valvotaan säännöllisesti. Ylläpidä yksityiskohtaisia valvontalokeja seurataksesi tietojen käyttöä ja muutoksia.
  • Yhteensopivuus ja hallinto: Varmistetaan vaatimustenmukaisuus asiaankuuluvien tietosuojamääräysten, kuten yleisen tietosuoja-asetuksen (GDPR), terveydenhuollon tietosuojalain (Health Insurance Portability and Accountability Act, HIPAA) ja Kalifornian kuluttajansuojalain (California Consumer Privacy Act, CCPA) avulla. Sovella eettisiä tekoälykäytäntöjä ennakkoasenteiden välttämiseksi ja tekoälytuotosten oikeudenmukaisuuden varmistamiseksi.
  • Käyttäjien koulutus: Tarjoa käyttäjille koulutusta tietoturvan parhaista käytännöistä ja tietosuojan tärkeydestä. Pidä käyttäjät ajan tasalla suojauskäytäntöjen ja -menettelyjen päivityksistä ja muutoksista.

Lisätietoja: Usein kysytyt kysymykset Copilotin tietosuojasta ja yksityisyydestä Dynamics 365:ssä ja Power Platformissa

Tietoisuus ennakkoasenteista ja niiden lieventäminen

Tunnista järjestelmän ennakkoasenteiseen puuttumisen tärkeys ja varmista oikeudenmukaisuus, jotta vältetään ennakkoasenteet tekoälyvastauksissa.

  • Monipuoliset ja edustavat tiedot: Varmista, että koulutuksessa käytettävät tiedot ovat monipuolisia ja edustavat eri demografisia tietoja luontaisten vinoumien minimoimiseksi. Tarkasta tiedot säännöllisesti ennakkoasenteiden ja epätasapainojen varalta ja ryhdy tarvittaessa korjaaviin toimenpiteisiin.
  • Vinoumien havaitsemisen ja lieventämisen työkalut: Käytä tekoälymallien vinoumien havaitsemisessa työkaluja ja tekniikoita, kuten tilastollista analyysiä ja oikeudenmukaisuutta osoittavia mittareita. Ota käyttöön ennakkoasenteiden poistotekniikoita, kuten näytteiden uudelleen ottaminen, uudelleenpainotus tai vastakkainasetteluun perustuva ennakkoasenteiden poisto vähentääksesi mallien ennakkoasenteita.
  • Ihmisten osallistaminen: Sisällytä ihmisten tekemä tarkistus ja palautesilmukat, joiden avulla tekoälyn mahdollisesti aiheuttamat vinoumat voidaan tunnistaa ja korjata. Perusta eettinen komitea tai hallintolautakunta valvomaan tekoälyn kehittämistä ja käyttöönottoa ja varmistamaan, että eettiset standardit täyttyvät.
  • Läpinäkyvyys ja luottamus: Varmista, että käyttäjät tietävät käyttävänsä generatiivisia tekoälyominaisuuksia käyttävää työkuormaa. Kerro selkeästi, miksi tekoälyratkaisu valittiin, ja kerro, miten se on suunniteltu ja miten sitä seurataan ja päivitetään.
  • Jatkuva valvominen ja parantaminen: Tekoälyjärjestelmää valvotaan jatkuvasti vinoumien ja suorituskykyongelmien varalta, ja malleja päivitetään tarvittaessa. Varmista, että mallit pysyvät oikeudenmukaisina ja puolueettomina uudelleenkouluttamalla malleja säännöllisesti päivitetyillä ja monipuolisemmilla tiedoilla.

Jatkuva seuranta ja arviointi

Jatka älykkään sovellustyökuorman parantamista. Luo puitteet jatkuvalle seurannalle ja arvioinnille ja sisällytä käyttäjien palaute ja kehittyvät eettiset standardit päivityksiin.

  • Palautesilmukat: Luo palautemekanismeja, joissa käyttäjät voivat ilmoittaa epätarkkuuksista. Palautetta voidaan käyttää mallien tarkentamisessa ja parantamisessa.
  • Valvonta ja seuranta: Mahdolliset tietoturvahäiriöt havaitaan ja niihin voidaan vastata, koska tekoälyjärjestelmän käyttöoikeuksia ja käyttöä valvotaan säännöllisesti. Ylläpidä yksityiskohtaisia valvontalokeja seurataksesi tietojen käyttöä ja muutoksia.