Muistiinpano
Tämän sivun käyttö edellyttää valtuutusta. Voit yrittää kirjautua sisään tai vaihtaa hakemistoa.
Tämän sivun käyttö edellyttää valtuutusta. Voit yrittää vaihtaa hakemistoa.
Vastuullista tekoälyä ohjaa joukko periaatteita, jotka määrittävät, miten tekoälyjärjestelmien tulee toimia. Nämä periaatteet keskittyvät oikeudenmukaisuuteen, luotettavuuteen, turvallisuuteen, suojaukseen, osallistamiseen, läpinäkyvyyteen ja vastuullisuuteen. Ne laativat standardit, jotka ohjaavat sitä, miten Microsoft arvioivat riskejä, suunnittelevat tekoälyominaisuuksia ja takaavat vastaavan järjestelmän toiminnan.
Näiden periaatteiden soveltaminen agenttisuunnitteluun auttaa estämään tahattomia haittoja, kuten puolueellisuutta, vääriä tietoja tai tietosuojarikkomuksia. Se tukee myös käyttäjien luottamusta ja pitkäaikaista käyttöönottoa. Noudattamalla näitä ohjeita voit luoda tekoälyagentteja, jotka toimivat tehokkaasti noudattaen koskemattomuuden ja kunnioituksen standardeja, joita käyttäjät ja yhteiskunta odottavat Microsoft tuotteista.
Tässä artikkelissa esitellään vastuullinen tekoäly agentin suunnittelun mukaisesti. Kattavat ohjeet ovat artikkelissa Microsoft:n vastuullisen tekoälyn periaatteet ja lähestymistapa.
Vastaavat tekoälyperiaatteet
Vastuulliset tekoälyperiaatteet ohjaavat agenttien suunnittelua, rakentamista ja toimintaa Microsoft 365 Copilot. Ne luovat jaetun standardin agenttien toimintaa, tietojen käsittelyä ja käyttäjien toimia varten. Näin varmistetaan, että tekoälyjärjestelmät ovat luotettavia, suojattuja ja kohdistettuja inhimillisiin arvoihin.
Nämä periaatteet pätevät koko agentin elinkaareen suunnittelusta ja kehittämisestä käyttöönottoon ja jatkuvaan käyttöön. Ne ilmoittavat vuorovaikutussuunnittelua, mallia ja tietämyksen valintaa, autonomiaa, turvallisuutta ja hallintoa koskevista päätöksistä. Noudattamalla näitä periaatteita varmistat, että asiakaspalvelijat tuottavat arvoa vastuullisesti säilyttäen käyttäjien luottamuksen ja pitkän aikavälin käyttöönoton.
| Periaate | Mitä se tarkoittaa agentin suunnittelulle |
|---|---|
| Oikeudenmukaisuus | Tekoälyjärjestelmien tulee tuottaa yhdenmukaisia ja yhdenvertaisia tuloksia kaikille käyttäjille. Agenttitoiminnassa on vältettävä luomasta tai vahvistamasta luottamuksellisiin määritteisiin tai käyttäjäkontekstiin perustuvaa epäoikeudenmukaista kohtelua. |
| Luotettavuus ja turvallisuus | Tekoälyjärjestelmien tulee toimia niin kuin on tarkoitus tehdä monenlaisissa olosuhteissa. Agenttien on käsiteltävä vaihtelua, reunatapauksia ja odottamattomia syötteitä turvallisen ja ennustettavan käyttäytymisen tukemiseksi. |
| Yksityisyys ja turvallisuus | Tekoälyjärjestelmien on suojattava käyttäjätietoja ja noudatettava vakiintuneita tietosuoja- ja suojausvaatimuksia. Agenttien tulee käyttää vain tietoja, joita heillä on oikeus käyttää, ja heidän tulee käsitellä tietoja vastuullisesti. |
| Osallisuuden | Tekoälyjärjestelmien tulee voimaannuttaa kaikki käyttäjät ja vastata erilaisiin tarpeisiin. Agenttien tulee harkita helppokäyttöisyyttä, kielen vaihtelua ja erilaisia teknisen osaamisen tasoja osallistavan käyttökokemuksen varmistamiseksi. |
| läpinäkyvyys | Tekoälyjärjestelmien tulee selkeyttää ominaisuuksiaan ja rajoituksiaan. Agenttien on ilmoitettava, mitä he voivat tehdä, miten tietoja käytetään ja miten tulokset luodaan, jotta käyttäjät voivat tehdä tietoon perustuvia päätöksiä. |
| Tilivelvollisuus | Tekoälyjärjestelmät vaativat selkeää valvontaa. Agentteja kehittävät tiimit vastaavat siitä, että järjestelmä noudattaa vastuullisia tekoälyperiaatteita, täyttää vaatimustenmukaisuusvaatimukset ja toimii asianmukaisessa ihmishallinnossa. |
Vastaavan tekoälyn käyttö agenttikehityksessä
Microsoft käyttää jäsennettyä mallia vastaavien tekoälyperiaatteiden integroimiseen tekoälyagenttien koko kehittämisen aikana. Tämän mallin avulla tiimit voivat tunnistaa riskejä, löytää oikeat ratkaisut ja pitää vastuussa toiminnasta koko agentin elinkaaren ajan.
Suunnittelutyökaluna päätöksesi vaikuttavat suoraan siihen, miten nämä funktiot toteutetaan. Seuraavat avainfunktiot kuvaavat, miten vastuullista tekoälyä käytännössä tehdään:
| Toiminto | Description |
|---|---|
| Hallinnoi | Luo käytännöt, roolit ja prosessit, joita tiimit noudattavat, kun he suunnittelevat ja ottavat käyttöön agentteja. Hallinto varmistaa vastuullisten tekoälyperiaatteiden noudattamisen ja selkeän vastuullisuuden. |
| Kartta | Tunnistaa ja priorisoi tekoälyskenaarioon liittyviä mahdollisia riskejä. Yhdistämisen avulla voidaan tehdä tietoon perustuvia päätöksiä lieventämisstrategioista ja määrittää, sopiiko tekoälyratkaisu aiottuun kontekstiin. |
| Mittaa | Arvioi riskejä ja järjestelmän suorituskykyä apuna lieventämisten suunnittelussa ja hienosäätössä. Mittaaminen on oleellista, kun tekoälyominaisuudet kasvavat monimutkaisuudessa ja vaativat jatkuvaa arviointia. |
| Hallinta | Ottaa käyttöön riskinhallintaa ja ylläpitää sitä koko käyttöönoton ajan ja jatkuvassa toiminnassa. Tiimit valvovat järjestelmän toimintaa ja mukautuvat tarvittaessa varmistaakseen, että agentit pysyvät vastuussa ajan mittaan. |
Tekoälyn läpinäkyvyys ja turvallisuussuodattimet
Läpinäkyvyys on vastuullisen tekoälyn olennainen osa. Kun suunnittelet agentteja, kerro tekoälyn läsnäolosta ja roolista selvästi tuotekokemuksessa. Kerro käyttäjille agentin tarkoituksesta, ominaisuuksista, rajoituksista ja mahdollisista riskeistä. Tämä läpinäkyvyys antaa käyttäjille mahdollisuuden tehdä tietoon perustuvia päätöksiä ja edistää luottamusta järjestelmään.
Läpinäkyvyyden käytännön toteutuksia ovat läpinäkyvyyshuomautukset ja tuotteensitoteutukset, jotka selittävät, miten tekoäly toimii ja mitä käyttäjät voivat odottaa. Esimerkiksi Business Chat -ominaisuudessa agentti käyttää selviä ilmaisimia, kuten "Tekoälyn luoma sisältö voi olla väärin" asianmukaisten odotusten asettamiseksi ja vastuullisen käytön tukemiseksi.
Turvallisuussuodattimet
Turvallisuussuodattimet auttavat agentteja toimimaan tarkoituksenmukaisella, kunnioittavalla ja Microsoft vastuullisten tekoälyperiaatteiden mukaisesti. Nämä suojatoimet vähentävät haitallisten, puolueellisten tai harhaanjohtavien tulosteiden riskiä ja suojaavat samalla käyttäjien yksityisyyttä ja arkaluonteisia tietoja koko vuorovaikutuksen ajan.
Copilot perustuvat agentit perivät Microsoft vastuulliset tekoälyvelvoitteet, joissa keskitytään oikeudenmukaisuuteen, luotettavuuteen, tietosuojaan ja läpinäkyvyyteen. Turvallisuussuodattimilla on tärkeä rooli näiden sitoumusten täytäntöönpanossa ohjaamalla agenttien tapaa vastata käyttäjien antamiin tietoihin, käsitellä arkaluonteisia aiheita ja hallita tietojen käyttöä.
Important
Suunnittelijana et määritä suoraan turvallisuussuodattimia. Microsoft pakottaa ne käyttöympäristötasolla. Sävyä, soveltamisalaa ja läpinäkyvyyttä koskevat suunnittelupäätöksesi kuitenkin suoraan vahvistavat tai heikentävät luottamusta, jota turvallisuussuodattimet on suunniteltu suojaamaan.
Käyttämällä turvallisuussuodattimia johdonmukaisesti agentit voivat tukea käyttäjien luottamusta ja luottamusta. Käyttäjät voivat luottaa entistä paremmin agenttivastauksiin tietäen, että käytössä on suojatoimia, joilla edistetään tekoälyn vastuullista käyttäytymistä ja eettistä käyttöä.
Vinkki
Kattavat ohjeet Microsoft vastuullisesta tekoälytavasta, mukaan lukien yksityiskohtaiset periaatteet, hallintopuitteet ja läpinäkyvyysraportointi, ovat Microsoft Vastuullisen tekoälyn periaatteissa ja lähestymistavassa.