Ansvarsfull AI med .NET

Ansvarsfull AI syftar på att utforma, utveckla och distribuera artificiella intelligenssystem på ett sätt som är etiskt, transparent och anpassat till mänskliga värden. Den betonar rättvisa, ansvarsskyldighet, sekretess och säkerhet för att säkerställa att AI-tekniker gynnar individer och samhället som helhet. I takt med att AI blir allt mer integrerat i program och beslutsprocesser är det viktigt att prioritera ansvarsfull AI.

Microsoft har identifierat six-principer för ansvarsfull AI:

  • Rättvisa
  • Tillförlitlighet och säkerhet
  • Sekretess och säkerhet
  • Inkludering
  • Genomskinlighet
  • Ansvar

Om du skapar en AI-app med .NET 📦 Microsoft. Extensions.AI.Evaluation.Safety-paketet tillhandahåller utvärderare för att säkerställa att svaren som din app genererar, både text och bild, uppfyller standarderna för ansvarsfull AI. Utvärderarna kan också identifiera problematiskt innehåll i användarindata. Dessa säkerhetsutvärderingar använder tjänsten Microsoft Foundry Evaluation för att utföra utvärderingar. De omfattar mått för hat och orättvisa, grundadhet, ogrundad slutsatsdragning av mänskliga attribut och förekomsten av:

  • Skyddat material
  • Innehåll för självskadebeteende
  • Sexuellt innehåll
  • Våldsamt innehåll
  • Sårbar kod (endast textbaserad)
  • Indirekta attacker (endast textbaserade)

Mer information om säkerhetsutvärderingarna finns i Säkerhetsutvärderingar. För att komma igång med Microsoft.Extensions.AI.Evaluation.Safety-utvärderare, se Tutorial: Utvärdera svarssäkerhet med cachelagring och rapportering.

Se även

  • Last updated on