Verantwoorde AI met .NET

Verantwoorde AI verwijst naar de praktijk van het ontwerpen, ontwikkelen en implementeren van systemen voor kunstmatige intelligentie op een manier die ethisch, transparant en afgestemd is op menselijke waarden. Het benadrukt billijkheid, verantwoordelijkheid, privacy en veiligheid om ervoor te zorgen dat AI-technologieën ten goede komen aan individuen en de samenleving als geheel. Naarmate AI steeds meer wordt geïntegreerd in toepassingen en besluitvormingsprocessen, is het prioriteren van verantwoorde AI essentieel.

Microsoft heeft six-principes geïdentificeerd voor verantwoorde AI:

  • Eerlijkheid
  • Betrouwbaarheid en veiligheid
  • Privacy en beveiliging
  • Inclusiviteit
  • Doorzichtigheid
  • Verantwoordelijkheid

Als u een AI-applicatie bouwt met .NET, biedt het pakket 📦 Microsoft.Extensions.AI.Evaluation.Safety evaluatoren die ervoor zorgen dat de antwoorden die uw app genereert, zowel tekst als beeld, voldoen aan de standaarden voor verantwoorde AI. De evaluators kunnen ook problematische inhoud detecteren in gebruikersinvoer. Deze veiligheids evaluators gebruiken de Microsoft Foundry Evaluation-service om evaluaties uit te voeren. Ze omvatten metrische gegevens voor haat en oneerlijkheid, geaardheid, niet-geaarde deductie van menselijke kenmerken en de aanwezigheid van:

  • Beschermd materiaal
  • Inhoud over zelfbeschadiging
  • Seksuele inhoud
  • Gewelddadige inhoud
  • Kwetsbare code (alleen op tekst gebaseerd)
  • Indirecte aanvallen (alleen op tekst gebaseerd)

Zie Veiligheids evaluators voor meer informatie over de veiligheids evaluators. Om aan de slag te gaan met de Microsoft.Extensions.AI.Evaluation.Safety evaluators, raadpleeg Tutorial: Evaluate response safety with caching and reporting.

Zie ook

  • Last updated on