Notitie
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen u aan te melden of de directory te wijzigen.
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen de mappen te wijzigen.
Microsoft 365 Copilot Afstemmen stelt organisaties in staat om grote taalmodellen (LLM's) af te stemmen met behulp van hun eigen tenantgegevens. Deze nauwkeurig afgestemde modellen maken agents mogelijk die domeinspecifieke taken kunnen uitvoeren op basis van de unieke kennis van de organisatie. Alle training en AI-verwerking vindt plaats binnen uw Microsoft 365-tenant, zodat uw gegevens veilig blijven en worden beheerd door uw bestaande nalevingscontroles. Het resultaat is een AI-assistent die zich gedraagt als een deskundig teamlid en op maat gemaakte hulp biedt in overeenstemming met de inhoud en regels van uw organisatie.
In dit artikel wordt uitgelegd hoe organisaties Copilot Tuning kunnen gebruiken om taakspecifieke, nauwkeurig afgestemde LLM's te maken, hoe gebruikers agents kunnen bouwen op deze nauwkeurig afgestemde modellen en hoe IT-beheerders de functie kunnen beheren.
Opmerking
Copilot Tuning is momenteel beschikbaar voor Early Access-voorbeeld (EAP). Zie de beheerdershandleiding voor meer informatie over vereisten en hoe u zich kunt inschrijven.
Belangrijkste mogelijkheden en scenario's
Copilot Tuning maakt het mogelijk om LLMs af te stemmen via een intuïtieve gebruikersinterface zonder code. Bedrijfsanalisten of vakexperts kunnen hun domeinkennis gebruiken om LLMs af te stemmen op relevante tenantgegevens, zodat het model hun unieke stem en procedures kan leren die zijn aangepast aan de organisatie. Een analist van de juridische afdeling kan bijvoorbeeld een model verfijnen met behulp van de eerdere casestudy's en sjablonen van het bedrijf om een agent voor het opstellen van contracten te maken die documenten schrijft met behulp van de unieke stijl en terminologie van het bedrijf.
Copilot Tuning biedt de volgende belangrijke mogelijkheden en voordelen:
Model zonder code verfijnen: llms op interne gegevens verfijnen met behulp van een intuïtieve interface in Microsoft Copilot Studio.
Domeinspecifieke agents : bouw gespecialiseerde Copilot-agents op basis van de nauwkeurig afgestemde modellen die zijn afgestemd op zakelijke taken. U kunt agents maken voor scenario's zoals expert Q&A, het genereren van voorstellen of het samenvatten van rapporten die zich gedragen als een expert in dat domein. De agent produceert resultaten met de juiste toon, woordenschat en detailniveau voor de organisatie.
Meer intuïtieve inzichten en automatisering : door de zakelijke know-how van uw organisatie te coderen in Copilot, kunt u analyses en inhoud maken die zijn afgestemd op uw organisatie. Taken die dagen van handmatige inspanning kunnen vergen (documenten doorzoeken, gegevens compileren, concepten schrijven) kunnen in enkele minuten door de agent worden uitgevoerd. Hierdoor kunnen uw analisten en deskundigen zich richten op waardevoller werk, terwijl Copilot routine- of informatie-zware taken afhandelt.
Integratie met gegevensbronnen : Copilot Tuning kan gebruikmaken van de uitgebreide inhoud die al in uw Microsoft 365-ecosysteem aanwezig is. U selecteert kennisbronnen; het model leert vervolgens van deze tenantgegevens om ervoor te zorgen dat de antwoorden van de agent zijn gegrond op de informatie van de organisatie. Omdat Copilot is geïntegreerd met Microsoft Graph, kan de agent ook redeneren over live bedrijfsgegevens, waardoor u een krachtig hulpprogramma hebt om actuele informatie van Microsoft 365 op te vragen en samen te vatten.
Uw organisatie kan Copilot Tuning gebruiken voor de volgende scenario's:
Q&A : maak domeingespecialiseerde agents die tenantspecifieke inhoud begrijpen en berekent, zoals regelgeving, belastingcodes of wetenschappelijke rapporten, in indelingen zoals .docx, .pdf en .html. Q&A-agents zijn afgestemd op de toon, terminologie en nalevingstaal van de organisatie en bieden componentbewuste antwoorden, samenvattingen en vergelijkingen tussen documenten (bijvoorbeeld verschillen in regelgeving tussen regio's). Deze agents zijn geoptimaliseerd voor stabiele, tekst-intensieve inhoud in diepe domeingestuurde werkstromen waar precisie en context van belang zijn.
Documentgeneratie : train het model op documentsjablonen en eerdere rapporten om de eerste concepten van complexe documenten te genereren waarvoor anders meerdere prompts en modeluitvoer nodig zouden zijn. U kunt bijvoorbeeld een offerteschrijveragent maken die verkoopvoorstellen samenstelt of juridische contracten opstelt in de door het bedrijf goedgekeurde indeling en toon.
Samenvatting: genereer hoogwaardige, gestructureerde samenvattingen van complexe documenten die de toon, opmaak en inhoudsprioriteiten van uw organisatie weerspiegelen. Ideaal voor gebruiksscenario's met een groot volume of hoge inzet, zoals juridische, regelgevende of uitvoerende rapportage, samenvattingsagenten zorgen voor consistentie, verminderen handmatige inspanningen en passen zich aan uw voorkeurssamenvattingsstijl aan. Train uw LLM met voorbeeldparen om samenvattingen te produceren die duidelijk zijn, kunnen worden uitgevoerd en die zijn afgestemd op uw interne standaarden.
De LLM afstemmen
Als u een taakspecifieke agent wilt produceren die de expertise van uw organisatie vastlegt, moet u de LLM verfijnen.
Pas de volgende aanbevolen procedures toe om de LLM af te stemmen:
Begin met duidelijke doelstellingen : identificeer een waardevolle taak om ervoor te zorgen dat de agent tastbare resultaten levert en dat u uw tijd, gegevens en inspanningen richt op werk dat een zinvol rendement oplevert. Copilot Tuning ondersteunt momenteel drie primaire taaktypen: expert Q&A, documentgeneratie en documentsamenvatting.
Kwaliteitstrainingsgegevens verzamelen: verzamel de meest relevante en meest recente documenten voor de taak. De effectiviteit van het verfijnen is afhankelijk van goede gegevens. Gebruik gezaghebbende bronnen, zoals beleidsdocumenten, eigen rapporten, goedgekeurde sjablonen en voltooide producten die de standaarden, indeling en beslissingslogica van uw organisatie weerspiegelen.
Voor taken zoals het genereren of samenvatten van documenten moet u invoer-/uitvoerparen van hoge kwaliteit bieden om het model te helpen structuur, toon en inhoudsverwachtingen te leren.
Duidelijke instructies en beperkingen definiëren: wanneer u het model configureert in Copilot Studio, kunt u instructies invoeren voor de toon en het gedrag van de agent. Geef duidelijke richtlijnen; bijvoorbeeld 'Gebruik een professionele en vriendelijke toon' of 'Gebruik alleen informatie uit de officiële beleidshandleiding van 2023'. U kunt ook starterprompts of voorbeeldvragen opgeven om de antwoorden van het model te sturen. Deze helpen de agent de context en stijl te begrijpen.
Preview- en evaluatiehulpprogramma's gebruiken : Copilot Tuning bevat evaluatiestappen. Nadat uw model is getraind, test u het met voorbeeldquery's of taken. Copilot Studio kunt u testresultaten vergelijken met basislijnantwoorden. Controleer de uitvoer om ervoor te zorgen dat ze voldoen aan uw verwachtingen voor nauwkeurigheid en toon. Als ze dat niet doen, verfijnt u uw trainingsgegevens of instructies en traint u opnieuw.
Herhalen met feedback : verfijning behandelen als een iteratief proces. Controleer hoe de agent presteert tijdens gebruik. Werk het model regelmatig bij met nieuwe gegevens of correcties om het nauwkeurig te houden. Als het beleid bijvoorbeeld verandert of u ziet mogelijkheden voor verdere verfijning, neemt u deze updates op en voert u een andere afstemmingsronde uit.
Weet wanneer u Copilot moet gebruiken versus fine-tuning : als uw scenario breed is of de informatie dagelijks verandert, is het gebruik van Retrieval Augmented Generation (RAG) van Copilot, waarmee uw inhoud op het moment van de query wordt doorzocht, mogelijk voldoende. Fijnafstemming werkt het beste voor goed gedefinieerde, terugkerende taken waarbij het model een diep begrip van statische inhoud of een bepaalde stijl nodig heeft. Als uw taak afhankelijk is van algemene verwijzing of lichtgewicht synthese, begint u met Copilot. Als de uitvoer de specifieke stem, structuur of redenering van uw organisatie moet weerspiegelen, met name voor herhaalbare, hoogwaardige taken, is dat een signaal om te investeren in het verfijnen van de taak.
Agents gebruiken die zijn afgestemd op LLMs
Nadat u het model hebt aangepast, kunnen gebruikers een agent maken en implementeren op basis van dat model met behulp van Copilot Studio agentbuilder.
Gebruikers werken met agents op basis van nauwkeurig afgestemde modellen, net zoals ze communiceren met Copilot, via de Microsoft 365 Copilot-app of Copilot Chat in Teams of een andere app. Ze kunnen vragen in natuurlijke taal stellen en de agent reageert op basis van zijn nauwkeurig afgestemde kennis.
Agents op basis van nauwkeurig afgestemde modellen bieden de volgende voordelen voor uw organisatie:
Verhoogde productiviteit : agents fungeren als intelligente assistenten in het dagelijkse werk. Gebruikers kunnen direct antwoorden krijgen of inhoud genereren op basis van de gegevens van hun organisatie. Gebruikers kunnen taken ook sneller voltooien door te vertrouwen op agents voor het genereren van samenvattingen, het analyseren van gegevens, het opstellen van communicatie en meer.
Consistentie en nauwkeurigheid : agentreacties op basis van een nauwkeurig afgestemd model zijn consistent met organisatiegegevens. Dit vermindert het risico op fouten als gevolg van verouderde documenten of externe zoekmachines.
Oplossing maken : Copilot Tuning stelt gebruikers in staat om AI-oplossingen te maken om aan hun specifieke productiviteitsbehoeften te voldoen. Dit bevordert een cultuur van innovatie in de organisatie.
Verbeterde samenwerking : agents bieden een manier om organisatie-expertise beschikbaar te maken voor alle gebruikers. Dit helpt om kennissilo's in de organisatie te verwijderen en informatie te delen en samen te werken.
Pas de volgende aanbevolen procedures toe bij het maken van agents op basis van nauwkeurig afgestemde modellen:
Het bereik van het model begrijpen : op welke gegevens en taak is de agent gebaseerd? Is het getraind op HR-documenten tot 2022? Is het alleen bedoeld voor het samenvatten van bepaalde rapporten? Als u het bereik kent, kunt u de juiste vragen stellen en niet verwachten dat het niet-gerelateerde taken uitvoert.
Duidelijke prompts opgeven : stel duidelijke, specifieke vragen wanneer u met de agent communiceert. Hoewel het model is afgestemd, leveren goed geformuleerde query's betere resultaten op. Vraag bijvoorbeeld in plaats van 'Vertel me over uitkeringen', 'Wat is het zwangerschapsverlofbeleid voor fulltime werknemers?' Nauwkeurig afgestemde agents kunnen complexe query's verwerken, maar duidelijkheid helpt om nauwkeurigere informatie te bieden.
Startersprompts opnemen : startersprompts worden weergegeven in de gebruikersinterface van de agent en helpen gebruikers inzicht te krijgen in de mogelijkheden van de agent. Pas uw startersprompts aan op de belangrijkste scenario's voor uw verfijnde agent, zodat gebruikers optimaal kunnen profiteren van de kennis van de agent.
Verfijnen en herhalen : agents op basis van nauwkeurig afgestemde modellen ondersteunen gesprekken met meerdere functies. Als het antwoord van de agent niet precies is wat u nodig hebt, verfijnt u uw prompt of stelt u vervolgvragen. De verfijnde agent gebruikt de vervolgvragen om de reactie aan te passen.
Best practices voor beveiliging toepassen : vraag niet aan nauwkeurig afgestemde agents om informatie te verstrekken die vertrouwelijk moet zijn en om reacties van agents te verwerken in overeenstemming met het beleid van uw organisatie.
Feedback geven om agents verder af te stemmen : gebruik het feedbackmechanisme om de nauwkeurig afgestemde agent te trainen of aan te passen om de prestaties te verbeteren. Door regelmatig feedback te geven, kan de agent continu verbeteren. In Copilot kunnen gebruikers de pictogrammen duim omhoog en duim omlaag kiezen om feedback te verzenden over de antwoorden van de agent. Deze feedback wordt verzonden naar Microsoft en helpt het productteam veelvoorkomende problemen te identificeren en de modelprestaties in de loop van de tijd te verbeteren.
Beheer instellingen en governance
Copilot Tuning biedt tenantbrede instellingen, beveiliging en governancefuncties, zodat beheerders de omgeving kunnen instellen met de juiste kaders.
De volgende belangrijke beheerfuncties zijn beschikbaar voor Copilot Tuning:
Toegangsbeheer : AI-beheerders kunnen Copilot Tuning inschakelen voor hun organisatie of voor een specifieke subset van gebruikers. Een beheerder kan copilot-afstemming bijvoorbeeld alleen inschakelen voor de afdelingen R&D en Juridische zaken en bepaalde gebruikers in die teams aanwijzen om nauwkeurig afgestemde modellen en gespecialiseerde agents te maken. Nadat een model is getraind en geïmplementeerd, bepaalt de AI-beheerder wie toegang heeft tot het getrainde model.
Microsoft 365-beheercentrum governance: beheerders kunnen projecten en agents verfijnen via de copilot-beheersectie in de Microsoft 365-beheercentrum. Ze kunnen zien welke aangepaste modellen worden geïmplementeerd en een model verwijderen als het verouderd raakt.
Beveiliging en naleving : Copilot Tuning is gebouwd met beveiliging op ondernemingsniveau. Modeltraining vindt plaats in een tenant-geïsoleerde omgeving en het resulterende model neemt de toegangsmachtigingen van de onderliggende gegevens over. Er worden tijdens de training geen klantgegevens verzonden naar externe services; de afstemming vindt plaats binnen de beveiligde cloud die is gekoppeld aan uw tenant.
Copilot Tuning sluit alle bestanden uit die de beveiligingsgroep of groepen die op het model zijn toegepast, geen toegangsmachtigingen hebben. Er wordt ook voorgesteld beveiligingsgroepen toe te voegen aan de trainingsgegevens om de kennis te maximaliseren. Dit biedt een extra beveiligingslaag voor het model.
Opmerking
Wanneer u een model verfijnt, worden de gewichten van het model aangepast op basis van de trainingsgegevens. Wijzigingen in toegangsmachtigingen voor de trainingsgegevens worden niet automatisch toegepast op het model; AI-beheerders moeten de machtigingen voor het model bijwerken in de Microsoft 365-beheercentrum.
Alle Microsoft Graph-gegevens die worden geretourneerd in Copilot-antwoorden, hebben ook betrekking op documentmachtigingen; antwoorden bevatten geen informatie waar een gebruiker geen toegang toe heeft.
Implementatie en bewaking : wanneer een model is afgestemd en geïmplementeerd, kunnen bouwers het gebruiken in een agent en de agent delen met gebruikers in de organisatie die toegang hebben tot het model. Beheerders kunnen bepalen wie toegang heeft tot de agent via beveiligingsgroepen en kunnen het gebruik van de agent controleren via copilot-dashboards voor gebruiksanalyse.
Disclaimer
De AI-beheerder is er verantwoordelijk voor dat uw gebruik van dit product voldoet aan alle toepasselijke wetgeving inzake gegevensbescherming, privacy en intellectueel eigendom. Dit omvat het voldoen aan uw verplichtingen als verwerkingsverantwoordelijke onder regelgeving zoals de AVG of CCPA.
Verplichtingen voor gegevenscontroller
- U bent verantwoordelijk voor de wijze waarop gegevens worden verzameld, opgeslagen en gebruikt in uw tenantomgeving.
- U moet ervoor zorgen dat uw gegevenspraktijken voldoen aan wettelijke vereisten voor transparantie, toestemming, toegang en verwijdering.
- U bent verantwoordelijk voor het controleren van de nauwkeurigheid, geschiktheid en naleving van alle uitvoer die door dit systeem wordt gegenereerd voordat u ze gebruikt. Kan een beoordeling met de deskundigen op het gebied van het onderwerp vereisen.
Copyright- en modeltraining
- Als u ervoor kiest om een aangepast model te trainen met behulp van uw eigen gegevens, moet u ervoor zorgen dat u over de juiste rechten of licenties beschikt voor alle auteursrechtelijk beschermde materialen die zijn opgenomen in de trainingsset.
- Copyrightbescherming is niet van toepassing op modellen die zijn getraind met niet-geautoriseerde auteursrechtelijk beschermde inhoud. U neemt de volledige verantwoordelijkheid voor een dergelijk gebruik.
Gegevensverwijdering
- Als een gebruiker van wie de gegevens zijn gebruikt voor het trainen van een model een geldige verwijderingsaanvraag indient onder AVG (of vergelijkbare voorschriften), moet u het model opnieuw trainen.
- Wanneer u een model verfijnt, worden de gewichten van het model aangepast op basis van de trainingsgegevens. U kunt het verfijnde model op elk gewenst moment verwijderen.