Übersicht über die Microsoft 365 Copilot optimierung (Vorschau)

2025-05-20

Microsoft 365 Copilot Optimierung ermöglicht Es Organisationen, große Sprachmodelle (LLMs) mithilfe ihrer eigenen Mandantendaten zu optimieren. Diese optimierten Modelle unterstützen Agents, die domänenspezifische Aufgaben basierend auf dem einzigartigen Wissen der organization ausführen können. Die gesamte Trainings- und KI-Verarbeitung erfolgt in Ihrem Microsoft 365-Mandanten, sodass Ihre Daten sicher bleiben und ihren vorhandenen Compliancekontrollen unterliegen. Das Ergebnis ist eine KI-Assistent, die sich wie ein erfahrenes Teammitglied verhält und maßgeschneiderte Unterstützung im Einklang mit den Inhalten und Regeln Ihrer organization bietet.

In diesem Artikel wird erläutert, wie Organisationen copilot Tuning verwenden können, um aufgabenspezifische, fein abgestimmte LLMs zu erstellen, wie Benutzer Agents auf diesen optimierten Modellen erstellen können und wie IT-Administratoren das Feature steuern können.

Hinweis

Copilot Tuning ist derzeit für Early Access Preview (EAP) verfügbar. Ausführliche Informationen zu Den Anforderungen und zur Registrierung finden Sie im Administratorhandbuch.

Wichtige Funktionen und Szenarien

Copilot Tuning ermöglicht die Feinabstimmung von LLMs über eine intuitive Benutzeroberfläche ohne Code. Business Analysts oder Fachexperten können ihr Domänenwissen nutzen, um LLMs für relevante Mandantendaten zu optimieren, sodass das Modell ihre einzigartige Stimme und ihre Prozeduren erlernen kann, die für die organization angepasst sind. Beispielsweise kann ein Rechtsabteilungsanalyst ein Modell mithilfe der früheren Fallbeschreibungen und Vorlagen des Unternehmens optimieren, um einen Vertragsentwurfsmitarbeiter zu erstellen, der Dokumente mit dem einzigartigen Stil und der Terminologie des Unternehmens schreibt.

Copilot Tuning bietet die folgenden wichtigsten Funktionen und Vorteile:

Optimierung des Modells ohne Code: Optimieren Sie LLMs für interne Daten mithilfe einer intuitiven Benutzeroberfläche in Microsoft Copilot Studio.
Domänenspezifische Agents : Erstellen Sie spezialisierte Copilot-Agents basierend auf den optimierten Modellen, die auf Geschäftsaufgaben zugeschnitten sind. Sie können Agents für Szenarien wie Q&A, Vorschlagsgenerierung oder Berichtszusammenfassung erstellen, die sich wie ein Experte in dieser Domäne verhalten. Der Agent erzeugt Ergebnisse mit dem geeigneten Ton, Vokabular und Detailgrad für die organization.
Intuitivere Erkenntnisse und Automatisierung: Die Codierung des Geschäfts-Know-hows Ihrer organization in Copilot ermöglicht Analysen und die Erstellung von Inhalten, die auf Ihre organization abgestimmt sind. Aufgaben, die mehrere Tage manuell in Anspruch nehmen können (Durchsuchen von Dokumenten, Kompilieren von Daten, Schreiben von Entwürfen), können vom Agent in Minuten erledigt werden. Dadurch können sich Ihre Analysten und Fachexperten auf höherwertige Arbeit konzentrieren, während Copilot routine- oder informationsintensive Aufgaben übernimmt.
Integration in Datenquellen : Copilot Tuning kann die umfangreichen Inhalte nutzen, die sich bereits in Ihrem Microsoft 365-Ökosystem befinden. Sie wählen Wissensquellen aus. Das Modell lernt dann aus diesen Mandantendaten, um sicherzustellen, dass die Antworten des Agents auf den Informationen des organization basieren. Da Copilot in Microsoft Graph integriert ist, kann der Agent auch Live-Unternehmensdaten berücksichtigen, sodass Sie ein leistungsstarkes Tool zum Abfragen und Zusammenfassen aktueller Informationen von Microsoft 365 erhalten.

Ihre organization kann Copilot Tuning für die folgenden Szenarien verwenden:

F&A : Erstellen Sie domänenspezifische Agents, die mandantenspezifische Inhalte wie Vorschriften, Steuercodes oder wissenschaftliche Berichte in Formaten wie .docx, .pdf und .html verstehen und damit begründen. Q&A-Agents sind darauf abgestimmt, den Ton, die Terminologie und die Compliancesprache der organization widerzuspiegeln, und bieten klauselbasierte Antworten, Zusammenfassungen und dokumentübergreifende Vergleiche (z. B. unterschiede zwischen den Regionen). Diese Agents sind für stabile, textlastige Inhalte in tiefen domänengesteuerten Workflows optimiert, bei denen Genauigkeit und Kontext wichtig sind.
Dokumentgenerierung : Trainieren Sie das Modell anhand von Dokumentvorlagen und früheren Berichten, um erste Entwürfe komplexer Dokumente zu generieren, die andernfalls mehrere Eingabeaufforderungen und Modellausgaben erfordern würden. Sie können z. B. einen Vorschlagswriter-Agent erstellen, der Verkaufsvorschläge oder Rechtsverträge im vom Unternehmen genehmigten Format und Ton zusammenstellt.
Zusammenfassung: Generieren Sie qualitativ hochwertige, strukturierte Zusammenfassungen komplexer Dokumente, die den Ton, die Formatierung und die Inhaltsprioritäten Ihrer organization widerspiegeln. Zusammenfassungs-Agents eignen sich ideal für Anwendungsfälle mit hohem Volumen oder hohem Einsatz, z. B. rechtliche, behördliche oder Geschäftsleitungsberichte, und stellen Konsistenz sicher, reduzieren den manuellen Aufwand und passen sich an Ihren bevorzugten Zusammenfassungsstil an. Trainieren Sie Ihre LLM mit Beispielpaaren, um Zusammenfassungen zu erstellen, die klar, umsetzbar und an Ihren internen Standards ausgerichtet sind.

Feinabstimmung der LLM

Um erfolgreich einen aufgabenspezifischen Agent zu erstellen, der das Fachwissen Ihrer organization erfasst, müssen Sie den LLM optimieren.

Wenden Sie die folgenden bewährten Methoden an, um die LLM zu optimieren:

Beginnen Sie mit klaren Zielen : Identifizieren Sie eine hochwertige Aufgabe, um sicherzustellen, dass der Agent greifbare Ergebnisse liefert und Dass Sie Ihre Zeit, Daten und Anstrengungen auf die Arbeit konzentrieren, die eine sinnvolle Rendite ermöglicht. Copilot Tuning unterstützt derzeit drei Hauptaufgabentypen: Q&A, Dokumentgenerierung und Dokumentzusammenfassung.
Zusammenstellen hochwertiger Trainingsdaten : Sammeln Sie die relevantesten und aktuellsten Dokumente für die Aufgabe. Die Effektivität der Feinabstimmung hängt von guten Daten ab. Verwenden Sie autoritative Quellen wie Richtliniendokumente, proprietäre Berichte, genehmigte Vorlagen und fertige Lieferumfang, die die Standards, das Format und die Entscheidungslogik Ihrer organization widerspiegeln.

Stellen Sie für Aufgaben wie die Dokumentgenerierung oder -zusammenfassung hochwertige Ein-/Ausgabepaare bereit, die dem Modell helfen, die Struktur, den Ton und die Inhaltserwartungen zu erlernen.
Definieren klarer Anweisungen und Einschränkungen: Beim Konfigurieren des Modells in Copilot Studio können Sie Anweisungen für den Ton und das Verhalten des Agents eingeben. Klare Richtlinien bereitstellen; Beispiel: "Verwenden Sie einen professionellen und freundlichen Ton" oder "Verwenden Sie nur Informationen aus dem offiziellen Richtlinienhandbuch 2023". Sie können auch Starteingabeaufforderungen oder Beispielfragen bereitstellen, um die Antworten des Modells zu steuern. Diese helfen dem Agent, Kontext und Stil zu verstehen.
Verwenden von Vorschau- und Auswertungstools : Copilot-Optimierung umfasst Auswertungsschritte. Nachdem Ihr Modell trainiert wurde, testen Sie es mit Beispielabfragen oder Aufgaben. mit Copilot Studio können Sie Testergebnisse mit Basisantworten vergleichen. Überprüfen Sie die Ausgaben, um sicherzustellen, dass sie Ihre Erwartungen hinsichtlich Genauigkeit und Ton erfüllen. Wenn dies nicht der Fall ist, verfeinern Sie Ihre Trainingsdaten oder Anweisungen, und trainieren Sie sie erneut.
Iteration mit Feedback : Behandeln Sie die Feinabstimmung als iterativen Prozess. Überwachen Sie die Leistung des Agents bei der Verwendung. Aktualisieren Sie das Modell regelmäßig mit neuen Daten oder Korrekturen, um es genau zu halten. Wenn sich z. B. Richtlinien ändern oder Sie Möglichkeiten zur weiteren Verfeinerung bemerken, integrieren Sie diese Updates, und führen Sie eine weitere Optimierungsrunde aus.
Wissen, wann Sie Copilot im Vergleich zur Optimierung verwenden sollten : Wenn Ihr Szenario umfassend ist oder sich die Informationen täglich ändern, ist die Verwendung von Retrieval Augmented Generation (RAG) von Copilot, die Ihre Inhalte zur Abfragezeit durchsucht, möglicherweise ausreichend. Die Feinabstimmung eignet sich am besten für klar definierte, sich wiederholende Aufgaben, bei denen das Modell ein tiefes Verständnis statischer Inhalte oder eines bestimmten Stils benötigt. Wenn Ihre Aufgabe von einer allgemeinen Referenz oder einer einfachen Synthese abhängt, beginnen Sie mit Copilot. Wenn die Ausgabe die spezifische Stimme, Struktur oder Argumentation Ihrer organization widerspiegeln muss , insbesondere bei wiederholbaren, hochwertigen Aufgaben, ist dies ein Signal, in die Feinabstimmung zu investieren.

Verwenden von Agents, die auf LLMs optimiert sind

Nachdem Sie das Modell optimiert haben, können Benutzer mithilfe von Copilot Studio Agent Builder einen Auf diesem Modell basierenden Agent erstellen und bereitstellen.

Benutzer interagieren mit Agents basierend auf optimierten Modellen genau wie mit Copilot – entweder über die App Microsoft 365 Copilot oder Copilot Chat in Teams oder einer anderen App. Sie können Fragen in natürlicher Sprache stellen, und der Agent antwortet basierend auf seinem fein abgestimmten Wissen.

Agents, die auf optimierten Modellen basieren, bieten die folgenden Vorteile für Ihre organization:

Gesteigerte Produktivität : Agenten fungieren als intelligente Assistenten in der täglichen Arbeit. Benutzer können sofortige Antworten erhalten oder Inhalte basierend auf den Daten ihrer organization generieren. Benutzer können Aufgaben auch schneller ausführen, indem sie sich auf Agents verlassen, um Zusammenfassungen zu generieren, Daten zu analysieren, Kommunikationen zu entwerfen und vieles mehr.
Konsistenz und Genauigkeit : Agent-Antworten, die auf einem optimierten Modell basieren, sind mit Organisationsdaten konsistent. Dadurch wird das Risiko von Fehlern aufgrund veralteter Dokumente oder externer Suchmaschinen reduziert.
Lösungserstellung : Copilot Tuning ermöglicht Es Benutzern, KI-gestützte Lösungen zu erstellen, um ihre spezifischen Produktivitätsanforderungen zu erfüllen. Dies fördert eine Innovationskultur im organization.
Verbesserte Zusammenarbeit : Agents bieten eine Möglichkeit, organisationsbezogenes Fachwissen allen Benutzern zur Verfügung zu stellen. Dies trägt dazu bei, Wissenssilos im organization zu entfernen und den Informationsaustausch und die Zusammenarbeit zu erhöhen.

Wenden Sie die folgenden bewährten Methoden an, wenn Sie Agents basierend auf optimierten Modellen erstellen:

Grundlegendes zum Bereich des Modells : Auf welchen Daten und Aufgaben basiert der Agent? War es bis 2022 in Personaldokumenten geschult? Ist es nur für die Zusammenfassung bestimmter Berichte gedacht? Wenn Sie den Bereich kennen, können Sie die richtigen Fragen stellen und nicht erwarten, dass er nicht damit zusammenhängende Aufgaben ausführt.
Klare Eingabeaufforderungen bereitstellen : Stellen Sie bei der Interaktion mit dem Agent klare, spezifische Fragen. Obwohl das Modell fein abgestimmt ist, liefern gut formulierte Abfragen bessere Ergebnisse. Anstatt beispielsweise "Informieren Sie sich über Leistungen" zu fragen, fragen Sie "Wie sieht die Richtlinie für Den Mutterschaftsurlaub für Vollzeitbeschäftige aus?" Fein abgestimmte Agents können komplexe Abfragen verarbeiten, aber Klarheit hilft dabei, genauere Informationen zu liefern.
Starteingabeaufforderungen einschließen : Starteingabeaufforderungen werden auf der Agent-Benutzeroberfläche angezeigt und helfen Benutzern, die Funktionen des Agents zu verstehen. Passen Sie Ihre Eingabeaufforderungen an die wichtigsten Szenarien für Ihren fein abgestimmten Agent an, damit Benutzer das Wissen des Agents optimal nutzen können.
Verfeinern und durchlaufen : Agents, die auf optimierten Modellen basieren, unterstützen Unterhaltungen mit mehreren Durchläufen. Wenn die Antwort des Agents nicht genau das ist, was Sie benötigen, verfeinern Sie Ihre Eingabeaufforderung, oder stellen Sie Folgefragen. Der fein abgestimmte Agent verwendet die Folgefragen, um seine Antwort anzupassen.
Anwenden bewährter Sicherheitsmethoden: Bitten Sie nicht fein abgestimmte Agents, informationen bereitzustellen, die vertraulich sein sollten, und behandeln Sie Agent-Antworten in Übereinstimmung mit den Richtlinien Ihrer organization.
Bereitstellen von Feedback zur weiteren Optimierung von Agents : Verwenden Sie den Feedbackmechanismus, um den optimierten Agent zu trainieren oder zu optimieren, um seine Leistung zu verbessern. Regelmäßiges Feedback hilft dem Agent, sich kontinuierlich zu verbessern. In Copilot können Benutzer die Symbole "Daumen nach oben" und "Daumen nach unten" auswählen, um Feedback zu den Antworten des Agents zu übermitteln. Dieses Feedback wird an Microsoft gesendet und hilft dem Produktteam, häufige Probleme zu identifizieren und die Modellleistung im Laufe der Zeit zu verbessern.

Admin Einstellungen und Governance

Copilot Tuning bietet mandantenweite Einstellungen, Sicherheits- und Governancefeatures, mit denen Administratoren die Umgebung mit den entsprechenden Schutzmaßnahmen einrichten können.

Die folgenden wichtigen Administratorfeatures sind für Copilot Tuning verfügbar:

Zugriffssteuerung: KI-Administratoren können Copilot Tuning für ihre organization oder für eine bestimmte Teilmenge von Benutzern aktivieren. Beispielsweise kann ein Administrator Copilot-Optimierung nur für die R-&D- und Rechtsabteilung aktivieren und bestimmte Benutzer in diesen Teams zum Erstellen fein abgestimmter Modelle und spezialisierter Agents festlegen. Nachdem ein Modell trainiert und bereitgestellt wurde, steuert der KI-Administrator, wer Zugriff auf das trainierte Modell hat.
Microsoft 365 Admin Center Governance: Administratoren können Projekte und Agents zur Optimierung über den Copilot-Verwaltungsabschnitt im Microsoft 365 Admin Center überwachen. Sie können anzeigen, welche benutzerdefinierten Modelle bereitgestellt werden, und ein Modell löschen, wenn es veraltet ist.
Sicherheit und Compliance : Copilot Tuning basiert auf Sicherheit auf Unternehmensniveau. Das Modelltraining erfolgt in einer mandantenisolierten Umgebung, und das resultierende Modell erbt die Zugriffsberechtigungen der zugrunde liegenden Daten. Während des Trainings werden keine Kundendaten an externe Dienste übermittelt; die Optimierung erfolgt in der sicheren Cloud, die Ihrem Mandanten zugeordnet ist.

Copilot Tuning schließt alle Dateien aus, für die die Sicherheitsgruppe oder gruppen, die auf das Modell angewendet wurden, nicht über Zugriffsberechtigungen verfügen. Außerdem werden Sicherheitsgruppen vorgeschlagen, die ihren Trainingsdaten hinzugefügt werden sollen, um ihr Wissen zu maximieren. Dies bietet eine zusätzliche Sicherheitsebene für das Modell.

Hinweis

Wenn Sie ein Modell optimieren, werden die Modellgewichtungen basierend auf den Trainingsdaten angepasst. Änderungen an Zugriffsberechtigungen für die Trainingsdaten werden nicht automatisch auf das Modell angewendet. KI-Administratoren müssen die Berechtigungen für das Modell im Microsoft 365 Admin Center aktualisieren.

Alle in Copilot-Antworten zurückgegebenen Microsoft Graph-Daten berücksichtigen auch Dokumentberechtigungen. Antworten enthalten keine Informationen, auf die ein Benutzer keinen Zugriff hat.
Bereitstellung und Überwachung: Wenn ein Modell optimiert und bereitgestellt wird, können Ersteller es in einem Agent verwenden und den Agent für Benutzer im organization freigeben, die Zugriff auf das Modell haben. Administratoren können über Sicherheitsgruppen steuern, wer Zugriff auf den Agent hat, und die Agent-Nutzung über Copilot-Dashboards zur Nutzungsanalyse überwachen.

Haftungsausschluss

Der KI-Administrator ist dafür verantwortlich, sicherzustellen, dass Ihre Verwendung dieses Produkts allen geltenden Gesetzen zum Datenschutz, zum Datenschutz und zum geistigen Eigentum entspricht. Dies schließt die Erfüllung Ihrer Verpflichtungen als Datenverantwortlicher gemäß Vorschriften wie der DSGVO oder CCPA ein.

Pflichten des Datenverantwortlichen

Sie sind dafür verantwortlich, wie Daten in Ihrer Mandantenumgebung gesammelt, gespeichert und verwendet werden.
Sie müssen sicherstellen, dass Ihre Datenpraktiken die gesetzlichen Anforderungen an Transparenz, Zustimmung, Zugriff und Löschung erfüllen.
Sie sind dafür verantwortlich, die Genauigkeit, Angemessenheit und Konformität von Ausgaben zu überprüfen, die von diesem System generiert werden, bevor Sie sie verwenden. Kann eine Überprüfung mit den Fachexperten erfordern.

Copyright- und Modelltraining

Wenn Sie sich dafür entscheiden, ein benutzerdefiniertes Modell mit Ihren eigenen Daten zu trainieren, müssen Sie sicherstellen, dass Sie über die entsprechenden Rechte oder Lizenzen für alle urheberrechtlich geschützten Materialien verfügen, die im Trainingssatz enthalten sind.
Der Urheberrechtsschutz gilt nicht für Modelle, die mit nicht autorisierten urheberrechtlich geschützten Inhalten trainiert wurden. Sie übernehmen die volle Verantwortung für eine solche Nutzung.

Datenlöschung

Wenn ein Benutzer, dessen Daten zum Trainieren eines Modells verwendet wurden, einen gültigen Löschantrag gemäß der DSGVO (oder ähnlichen Vorschriften) sendet, müssen Sie das Modell erneut trainieren.
Wenn Sie ein Modell optimieren, werden die Modellgewichtungen basierend auf den Trainingsdaten angepasst. Sie haben die Möglichkeit, das fein abgestimmte Modell jederzeit zu löschen.