Anwendungskarte: Copilot Code (Frontier)

  • Gilt für:: Microsoft Copilot

Important

  • Dies ist eine Vorschaufunktion, die unter den Microsoft-Produktbedingungen bereitgestellt wird.
  • Preview-Features haben möglicherweise eine eingeschränkte Funktionalität und werden möglicherweise nicht zur allgemeinen Verfügbarkeit freigegeben. Diese Funktionen sind vor einer offiziellen Veröffentlichung verfügbar, sodass die Kundschaft frühzeitig Zugriff erhält und Feedback geben kann.
  • Sie müssen Teil des Frontier-Vorschauprogramms sein, um frühzeitigen Zugang zu erhalten. Frontier verbindet Sie direkt mit den neuesten KI-Innovationen von Microsoft. Frontier-Vorschauen unterliegen den bestehenden Vorschaubedingungen Ihrer Kundenverträge. Da diese Funktionen noch in Entwicklung sind, können sich ihre Verfügbarkeit und Fähigkeiten im Laufe der Zeit ändern.

Was ist eine Anwendungs- oder Plattform-Karte?

Die Anwendungs- und Plattformkarten von Microsoft sollen Ihnen helfen, zu verstehen, wie unsere KI-Technologie funktioniert, welche Entscheidungen Anwendungsbesitzer treffen können, die die Leistung und das Verhalten der Anwendung beeinflussen können, und wie wichtig es ist, die gesamte Anwendung zu berücksichtigen, einschließlich der Technologie, der Menschen und der Umgebung. Anwendungskarten werden für KI-Anwendungen und Plattformkarten für KI-Plattformdienste erstellt. Diese Ressourcen können die Entwicklung oder Bereitstellung Ihrer eigenen Anwendungen unterstützen und für Benutzer oder Projektbeteiligte freigegeben werden, die von ihnen betroffen sind.

Im Rahmen seiner Verpflichtung zu verantwortungsvoller KI hält sich Microsoft an sechs Grundprinzipien: Fairness, Zuverlässigkeit und Sicherheit, Datenschutz und Sicherheit, Inklusion, Transparenz und Verantwortlichkeit. Diese Prinzipien sind in die verantwortungsvolle KI-Standard eingebettet, die Teams beim Entwerfen, Erstellen und Testen von KI-Anwendungen unterstützt. Anwendungs- und Plattformkarten spielen eine schlüsselrolle bei der Operationalisierung dieser Prinzipien, indem sie Transparenz in Bezug auf Funktionen, beabsichtigte Verwendungen und Einschränkungen bieten. Um weitere Erkenntnisse zu erhalten, sollten die Leser den Bericht zur Transparenz verantwortungsvoller KI von Microsoft und den Microsoft Enterprise AI Services Code of Conduct erkunden, in dem beschrieben wird, wie sie verantwortungsbewusst mit KI umgehen können.

Overview

Die Registerkarte Code in Microsoft Copilot ist ein KI-basierter Agent, der das, was Sie beschreiben, in funktionierende Software verwandelt. Sie beschreiben ein Ergebnis in natürlicher Sprache – ein Dashboard, ein internes Tool, eine statische Website, eine Datentransformation oder ein Skript – und Copilot Code erstellt es, zeigt eine Livevorschau auf einer Canvas an und iteriert mit Ihnen, bis es funktioniert. Sie müssen nicht wissen, wie Sie coden können. Copilot Code kann auf Ihrem eigenen Gerät (lokal) oder in einer sicheren, isolierten Umgebung in der Cloud ausgeführt werden.

Copilot Code wurde für Information Worker entwickelt, die Ideen, Daten und wiederkehrende Workflows haben, aber nicht über eine Entwicklungsumgebung verfügen. Es erstellt und führt Software in Ihrem Auftrag aus, nutzt Ihren Microsoft 365-Arbeitskontext, sofern Sie dies zulassen, und bittet Sie um Ihre Zustimmung, bevor es Aktionen durchführt, die über den von Ihnen ausgewählten Projektordner hinausgehen.

Copilot Code ist als Teil von Microsoft Copilot verfügbar. Weitere Informationen finden Sie in der Copilot-Codeübersicht.

Schlüsselbegriffe

In der folgenden Tabelle werden schlüsselbegriffe im Zusammenhang mit Copilot Code definiert.

Begriff Description
Agent Eine KI-gestützte Komponente, die Aufgaben im Auftrag eines Benutzers automatisiert und ausführt, basierend auf Anweisungen in natürlicher Sprache. Copilot Code ist ein Agent, der Software erstellt und ausführt.
Project Das Software-Artefakt „Copilot Code“ sowie die Dateien, aus denen es besteht. Ein Projekt wird auf Ihrem Gerät (lokal) oder in der Cloud gespeichert, und seine Konversation ist damit verknüpft.
Canvas Der visuelle Arbeitsbereich neben der Unterhaltung, in dem Sie eine Livevorschau des Artefakts sehen und zu einer Codeansicht wechseln können, um die generierten Dateien anzuzeigen und zu bearbeiten.
Lokale Entwicklung Ein Modus, in dem Copilot Code auf Ihrem eigenen Gerät ausgeführt wird und innerhalb eines von Ihnen ausgewählten Projektordners funktioniert.
Cloudentwicklung Ein Modus, in dem Copilot Code ausgeführt wird und Ihr Projekt in einer sicheren, isolierten Umgebung in der Cloud hält.
Zustimmungsaufforderung Ein Dialogfeld, in dem Copilot Code Ihre Berechtigung anfragt, bevor er auf einen Speicherort außerhalb des ausgewählten Ordners zugreift, eine Netzwerkverbindung herstellt oder einen Befehl ausführt. Eingabeaufforderungen werden in einfacher Sprache verfasst.
Plug-In Ein Paket, das über den Microsoft 365 App Store verteilt wird, das Copilot Code mit externen Datenquellen und Diensten verbindet. Copilot Code verwendet die gleichen Plug-Ins, die in Cowork verfügbar sind.
Arbeitskontext Ihre Microsoft 365-Daten – Dokumente, E-Mails, Besprechungen und Kalender –, die Copilot Code mit Ihrer Erlaubnis und unter Verwendung Ihres Organisations- (Arbeits-)Kontos als Kontext für die Erstellung von Inhalten nutzen kann.
GitHub-Verbindung Ein optionaler Link zu Ihrem GitHub Konto, mit dem Copilot Code mit Repositorys arbeiten kann, Fragen zu Ihrem Code beantworten und Pullanforderungen öffnen kann.
Automation „Work that Code“ wird nach einem Zeitplan ausgeführt, der im Bereich „Automatisierungen“ eingerichtet wird.

Hauptmerkmale oder Funktionen

Die folgenden wichtigsten Features und Funktionen beschreiben, wofür Copilot Code ausgelegt ist.

Funktion Description
Aus natürlicher Sprache erstellen Copilot Code wandelt eine Beschreibung in einfacher Sprache eines Ergebnisses in ein funktionierendes Softwareartefakt um, z. B. eine App, ein Dashboard, eine statische Website, Datentransformation, Automatisierung oder ein Skript.
Klärende Fragen Vor dem Erstellen stellen Copilot Code möglicherweise einige Fragen, um zu bestätigen, was Sie möchten und wie er aussehen soll.
Livevorschau und Codeansicht Die Canvas zeigt eine Live-Vorschau einer statischen Website oder Web-App während deren Erstellung. Sie können zur Codeansicht wechseln, um die generierten Dateien anzuzeigen und zu bearbeiten, und ein Element auf der Canvas auswählen, um Ihre nächste Anfrage darauf auszurichten.
Iterieren und wiederherstellen Sie verfeinern das Ergebnis, indem Sie Änderungen in der Unterhaltung beschreiben. Sie können jederzeit zu einer früheren Version zurückkehren. Wenn ein Schritt fehlschlägt, versucht Copilot Code, den Fehler zu beheben, und erläutert in einfacher Sprache, was passiert ist.
Lokale oder Cloudausführung Copilot Code kann Ihr Projekt auf Ihrem eigenen Gerät oder in einer sicheren, isolierten Umgebung in der Cloud ausführen.
Dateien und Daten einbinden Sie können Dateien (CSV-Dateien, Tabellen, Bilder, Dokumente, PDFs und Präsentationen) hochladen oder per Drag-and-Drop hinzufügen, Text einfügen und – bei lokalen Projekten – einen vorhandenen Ordner öffnen, mit dem Copilot Code arbeiten soll.
Integration des Arbeitskontexts Mit Ihrer Zustimmung verwendet Copilot Code Ihren Microsoft 365 Arbeitskontext – Dokumente, E-Mails, Besprechungen und Kalender – als Kontext für das, was es erstellt. Hierfür wird Ihr Unternehmenskonto (Arbeitskonto) verwendet
Plugins und Tools Copilot Code verwendet die gleichen Plug-Ins, die in Cowork verfügbar sind, um eine Verbindung mit externen Datenquellen und Diensten herzustellen, sowie Tools wie Websuche und Bildgenerierung, vorbehaltlich der Richtlinien Ihrer Organisation.
GitHub-Integration Optional können Sie ein GitHub-Konto verknüpfen, um einen Warm-Start aus einem Repository durchzuführen, Fragen zu Ihrem Code zu stellen, Branches und Commits zu erstellen, Pull-Request-Entwürfe zu öffnen und deren Status einzusehen, ein Repository anzulegen sowie Ihre Issues, Pull-Requests und Review-Anfragen unter „Meine Arbeit“ zu verfolgen.
Automations Über den Bereich „Automatisierungen“ können Sie Aufgaben einrichten, die nach einem Zeitplan ausgeführt werden.
Freigeben und Exportieren Sie können eine statische App als Link freigeben, der auf Ihre Organisation festgelegt ist, und ein Projekt als .zip Datei exportieren.
Modellauswahl Sie können das Modell auswählen, das Copilot Code für Ihr Projekt verwenden soll, oder die Auswahl Copilot Code überlassen.
Einwilligungseinstellungen Copilot Code bittet um Ihre Erlaubnis, bevor er auf Speicherorte außerhalb des ausgewählten Projektordners zugreift, Netzwerkverbindungen herstellt oder Befehle ausführt. Zustimmungsaufforderungen werden in verständlicher Sprache verfasst.

Als agentische KI-Anwendung zeigt Copilot Code die folgenden agentischen Merkmale:

  • Planung: Copilot Code zerlegt eine Beschreibung in natürlicher Sprache in die Schritte, die zum Erstellen der Software erforderlich sind, und arbeitet sie durch und zeigt dabei den Fortschritt an.
  • Anpassungsfähigkeit: Sie können Copilot Code während einer Sitzung mit Feedback steuern, und es passt seinen Ansatz an, einschließlich des Zurücksetzens auf eine frühere Version.
  • Erweiterbarkeit: Die Funktionen von Copilot Code werden durch Plug-Ins aus dem Microsoft 365 App Store, Konnektoren zu externen Datenquellen und eine optionale GitHub-Verbindung erweitert.
  • Speicher (im Konversationsbereich): Innerhalb der Konversation eines Projekts behält Copilot Code den Kontext über verschiedene Schritte und Nachrichten hinweg bei. Die während einer Sitzung erteilte Zustimmung gilt für diese Sitzung. Der Kontext wird nicht über separate Unterhaltungen hinweg beibehalten.

Beabsichtigte Verwendungen

Copilot Code wurde für Information Worker entwickelt, die Microsoft 365 verwenden und Ideen, Daten und wiederkehrende Workflows ohne Entwicklungsumgebung in funktionierende Software umwandeln möchten. Beispiele für Anwendungsfälle sind:

  • Dashboards und Datenansichten: Erstellen Sie ein Dashboard, das eine Metrik aus Ihren Daten nachverfolgt, z. B. wöchentliche Anmeldungen nach Kanal.
  • Interne Tools: Erstellen Sie einen Tracker, ein Formular oder einen Rechner für einen Teamworkflow, z. B. einen Bestands- oder Genehmigungs-Tracker.
  • Statische Websites und Landingpages: Erstellen Sie eine einfache Website oder Landingpage, um eine Idee zu testen.
  • Datentransformationen und Skripts: Wandeln Sie einen wiederkehrenden manuellen Prozess, z. B. das Neuerstellen eines Berichts aus mehreren Quellen, in ein wiederverwendbares Skript um.
  • Arbeiten mit vorhandenen Repositorys: Verbinden Sie ein GitHub-Konto, um Fragen zu einem Repository zu stellen, eine Änderung vorzunehmen und einen Entwurfs-Pull Request zu öffnen.

Agentbereich: Copilot Code arbeitet innerhalb der Grenzen Ihrer Microsoft 365 Berechtigungen und des ausgewählten Projektordners. Es erstellt und führt Software aus, die Sie ihm zur Erstellung vorgeben, und bittet Sie um Ihre Zustimmung, bevor es den ausgewählten Ordner verlässt, eine Netzwerkverbindung herstellt oder einen Befehl ausführt. Diese Aktionen werden nicht ohne Ihre Anweisung oder Genehmigung ausgeführt.

Copilot Code ist nicht für Anwendungsfälle vorgesehen, die eine garantierte Genauigkeit ohne menschliche Überprüfung erfordern, oder für die Erstellung von Software für folgenreiche oder sicherheitskritische Anwendungen ohne angemessene Tests und menschliche Aufsicht.

Modelle und Trainingsdaten

Copilot Code nutzt KI-Modelle, um das Benutzererlebnis zu gestalten. Sie können aus mehreren Modellen wählen, darunter Claude Opus und Claude Sonnet Varianten und Claude Haiku aus Anthropic, und GPT-Modelle, die von Microsoft gehostet und betrieben werden, oder Copilot Code ein Modell für Sie auswählen lassen. Anthropic-Modelle werden Microsoft als Unterauftragsverarbeiter zur Verfügung gestellt. Weitere Informationen finden Sie unter Anthropic als Unterauftragsverarbeiter für Microsoft Onlinedienste und Grundlegendes zu KI-Funktionen und -Modellen in Microsoft Online services.

Eingabeaufforderungen, Antworten und Daten, auf die über Microsoft Graph zugegriffen wird, werden nicht zum Trainieren von Foundation LLMs verwendet, einschließlich derjenigen, die von Microsoft Copilot verwendet werden. Im Cloudmodus verbleiben Ihre Organisationsdaten innerhalb von Microsoft 365 und unterliegen den vorhandenen Datengovernancerichtlinien Ihrer Organisation. Im lokalen Modus werden Ihre Daten jedoch möglicherweise auch auf dem lokalen Gerät gespeichert, vorbehaltlich der Zustimmung des Administrators. Weitere Informationen zum Umgang mit Daten finden Sie unter Daten, Datenschutz und Sicherheit für Microsoft Copilot.

Performance

Copilot Code wurde entwickelt, um funktionierende Software zu erstellen, die die Absicht des Benutzers widerspiegelt. Die Leistung wird basierend darauf ausgewertet, ob Copilot Code ein funktionierendes Artefakt erzeugt, das der Anforderung entspricht, und ob es korrekt auf Feedback iteriert.

Unterstützte Modalitäten

  • Eingabe: Textaufforderungen von Benutzern, eingefügter Text und angefügte Dateien (CSV, Kalkulationstabellen, Bilder, Dokumente, PDFs und Präsentationen) bis zu 200 MB pro Datei. Bei lokalen Projekten kann Copilot Code auch Dateien im ausgewählten Ordner lesen.
  • Ausgabe: Ein auf der Canvas angezeigter, ausgeführter Software-Artefakt, der generierte Quellcode, auf Ihrem Gerät oder in der Cloud gespeicherte Dateien sowie – wenn Sie GitHub verbinden – Branches, Commits und Entwürfe von Pull-Anfragen. Sie können eine statische App als Link mit Organisationsbereich freigeben und ein Projekt als .zip Datei exportieren.

So verarbeitet Copilot Code Anfragen

  1. Copilot Code erhält eine natürliche Sprachbeschreibung des gewünschten Ergebnisses.
  2. Copilot Code kann Klarstellungsfragen stellen, und plant dann die Schritte, die zum Erstellen des Artefakts erforderlich sind.
  3. Copilot Code schreibt und führt die Software aus und zeigt den Fortschritt und eine Livevorschau auf der Canvas an. Sie können zur Codeansicht wechseln, um die generierten Dateien anzuzeigen.
  4. Bevor Copilot Code auf einen Speicherort außerhalb des ausgewählten Ordners zugreift, eine Netzwerkverbindung herstellt oder einen Befehl ausführt, bittet es Sie in klarer Sprache um Ihre Zustimmung.
  5. Sie überprüfen das Ergebnis, verfeinern es durch Gespräche und speichern, freigeben oder exportieren Ihr Projekt.

Voraussetzungen für einen zuverlässigen Betrieb

  • Copilot Code funktioniert am besten, wenn Sie das Ergebnis eindeutig beschreiben, einschließlich der Personen, für die das Ergebnis vorgesehen ist, und aller Daten, die dabei verwendet werden sollen.
  • Copilot Code kann nur auf Daten und Dienste zugreifen, zu deren Nutzung Ihr Microsoft 365-Konto berechtigt ist, und für lokale Projekte auf den von Ihnen ausgewählten Ordner sowie alle von Ihnen genehmigten Speicherorte.
  • Die Vorschauunterstützung hängt vom Typ des Artefakts und dem Gerät ab.
  • Die Leistung kann für hochkomplexe Projekte mit vielen Interabhängigkeiten beeinträchtigt werden.

Mehrsprachige Funktionen

  • CCopilot Code ist in allen Copilot unterstützten Sprachen verfügbar. Die Unterstützung für zusätzliche Sprachen basiert auf den Funktionen des zugrunde liegenden Modells und der Microsoft 365-Dienstverfügbarkeit. Weitere Informationen zu unterstützten Sprachen finden Sie unter Unterstützte Sprachen für Microsoft Copilot.

Limitations

Das Verständnis der Einschränkungen von Copilot Code ist entscheidend, um festzustellen, ob es innerhalb sicherer und effektiver Grenzen verwendet wird. Während wir Kunden ermutigen, Copilot Code in ihren innovativen Lösungen oder Anwendungen zu verwenden, ist es wichtig zu beachten, dass Copilot Code nicht für jedes mögliche Szenario entwickelt wurde. Wir empfehlen Benutzern, entweder auf den Microsoft Enterprise AI Services-Verhaltenskodex (für Organisationen) oder den Abschnitt "Verhaltensregeln" im Microsoft-Servicevertrag (für Einzelpersonen) sowie auf die folgenden Überlegungen bei der Auswahl eines Anwendungsfalls zu verweisen:

  • Anweisungsinterpretation: Copilot Code interpretiert möglicherweise mehrdeutige oder zu allgemein gefasste Beschreibungen, was zu Software führt, die nicht mit Ihrer Absicht übereinstimmt. Geben Sie klare, spezifische Anweisungen für bessere Ergebnisse.

  • Genauigkeit von generiertem Code: KI-generierter Code und Artefakte sollten als Entwürfe behandelt werden. Testen Sie, was der Copilot-Code erstellt, bevor Sie sich darauf verlassen, ihn weitergeben oder in der Produktion einsetzen. Copilot Code kann ungenaue Ergebnisse erzeugen, insbesondere wenn Quelldaten unvollständig oder veraltet sind.

  • Projektkomplexität: Komplexe Projekte mit vielen Abhängigkeiten lassen sich möglicherweise nicht immer wie erwartet kompilieren. Überwachen Sie den Fortschritt, gehen Sie schrittweise vor und stellen Sie bei Bedarf auf eine frühere Version zurück.

  • Vorschauunterstützung: Die Vorschau hängt von der Art des Artefakts und dem Gerät ab. Beispielsweise können einige Artefakte nicht auf jeder Plattform in der Vorschau angezeigt werden.

  • Berechtigungsgrenzen: Copilot Code hängt von Ihren vorhandenen Microsoft 365 Berechtigungen und dem Ordner ab, den Sie für lokale Projekte auswählen. Es kann nicht auf Daten, Dienste oder Standorte zugreifen, die Sie nicht autorisiert haben.

  • Plattform- und Geräteunterstützung: Copilot Code wird in der Microsoft Copilot Desktop-App für Windows und Mac und im Web für die Cloudentwicklung ausgeführt. Eine mobile App ist in dieser Version nicht verfügbar, und die Verfügbarkeit von Features kann je nach Plattform variieren.

  • Benutzerdefinierte Fähigkeiten und Plug-Ins: Plug-Ins und Connectors werden von Herausgebern von Drittanbietern bereitgestellt und von Microsoft nicht überprüft. Überprüfen Sie die Ausgaben von Plug-Ins sorgfältig, da die Qualität davon abhängt, wer sie veröffentlicht hat.

  • Bias, Stereotyping und nicht fundierte Inhalte: Trotz verantwortungsvoller KI-Steuerelemente können KI-generierte Inhalte und Code immer noch Verzerrungen, Stereotypen oder nicht fundierte Informationen widerspiegeln. Überprüfen Sie, was Copilot Code erzeugt, bevor Sie darauf vertrauen. Weitere Informationen zu den bekannten Einschränkungen von KI-generierten Inhalten aus Anthropic-Modellen finden Sie in der Dokumentation zu den Unterauftragsverarbeitern von Anthropic.

  • Potenzielle erhebliche körperliche oder psychische Verletzungen einer Person: Vermeiden Sie die Verwendung oder den Missbrauch des Systems, der zu erheblichen physischen oder psychischen Verletzungen einer Person führen könnte. Beispielsweise kann die Entwicklung von Software, die Patienten diagnostiziert oder Medikamente verschreibt, erheblichen Schaden verursachen.

  • Auswirkungen auf die Lebensperspektiven oder den rechtlichen Status: Vermeiden Sie eine Nutzung oder einen Missbrauch des Systems, die Auswirkungen auf die Lebensperspektiven oder den rechtlichen Status haben könnten. Beispiele hierfür sind Software, die sich auf den rechtlichen Status einer Person, ihre gesetzlichen Rechte oder ihren Zugang zu Krediten, Bildung, Beschäftigung, Gesundheitsversorgung, Wohnraum, Versicherungen, Sozialleistungen, Dienstleistungen, Chancen oder die Bedingungen, unter denen diese gewährt werden, auswirken könnte.

Evaluations

Leistungs- und Sicherheitsbewertungen bewerten, ob Copilot Code zuverlässig und sicher funktioniert, indem Faktoren untersucht werden, z. B. ob die generierte Software korrekt und funktionsfähig ist und gleichzeitig die Risiken für die Generierung schädlicher Inhalte oder das Ergreifen nicht autorisierter Maßnahmen identifiziert werden. Die folgenden Bewertungen wurden mit bereits vorhandenen Sicherheitskomponenten durchgeführt, die auch unter Sicherheitskomponenten und Entschärfungen beschrieben werden.

Leistungs- und Qualitätsbewertungen

Leistungsbewertungen für Copilot Code sind unerlässlich, um seine Zuverlässigkeit in der realen Nutzung zu verbessern. Wir führen regelmäßig Leistungsbewertungen für die folgenden Bereiche durch:

  • Gibt an, ob generierter Code syntaktisch korrekt ist.
  • Gibt an, ob die Funktionalität des generierten Artefakts die Anforderung des Benutzers erfüllt.
  • Die Qualität des Ergebnisses aus sicht der Benutzererfahrung.

Methoden zur Leistungs- und Qualitätsbewertung

Unsere Auswertungsdaten wurden speziell entwickelt, um die Leistung von KI-Anwendungen in wichtigen Bereichen der Sicherheit und Qualität zu bewerten und reale Szenarien und Risiken zu simulieren. Zunächst identifizieren wir relevante Bewertungsaspekte von Beunruhigungen basierend auf multidisziplinären Forschungs- und Experteneingaben. Diese Bedenken werden in gezielte Bewertungsziele umgesetzt und leiten die Formulierung von Bewertungsmetriken an. Zur Sicherheit erstellen wir herausfordernde Eingabeaufforderungen, um unerwünschte oder Randfallantworten hervorzurufen, die dann von KI-unterstützten Annotatoren bewertet werden, um die Übereinstimmung mit den Sicherheitsstandards von Microsoft zu gewährleisten. Zur Qualitätssicherung erstellen wir rubrikbasierte Prompts, die für Codegenerierungs- und Agentenszenarien relevant sind. Datasets werden aus verschiedenen Quellen zusammengestellt, einschließlich synthetischer und öffentlicher Datasets, um reale Benutzerszenarien zu simulieren. Mithilfe der kuratierten Datasets werden beide Auswertungen iterativer Verfeinerung und menschlicher Ausrichtung unterzogen, um die Effizienz und Zuverlässigkeit von Metriken zu verbessern.

Copilot Code wurde anhand von Szenarien bewertet, die abbilden, wie Wissensarbeiter Software erstellen, etwa indem sie Dashboards, interne Tools, statische Websites und Datentransformationen generieren. Evaluatoren haben bewertet, ob der generierte Code korrekt war und lauffähig war, ob das Artefakt die Anfrage erfüllt hat und ob das Ergebnis auch bei Variationen derselben Aufgabe Bestand hatte. Ideale Ergebnisse spiegeln funktionale Software wider, die der Anforderung entspricht; Zu den suboptimalen Ergebnissen gehören Code, der nicht ausgeführt wird, fehlende Funktionen oder Ergebnisse, die nicht der Absicht entsprechen.

Benutzerdefinierte Auswertungen

Zusätzlich zu den Standardkennzahlen wurde Copilot Code anhand benutzerdefinierter Kennzahlen bewertet, die speziell auf seine agentenbasierten Funktionen zur Code-Erstellung zugeschnitten sind:

  • Build-Erfolg (ob Copilot Code ein funktionierendes Artefakt erstellt hat).
  • Ausrichtung der Anfrage (ob das Ergebnis mit der Absicht des Benutzers übereinstimmt).
  • Iterationsgenauigkeit (ob Copilot Code die angeforderten Änderungen korrekt angewendet hat und rückgängig gemacht hat).

Risiko- und Sicherheitsbewertungen

Die Bewertung potenzieller Risiken im Zusammenhang mit KI-generierten Inhalten und Handlungen ist unerlässlich, um sich vor Risiken unterschiedlicher Schweregrade zu schützen. Dies umfasst die Bewertung der Neigung von Copilot Code zur Generierung schädlicher Inhalte oder von schädlichem Code sowie das Testen auf Anfälligkeit für Jailbreak-Angriffe und nicht autorisierte Aktionen. Folgende Risiko- und Sicherheitsbewertungen wurden durchgeführt:

  • Hass und Unfairness
  • Sexuell
  • Gewalt
  • Selbstverletzung
  • Geschütztes Material
  • Unsichere oder schädliche Codegenerierung
  • Indirekter Jailbreak
  • Direkter Jailbreak
  • Ausführung einer nicht autorisierten Aktion

Risiko- und Sicherheitsbewertungsmethoden

Risiko- und Sicherheitsbewertungen verwendeten adversariale Prompts und automatisierte Klassifizierer, um potenzielle Schäden zu bewerten. Die Tests kombinierten LLM-Richterbewertungen mit klassifikatorbasierter Erkennung und manuellen Tests, wo erforderlich. Zusätzliche Auswertungen, die speziell auf die Ausführungsfähigkeit von Copilot Code ausgerichtet waren, testeten, ob der Agent dazu manipuliert werden konnte, unsicheren Code zu erzeugen oder dazu gebracht werden konnte, Aktionen auszuführen – auf Dateien zuzugreifen, Netzwerkverbindungen herzustellen oder Befehle auszuführen – ohne die erforderliche Zustimmung. Ideale Ergebnisse leiten unsichere Anfragen um oder lehnen sie ab und halten die Grenze der Einwilligung über alle Prompt-Varianten hinweg intakt. Zu den suboptimalen Ergebnissen gehören die Erstellung schädlicher oder unsicherer Inhalte oder das Ausführen von Aktionen ohne ordnungsgemäße Genehmigung.

Sicherheitskomponenten und Entschärfungen

Da wir potenzielle Risiken und Missbrauch mithilfe von Prozessen wie Red-Teamtests identifiziert und gemessen haben, haben wir Abhilfemaßnahmen entwickelt, um das Schadenspotenzial zu verringern. In der folgenden Liste werden einige dieser Risikominderungen beschrieben. Wir prüfen Copilot Code weiterhin, um die Produktleistung zu verbessern und Abhilfemaßnahmen zu ergreifen.

  • Zustimmung für Aktionen, die über den Projektordner hinausgehen. Der primäre Sicherheitsmechanismus von Copilot Code ist sein Zustimmungsmodell. Wenn Sie einen Ordner auswählen, in dem sie arbeiten sollen, kann Copilot Code innerhalb dieses Ordners lesen und schreiben. Der Zugriff auf einen anderen Speicherort, das Herstellen einer Netzwerkverbindung oder das Ausführen eines Befehls erfordert ihre explizite Genehmigung. Die Einwilligungsaufforderungen sind in einfacher Sprache verfasst.

  • Konfigurierbare Isolation für die Codeausführung. Copilot Code führt generierte Software mit konfigurierbaren Isolations- und Erzwingungsstufen aus. Administratoren können die Erzwingungsstufe für ihre Organisation konfigurieren.

  • Berechtigungsgrenzen. Copilot Code funktioniert ausschließlich innerhalb Ihrer vorhandenen Microsoft 365 Berechtigungen und des ausgewählten Ordners. Sie kann nicht auf Daten, Dienste oder Ressourcen zugreifen, für die Sie keine Autorisierung erteilt haben, was dazu beiträgt, die Eskalation von Berechtigungen zu verhindern.

  • Konversationsbezogene Einwilligung. Die Zustimmung, die Sie während einer Sitzung erteilen, gilt für diese Sitzung und wird nicht über separate Unterhaltungen hinweg beibehalten, sodass der Auswirkungsbereich einer unbeabsichtigten Berechtigungserteilung eingeschränkt wird.

  • KI-basierte Klassifikatoren und Inhaltsfilterung. Copilot Code verwendet KI-basierte Klassifizierer und Inhaltsfilter, um potenziell schädliche Inhalte in Benutzereingaben und generierten Antworten zu identifizieren und zu blockieren, einschließlich Filter für Hassreden, Gewalt, sexuelle Inhalte, Selbstverletzung und geschütztes Material.

  • Metaprompting. Systemanweisungen steuern das Verhalten von Copilot Code so, dass es Microsofts KI-Prinzipien und den Erwartungen der Benutzer entspricht, einschließlich Anweisungen zum Ablehnen unangemessener Anforderungen und zur Vermeidung der Generierung von unsicherem oder bösartigem Code.

  • Benutzerzentriertes Design und Transparenz. Copilot Code zeigt jeden Schritt an, während er arbeitet, und zeigt eine Livevorschau an, wodurch die Aktionen des Agents transparent werden, sodass Sie erkennen können, wann er in eine unbeabsichtigte Richtung geht.

  • Auditierbarkeit. Copilot Code protokolliert die ausgeführten Aktionen – generierter Code, ausgeführte Befehle und gelesene oder geschriebene Dateien – und diese Protokolle stehen IT-Administratoren zur Verfügung und bieten Rückverfolgbarkeit von der Anfrage eines Benutzers bis zur Aktion und ihrem Ergebnis.

  • Administrative Steuerelemente. Administratoren können Copilot Code und bestimmte Features aktivieren oder deaktivieren, Richtlinien auf Organisationsebene erzwingen, GitHub Kontoverbindungen einschränken und Grenzwerte für benutzerspezifische Ausgaben festlegen. Die Nutzung wird auf Ihr Microsoft Copilot-Kontingent angerechnet.

  • Feedbackmechanismen. Benutzer können positives oder negatives Feedback geben, wobei bei negativem Feedback ein Kommentar erforderlich ist, das verwendet wird, um die Qualität und Sicherheit von Copilot Code zu bewerten und zu verbessern.

  • Maßnahmen zur Cybersicherheit. Copilot Code implementiert Cybersicherheitspraktiken wie verschlüsselte Datenübertragung, sichere Authentifizierung über Microsoft Entra ID und Einhaltung des Sicherheitsentwicklungslebenszyklus von Microsoft. Im Cloudmodus verbleiben Ihre Organisationsdaten innerhalb von Microsoft 365 und unterliegen den vorhandenen Datengovernancerichtlinien Ihrer Organisation. Im lokalen Modus werden Ihre Daten jedoch möglicherweise auch auf dem lokalen Gerät gespeichert, vorbehaltlich der Zustimmung des Administrators. Regelmäßige Sicherheitsaudits und Überprüfungen des Bedrohungsmodells werden durchgeführt, um potenzielle Sicherheitsrisiken zu identifizieren und zu beheben.

Bewährte Methoden zum Bereitstellen und Einführen von Copilot Code

Verantwortungsvolle KI ist ein gemeinsames Engagement zwischen Microsoft und seinen Kunden. Während Microsoft KI-Anwendungen und Plattformdienste mit Sicherheit, Fairness und Transparenz erstellt, spielen Kunden eine wichtige Rolle bei der Bereitstellung und Verwendung dieser Technologien in ihren eigenen Kontexten. Um diese Partnerschaft zu unterstützen, bieten wir die folgenden bewährten Methoden für Bereitstellungen und Endbenutzer an, um Kunden bei der effektiven Implementierung verantwortungsvoller KI zu unterstützen.

Die für die Bereitstellung Verantwortlichen und die Endbenutzer sollten:

  • Seien Sie vorsichtig und bewerten Sie Ergebnisse, wenn Sie Copilot Code für folgenschwere Entscheidungen oder in sensiblen Domänen verwenden. Folgeentscheidungen sind solche, die einen rechtlichen oder erheblichen Einfluss auf den Zugang einer Person auf Bildung, Beschäftigung, Finanzplattformen, staatliche Leistungen, Gesundheitsversorgung, Wohnung, Versicherung, Rechtliche Plattformen haben oder die zu physischem, psychologischem oder finanziellem Schaden führen könnten. Sensible Bereiche wie Finanzplattformen, Gesundheitswesen und Wohnungswesen erfordern aufgrund der möglichen unverhältnismäßigen Auswirkungen auf verschiedene Personengruppen besondere Sorgfalt. Wenn Sie KI für Entscheidungen in diesen Bereichen verwenden, stellen Sie sicher, dass betroffene Beteiligte verstehen, wie Entscheidungen getroffen werden, Beschwerdeentscheidungen treffen und alle relevanten Eingabedaten aktualisieren können.

  • Prüfen Sie rechtliche und regulatorische Aspekte. Kunden müssen potenzielle rechtliche und behördliche Verpflichtungen bewerten, wenn Sie KI-Plattformen und -Lösungen verwenden, die möglicherweise nicht für die Verwendung in jeder Branche oder in jedem Szenario geeignet sind. Darüber hinaus sind KI-Plattformen oder -Lösungen nicht dafür ausgelegt und dürfen nicht in einer Weise verwendet werden, die nach den geltenden Nutzungsbedingungen und einschlägigen Verhaltenskodizes untersagt ist.

Bereitsteller sollten:

  • Konfigurieren Sie die Zugriffsrechte und Steuerungsfunktionen entsprechend. Verwenden Sie die verfügbaren administrativen Steuerelemente, um zu verwalten, welche Benutzer auf Copilot Code zugreifen können, welche Features verfügbar sind, GitHub-Verbindungsbeschränkungen festzulegen und Grenzwerte für benutzerspezifische Ausgaben festzulegen. Erwägen Sie, mit einer Pilotgruppe zu beginnen, bevor Sie sie breiter bereitstellen.

  • Klären Sie die Benutzer über das Einwilligungsmodell auf. Stellen Sie sicher, dass die Benutzer verstehen, dass sie dafür verantwortlich sind, zu überprüfen und zu genehmigen, worauf Copilot Code zugreift, womit er sich verbindet und was er ausführt, und dass KI-generierter Code als Entwurf betrachtet werden sollte, der vor der Verwendung getestet werden muss.

  • Überprüfen Sie die Plug-In-Nutzung. Bewerten Sie Plugins, bevor Sie sie bereitstellen. Verstehen Sie, auf welche Daten jedes Plug-In zugreift und welche Aktionen es ausführen kann.

  • Nutzung, Überwachungsprotokolle und Feedback überwachen. Überprüfen Sie Überwachungsprotokolle und Benutzerfeedback, um Muster, häufige Probleme oder Bereiche zu identifizieren, in denen möglicherweise zusätzliche Anleitungen erforderlich sind.

Endbenutzer sollten:

  • Sorgen Sie gegebenenfalls für menschliche Überprüfung. Die menschliche Aufsicht ist ein wichtiger Schutz bei der Interaktion mit KI-Anwendungen. Während wir unsere KI-Anwendungen kontinuierlich verbessern, kann KI immer noch Fehler machen. Die generierten Ausgaben können ungenau, unvollständig, voreingenommen, falsch ausgerichtet oder irrelevant für Ihre beabsichtigten Ziele sein. Überprüfen und testen Sie, was Copilot Code erstellt, und überprüfen Sie, ob es Ihren Erwartungen und Anforderungen entspricht.

  • Seien Sie sich des Risikos einer übermäßigen Abhängigkeit bewusst. Übermäßiges Vertrauen in KI entsteht, wenn Benutzer falsche oder unvollständige KI-Ausgaben akzeptieren, hauptsächlich weil Fehler schwer zu erkennen sind. Für Code und Software ist dies besonders wichtig: Testen Sie, was Copilot Code erstellt, bevor Sie sich darauf verlassen, es weiterzugeben oder in der Produktion zu verwenden.

  • Seien Sie vorsichtig, wenn Sie Code in vertraulichen Domänen verwenden. Ergreifen Sie zusätzliche Vorsichtsmaßnahmen beim Erstellen von Software, deren Aktionen unwiderruflich sind oder weitreichende Folgen haben, wie weiter im Microsoft Enterprise AI Services Code of Conduct (für Organisationen) oder im Abschnitt "Verhaltensregeln" im Microsoft-Servicevertrag (für Einzelpersonen) beschrieben.

  • Geben Sie klare, spezifische Anweisungen. Geben Sie Details zu dem gewünschten Ergebnis ein, für wen es sich handelt, und alle Daten, die verwendet werden sollen. Je spezifischer die Anweisung, desto besser das Ergebnis.

  • Überprüfen Sie die Zustimmungsaufforderungen sorgfältig. Bevor Sie den Zugriff auf einen Standort, eine Netzwerkverbindung oder einen Befehl genehmigen, stellen Sie sicher, dass Sie dies verstehen und beabsichtigen.

  • Geben Sie regelmäßig Feedback. Verwenden Sie die Daumen-hoch-/runter-Schaltflächen und Kommentare, um die Leistung von Copilot Code im Laufe der Zeit zu verbessern.

Weitere Informationen zu Copilot Code

Weitere Anleitungen oder weitere Informationen zur verantwortungsvollen Verwendung von Copilot Code finden Sie in der folgenden Dokumentation:

Erfahren Sie mehr über verantwortungsvolle KI

  • Zuletzt aktualisiert um