Adatok, adatvédelem és biztonság a Microsoft 365 Copilothoz
A Microsoft 365 Copilot egy kifinomult feldolgozási és vezénylési motor, amely AI-alapú hatékonysági képességeket biztosít a következő összetevők összehangolásával:
- Nagyméretű nyelvi modellek (LLM-ek)
- A Microsoft Graph tartalmai, például e-mailek, csevegések és dokumentumok, amelyekhez hozzáféréssel rendelkezik.
- A naponta használt hatékonyságnövelő Microsoft 365-alkalmazások, például a Word és a PowerPoint.
A három összetevő együttműködésének áttekintéséhez tekintse meg a Microsoft 365 Copilot áttekintését. A Microsoft 365 Copilottal kapcsolatos egyéb tartalmakra mutató hivatkozásokért tekintse meg a Microsoft 365 Copilot dokumentációt.
Fontos
- A Microsoft 365 Copilot megfelel a Microsoft 365 kereskedelmi ügyfeleinek tett meglévő adatvédelmi, biztonsági és megfelelőségi kötelezettségvállalásainak, beleértve az általános adatvédelmi rendelet (GDPR) és az Európai Unió (EU) adathatárát.
- A Microsoft Graph-on keresztül elért kérések, válaszok és adatok nem használhatók alapszintű LLM-ek betanítására, beleértve a Microsoft 365 Copilot által használtakat is.
- A Microsoft 365 Copilot több védelmet is használ, amelyek többek között blokkolják a káros tartalmakat, észlelik a védett anyagokat, és blokkolják a kérdések injektálásait (függetlenítési támadásokat).
A cikkben található információk a következő kérdésekre adnak választ:
- Hogyan használja fel a Microsoft 365 Copilot az Ön saját szervezeti adatait?
- Hogyan védi a Microsoft 365 Copilot az üzleti információkat és adatokat?
- Milyen adatokat tárolunk a felhasználók Microsoft 365 Copilottal folytatott interakcióiról?
- Milyen adattárolási kötelezettségeket vállal a Microsoft 365 Copilot?
- Milyen bővíthetőségi lehetőségek érhetők el a Microsoft 365 Copilothoz?
- Hogyan felel meg a Microsoft 365 Copilot a jogszabályi megfelelőségi követelményeknek?
- A Microsoft 365-alkalmazásokban lévő kapcsolt szolgáltatások adatvédelmi vezérlői vonatkoznak a Microsoft 365 Copilotra?
- Megbízhatok a Microsoft 365 Copilot által létrehozott tartalomban? Kié a tartalom?
- Milyen kötelezettségvállalásai vannak a Microsoftnak az AI felelősségteljes használata iránt?
Megjegyzés:
A Microsoft 365 Copilot idővel tovább fejlődik, új képességekkel bővül. Ha naprakész szeretne maradni a Microsoft 365 Copilottal kapcsolatban vagy kérdéseket szeretne feltenni, látogasson el a Microsoft Tech Community Microsoft 365 Copilot közösségébe.
Hogyan használja Microsoft 365 Copilot az Ön saját szervezeti adatait?
A Microsoft 365 Copilot az LLM-ek és a szervezeti adatok összekapcsolásával nyújt értéket. A Microsoft 365 Copilot a Microsoft Graphon keresztül fér hozzá a tartalomhoz és a környezethez. Válaszokat hozhat létre a szervezeti adatokban, például felhasználói dokumentumokban, e-mailekben, naptárban, csevegésekben, értekezletekben és névjegyekben. A Microsoft 365 Copilot kombinálja ezt a tartalmat a felhasználó munkakörnyezetével, például a felhasználó aktuális értekezletével, a felhasználó által a témával kapcsolatos e-mailezéssel vagy a felhasználó múlt heti csevegéseivel. A Microsoft 365 Copilot a tartalom és a környezet ezen kombinációját használja a pontos, releváns, környezetfüggő válaszok biztosításához.
Fontos
A Microsoft Graph-on keresztül elért kérések, válaszok és adatok nem használhatók alapszintű LLM-ek betanítására, beleértve a Microsoft 365 Copilot által használtakat is.
A Microsoft 365 Copilot csak azokat a szervezeti adatokat jeleníti meg, amelyekhez az egyes felhasználók legalább megtekintési engedélyekkel rendelkeznek. Fontos, hogy a Microsoft 365-szolgáltatásokban, például a SharePointban elérhető engedélymodelleket használja, hogy a megfelelő felhasználók vagy csoportok a megfelelő tartalomhoz férhessenek hozzá a szervezeten belül. Ide tartoznak a szervezeten kívüli felhasználók számára bérlők közötti együttműködési megoldásokon keresztül megadott engedélyek, például a Microsoft Teams megosztott csatornái.
Amikor a Microsoft 365 Copilot használatával ad meg parancsokat, a parancsokban található információk, az általuk lekért adatok és a generált válaszok a Microsoft 365 szolgáltatáshatáron belül maradnak, összhangban az aktuális adatbiztonsági és megfelelőségi kötelezettségvállalásainkkal. A Microsoft 365 Copilot az Azure OpenAI-szolgáltatásait használja feldolgozásra, nem pedig az OpenAI nyilvánosan elérhető szolgáltatásait. Az Azure OpenAI nem gyorsítótárazza az ügyféltartalmakat, és a Copilot által a Microsoft 365 Copilothoz módosított parancsokat. További információt a jelen cikk későbbi A Microsoft 365 Copilot felhasználói interakcióiról tárolt adatok című szakaszában talál.
Megjegyzés:
- Ha beépülő modulokkal segíti a Microsoft 365 Copilot, hogy relevánsabb információkat nyújtson, tekintse meg a beépülő modul adatvédelmi nyilatkozatát és használati feltételeit annak meghatározásához, hogy a modul hogyan fogja kezelni a szervezet adatait. További információ: A Microsoft 365 Copilot bővíthetősége.
- A webes tartalom beépülő modul használatakor a Microsoft 365 Copilot elemzi a felhasználó parancsát, és azonosítja azokat a kifejezéseket, amelyekben a webes keresés javítja a válasz minőségét. Ezen kifejezések alapján a Copilot létrehoz egy keresési lekérdezést, amelyet a rendszer elküld a Bing keresőszolgáltatásnak. További információ: Adatok, adatvédelem és biztonság webes lekérdezésekhez a Microsoft 365 Copilotban és a Microsoft Copilotban.
Bár a visszaélések monitorozása, amely magában foglalja a tartalom emberi felülvizsgálatát is, elérhető az Azure OpenAI-ban, a Microsoft 365 Copilot-szolgáltatások kikapcsolták azt. A tartalomszűrésről a cikk későbbi, Hogyan blokkolja a Copilot a káros tartalmakat? című szakaszában talál további információt.
Megjegyzés:
A Microsoft 365 Copilot továbbfejlesztéséhez az ügyfelek visszajelzését is felhasználhatjuk, ami nem kötelező, ugyanúgy, mint az ügyfelek visszajelzése más Microsoft 365 szolgáltatások és Microsoft 365 hatékonyságnövelő alkalmazások fejlesztéséhez. Ezt a visszajelzést nem használjuk a Microsoft 365 Copilot által használt alapszintű LLM-ek betanítására. Az ügyfelek felügyeleti vezérléssel kezelhetik a visszajelzéseket. További információ: Microsoft-visszajelzések kezelése a szervezet számára és Visszajelzés küldése a Microsoft Copilotról Microsoft 365-alkalmazásokkal.
A felhasználók Microsoft 365 Copilottal folytatott interakcióiról tárolt adatok
Amikor egy felhasználó a Microsoft 365 Copilotot használja (olyan alkalmazások, mint Word, PowerPoint, Excel, OneNote, Loop vagy Whiteboard használatával), adatokat tárolunk ezekről az interakciókról. A tárolt adatok közé tartozik a felhasználó parancsa és a Copilot válasza, beleértve a Copilot válaszának alapjaként használt információkra vonatkozó hivatkozásokat is. A felhasználó kérésére és a Copilot erre adott válaszára "interakciók tartalmaként" hivatkozunk, az interakciók rekordja pedig a felhasználó Copilot-tevékenységelőzményei. Ezek a tárolt adatok például a Copilot-tevékenységelőzményeket biztosítják a Microsoft Teams Business Chat és értekezletein. Ezeket az adatokat a Microsoft 365-ben megtalálható egyéb szervezeti tartalmakra vonatkozó szerződéses kötelezettségvállalásokkal összhangban dolgozzuk fel és tároljuk. Az adatok a tárolásuk során titkosítva vannak, és nem használhatók alapszintű LLM-ek betanítására, a Microsoft 365 Copilot által használtakat is beleértve.
Ezen tárolt adatok megtekintéséhez és kezeléséhez a rendszergazdák tartalomkeresést vagy Microsoft Purview-t használhatnak. A rendszergazdák a Microsoft Purview használatával a Copilottal folytatott csevegésekkel kapcsolatos adatmegőrzési házirendet is beállíthatják. További információért olvassa el az alábbi témaköröket:
- A Tartalomkeresés áttekintése
- A Microsoft Purview adatbiztonsági és megfelelőségi védelme generatív AI alkalmazásokhoz
- Tudnivalók a Copilot adatmegőrzéséről
A Copilottal folytatott Microsoft Teams-csevegések esetén a rendszergazdák a Microsoft Teams Export API-k használatával is megtekinthetik a tárolt adatokat.
A Microsoft 365 Copilot felhasználói interakciók előzményeinek törlése
A felhasználók a Saját fiók portálon törölhetik a Copilot-tevékenységelőzményeket, amelyek tartalmazzák az üzeneteiket és a Copilot által visszaadott válaszokat. További információ: A Microsoft 365 Copilot tevékenységelőzmények törlése.
A Microsoft 365 Copilot és az EU-s adathatár
A Microsoft 365 Copilot LLM-hez intézett hívásait a rendszer a régió legközelebbi adatközpontjaihoz irányítja, de más régiókba is hívhat, ahol magas kihasználtságú időszakokban van rendelkezésre álló kapacitás.
Az Európai Unió (EU) felhasználói számára további biztosítékokkal rendelkezünk az EU-s adathatárnak való megfelelés érdekében. Az uniós forgalom az EU-s adathatáron belül marad, míg a globális forgalom az EU-ba és más földrajzi helyekre továbbítható LLM-feldolgozás céljából.
Microsoft 365 Copilot és adattárolási hely
Microsoft 365 Copilot a Microsoft termékfeltételei és adatvédelmi kiegészítésében leírtak szerint tartja az adattárolási helyre vonatkozó kötelezettségvállalásokat. A Microsoft 365 Copilot 2024. március 1-jén lett hozzáadva az adattárolási hely kötelezettségvállalásaihoz a Microsoft termékfeltételei között.
A Microsoft Advanced Data Residency (ADR) és a Multi-Geo Capabilities ajánlatai 2024 március 1-től tartalmazza a Microsoft 365 Copilot ügyfelek adattárolási helyre vonatkozó kötelezettségvállalásait. Az EU-ügyfelek számára a Microsoft 365 Copilot EU-s adathatár-szolgáltatás. Az EU-n kívüli ügyfelek lekérdezéseit az Egyesült Államokban, az EU-ban vagy más régiókban dolgozhatják fel.
A Microsoft 365 Copilot bővíthetősége
Bár a Microsoft 365 Copilot már képes használni az alkalmazásokat és az adatokat a Microsoft 365 ökoszisztémájában, sok szervezet továbbra is számos külső eszköztől és szolgáltatástól függ a munkája kezeléséhez és az együttműködéshez. A Microsoft 365 Copilot-élmények harmadik féltől származó eszközökre és szolgáltatásokra is hivatkozhatnak, amikor egy felhasználó kérésére válaszolnak Microsoft Graph-összekötők vagy beépülő modulok használatával. A Graph-összekötőkből származó adatok a Microsoft 365 Copilot válaszaiban is visszaadhatók, ha a felhasználónak van engedélye az információk elérésére.
Ha a beépülő modulok engedélyezve vannak, a Microsoft 365 Copilot meghatározza, hogy egy adott beépülő modult kell-e használnia, hogy releváns választ tudjon adni a felhasználónak. Ha beépülő modulra van szükség, a Microsoft 365 Copilot létrehoz egy keresési lekérdezést, amelyet a felhasználó nevében küld el a beépülő modulnak. A lekérdezés a felhasználó kérésén, a Copilot-tevékenységelőzményeken és a felhasználó Microsoft 365-ben elérhető adatain alapul.
A Microsoft 365 felügyeleti központIntegrált alkalmazások szakaszában a rendszergazdák megtekinthetik a beépülő modulhoz szükséges engedélyeket és adathozzáférést, valamint a beépülő modul használati feltételeit és adatvédelmi nyilatkozatát. A rendszergazdák teljes körű irányítással rendelkeznek a szervezetükben engedélyezett beépülő modulok kiválasztása fölött. A felhasználó csak azokat a beépülő modulokat érheti el, amelyeket a rendszergazda engedélyez, és amelyeket a felhasználó telepített vagy amelyekhez hozzá van rendelve. A Microsoft 365 Copilot csak a felhasználó által bekapcsolt beépülő modulokat használja.
További információért olvassa el az alábbi témaköröket:
- A Copilot beépülő moduljainak kezelése az integrált alkalmazásokban
- A Microsoft 365 Copilot kiterjesztése
- Hogyan dolgozhat a Microsoft 365 Copilot a külső adatokkal
Hogyan védi meg a Microsoft 365 Copilot a szervezeti adatokat?
A Microsoft 365-bérlő engedélymodellje segít biztosítani, hogy az adatok ne szivároghassanak ki véletlenül a felhasználók, csoportok és bérlők között. A Microsoft 365 Copilot csak azokat az adatokat jeleníti meg, amelyekhez az egyes felhasználók ugyanazokon a mögöttes vezérlőkön keresztül férhetnek hozzá, mint amelyeket más Microsoft 365-szolgáltatásokban használnak. A szemantikai index tiszteletben tartja a felhasználó identitásalapú hozzáférési határát, így az alapozási folyamat csak azokhoz a tartalmakhoz fér hozzá, amelyekhez az aktuális felhasználó jogosult hozzáférni. További információ: A Microsoft adatvédelmi szabályzata és szolgáltatásdokumentációja.
Ha Microsoft Purview információvédelem által titkosított adatokkal rendelkezik, a Microsoft 365 Copilot figyelembe veszi a felhasználó számára biztosított használati jogokat. Ezt a titkosítást bizalmassági címkékkel vagy korlátozott engedélyekkel lehet alkalmazni a Microsoft 365-ben lévő alkalmazásokban a Tartalomvédelmi szolgáltatás (IRM) használatával. A Microsoft Purview és a Microsoft 365 Copilot együttes használatáról további információt A Microsoft Purview generatív AI-alkalmazásokhoz készült adatbiztonsági és megfelelőségi védelmi funkciói című cikkben talál.
Már több védelmi formát alkalmazunk annak érdekében, hogy megakadályozzuk, hogy az ügyfelek veszélyeztethessék a Microsoft 365 szolgáltatásait és alkalmazásait, illetve jogosulatlan hozzáférést szerezzenek más bérlőkhöz vagy magához a Microsoft 365 rendszerhez. Íme néhány példa ezekre a védelmi formákra:
A Microsoft 365-szolgáltatások ügyféltartalmainak logikai elkülönítése az egyes bérlőkben a Microsoft Entra engedélyezésén és szerepköralapú hozzáférés-vezérlésen keresztül érhető el. További információt a Microsoft 365 elkülönítési vezérlőit ismertető témakörben talál.
A Microsoft szigorú fizikai biztonságot, háttérszűrést és többrétegű titkosítási stratégiát alkalmaz az ügyféltartalmak bizalmasságának és integritásának védelmére.
A Microsoft 365 szolgáltatásoldali technológiákat használ, amelyek titkosítják az inaktív és átvitel alatt álló ügyféltartalmat, beleértve a BitLockert, a fájlonkénti titkosítást, a Transport Layer Security (TLS) és az IP-biztonság (IPsec) technológiákat. A Microsoft 365 titkosításával kapcsolatos további részletekért lásd: Titkosítás a Microsoft Cloudban.
Az Ön adatok feletti ellenőrzését erősíti a Microsoft azon kötelezettségvállalása, hogy betartja a széles körben alkalmazandó adatvédelmi jogszabályokat, például a GDPR-t és az adatvédelmi szabványokat, például az ISO/IEC 27018 szabványt, amely a felhőbeli adatvédelem első nemzetközi jogszabálygyűjteménye.
A Microsoft 365 Copilot beépülő moduljain keresztül elért tartalmak esetében a titkosítás kizárhatja a programozható hozzáférést, így korlátozhatja a beépülő modul hozzáférését a tartalomhoz. További információ: Használati jogok konfigurálása az Azure Information Protection számára.
A jogszabályi megfelelési követelményeknek való megfelelés
Az AI-tér szabályozásának fejlődésével a Microsoft továbbra is alkalmazkodni fog a jövőbeli szabályozási követelményekhez, és reagálni fog rájuk.
A Microsoft 365 Copilot a Microsoft vállalaton belüli adatbiztonságra és adatvédelemre vonatkozó jelenlegi kötelezettségvállalásaira épül. Ezek a kötelezettségvállalások nem változnak. A Microsoft 365 Copilot integrálva van a Microsoft 365-be, és betartja az összes Microsoft 365 kereskedelmi ügyfelekre vonatkozó meglévő adatvédelmi és megfelelőségi kötelezettséget. További információt a Microsoft megfelelőség cikkében talál.
A szabályozások betartásán túl fontosnak tartjuk az ügyfelekkel, partnerekkel és szabályozó hatóságokkal folytatott nyílt párbeszédet, hogy jobban megérthessük és kezelhessük az aggályokat, ezáltal elősegítve a bizalom és az együttműködés környezetét. Tudomásul vesszük, hogy az adatvédelem, a biztonság és az átláthatóság nem csupán funkciók, hanem előfeltételek a Microsoft AI-alapú környezetben.
További információk
Microsoft 365 Copilot és adatvédelmi vezérlők a kapcsolt szolgáltatásokhoz
A Microsoft 365-alkalmazások kapcsolt szolgáltatásainak egyes adatvédelmi vezérlői hatással lehetnek Microsoft 365 Copilot-funkciók rendelkezésre állására. Ide tartoznak a tartalomelemző kapcsolt szolgáltatások adatvédelmi vezérlői, valamint az opcionális kapcsolt szolgáltatások adatvédelmi vezérlői. További információ ezekről az adatvédelmi vezérlőkről: Összefoglaló a Nagyvállalati Microsoft 365-alkalmazások adatvédelmi vezérlőiről.
Tartalomelemző kapcsolt szolgáltatások adatvédelmi vezérlője
Ha kikapcsolja a tartalmakat a szervezet eszközein elemző kapcsolt szolgáltatásokat, Microsoft 365 Copilot funkciók nem lesznek elérhetők a felhasználók számára az alábbi alkalmazásokban:
- Excel
- OneNote
- Outlook
- PowerPoint
- Word
Ez akkor érvényes, ha ezeknek az alkalmazásoknak a legújabb verzióját futtatja Windows, Mac, iOS vagy Android rendszerű eszközökön.
Létezik egy olyan adatvédelmi vezérlő is, amely kikapcsolja az összes kapcsolt szolgáltatást, beleértve a tartalomelemző kapcsolt szolgáltatásokat is. Ha ezt az adatvédelmi vezérlőt használja, Microsoft 365 Copilot funkciók nem lesznek elérhetők az alkalmazásokban és a fent leírt eszközökön.
Az opcionális kapcsolt szolgáltatások adatvédelmi vezérlője
Ha kikapcsolja az opcionális kapcsolt szolgáltatásokat a szervezetben, azok a Microsoft 365 Copilot-funkciók, amelyek opcionális kapcsolt szolgáltatások, nem lesznek elérhetők a felhasználók számára. A webes keresés például nem lesz elérhető a felhasználók számára.
Létezik olyan egy adatvédelmi vezérlő is, amely kikapcsolja az összes kapcsolt szolgáltatást, beleértve az opcionális kapcsolt szolgáltatásokat is. Ha ezt az adatvédelmi vezérlőt használja, azok a Microsoft 365 Copilot-funkciók, amelyek opcionális kapcsolt szolgáltatások, nem lesznek elérhetők.
A Microsoft 365 Copilot által létrehozott tartalom ismertetése
A generatív AI által előállított válaszok tényszerűsége nem garantáltan 100%-os. Bár továbbra is fejlesztjük a válaszokat, azok tényszerűségét a felhasználóknak továbbra is maguknak kell megítélniük a kimenet áttekintésekor, mielőtt elküldenék őket másoknak. A Microsoft 365 Copilot funkciói hasznos vázlatokat és összefoglalókat biztosítanak, amelyek segítenek abban, hogy többet érjen el, miközben lehetőséget biztosít a létrehozott AI áttekintésére a feladatok teljes automatizálása helyett.
Továbbra is fejlesztjük az algoritmusokat az olyan problémák proaktív kezelése érdekében, mint a félretájékoztatás és a dezinformáció, a tartalomblokkolás, az adatbiztonság, valamint a káros vagy diszkriminatív tartalmak támogatásának megakadályozása a felelős AI-alapelveknek megfelelően.
A Microsoft nem követeli meg a szolgáltatás kimenetének tulajdonjogát. Ennek ellenére nem határozzuk meg, hogy az ügyfél kimenete szerzői jogi védelem alatt áll-e vagy érvényesíthető-e más felhasználók ellen. Ennek az az oka, hogy a generatív AI-rendszerek hasonló válaszokat adhatnak több felhasználótól vagy ügyféltől érkező hasonló kérésekre vagy lekérdezésekre. Következésképpen több ügyfél is rendelkezhet vagy igényelhet azonos vagy lényegesen hasonló tartalomra vonatkozó jogokat.
Ha egy harmadik fél beperel egy kereskedelmi ügyfelet szerzői jog megsértéséért a Microsoft Copilots vagy az általuk létrehozott kimenet használata miatt, megvédjük az ügyfelet, és kifizetjük a perből eredő hátrányos ítéletek vagy kiegyenlítések összegét, amennyiben az ügyfél a termékeinkbe beépített védőkorlátokat és tartalomszűrőket használta. További információ: A Microsoft bejelenti a Copilot új szerzői jogi kötelezettségvállalását az ügyfelek számára.
Hogyan blokkolja a Copilot a káros tartalmakat?
Az Azure OpenAI szolgáltatás egy tartalomszűrési rendszert tartalmaz, amely az alapmodellekkel együtt működik. A gyűlölet és méltányosság, a szexuális, az erőszak és az önkárosítási kategóriák tartalomszűrési modelljeit külön betanítottuk és teszteltük különböző nyelveken. Ez a rendszer úgy működik, hogy a bemeneti kérést és a választ is olyan besorolási modelleken keresztül futtatja, amelyek a káros tartalom kimenetének azonosítására és letiltására lettek kialakítva.
A gyűlölettel és méltányossággal kapcsolatos károk minden olyan tartalomra utalnak, amely pejoratív vagy diszkriminatív nyelvet használ olyan attribútumok alapján, mint a faj, az etnikum, a nemzetiség, a nemi identitás és a kifejezés, a szexuális irányultság, a vallás, a bevándorlási státusz, a képességállapot, a személyes megjelenés és a testméret. A méltányosság célja annak biztosítása, hogy az AI-rendszerek az emberek minden csoportját egyenlően kezeljék anélkül, hogy hozzájárulnának a meglévő társadalmi egyenlőtlenségekhez. A szexuális tartalom magában foglalja az emberi nemi szervekről, a romantikus kapcsolatokról, az erotikus vagy szeretetteljes kifejezésekben megjelenített cselekményekről, a terhességről, a fizikai szexuális cselekményekről szóló beszélgetéseket, beleértve azokat is, amelyeket testi sértésként vagy szexuális erőszak, prostitúció, pornográfia és visszaélés kényszerített cselekményeként ábrázolnak. Az erőszak olyan fizikai cselekvésekhez kapcsolódó nyelvet ír le, amelyek sérülést vagy halált okoznak, beleértve a cselekvéseket, fegyvereket és a kapcsolódó entitásokat. Az önsértő nyelvezet olyan szándékos cselekedetekre utal, amelyek célja, hogy valaki kárt tegyen önmagában vagy megölje magát.
További információ az Azure OpenAI-tartalomszűrésről.
A Copilot biztosítja a védett anyagok észlelését?
Igen, a Microsoft 365 Copilot észleli a védett anyagokat, beleértve a szerzői jog hatálya alá tartozó szövegeket és a licencelési korlátozások hatálya alá tartozó kódokat. Ezen beavatkozások közül nem mindegyik kapcsolódik a Microsoft 365 Copilot összes forgatókönyvére.
Blokkolja a Copilot a parancssori injektálásokat (függetlenítési támadásokat)?
A függetlenítési támadások olyan felhasználói kérések, amelyek arra szolgálnak, hogy a generatív AI-modell olyan viselkedését provokálják, amelyre azt nem tanították be, vagy hogy megszegje a követendő szabályokat. A Microsoft 365 Copilotot a gyors injektálási támadások elleni védelemre tervezték. Tudjon meg többet a függetlenítési támadásokról, és arról, hogyan használható Azure AI Tartalombiztonság az észlelésükhöz.
Elkötelezve a felelős AI mellett
Mivel a mesterséges intelligenciával átalakulhat az életünk, együttesen kell meghatároznunk az új szabályokat, normákat és eljárásokat a technológia használatára és hatására vonatkozóan. A Microsoft 2017 óta dolgozik a felelős AI-folyamaton, amikor meghatároztuk alapelveit és megközelítését annak biztosításához, hogy a technológia használatát olyan etikai elvek vezérlik, amelyek az embereket helyezik előtérbe.
A munkánkat a Microsoftnál a AI-alapelvek, a Felelős AI Standard, valamint a mesterséges intelligenciával, az alapozással és az adatvédelmet megőrző gépi tanulással kapcsolatos több évtizedes kutatásaink vezérlik. A kutatók, mérnökök és szakpolitikai szakértők multidiszciplináris csoportja áttekinti AI-rendszereinket a lehetséges károkkal és kockázatcsökkentésekkel kapcsolatban – a betanítási adatok finomításával, a káros tartalmak korlátozására való szűréssel, a lekérdezés- és az eredményblokkoló érzékeny témákkal, valamint a Microsoft olyan technológiáinak alkalmazásával, mint az InterpretML és a Fairlearn, amelyek segítenek észlelni és kijavítani az adat elfogultságait. Egyértelművé tesszük, hogy a rendszer hogyan hoz döntéseket azáltal, hogy felhívjuk a figyelmet a korlátozásokra, a források összekapcsolására, és megkérjük a felhasználókat, hogy vizsgálják felül az eredményeket, végezzenek tényellenőrzést, és a vonatkozó szakértelem alapján módosítsák a tartalmakat. További információ: AI szabályozás: A jövő terve.
Célunk, hogy segítsünk ügyfeleinknek abban, hogy felelősségteljesen használják az AI-termékeinket, megosszuk tapasztalatainkat és megbízhatósági alapú partneri kapcsolatokat építsünk ki. Ezekhez az új szolgáltatásokhoz információkat szeretnénk biztosítani ügyfeleinknek az AI-platformszolgáltatásunk tervezett felhasználási lehetőségeiről, képességeiről és korlátairól, hogy rendelkezzenek a felelős üzembe helyezéshez szükséges ismeretekkel. Erőforrásokat és sablonokat is megosztunk a szervezeteken belüli fejlesztőkkel és független szoftverszállítókkal, hogy hatékony, biztonságos és átlátható AI-megoldásokat hozzanak létre.