Σημείωμα
Η πρόσβαση σε αυτήν τη σελίδα απαιτεί εξουσιοδότηση. Μπορείτε να δοκιμάσετε να εισέλθετε ή να αλλάξετε καταλόγους.
Η πρόσβαση σε αυτήν τη σελίδα απαιτεί εξουσιοδότηση. Μπορείτε να δοκιμάσετε να αλλάξετε καταλόγους.
Η υπεύθυνη τεχνητή νοημοσύνη καθοδηγείται από ένα σύνολο αρχών που καθορίζουν τον τρόπο λειτουργίας των συστημάτων AI. Αυτές οι αρχές εστιάζουν στη δικαιοσύνη, την αξιοπιστία, την ασφάλεια, την προστασία των προσωπικών δεδομένων, την ασφάλεια, την συμμετοχικότητα, τη διαφάνεια και τη λογοδοσία. Καθορίζουν τα πρότυπα που διέπουν τον τρόπο με τον οποίο η Microsoft αξιολογεί κινδύνους, σχεδιάζει δυνατότητες AI και εξασφαλίζει υπεύθυνη συμπεριφορά του συστήματος.
Η εφαρμογή αυτών των αρχών στη σχεδίαση αντιπροσώπων βοηθά στην πρόληψη ακούσιας βλάβης, όπως μεροληψία, παραπληροφόρηση ή παραβιάσεις προσωπικών δεδομένων. Υποστηρίζει επίσης την αξιοπιστία των χρηστών και τη μακροπρόθεσμη υιοθέτηση της. Ακολουθώντας αυτές τις οδηγίες, μπορείτε να δημιουργήσετε παράγοντες AI που αποδίδουν αποτελεσματικά, διατηρώντας παράλληλα τα πρότυπα ακεραιότητας και σεβόμενοι ότι οι χρήστες και η κοινωνία αναμένουν από Microsoft προϊόντα.
Αυτό το άρθρο παρέχει μια εισαγωγή υψηλού επιπέδου για την υπεύθυνη τεχνητή νοημοσύνη, όπως ισχύει για τη σχεδίαση παράγοντα. Για αναλυτική καθοδήγηση, ανατρέξτε στις Αρχές και την προσέγγιση της Microsoft για την υπεύθυνη τεχνητή νοημοσύνη (AI).
Υπεύθυνες αρχές τεχνητής νοημοσύνης
Οι υπεύθυνες αρχές AI καθοδηγούν τον τρόπο σχεδίασης, κατασκευής και λειτουργίας αντιπροσώπων σε Microsoft 365 Copilot. Δημιουργούν ένα κοινόχρηστο πρότυπο για τη συμπεριφορά των παραγόντων, τον χειρισμό δεδομένων και την αλληλεπίδραση των χρηστών για να διασφαλίσουν ότι τα συστήματα AI είναι αξιόπιστα, ασφαλή και ευθυγραμμίζονται με τις ανθρώπινες αξίες.
Αυτές οι αρχές ισχύουν για ολόκληρο τον κύκλο ζωής των αντιπροσώπων, από τη σχεδίαση και ανάπτυξη έως την ανάπτυξη και τη συνεχή χρήση. Ενημερώνουν τις αποφάσεις σχετικά με τον σχεδιασμό αλληλεπίδρασης, την επιλογή μοντέλων και γνώσεων, την αυτονομία, την ασφάλεια και τη διακυβέρνηση. Ακολουθώντας αυτές τις αρχές, διασφαλίζετε ότι οι αντιπρόσωποι παρέχουν αξία υπεύθυνα, διατηρώντας παράλληλα την εμπιστοσύνη των χρηστών και τη μακροπρόθεσμη υιοθέτηση.
| Αρχή | Τι σημαίνει για τον σχεδιασμό πρακτόρων |
|---|---|
| Δικαιοσύνη | Τα συστήματα AI θα πρέπει να παρέχουν συνεπή και δίκαια αποτελέσματα για όλους τους χρήστες. Οι συμπεριφορές των παραγόντων πρέπει να αποφεύγουν τη δημιουργία ή την ενίσχυση αθέμιτης μεταχείρισης με βάση ευαίσθητα χαρακτηριστικά ή περιβάλλον χρήστη. |
| Αξιοπιστία και ασφάλεια | Τα συστήματα AI πρέπει να λειτουργούν όπως προβλέπεται σε ένα ευρύ φάσμα συνθηκών. Οι παράγοντες πρέπει να χειρίζονται τη διακύμανση, τις περιπτώσεις άκρου και τις μη αναμενόμενες εισόδους με τρόπους που υποστηρίζουν ασφαλή και προβλέψιμη συμπεριφορά. |
| Προστασία προσωπικών δεδομένων και ασφάλεια | Τα συστήματα AI πρέπει να προστατεύουν τα δεδομένα των χρηστών και να τηρούν τις καθιερωμένες απαιτήσεις προστασίας προσωπικών δεδομένων και ασφάλειας. Οι αντιπρόσωποι θα πρέπει να χρησιμοποιούν μόνο τις πληροφορίες που εξουσιοδοτούνται για πρόσβαση και πρέπει να χειρίζονται υπεύθυνα αυτές τις πληροφορίες. |
| Συμμετοχικότητα | Τα συστήματα AI θα πρέπει να ενδυναμώνουν όλους τους χρήστες και να ικανοποιούν διαφορετικές ανάγκες. Οι αντιπρόσωποι θα πρέπει να εξετάζουν την προσβασιμότητα, τις παραλλαγές γλώσσας και τα διαφορετικά επίπεδα τεχνικής επάρκειας για να εξασφαλίσουν μια περιεκτική εμπειρία. |
| Διαφάνεια | Τα συστήματα AI θα πρέπει να καθιστούν σαφείς τις δυνατότητες και τους περιορισμούς τους. Οι αντιπρόσωποι πρέπει να γνωστοποιούν τι μπορούν να κάνουν, πώς χρησιμοποιούνται οι πληροφορίες και πώς παράγονται οι έξοδοι, ώστε οι χρήστες να μπορούν να λαμβάνουν τεκμηριωμένες αποφάσεις. |
| Λογοδοσία | Τα συστήματα τεχνητής νοημοσύνης απαιτούν σαφή εποπτεία. Οι ομάδες που αναπτύσσουν πράκτορες είναι υπεύθυνες για τη διασφάλιση ότι το σύστημα συμμορφώνεται με τις υπεύθυνες αρχές της τεχνητής νοημοσύνης, πληρούν τις απαιτήσεις συμμόρφωσης και λειτουργούν με κατάλληλη ανθρώπινη διακυβέρνηση. |
Εφαρμογή υπεύθυνης τεχνητής νοημοσύνης στην ανάπτυξη πρακτόρων
Microsoft χρησιμοποιεί ένα δομημένο μοντέλο για την ενσωμάτωση υπεύθυνων αρχών AI σε όλη την ανάπτυξη παραγόντων AI. Αυτό το μοντέλο βοηθά τις ομάδες να προσδιορίσουν κινδύνους, να βρουν τους σωστούς μετριασμούς και να διατηρήσουν υπεύθυνη συμπεριφορά σε όλο τον κύκλο ζωής του παράγοντα.
Ως σχεδιαστής, οι αποφάσεις σας επηρεάζουν άμεσα τον τρόπο εκπλήρωσης αυτών των συναρτήσεων. Οι ακόλουθες βασικές συναρτήσεις περιγράφουν τον τρόπο με τον οποίο εφαρμόζεται η υπεύθυνη τεχνητή νοημοσύνη:
| Λειτουργία | Περιγραφή |
|---|---|
| Διαχείριση | Δημιουργεί τις πολιτικές, τους ρόλους και τις διαδικασίες που ακολουθούν οι ομάδες κατά τη σχεδίαση και την ανάπτυξη παραγόντων. Η διακυβέρνηση διασφαλίζει την ευθυγράμμιση με τις υπεύθυνες αρχές της τεχνητής νοημοσύνης και παρέχει σαφή λογοδοσία. |
| Χάρτης | Προσδιορίζει και δίνει προτεραιότητα στους πιθανούς κινδύνους που σχετίζονται με ένα σενάριο AI. Η αντιστοίχιση επιτρέπει τεκμηριωμένες αποφάσεις σχετικά με στρατηγικές μετριασμού και βοηθά να προσδιοριστεί εάν μια λύση AI είναι κατάλληλη για το προβλεπόμενο περιβάλλον. |
| Μέτρηση | Αξιολογεί τους κινδύνους και τις επιδόσεις του συστήματος για να καθοδηγήσει τη σχεδίαση και τη βελτίωση των μετριασμού. Η μέτρηση είναι απαραίτητη καθώς οι δυνατότητες AI αυξάνονται σε πολυπλοκότητα και απαιτούν συνεχή αξιολόγηση. |
| Διαχείριση | Εφαρμόζει και διατηρεί τους μετριασμούς κινδύνου σε όλη την ανάπτυξη και τη συνεχή λειτουργία. Το Teams παρακολουθεί τη συμπεριφορά του συστήματος και προσαρμόζει τους μετριασμούς, όπως απαιτείται, για να εξασφαλίσει ότι οι παράγοντες παραμένουν υπεύθυνοι με την πάροδο του χρόνου. |
Φίλτρα διαφάνειας και ασφάλειας AI
Η διαφάνεια αποτελεί ακρογωνιαίο λίθο της υπεύθυνης τεχνητής νοημοσύνης. Κατά τη σχεδίαση παραγόντων, επικοινωνείτε με σαφήνεια την παρουσία και τον ρόλο της τεχνητής νοημοσύνης εντός της εμπειρίας προϊόντος. Εκπαιδεύστε τους χρήστες σχετικά με τον σκοπό, τις δυνατότητες, τους περιορισμούς και τους πιθανούς κινδύνους του παράγοντα. Αυτή η διαφάνεια δίνει τη δυνατότητα στους χρήστες να λαμβάνουν τεκμηριωμένες αποφάσεις και προάγει την εμπιστοσύνη στο σύστημα.
Οι πρακτικές υλοποιήσεις διαφάνειας περιλαμβάνουν σημειώσεις διαφάνειας και αποκαλύψεις εντός του προϊόντος που εξηγούν πώς λειτουργούν οι λειτουργίες AI και τι μπορούν να περιμένουν οι χρήστες. Για παράδειγμα, στην εμπειρία Επιχειρηματικής συνομιλίας, ο παράγοντας χρησιμοποιεί σαφείς ενδείξεις, όπως ετικέτες όπως "Το περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη μπορεί να είναι λάθος", για να βοηθήσει να ορίσετε τις κατάλληλες προσδοκίες και να υποστηρίξετε την υπεύθυνη χρήση.
Φίλτρα ασφαλείας
Τα φίλτρα ασφαλείας εξασφαλίζουν ότι οι παράγοντες συμπεριφέρονται με τρόπους που είναι κατάλληλοι, με σεβασμό και ευθυγραμμίζονται με τις υπεύθυνες αρχές AI της Microsoft. Αυτές οι εγγυήσεις μειώνουν τον κίνδυνο επιβλαβών, μεροληπτικής ή παραπλανητικής εξόδου, προστατεύοντας παράλληλα την προστασία των προσωπικών δεδομένων των χρηστών και τις ευαίσθητες πληροφορίες σε όλη την αλληλεπίδραση.
Οι πράκτορες που βασίζονται στις Copilot κληρονομούν τις υπεύθυνες δεσμεύσεις AI της Microsoft, οι οποίες εστιάζουν στη δικαιοσύνη, την αξιοπιστία, την προστασία προσωπικών δεδομένων και τη διαφάνεια. Τα φίλτρα ασφαλείας διαδραματίζουν κρίσιμο ρόλο στην επιβολή αυτών των δεσμεύσεων καθοδηγώντας τον τρόπο με τον οποίο οι παράγοντες ανταποκρίνονται στην εισαγωγή από τον χρήστη, χειρίζονται ευαίσθητα θέματα και διαχειρίζονται την πρόσβαση σε δεδομένα.
Σημαντικό
Ως σχεδιαστής, δεν ρυθμίζετε απευθείας φίλτρα ασφαλείας. Microsoft τις επιβάλλει σε επίπεδο πλατφόρμας. Ωστόσο, οι αποφάσεις σχεδίασης γύρω από τον τόνο, την εμβέλεια και τη διαφάνεια ενισχύουν άμεσα ή υπονομεύουν την εμπιστοσύνη που έχουν σχεδιαστεί για την προστασία των φίλτρων ασφαλείας.
Με την εφαρμογή φίλτρων ασφαλείας με συνέπεια, οι παράγοντες μπορούν να υποστηρίζουν την εμπιστοσύνη και την εμπιστοσύνη των χρηστών. Οι χρήστες μπορούν καλύτερα να βασίζονται σε απαντήσεις των παραγόντων γνωρίζοντας ότι υπάρχουν δικλείδες ασφαλείας για την προώθηση της υπεύθυνης συμπεριφοράς και της ηθικής χρήσης της τεχνητής νοημοσύνης.
Συμβουλή
Για ολοκληρωμένη καθοδήγηση σχετικά με την υπεύθυνη προσέγγιση AI της Microsoft, συμπεριλαμβανομένων λεπτομερών αρχών, πλαισίων διακυβέρνησης και αναφοράς διαφάνειας, μεταβείτε στις αρχές και την προσέγγιση υπεύθυνης τεχνητής νοημοσύνης της Microsoft.