إشعار
يتطلب الوصول إلى هذه الصفحة تخويلاً. يمكنك محاولة تسجيل الدخول أو تغيير الدلائل.
يتطلب الوصول إلى هذه الصفحة تخويلاً. يمكنك محاولة تغيير الدلائل.
يسترشد الذكاء الاصطناعي المسؤول بمجموعة من المبادئ التي تحدد كيفية عمل أنظمة الذكاء الاصطناعي. تركز هذه المبادئ على الإنصاف والموثوقية والسلامة والخصوصية والأمان والشمولية والشفافية والمساءلة. وهي تضع المعايير التي تحكم كيفية تقييم Microsoft للمخاطر، وتصميم ميزات الذكاء الاصطناعي، وضمان سلوك النظام المسؤول.
يساعد تطبيق هذه المبادئ على تصميم الوكيل على منع حدوث ضرر غير مقصود مثل التحيز أو المعلومات المضللة أو انتهاكات الخصوصية. كما أنه يدعم ثقة المستخدم والاعتماد على المدى الطويل. باتباع هذه الإرشادات، يمكنك إنشاء وكلاء الذكاء الاصطناعي الذين يؤدون أداء فعالا مع التمسك بمعايير النزاهة والاحترام الذي يتوقعه المستخدمون والمجتمع من منتجات Microsoft.
توفر هذه المقالة مقدمة عالية المستوى للذكاء الاصطناعي المسؤول كما تنطبق على تصميم العامل. للحصول على إرشادات شاملة، راجع مبادئ ونهج الذكاء الاصطناعي المسؤول Microsoft.
مبادئ الذكاء الاصطناعي المسؤول
توجّه مبادئ الذكاء الاصطناعي المسؤول كيفية تصميم الوكلاء وبنائها وتشغيلها في Microsoft 365 Copilot. إنها تضع معيارا مشتركا لسلوك العامل ومعالجة البيانات وتفاعل المستخدم لضمان أن أنظمة الذكاء الاصطناعي جديرة بالثقة وآمنة ومتوافقة مع القيم البشرية.
تنطبق هذه المبادئ عبر دورة حياة العامل بأكملها، من التصميم والتطوير إلى النشر والاستخدام المستمر. وهي تحدد القرارات المتعلقة بتصميم التفاعل، واختيار النموذج والمعرفة، والاستقلالية، والأمن، والحوكمة. باتباع هذه المبادئ، يمكنك التأكد من أن الوكلاء يقدمون القيمة بمسؤولية مع الحفاظ على ثقة المستخدم والاعتماد طويل الأجل.
| Principle | ما يعنيه ذلك لتصميم الوكيل |
|---|---|
| الانصاف | يجب أن توفر أنظمة الذكاء الاصطناعي نتائج متسقة ومنصفة لجميع المستخدمين. يجب أن تتجنب سلوكيات العامل إنشاء أو تعزيز المعاملة غير العادلة استنادا إلى السمات الحساسة أو سياق المستخدم. |
| الموثوقية والسلامة | يجب أن تعمل أنظمة الذكاء الاصطناعي على النحو المنشود عبر مجموعة واسعة من الشروط. يجب على الوكلاء معالجة التباين وحالات الحافة والمدخلات غير المتوقعة بطرق تدعم السلوك الآمن والقابل للتنبؤ. |
| الخصوصية والأمان | يجب أن تحمي أنظمة الذكاء الاصطناعي بيانات المستخدم وتحترم متطلبات الخصوصية والأمان المعمول بها. يجب على الوكلاء استخدام المعلومات المصرح لهم بالوصول إليها فقط ويجب عليهم التعامل مع هذه المعلومات بمسؤولية. |
| الشموليه | يجب أن تمكن أنظمة الذكاء الاصطناعي جميع المستخدمين وتلبي الاحتياجات المتنوعة. يجب على الوكلاء مراعاة إمكانية الوصول وتباين اللغة ومستويات مختلفة من الكفاءة التقنية لضمان تجربة شاملة. |
| الشفافية | يجب أن توضح أنظمة الذكاء الاصطناعي قدراتها وقيودها. يجب على الوكلاء توصيل ما يمكنهم القيام به، وكيفية استخدام المعلومات، وكيفية إنشاء المخرجات حتى يتمكن المستخدمون من اتخاذ قرارات مستنيرة. |
| المساءله | تتطلب أنظمة الذكاء الاصطناعي إشرافا واضحا. الفرق التي تطور الوكلاء مسؤولة عن ضمان التزام النظام بمبادئ الذكاء الاصطناعي المسؤولة، وتلبية متطلبات الامتثال، وتعمل في ظل الحوكمة البشرية المناسبة. |
تطبيق الذكاء الاصطناعي المسؤول في تطوير العامل
يستخدم Microsoft نموذجا منظما لدمج مبادئ الذكاء الاصطناعي المسؤولة خلال تطوير وكلاء الذكاء الاصطناعي. يساعد هذا النموذج الفرق على تحديد المخاطر، والعثور على عوامل التخفيف المناسبة، والحفاظ على السلوك المسؤول طوال دورة حياة العامل.
كمصمم، تؤثر قراراتك مباشرة على كيفية تنفيذ هذه الوظائف. تصف الوظائف الرئيسية التالية كيفية تطبيق الذكاء الاصطناعي المسؤول:
| الوظيفة | الوصف |
|---|---|
| الحوكمة | إنشاء النهج والأدوار والعمليات التي تتبعها الفرق عند تصميم العوامل وتوزيعها. تضمن الحوكمة التوافق مع مبادئ الذكاء الاصطناعي المسؤولة وتوفر مساءلة واضحة. |
| خريطه | تحديد المخاطر المحتملة المرتبطة بسيناريو الذكاء الاصطناعي وتحديد أولوياتها. يتيح التعيين اتخاذ قرارات مستنيرة حول استراتيجيات التخفيف ويساعد على تحديد ما إذا كان حل الذكاء الاصطناعي مناسبا للسياق المقصود. |
| المقياس | تقييم المخاطر وأداء النظام لتوجيه تصميم وتحسين عوامل التخفيف. يعد القياس أمرا ضروريا مع تزايد قدرات الذكاء الاصطناعي في التعقيد وتتطلب تقييما مستمرا. |
| الإدارة | تطبيق عمليات التخفيف من المخاطر والحفاظ عليها طوال عملية التوزيع والعملية المستمرة. تراقب الفرق سلوك النظام وتضبط عوامل التخفيف حسب الحاجة لضمان بقاء الوكلاء مسؤولين بمرور الوقت. |
مرشحات الشفافية والسلامة للذكاء الاصطناعي
الشفافية هي حجر الزاوية في الذكاء الاصطناعي المسؤول. عند تصميم الوكلاء، وضّح بوضوح وجود الذكاء الاصطناعي ودوره ضمن تجربة استخدام المنتج. تثقيف المستخدمين حول الغرض من العامل وقدراته وقيوده والمخاطر المحتملة. تمكن هذه الشفافية المستخدمين من اتخاذ قرارات مستنيرة وتعزز الثقة في النظام.
تتضمن التطبيقات العملية للشفافية ملاحظات الشفافية والإفصاحات داخل المنتج التي تشرح كيفية عمل الذكاء الاصطناعي وما يمكن للمستخدمين توقعه. على سبيل المثال، في تجربة Business Chat، يستخدم العامل مؤشرات واضحة، مثل التسميات مثل "قد يكون المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي غير صحيح"، للمساعدة في تعيين التوقعات المناسبة ودعم الاستخدام المسؤول.
مرشحات الأمان
تساعد عوامل تصفية الأمان على ضمان تصرف العوامل بطرق مناسبة ومحترمة ومتوافقة مع مبادئ الذكاء الاصطناعي المسؤولة Microsoft. تقلل هذه الضمانات من مخاطر المخرجات الضارة أو المتحيزة أو المضللة مع حماية خصوصية المستخدم والمعلومات الحساسة طوال التفاعل.
يرث الوكلاء المبنيون باستخدام Copilot التزامات Microsoft المتعلقة بالذكاء الاصطناعي المسؤول، والتي تركز على الإنصاف والموثوقية والخصوصية والشفافية. تلعب عوامل تصفية الأمان دورا حاسما في فرض هذه الالتزامات من خلال توجيه كيفية استجابة الوكلاء لإدخال المستخدم، ومعالجة الموضوعات الحساسة، وإدارة الوصول إلى البيانات.
مهم
بصفتك مصممًا، لا تُعِدّ مرشحات الأمان مباشرة. يفرضها Microsoft على مستوى النظام الأساسي. ومع ذلك، فإن قرارات التصميم الخاصة بك حول النغمة والنطاق والشفافية تعزز أو تقوض الثقة التي تم تصميم عوامل تصفية الأمان لحمايتها.
من خلال تطبيق عوامل تصفية الأمان باستمرار، يمكن للوكلاء دعم ثقة المستخدم وثقته. يمكن للمستخدمين الاعتماد على استجابات الوكيل بشكل أفضل مع العلم بأن الضمانات موجودة لتعزيز السلوك المسؤول والاستخدام الأخلاقي للذكاء الاصطناعي.
تلميح
للحصول على إرشادات شاملة حول نهج الذكاء الاصطناعي المسؤول Microsoft، بما في ذلك المبادئ التفصيلية وأطر الحوكمة والإبلاغ عن الشفافية، انتقل إلى مبادئ ونهج الذكاء الاصطناعي المسؤول Microsoft.