הערה
הגישה לדף זה מחייבת הרשאה. באפשרותך לנסות להיכנס או לשנות מדריכי כתובות.
הגישה לדף זה מחייבת הרשאה. באפשרותך לנסות לשנות מדריכי כתובות.
האבטחה מהותית בבניית מערכות מהימנה של נציגי בינה מלאכותית. מאמר זה מספק ארכיטקטורות עזר וגישות של מידול איומים כדי לעזור לך לזהות גבולות אבטחה, להעריך סיכונים וליישם פקדים מתאימים בפתרונות הסוכן שלך.
במאמר זה, תלמדו כיצד:
- למפות את זרימות הנתונים של הסוכנים כדי לזהות נקודות בקרת אבטחה.
- החלת תודולוגיות מידול איומים על ארכיטקטורות של סוכנים.
- הבנת גבולות האמון ביישום מנועים מותאמים אישית.
זרימת נתונים של סוכן
זרימות נתונים נפוצות של סוכן מתחילות בהנחיות המשתמשים להזנת המערכת כנתונים גולמיים. ה- orchestrator, בין אם מודל שפה או זרימת קוד לוגי, מתאים את ההנחיות ללוגיקה המתאימה לתגובה באמצעות תהליכים תואמים של זיהוי כוונות ותגובה איטרטיביים.
ייתכן שסוכנים מורכבים יצטרכו איתציות מרובות של התאמת זיהוי כוונות ותגובה כאשר ההקשר הראשוני אינו מספיק לתגובות מדויקות. לדוגמה, עיבוד "סכם את הודעות הדואר האלקטרוני שלי" דורש קריאות לכלים כדי לאחזר נתוני ייחוס הממפים את זהות המשתמש לחשבונות דואר אלקטרוני.
כל שלב בזרימת הנתונים מייצג גבול אבטחה ונקודת בקרה פוטנציאליים שבהם עליך לאכוף דרישות אמון, מעקב ושקיפות כדי לשמור על תקינות המערכת ועל ביטחון המשתמש.
מודלים של איומים
מידול איומים מספק גישות לזיהוי וצמצום של סיכוני אבטחה בארכיטקטורות סוכן. השתמש בכלים מבוססיMicrosoft כלי מידול איומים כדי ליצור מודלי איומים מותאמים אישית עבור יישומי הסוכן הספציפיים שלך.
מודל איום של סוכן מנוע מותאם אישית
סוכני מנוע מותאמים אישית זקוקים למידול איומים מקיף כדי לטפל בגבולות השירות, בזרימות נתונים ובווטטורי תקיפה פוטנציאליים ברחבי המערכת האקולוגית של הסוכן כולו.
מודלים של איומים חייבים לכלול את המאפיין המבווזר של ארכיטקטורות סוכן, כולל ממשקי לקוח, שירותי תזמור, מודלי שפה, שילובי כלים ומקורות נתונים. כל רכיב מייצג משטחי תקיפה פוטנציאליים הדורשים בקרת אבטחה וניטור מתאימים.