Introducere
În primele etape de lucru cu ai generative, este comun să se concentreze pe obtinerea ceva care funcționează. Indiferent dacă este un demo, un prototip sau o dovadă a conceptului, aceste jaloane se pot simți semnificativ. Cu toate acestea, a face ceva gata de producție este o provocare diferită.
Fără o monitorizare adecvată, chiar și aplicații generale generale stabile, se pot confrunta cu probleme în condiții reale:
- Latența poate deveni imprevizibilă.
- Costurile pot crește din cauza proiectării sau scalării ineficiente a solicitărilor.
- Calcularea resurselor nu este aliniată cu necesitățile reale de utilizare.
Multe echipe se încadrează în capcana de implementare fără a înțelege pe deplin modul în care sistemul lor funcționează în condiții reale. Monitorizarea transformă presupunerile în inginerie.
Înțelegerea cazului de utilizare
Imaginează-ți că lucrezi pentru Lakeshore Retail, care vinde unelte în aer liber. Echipa de asistență pentru clienți câmpuri sute de întrebări zilnice despre gama largă de produse, variind de la unelte de camping la echipamente specializate de drumeție. Pentru a îmbunătăți viteza de răspuns și acuratețea, acestea au implementat un asistent AI numit Ghid de trasee.
Cu toate acestea, implementarea unei soluții generativă AI este doar începutul. În calitate de inginer AI, vi se solicită să implementați monitorizarea continuă pentru a menține calitatea, a reduce riscul și siguranța și a asigura satisfacția clienților.
În acest modul, învățați cele mai bune practici pentru monitorizarea aplicațiilor ai generale cu Azure AI și Azure Monitor. Până la urmă, puteți monitoriza proactiv agenții și asistenții AI, cum ar fi Ghidul de trasee, și să optimizați eficiența lor reală.