Сұрау арқылы автоматтандыруға арналған адам шолуы
Бұл мақалада GPT көмегімен мәтін жасау мүмкіндіктерін қолданудағы адам шолуының маңызды рөліне баса назар аударылады Power Automate. Бұл мүмкіндік Azure қызметімен қамтамасыз етілген мәтін жасау AI Builderмоделі OpenAI пайдаланады. Бұл үлгілер өте тиімді болғанымен, олар кейде жаңылыстыратын немесе ойдан шығарылған ақпаратты жасай алады және жылдам инъекциялық шабуылдарға бейім болады.
Маңызды
- AI Builder шақырулар Azure OpenAI қызметімен жұмыс істейтін GPT-3.5 Turbo үлгісінде жұмыс істейді.
- Бұл мүмкіндік кейбір аймақтармен шектелген.
- Бұл мүмкіндік пайдалану шектеулеріне немесе сыйымдылықты шектеуге байланысты болуы мүмкін.
Жедел инъекциялық шабуылдар
Шұғыл енгізу шабуылы үшінші тарап модельдің барлық кіріс көздеріне тән сенімін пайдаланған кезде орын алады. Шабуылшы заңды пайдаланушы AI шешімінен өзара әрекеттесуді сұрайтын мазмұнға сұрауды енгізеді, бұл AI шешімі шығысының және ықтимал оның әрекеттерінің өзгеруіне әкеледі.
Мысалы, азаматтық әзірлеуші электрондық пошталар, әлеуметтік медиа немесе форумдар сияқты әртүрлі платформалардан жиналған тұтынушылардың шағымдарына жауаптарды тұжырымдау үшін GPT көмегімен мәтін жасау әрекетін қолданатын сценарийді қарастырыңыз. . Шабуылдаушы осы көздердің бірінен мазмұнға шақыруды кірістіре алады. Бұл сценарий болжанғаннан басқаша жауап жасау үшін үлгіні алдауы мүмкін. Жауап орынсыз, дұрыс емес немесе зиянды болуы мүмкін. Тұтынушыларға жіберілген қате ақпарат компанияның беделіне және тұтынушылармен қарым-қатынасына теріс әсер етуі мүмкін.
AI үлгілерінде жасау
Фабрика, сондай-ақ галлюцинация ретінде белгілі, AI үлгілері, соның ішінде мәтінді құру моделі алдында тұрған тағы бір қиындық. Жасалу AI моделі берілген кірістерге немесе бұрыннан бар деректерге негізделмеген ақпаратты генерациялағанда, негізінен ойлап немесе галлюцинациялау пайда болады. ақпарат.
Мысалы, егер AI моделінен берілген мәтінге негізделген тарихи оқиғаның қысқаша мазмұнын жасау сұралса, ол бастапқы мәтінде айтылмаған мәліметтерді немесе оқиғаларды қамтуы мүмкін. Мысалы, ағын жазбаның транскрипциясы негізінде жиналыстың конспектісін жасайды. Кіріс деректері қатысушылар туралы мәліметтерді, талқыланған мақалаларды және қабылданған шешімдерді қамтиды. Дегенмен, үлгі жиналыста ешқашан талқыланбаған әрекет элементін немесе шешімді қамтитын жиынтықты жасай алады. Бұл жағдай модельде кіріс деректерінде жоқ галлюцинацияланған ақпараты бар құрастыру данасы болып табылады.
Жасалу қаупін азайту үшін жауапты AI тәжірибесін енгізу өте маңызды. Бұл модельді мүмкіндігінше жерге қосу ақпаратымен қамтамасыз ету және ақырында адам қадағалауының сенімді жүйесін енгізу, жылдам және ағынды қатаң сынауды қамтиды.
Жауапты AI тәжірибесі арқылы тәуекелдерді шешіңіз
Біз тәуекелдерді азайту құралы ретінде жауапты AI тәжірибесін қолдаймыз. Модель шығарған мазмұнды реттеуге арналған стратегиялардың болуына қарамастан, модельдің ойдан шығарылған жауаптарды жасауға немесе жылдам инъекциялық шабуылдарға көнуге бейімділігін басқару күрделі мәселе болып қала береді. Біз бұл тәуекелдерді мойындаймыз және адамдық бақылау мен бақылауға өзіміздің адалдығымызды растаймыз.
Үздіксіз автоматтандыру қажеттілігін мойындай отырып, біз қауіпсіздік жүйелерімізді белсенді түрде жетілдіреміз және осы қиындықтарды тереңірек түсінуге тырысамыз. Біздің мақсатымыз жауапты жасанды жасанды жобалау қағидаттарына сәйкес, сәйкес қауіпсіздік шараларымен мәтінді құру үлгісін әрі қарай жетілдіру, мүмкіндігінше бақылауды әзірлеушілерге қайтару.