Flapping w autoskalowaniu
W tym artykule opisano flapping w autoskalowaniu i jak go uniknąć.
Flapping odnosi się do warunku pętli, który powoduje serię przeciwnych zdarzeń skalowania. Flapping ma miejsce, gdy zdarzenie skalowania wyzwala odwrotne zdarzenie skalowania.
Autoskalowanie ocenia oczekującą akcję skalowania w poziomie, aby sprawdzić, czy spowoduje to flapping. W przypadkach, gdy może wystąpić flapping, autoskalowanie może pominąć akcję skalowania i ponownie przeprowadzić ponowne oceny w następnym uruchomieniu, lub skalowanie automatyczne może być skalowane o mniejszą niż określona liczba wystąpień zasobów. Proces oceny automatycznego skalowania odbywa się za każdym razem, gdy aparat autoskalowania jest uruchamiany co 30 do 60 sekund, w zależności od typu zasobu.
Aby zapewnić odpowiednie zasoby, sprawdzanie potencjalnych flapping nie występuje w przypadku zdarzeń skalowanych w poziomie. Autoskalowanie spowoduje odroczenie tylko zdarzenia skalowania w poziomie, aby uniknąć flappingu.
Załóżmy na przykład następujące reguły:
- Skalowanie w poziomie o 1 wystąpienie, gdy średnie użycie procesora CPU przekracza 50%.
- Skalowanie w zmniejszaniu liczby wystąpień o 1 wystąpienie, gdy średnie użycie procesora CPU jest niższe niż 30%.
W poniższej tabeli w T0, gdy użycie wynosi 56%, akcja skalowania w poziomie jest wyzwalana i powoduje 56% użycia procesora CPU w 2 wystąpieniach. Daje to średnio 28% dla zestawu skalowania. Ponieważ wartość 28% jest mniejsza niż próg skalowania w poziomie, skalowanie automatyczne powinno być skalowane z powrotem. Skalowanie w obiekcie spowoduje zwrócenie zestawu skalowania do 56% użycia procesora CPU, co wyzwala akcję skalowania w poziomie.
| Godzina | Liczba wystąpień | % procesora CPU | Procent procesora CPU na wystąpienie | Skalowanie zdarzenia | Wynikowa liczba wystąpień |
|---|---|---|---|---|---|
| T0 | 1 | 56% | 56% | Skalowanie w poziomie | 2 |
| T1 | 2 | 56% | 28% | Skalowanie w pionie | 1 |
| T2 | 1 | 56% | 56% | Skalowanie w poziomie | 2 |
| T3 | 2 | 56% | 28% | Skalowanie w pionie | 1 |
Jeśli nie zostanie to kontrolowane, będzie to ciągła seria zdarzeń skalowania. Jednak w takiej sytuacji aparat autoskalowania odroczyć zdarzenie skalowania w poziomie T1 i przeskalować podczas następnego przebiegu autoskalowania. Skalowanie w poziomie będzie odbywać się tylko wtedy, gdy średnie użycie procesora CPU jest niższe niż 30%.
Flapping jest często spowodowany przez:
- Małe lub bez marginesów między progami
- Skalowanie według więcej niż jednego wystąpienia
- Skalowanie w i na wył. przy użyciu różnych metryk
Małe lub bez marginesów między progami
Aby uniknąć flappingu, zachowaj odpowiednie marginesy między progami skalowania.
Na przykład następujące reguły, w których nie ma marginesu między progami, powodują flapping.
- Skalowanie w poziomie, gdy liczba >wątków = 600
- Skalowanie w poziomie, gdy liczba < wątków 600
W poniższej tabeli przedstawiono potencjalny wynik tych reguł autoskalowania:
| Godzina | Liczba wystąpień | Liczba wątków | Liczba wątków na wystąpienie | Skalowanie zdarzenia | Wynikowa liczba wystąpień |
|---|---|---|---|---|---|
| T0 | 2 | 1250 | 625 | Skalowanie w poziomie | 3 |
| T1 | 3 | 1250 | 417 | Skalowanie w pionie | 2 |
- W czasie T0 istnieją dwa wystąpienia obsługujące 1250 wątków lub 625 bieżników na wystąpienie. Skalowanie automatyczne jest skalowane w poziomie do trzech wystąpień.
- Po skalowaniu w poziomie w T1 mamy te same 1250 wątków, ale z trzema wystąpieniami tylko 417 wątków na wystąpienie. Zdarzenie skalowania w poziomie jest wyzwalane.
- Przed skalowaniem w autoskalowanie ocenia, co się stanie w przypadku wystąpienia zdarzenia skalowania w poziomie. W tym przykładzie 1250 / 2 = 625, czyli 625 wątków na wystąpienie. Skalowanie automatyczne będzie musiało natychmiast skalować w poziomie po skalowaniu w poziomie. Jeśli proces zostanie ponownie przeskalowany w poziomie, będzie powtarzany, co prowadzi do pętli flapping.
- Aby uniknąć tej sytuacji, skalowanie automatyczne nie jest skalowane w poziomie. Autoskalowanie pomija bieżące zdarzenie skalowania i ponownie określa regułę w następnym cyklu wykonywania.
W tym przypadku wygląda na to, że skalowanie automatyczne nie działa, ponieważ nie ma miejsca żadne zdarzenie skalowania. Sprawdź kartę Historia uruchamiania na stronie ustawienia autoskalowania, aby sprawdzić, czy istnieje jakiekolwiek flapping.
Ustawienie odpowiedniego marginesu między progami pozwala uniknąć powyższego scenariusza. Na przykład
- Skalowanie w poziomie, gdy liczba >wątków = 600
- Skalowanie w poziomie, gdy liczba < wątków 400
Jeśli liczba wątków skalowanych w poziomie wynosi 400, łączna liczba wątków musiałaby spaść do 1200, zanim nastąpi zdarzenie skalowania. Zobacz poniższą tabelę.
| Godzina | Liczba wystąpień | Liczba wątków | Liczba wątków na wystąpienie | Skalowanie zdarzenia | Wynikowa liczba wystąpień |
|---|---|---|---|---|---|
| T0 | 2 | 1250 | 625 | Skalowanie w poziomie | 3 |
| T1 | 3 | 1250 | 417 | brak zdarzenia skalowania | 3 |
| T2 | 3 | 1180 | 394 | skalowanie w | 2 |
| T3 | 3 | 1180 | 590 | brak zdarzenia skalowania | 2 |
Skalowanie według więcej niż jednego wystąpienia
Aby uniknąć flappingu podczas skalowania w poziomie lub w poziomie przez więcej niż jedno wystąpienie, autoskalowanie może być skalowane o mniej niż liczba wystąpień określonych w regule.
Na przykład następujące reguły mogą powodować flapping:
- Skaluj w poziomie o 20, gdy liczba >żądań = 200 na wystąpienie.
- LUB, gdy procesor CPU > 70% na wystąpienie.
- Skaluj w poziomie o 10, gdy liczba <żądań = 50 na wystąpienie.
W poniższej tabeli przedstawiono potencjalny wynik tych reguł autoskalowania:
| Godzina | Liczba wystąpień | Procesor CPU | Liczba żądań | Skalowanie zdarzenia | Wystąpienia wynikowe | Komentarze |
|---|---|---|---|---|---|---|
| T0 | 30 | 65% | 3000 lub 100 na wystąpienie. | Brak zdarzenia skalowania | 30 | |
| T1 | 30 | 65 | 1500 | Skalowanie wg 3 wystąpień | 27 | Skalowanie do 10 spowodowałoby szacowany wzrost procesora CPU powyżej 70%, co doprowadziłoby do zdarzenia skalowalnego w poziomie. |
W czasie T0 aplikacja działa z 30 wystąpieniami, łączną liczbą żądań wynoszącą 3000 i użyciem procesora CPU w wysokości 65% na wystąpienie.
W przypadku T1, gdy liczba żądań spadnie do 1500 żądań lub 50 żądań na wystąpienie, skalowanie automatyczne spróbuje skalować do 10 wystąpień do 20. Jednak skalowanie automatyczne szacuje, że obciążenie procesora CPU dla 20 wystąpień będzie powyżej 70%, powodując zdarzenie skalowania w poziomie.
Aby uniknąć flappingu, aparat autoskalowania szacuje użycie procesora CPU dla wystąpień powyżej 20 do momentu znalezienia liczby wystąpień, w której wszystkie metryki znajdują się w zdefiniowanych progach:
- Zachowaj procesor poniżej 70%.
- Zachowaj liczbę żądań na wystąpienie powyżej 50.
- Zmniejsz liczbę wystąpień poniżej 30.
W takiej sytuacji skalowanie automatyczne może być skalowane o 3, z 30 do 27 wystąpień w celu spełnienia reguł, mimo że reguła określa spadek o 10. Komunikat dziennika jest zapisywany w dzienniku aktywności z opisem zawierającym skalowanie w dół z zaktualizowaną liczbą wystąpień, aby uniknąć flappingu
Jeśli autoskalowanie nie może znaleźć odpowiedniej liczby wystąpień, spowoduje to pominięcie skali w przypadku i ponownej oceny podczas następnego cyklu.
Uwaga
Jeśli aparat autoskalowania wykryje, że flapping może wystąpić w wyniku skalowania do docelowej liczby wystąpień, spróbuje również przeprowadzić skalowanie do mniejszej liczby wystąpień między bieżącą liczbą a liczbą docelową. Jeśli flapping nie występuje w tym zakresie, autoskalowanie będzie kontynuować operację skalowania z nowym obiektem docelowym.
Pliki dziennika
Znajdź flapping w dzienniku aktywności za pomocą następującego zapytania:
// Activity log, CategoryValue: Autoscale
// Lists latest Autoscale operations from the activity log, with OperationNameValue =="Microsoft.Insights/AutoscaleSettings/Flapping/Action
AzureActivity
|where CategoryValue =="Autoscale" and OperationNameValue =="Microsoft.Insights/AutoscaleSettings/Flapping/Action"
|sort by TimeGenerated desc
Poniżej znajduje się przykład rekordu dziennika aktywności na potrzeby flappingu:
{
"eventCategory": "Autoscale",
"eventName": "FlappingOccurred",
"operationId": "ffd31c67-1438-47a5-bee4-1e3a102cf1c2",
"eventProperties":
"{"Description":"Scale down will occur with updated instance count to avoid flapping.
Resource: '/subscriptions/d1234567-9876-a1b2-a2b1-123a567b9f8767/ resourcegroups/ed-rg-001/providers/Microsoft.Web/serverFarms/ ScaleableAppServicePlan'.
Current instance count: '6',
Intended new instance count: '1'.
Actual new instance count: '4'",
"ResourceName":"/subscriptions/d1234567-9876-a1b2-a2b1-123a567b9f8767/resourcegroups/ed-rg-001/providers/Microsoft.Web/serverFarms/ScaleableAppServicePlan",
"OldInstancesCount":6,
"NewInstancesCount":4,
"ActiveAutoscaleProfile":{"Name":"Auto created scale condition",
"Capacity":{"Minimum":"1","Maximum":"30","Default":"1"},
"Rules":[{"MetricTrigger":{"Name":"Requests","Namespace":"microsoft.web/sites","Resource":"/subscriptions/d1234567-9876-a1b2-a2b1-123a567b9f8767/resourceGroups/ed-rg-001/providers/Microsoft.Web/sites/ScaleableWebApp1","ResourceLocation":"West Central US","TimeGrain":"PT1M","Statistic":"Average","TimeWindow":"PT1M","TimeAggregation":"Maximum","Operator":"GreaterThanOrEqual","Threshold":3.0,"Source":"/subscriptions/d1234567-9876-a1b2-a2b1-123a567b9f8767/resourceGroups/ed-rg-001/providers/Microsoft.Web/sites/ScaleableWebApp1","MetricType":"MDM","Dimensions":[],"DividePerInstance":true},"ScaleAction":{"Direction":"Increase","Type":"ChangeCount","Value":"10","Cooldown":"PT1M"}},{"MetricTrigger":{"Name":"Requests","Namespace":"microsoft.web/sites","Resource":"/subscriptions/d1234567-9876-a1b2-a2b1-123a567b9f8767/resourceGroups/ed-rg-001/providers/Microsoft.Web/sites/ScaleableWebApp1","ResourceLocation":"West Central US","TimeGrain":"PT1M","Statistic":"Max","TimeWindow":"PT1M","TimeAggregation":"Maximum","Operator":"LessThan","Threshold":3.0,"Source":"/subscriptions/d1234567-9876-a1b2-a2b1-123a567b9f8767/resourceGroups/ed-rg-001/providers/Microsoft.Web/sites/ScaleableWebApp1","MetricType":"MDM","Dimensions":[],"DividePerInstance":true},"ScaleAction":{"Direction":"Decrease","Type":"ChangeCount","Value":"5","Cooldown":"PT1M"}}]}}",
"eventDataId": "b23ae911-55d0-4881-8684-fc74227b2ddb",
"eventSubmissionTimestamp": "2022-09-13T07:20:41.1589076Z",
"resource": "scaleableappserviceplan",
"resourceGroup": "ED-RG-001",
"resourceProviderValue": "MICROSOFT.WEB",
"subscriptionId": "D1234567-9876-A1B2-A2B1-123A567B9F876",
"activityStatusValue": "Succeeded"
}
Następne kroki
Aby dowiedzieć się więcej na temat automatycznego skalowania, zobacz następujące zasoby: