Ustawianie reguł skalowania w usłudze Azure Container Apps
Artykuł
Usługa Azure Container Apps zarządza automatycznym skalowaniem w poziomie za pomocą zestawu reguł skalowania deklaratywnego. W miarę skalowania wersji aplikacji kontenera nowe wystąpienia poprawki są tworzone na żądanie. Te wystąpienia są nazywane replikami.
Dodawanie lub edytowanie reguł skalowania powoduje utworzenie nowej poprawki aplikacji kontenera. Poprawka to niezmienna migawka aplikacji kontenera. Aby dowiedzieć się, które typy zmian wyzwalają nową poprawkę, zobacz Typy zmian poprawek.
Zadania usługi Container Apps oparte na zdarzeniach używają reguł skalowania do wyzwalania wykonań na podstawie zdarzeń.
Definicja skalowania
Skalowanie to kombinacja limitów, reguł i zachowania.
Limity definiują minimalną i maksymalną możliwą liczbę replik na wersję w miarę skalowania aplikacji kontenera.
Limit skalowania
Domyślna wartość
Wartość minimalna
Wartość maksymalna
Minimalna liczba replik na wersję
0
0
Maksymalna liczba konfigurowalnych replik to 1000.
Maksymalna liczba replik na wersję
10
1
Maksymalna liczba konfigurowalnych replik to 1000.
Reguły są kryteriami używanymi przez usługę Container Apps do decydowania, kiedy należy dodawać lub usuwać repliki.
Reguły skalowania są implementowane jako HTTP, TCP (Transmission Control Protocol) lub niestandardowe.
Zachowanie to połączenie reguł i limitów w celu określenia decyzji dotyczących skalowania w czasie.
Podczas definiowania reguł skalowania należy wziąć pod uwagę następujące elementy:
Opłaty za użycie nie są naliczane, jeśli aplikacja kontenera skaluje się do zera.
Repliki, które nie są przetwarzane, ale pozostają w pamięci, mogą być rozliczane przy niższym współczynniku bezczynności. Aby uzyskać więcej informacji, zobacz Rozliczenia.
Jeśli chcesz mieć pewność, że wystąpienie poprawki jest zawsze uruchomione, ustaw minimalną liczbę replik na 1 lub większą.
Reguły skalowania
Skalowanie jest oparte na trzech różnych kategoriach wyzwalaczy:
HTTP: na podstawie liczby współbieżnych żądań HTTP do poprawki.
TCP: na podstawie liczby współbieżnych połączeń TCP z poprawką.
Niestandardowe: na podstawie procesora CPU, pamięci lub obsługiwanych źródeł danych opartych na zdarzeniach, takich jak:
Azure Service Bus
Azure Event Hubs
Apache Kafka
Redis
Jeśli zdefiniujesz więcej niż jedną regułę skalowania, aplikacja kontenera rozpocznie skalowanie po spełnieniu pierwszego warunku wszystkich reguł.
HTTP
Dzięki regule skalowania HTTP masz kontrolę nad progiem współbieżnych żądań HTTP, które określają sposób skalowania poprawek aplikacji kontenera. Co 15 sekund liczba współbieżnych żądań jest obliczana jako liczba żądań w ciągu ostatnich 15 sekund podzielonych przez 15.
Zadania usługi Container Apps nie obsługują reguł skalowania HTTP.
W poniższym przykładzie poprawka jest skalowana w poziomie do pięciu replik i może być skalowana do zera. Właściwość skalowania jest ustawiona na 100 współbieżnych żądań na sekundę.
Przykład
Sekcja http definiuje regułę skalowania HTTP.
Właściwość skalowania
opis
Domyślna wartość
Wartość minimalna
Wartość maksymalna
concurrentRequests
Gdy liczba żądań HTTP przekracza tę wartość, dodawana jest inna replika. Repliki nadal dodawają do puli maksymalnie maxReplicas tę ilość.
properties.configuration.activeRevisionsMode Ustaw właściwość aplikacji kontenera na singlewartość , jeśli używasz reguł skalowania zdarzeń innych niż HTTP.
Zdefiniuj regułę skalowania HTTP przy użyciu parametru --scale-rule-http-concurrencycreate w poleceniach lub update .
Parametr interfejsu wiersza polecenia
opis
Domyślna wartość
Wartość minimalna
Wartość maksymalna
--scale-rule-http-concurrency
Gdy liczba współbieżnych żądań HTTP przekroczy tę wartość, dodawana jest inna replika. Repliki nadal dodawają do puli maksymalnie max-replicas tę ilość.
Przejdź do aplikacji kontenera w witrynie Azure Portal
Wybierz pozycję Skaluj.
Wybierz pozycję Edytuj i wdróż.
Wybierz kartę Skala .
Wybierz minimalny i maksymalny zakres replik.
Wybierz Dodaj.
W polu Nazwa reguły wprowadź nazwę reguły.
Z listy rozwijanej Typ wybierz pozycję Skalowanie HTTP.
W polu Współbieżne żądania wprowadź żądaną liczbę współbieżnych żądań dla aplikacji kontenera.
TCP
Za pomocą reguły skalowania TCP masz kontrolę nad progiem współbieżnych połączeń TCP, które określają sposób skalowania aplikacji. Co 15 sekund liczba połączeń współbieżnych jest obliczana jako liczba połączeń w ciągu ostatnich 15 sekund podzielonych przez 15.
Zadania usługi Container Apps nie obsługują reguł skalowania TCP.
W poniższym przykładzie poprawka aplikacji kontenera jest skalowana w poziomie do pięciu replik i może być skalowana do zera. Próg skalowania jest ustawiony na 100 połączeń współbieżnych na sekundę.
Przykład
Sekcja tcp definiuje regułę skalowania TCP.
Właściwość skalowania
opis
Domyślna wartość
Wartość minimalna
Wartość maksymalna
concurrentConnections
Gdy liczba współbieżnych połączeń TCP przekroczy tę wartość, dodawana jest inna replika. Repliki nadal są dodawane do maxReplicas tej ilości w miarę wzrostu liczby współbieżnych połączeń.
Zdefiniuj regułę skalowania TCP przy użyciu parametru --scale-rule-tcp-concurrencycreate w poleceniach lub update .
Parametr interfejsu wiersza polecenia
opis
Domyślna wartość
Wartość minimalna
Wartość maksymalna
--scale-rule-tcp-concurrency
Gdy liczba współbieżnych połączeń TCP przekroczy tę wartość, dodawana jest inna replika. Repliki nadal są dodawane do max-replicas tej ilości w miarę wzrostu liczby współbieżnych połączeń.
Nieobsługiwane w witrynie Azure Portal. Użyj interfejsu wiersza polecenia platformy Azure lub usługi Azure Resource Manager, aby skonfigurować regułę skalowania TCP.
Niestandardowy
Możesz utworzyć niestandardową regułę skalowania usługi Container Apps na podstawie dowolnego modułu skalowania KEDA opartego na obiekcie ScaledObject z następującymi wartościami domyślnymi:
W przypadku uwierzytelniania parametry uwierzytelniania modułu skalowania KEDA przyjmują wpisy tajne usługi Container Apps lub tożsamość zarządzaną.
Poniższa procedura przedstawia sposób konwertowania narzędzia skalowania KEDA na regułę skalowania aplikacji kontenera. Ten fragment kodu jest fragmentem szablonu usługi ARM, który pokazuje, gdzie każda sekcja mieści się w kontekście ogólnego szablonu.
Reguły skalowania usługi Container Apps obsługują uwierzytelnianie oparte na wpisach tajnych. Reguły skalowania zasobów platformy Azure, w tym usługi Azure Queue Storage, Azure Service Bus i Azure Event Hubs, obsługują również tożsamość zarządzaną. Jeśli to możliwe, użyj uwierzytelniania tożsamości zarządzanej, aby uniknąć przechowywania wpisów tajnych w aplikacji.
Używanie wpisów tajnych
Aby używać wpisów tajnych do uwierzytelniania, należy utworzyć wpis tajny w tablicy aplikacji kontenera secrets . Wartość wpisu tajnego auth jest używana w tablicy reguły skalowania.
Narzędzia skalowania KEDA mogą używać wpisów tajnych w elemencie authenticationRef TriggerAuthentication, do którego odwołuje się właściwość . Obiekt TriggerAuthentication można mapować na regułę skalowania usługi Container Apps.
TriggerAuthentication Znajdź obiekt, do których odwołuje się specyfikacja KEDAScaledObject.
TriggerAuthentication W obiekcie znajdź każdy secretTargetRef i skojarzony z nim wpis tajny.
Niektóre narzędzia skalowania obsługują metadane z sufiksem FromEnv , aby odwoływać się do wartości w zmiennej środowiskowej. Usługa Container Apps analizuje pierwszy kontener wymieniony w szablonie usługi ARM dla zmiennej środowiskowej.
Zapoznaj się z sekcją zagadnień, aby uzyskać więcej informacji związanych z zabezpieczeniami.
Korzystanie z tożsamości zarządzanej
Reguły skalowania usługi Container Apps mogą używać tożsamości zarządzanej do uwierzytelniania za pomocą usług platformy Azure. Poniższy szablon usługi ARM przekazuje tożsamość zarządzaną opartą na systemie w celu uwierzytelniania w usłudze Azure Queue Scaler.
Reguły skalowania usługi Container Apps obsługują uwierzytelnianie oparte na wpisach tajnych. Reguły skalowania zasobów platformy Azure, w tym usługi Azure Queue Storage, Azure Service Bus i Azure Event Hubs, obsługują również tożsamość zarządzaną. Jeśli to możliwe, użyj uwierzytelniania tożsamości zarządzanej, aby uniknąć przechowywania wpisów tajnych w aplikacji.
Używanie wpisów tajnych
Aby skonfigurować uwierzytelnianie oparte na wpisach tajnych dla reguły skalowania usługi Container Apps, należy skonfigurować wpisy tajne w aplikacji kontenera i odwoływać się do nich w regule skalowania.
Narzędzie skalowania KEDA obsługuje wpisy tajne w elemencie TriggerAuthentication , którego authenticationRef właściwość używa do odwołania. Obiekt można mapować TriggerAuthentication na regułę skalowania usługi Container Apps.
TriggerAuthentication Znajdź obiekt, do których odwołuje się specyfikacja KEDAScaledObject. Zidentyfikuj TriggerAuthentication każdy secretTargetRef obiekt.
Reguły skalowania usługi Container Apps mogą używać tożsamości zarządzanej do uwierzytelniania za pomocą usług platformy Azure. Poniższe polecenie tworzy aplikację kontenera z tożsamością zarządzaną przypisaną przez użytkownika i używa jej do uwierzytelniania w usłudze Azure Queue Scaler.
W portalu znajdź sekcję Metadane i wybierz pozycję Dodaj. Wprowadź nazwę i wartość dla każdego elementu w sekcji metadanych specyfikacji KEDA ScaledObject .
Uwierzytelnianie
Reguły skalowania usługi Container Apps obsługują uwierzytelnianie oparte na wpisach tajnych. Reguły skalowania zasobów platformy Azure, w tym usługi Azure Queue Storage, Azure Service Bus i Azure Event Hubs, obsługują również tożsamość zarządzaną. Jeśli to możliwe, użyj uwierzytelniania tożsamości zarządzanej, aby uniknąć przechowywania wpisów tajnych w aplikacji.
Używanie wpisów tajnych
W aplikacji kontenera utwórz wpisy tajne, do których chcesz się odwołać.
TriggerAuthentication Znajdź obiekt, do których odwołuje się specyfikacja KEDAScaledObject. Zidentyfikuj TriggerAuthentication każdy secretTargetRef obiekt.
W sekcji Uwierzytelnianie wybierz pozycję Dodaj, aby utworzyć wpis dla każdego parametru KEDAsecretTargetRef.
Korzystanie z tożsamości zarządzanej
Uwierzytelnianie tożsamości zarządzanej nie jest obsługiwane w witrynie Azure Portal. Użyj interfejsu wiersza polecenia platformy Azure lub usługi Azure Resource Manager do uwierzytelniania przy użyciu tożsamości zarządzanej.
Domyślna reguła skalowania
Jeśli nie utworzysz reguły skalowania, domyślna reguła skalowania zostanie zastosowana do aplikacji kontenera.
Wyzwalacz
Minimalna liczba replik
Maksymalna liczba replik
HTTP
0
10
Ważne
Upewnij się, że utworzono regułę skalowania lub ustawiono wartość minReplicas 1 lub więcej, jeśli nie włączysz ruchu przychodzącego. Jeśli ruch przychodzący jest wyłączony i nie zdefiniujesz minReplicas reguły skalowania niestandardowego, aplikacja kontenera będzie skalować do zera i nie ma możliwości uruchamiania kopii zapasowej.
Zachowanie skalowania
Zachowanie skalowania ma następujące wartości domyślne:
Interwał sondowania to częstotliwość wykonywania zapytań dotyczących źródeł zdarzeń przez usługę KEDA. Ta wartość nie ma zastosowania do reguł skalowania HTTP i TCP.
Okres schładzania to czas, o ile po wystąpieniu ostatniego zdarzenia aplikacja przeskaluje w dół do minimalnej liczby replik.
Okno stabilizacji skalowania w górę to czas oczekiwania przed wykonaniem decyzji skalowania w górę po spełnieniu warunków skalowania w górę.
Okno stabilizacji skalowania w dół to czas oczekiwania przed podjęciem decyzji o skalowaniu w dół po spełnieniu warunków skalowania w dół.
Krok skalowania w górę to szybkość dodawania nowych wystąpień. Zaczyna się od 1, 4, 8, 16, 32, ... maksymalnie skonfigurowana maksymalna liczba replik.
Krok skalowania w dół to szybkość usuwania replik. Domyślnie 100% replik, które muszą zostać zamknięte, są usuwane.
Algorytm skalowania to formuła używana do obliczania bieżącej żądanej liczby replik.
W miarę zwiększania skali aplikacji usługa KEDA zaczyna się od pustej kolejki i wykonuje następujące kroki:
Sprawdź my-queue co 30 sekund.
Jeśli długość kolejki wynosi 0, wróć do (1).
Jeśli długość kolejki wynosi > 0, przeprowadź skalowanie aplikacji do 1.
Jeśli długość kolejki wynosi 50, oblicz wartość desiredReplicas = ceil(50/5) = 10.
Skalowanie aplikacji do min(maxReplicaCount, desiredReplicas, max(4, 2*currentReplicaCount))
Wróć do (1).
Jeśli aplikacja została przeskalowana do maksymalnej liczby replik 20, skalowanie przechodzi przez te same poprzednie kroki. Skalowanie w dół ma miejsce tylko wtedy, gdy warunek został spełniony przez 300 sekund (okno stabilizacji skalowania w dół). Gdy długość kolejki wynosi 0, KEDA czeka na 300 sekund (okres schładzania) przed skalowaniem aplikacji do 0.
Kwestie wymagające rozważenia
W trybie "wiele poprawek" dodanie nowego wyzwalacza skalowania spowoduje utworzenie nowej poprawki aplikacji, ale stara wersja pozostaje dostępna ze starymi regułami skalowania.
Użyj strony zarządzania poprawkami, aby zarządzać alokacjami ruchu.
W przypadku skalowania aplikacji do zera nie są naliczane żadne opłaty za użycie. Aby uzyskać więcej informacji o cenach, zobacz Rozliczenia w usłudze Azure Container Apps.
Ilości repliki to kwota docelowa, a nie gwarancja.
Jeśli używasz aktorów Języka Dapr do zarządzania stanami, pamiętaj, że skalowanie do zera nie jest obsługiwane. Język Dapr używa aktorów wirtualnych do zarządzania wywołaniami asynchronicznymi, co oznacza, że ich reprezentacja w pamięci nie jest powiązana z tożsamością ani okresem istnienia.
Zmiana serwerów proxy KEDA za pośrednictwem ustawień serwerów proxy nie jest obsługiwana. Rozważ użycie profilów obciążeń z bramą translatora adresów sieciowych lub trasą zdefiniowaną przez użytkownika (UDR), aby wysyłać ruch do urządzenia sieciowego, gdzie można sprawdzić lub zastosować ruch stamtąd.
Dołącz do serii meetup, aby tworzyć skalowalne rozwiązania sztucznej inteligencji oparte na rzeczywistych przypadkach użycia z innymi deweloperami i ekspertami.
W tym module omówiono koncepcję poprawek w usłudze Azure Container Apps i omówiono opcje zarządzania cyklem życia aplikacji. Obejmuje również opcje skalowania i ustawienia ruchu przychodzącego, w tym podział ruchu dla usługi Azure Container Apps.