Pobieranie danych z usługi Amazon S3

Pozyskiwanie danych to proces używany do ładowania danych z co najmniej jednego źródła do tabeli w usłudze Azure Data Explorer. Po pozyskaniu dane staną się dostępne dla zapytań. Z tego artykułu dowiesz się, jak pobrać dane z usługi Amazon S3 do nowej lub istniejącej tabeli.

Aby uzyskać więcej informacji na temat usługi Amazon S3, zobacz Co to jest Amazon S3?.

Aby uzyskać ogólne informacje na temat pozyskiwania danych, zobacz Omówienie pozyskiwania danych w usłudze Azure Data Explorer.

Wymagania wstępne

Pobieranie danych

  1. W menu po lewej stronie wybierz pozycję Zapytanie.

  2. Kliknij prawym przyciskiem myszy bazę danych, w której chcesz pozyskać dane, a następnie wybierz pozycję Pobierz dane.

    Zrzut ekranu przedstawiający kartę zapytania z kliknięciem prawym przyciskiem myszy bazy danych i otwartym oknem dialogowym pobierania opcji.

Source

W oknie Pobieranie danych wybrana jest karta Źródło .

Wybierz źródło danych z listy dostępnych. W tym przykładzie pozyskujesz dane z usługi Amazon S3.

Zrzut ekranu przedstawiający okno pobierania danych z wybraną kartą źródłową.

Konfigurowanie

  1. Wybierz docelową bazę danych i tabelę. Jeśli chcesz pozyskać dane do nowej tabeli, wybierz pozycję +Nowa tabela i wprowadź nazwę tabeli.

    Uwaga

    Nazwy tabel mogą zawierać maksymalnie 1024 znaki, w tym spacje, alfanumeryczne, łączniki i podkreślenia. Znaki specjalne nie są obsługiwane.

  2. W polu URI wklej parametry połączenia pojedynczego zasobnika lub pojedynczy obiekt w następującym formacie.

    Zasobnik: https://BucketName RegionName.s3..amazonaws.com

    Obiekt: ObjectName;AwsCredentials=AwsAccessID,AwsSecretKey

    Opcjonalnie można zastosować filtry zasobników, aby filtrować dane zgodnie z określonym rozszerzeniem pliku.

    Zrzut ekranu przedstawiający kartę konfigurowanie z wprowadzoną nową tabelą i wklejonym parametry połączenia amazon S3.

    Uwaga

    Maksymalny rozmiar pliku obsługiwany w pozyskiwaniu wynosi 6 GB. Zaleca się pozyskiwanie plików z zakresu od 100 MB do 1 GB.

  3. Wybierz opcję Dalej.

Kontrola

Zostanie otwarta karta Inspekcja z podglądem danych.

Aby ukończyć proces pozyskiwania, wybierz pozycję Zakończ.

Zrzut ekranu przedstawiający kartę inspekcji.

Opcjonalnie:

Edytuj kolumny

Uwaga

  • W przypadku formatów tabelarycznych (CSV, TSV, PSV) nie można mapować kolumny dwa razy. Aby zamapować na istniejącą kolumnę, najpierw usuń nową kolumnę.
  • Nie można zmienić istniejącego typu kolumny. Jeśli spróbujesz zamapować kolumnę na inny format, może się okazać, że kolumny będą puste.

Zmiany, które można wprowadzić w tabeli, zależą od następujących parametrów:

  • Typ tabeli jest nowy lub istniejący
  • Typ mapowania jest nowy lub istniejący
Typ tabeli Typ mapowania Dostępne korekty
Nowa tabela Nowe mapowanie Zmienianie nazwy kolumny, zmienianie typu danych, zmienianie źródła danych, przekształcanie mapowania, dodawanie kolumny, usuwanie kolumny
Istniejąca tabela Nowe mapowanie Dodaj kolumnę (na której można następnie zmienić typ danych, zmienić nazwę i zaktualizować)
Istniejąca tabela Istniejące mapowanie brak

Zrzut ekranu przedstawiający otwarte kolumny do edycji.

Przekształcenia mapowania

Niektóre mapowania formatów danych (Parquet, JSON i Avro) obsługują proste przekształcenia czasu pozyskiwania. Aby zastosować przekształcenia mapowania, utwórz lub zaktualizuj kolumnę w oknie Edytowanie kolumn .

Przekształcenia mapowania można wykonywać na kolumnie typu ciąg lub data/godzina, a źródło ma typ danych int lub long. Obsługiwane przekształcenia mapowania to:

  • DateTimeFromUnixSeconds
  • DateTimeFromUnixMilliseconds
  • DateTimeFromUnixMicroseconds
  • DateTimeFromUnixNanoseconds

Opcje zaawansowane oparte na typie danych

Tabelaryczny (CSV, TSV, PSV):

  • Jeśli pozyskujesz formaty tabelaryczne w istniejącej tabeli, możesz wybrać pozycję Zaawansowane>Zachowaj bieżący schemat tabeli. Dane tabelaryczne nie muszą zawierać nazw kolumn używanych do mapowania danych źródłowych na istniejące kolumny. Po zaznaczeniu tej opcji mapowanie jest wykonywane według kolejności, a schemat tabeli pozostaje taki sam. Jeśli ta opcja nie jest zaznaczona, nowe kolumny są tworzone dla danych przychodzących, niezależnie od struktury danych.

  • Aby użyć pierwszego wiersza jako nazw kolumn, wybierz pozycję Zaawansowany>pierwszy wiersz to nagłówek kolumny.

    Zrzut ekranu przedstawiający zaawansowane opcje csv.

JSON:

  • Aby określić podział kolumn danych JSON, wybierz pozycję Zaawansowane>poziomy zagnieżdżone z zakresu od 1 do 100.

  • W przypadku wybrania opcji Zaawansowane>ignoruj błędy formatu danych dane są pozyskiwane w formacie JSON. Jeśli to pole wyboru nie zostanie zaznaczone, dane są pozyskiwane w formacie wielossonowym.

    Zrzut ekranu przedstawiający zaawansowane opcje JSON.

Podsumowanie

W oknie Przygotowywanie danych wszystkie trzy kroki są oznaczone zielonymi znacznikami wyboru po pomyślnym zakończeniu pozyskiwania danych. Możesz wyświetlić polecenia, które były używane dla każdego kroku, lub wybrać kartę do wykonywania zapytań, wizualizacji lub porzucania pozyskanych danych.

Zrzut ekranu przedstawiający stronę podsumowania z pomyślnym zakończeniem pozyskiwania.