Sdílet prostřednictvím

Formáty dat podporované inteligentním měřítkem v reálném čase

  • Článek

Příjem dat je proces, pomocí kterého se data přidají do tabulky a jsou k dispozici pro dotazování ve inteligentních funkcích v reálném čase. U všech metod příjmu dat, kromě ingestování z dotazu, musí být data v jednom z podporovaných formátů. Následující tabulka uvádí a popisuje formáty, které inteligentní funkce v reálném čase podporuje pro příjem dat.

Poznámka:

Před ingestováním dat se ujistěte, že jsou data správně naformátovaná a definují očekávaná pole. Doporučujeme použít preferovaný validátor k potvrzení platnosti formátu. Můžete například najít následující validátory užitečné ke kontrole souborů CSV nebo JSON:

Další informace o tom, proč může příjem dat selhat, najdete v tématu Selhání příjmu dat.

Formát Rozšíření Popis
ApacheAvro .avro Formát AVRO s podporou logických typů. Podporují se následující komprimační kodeky: null, deflatea snappy. Implementace apacheavro formátu je založena na oficiální knihovně Apache Avro. Informace o ingestování souborů Avro zachycení služby Event Hubs najdete v tématu Mapování schématu pro soubory Avro capture služby Event Hubs.
Avro .avro Starší implementace pro formát AVRO založená na knihovně .NET. Podporují se následující komprimační kodeky: null, deflate (pro snappy použití ApacheAvro formátu dat).
CSV .csv Textový soubor s hodnotami oddělenými čárkami (,). Viz RFC 4180: Běžný formát a typ MIME pro soubory hodnot oddělených čárkami (CSV).
JSON .json Textový soubor s objekty JSON oddělenými \n nebo \r\n. Viz řádky JSON (JSONL).
MultiJSON .multijson Textový soubor s polem vlastností JSON (každý představuje záznam) nebo libovolný počet sáčků vlastností oddělených prázdnými znaky \n nebo \r\n. Každá taška vlastností se dá rozprostřet na více řádcích. Tento formát je upřednostňovaný před JSON, pokud data nejsouproperty tašky.
ORC .orc Soubor ORC.
Parquet .parquet Soubor Parquet.
PSV .psv Textový soubor s hodnotami oddělenými svislým rourou (|).
SYROVÝ .raw Textový soubor, jehož celý obsah je jedna řetězcová hodnota.
SCSv .scsv Textový soubor s hodnotami oddělenými středníkem (;).
SOHsv .sohsv Textový soubor s hodnotami oddělenými SOH. (SOH je bod kódu ASCII 1; tento formát používá Hive ve službě HDInsight.)
TSV .tsv Textový soubor s hodnotami oddělenými tabulátorem (\t).
TSVE .tsv Textový soubor s hodnotami oddělenými tabulátorem (\t). Znak zpětného lomítka (\) se používá pro zapouzdření.
TXT .txt Textový soubor s řádky oddělenými znakem \n. Prázdné čáry se přeskočí.
W3CLOGFILE .log Formát souboru webového protokolu standardizovaný w3C.

Poznámka:

  • Příjem dat ze systémů úložiště dat, které poskytují funkce ACID nad běžnými soubory formátu Parquet (např. Apache Iceberg, Apache Hudi), se nepodporuje.
  • Avro bez schématu se nepodporuje.

Podporované formáty komprese dat

Objekty blob a soubory je možné komprimovat pomocí některého z následujících algoritmů komprese:

Komprese Rozšíření
GZip .gz
PSČ .zip

Indikujte kompresi připojením přípony k názvu objektu blob nebo souboru.

Příklad:

  • MyData.csv.zip označuje objekt blob nebo soubor formátovaný jako CSV, komprimovaný pomocí souboru ZIP (archiv nebo jeden soubor).
  • MyData.json.gz označuje objekt blob nebo soubor formátovaný jako JSON komprimovaný pomocí GZip.

Podporují se také názvy objektů blob nebo souborů, které neobsahují přípony formátu, MyData.zipale jenom kompresi (například). V tomto případě musí být formát souboru zadán jako vlastnost příjmu dat, protože jej nelze odvodit.

Poznámka:

  • Některé formáty komprese sledují původní příponu souboru jako součást komprimovaného datového proudu. Toto rozšíření je obecně ignorováno pro určení formátu souboru. Pokud formát souboru nelze určit z (komprimovaného) objektu blob nebo názvu souboru, musí se zadat prostřednictvím vlastnosti příjmu format dat.
  • Nezaměňovat s interním (blokovým) kodekem komprese používaným Parquetv a ORC AVRO formátech. Název interní komprese se obvykle přidává do názvu souboru před příponou formátu souboru, například: file1.gz.parquet, file1.snappy.avroatd.

Související obsah