Databricks Runtime 6.0 (niet ondersteund)

Artikel
03/01/2024

Databricks heeft deze afbeelding uitgebracht in oktober 2019.

De volgende releaseopmerkingen bevatten informatie over Databricks Runtime 6.0, mogelijk gemaakt door Apache Spark.

Nieuwe functies

Python-omgeving

Databricks Runtime 6.0 bevat belangrijke wijzigingen in Python en de manier waarop Python-omgevingen worden geconfigureerd, waaronder het upgraden van Python naar 3.7.3, het verfijnen van de lijst met geïnstalleerde Python-pakketten en het upgraden van die geïnstalleerde pakketten naar nieuwere versies. Zie Geïnstalleerde Python-bibliotheken voor meer informatie.

Bovendien biedt Databricks Runtime 6.0, zoals eerder aangekondigd, geen ondersteuning voor Python 2.

Belangrijke wijzigingen zijn onder andere:

Python is bijgewerkt van 3.5.2 naar 3.7.3. Sommige oude versies van Python-pakketten zijn mogelijk niet compatibel met Python 3.7 omdat ze afhankelijk zijn van oude versies van Cython die niet compatibel zijn met Python 3.7. Als u een dergelijk pakket installeert, kunnen fouten worden geactiveerd die vergelijkbaar zijn met ‘PyThreadState’ {‘struct _ts’} has no member named ‘exc_type’ (zie GitHub-probleem 1978 voor meer informatie). Installeer in plaats daarvan compatibele versies van Python 3.7-pakketten.
Belangrijke pakketupgrades:
- boto3 tot 1.9.162
- ipython naar 7.4.0
- matplotlib naar 3.0.3
- numpy naar 1.16.2
- pandas tot 0.24.2
- pyarrow tot 0.13.0
Vergeleken met Databricks Runtime 5.5 LTS (niet ondersteund), zijn de volgende Python-pakketten nieuw inbegrepen: asn1crypto, backcall, jedi, factorysolver, parso en PySocks.
Vergeleken met Databricks Runtime 5.5 LTS (niet ondersteund), worden de volgende Python-pakketten niet geïnstalleerd: ansi2html, brewer2mpl, colorama, configobj, enum34, et-xmlfile, freetype-py, funcsigs, fusepy, ggplot, html5lib, ipaddress, jdcal, Jinja2, llvmlite, lxml, MarkupSafe, mpld3, msgpack-python, ndg-httpsclient, numba, openpyxl, pathlib2, Pillow, ply, pyasn1, pypng, python-geohash, scour, simplejson en singledispatch.
De display functie op Python ggplot-objecten wordt niet meer ondersteund omdat het ggplot-pakket niet compatibel is met een nieuwere versie van pandas.
Instelling PYSPARK_PYTHON wordt /databricks/python2/bin/python niet ondersteund omdat Databricks Runtime 6.0 geen ondersteuning biedt voor Python 2. Een cluster met een dergelijke instelling kan nog steeds worden gestart. Python-notebooks en Python-opdrachten werken echter niet, dat wil zeggen dat Python-opdrachtcellen mislukken met de fout 'Geannuleerd' en er wordt een Python shell failed to start fout weergegeven in de stuurprogrammalogboeken.
Als PYSPARK_PYTHON verwijst naar een uitvoerbaar Python-bestand dat zich in een omgeving bevindt die wordt beheerd door Virtualenv , wordt deze omgeving geactiveerd voor init-scripts en notebooks. U kunt en pip opdrachten die zijn gedefinieerd in de geactiveerde omgeving rechtstreeks gebruiken python zonder dat u de absolute locaties van deze opdrachten hoeft op te geven. PYSPARK_PYTHON Standaard is ingesteld op /databricks/python3/bin/python. Verwijst dus standaard python naar /databricks/python3/bin/python en pip verwijst naar /databricks/python3/bin/pip voor init-scripts en notebooks. Als uw PYSPARK_PYTHON verwijst naar een uitvoerbaar Python-bestand dat zich niet in een omgeving bevindt die wordt beheerd door Virtualenv of als u een init-script schrijft om de Python te maken die is opgegeven door PYSPARK_PYTHON, moet u absolute paden gebruiken om toegang te krijgen tot de juiste python en pip. Wanneer isolatie van Python-bibliotheken is ingeschakeld (deze is standaard ingeschakeld), is de geactiveerde omgeving nog steeds de omgeving waaraan PYSPARK_PYTHON is gekoppeld. U wordt aangeraden bibliotheekhulpprogramma (dbutils.library) (verouderd) te gebruiken om de geïsoleerde omgeving te wijzigen die is gekoppeld aan een Python-notebook.

Scala- en Java-API's voor Delta Lake DML-opdrachten

U kunt nu gegevens in Delta-tabellen wijzigen met behulp van programmatische API's voor verwijderen, bijwerken en samenvoegen. Deze API's weerspiegelen de syntaxis en semantiek van de bijbehorende SQL-opdrachten en zijn ideaal voor veel workloads, zoals langzaam veranderende dimensiebewerkingen (SCD), het samenvoegen van wijzigingsgegevens voor replicatie en upserts van streamingquery's.

Zie Wat is Delta Lake? voor meer informatie.

Scala- en Java-API's voor delta lake-hulpprogrammaopdrachten

Databricks Runtime heeft nu programmatische API's voor de vacuum opdrachten en history hulpprogramma's. Deze API's weerspiegelen de syntaxis en semantiek van de bijbehorende SQL-opdrachten die beschikbaar zijn in eerdere versies van Databricks Runtime.

U kunt bestanden opschonen waarnaar niet meer wordt verwezen door een Delta-tabel en ouder zijn dan de drempelwaarde voor retentie door deze uit te voeren vacuum op de tabel. Als u de vacuum opdracht op de tabel recursief uitvoert, worden de mappen die aan de Delta-tabel zijn gekoppeld, recursief opgezogen. De standaardretentiedrempel voor de bestanden is 7 dagen. De mogelijkheid om terug te reizen naar een versie die ouder is dan de bewaarperiode, gaat verloren nadat deze is uitgevoerd vacuum. vacuum wordt niet automatisch geactiveerd.

U kunt informatie ophalen over de bewerkingen, de gebruiker, de tijdstempel, enzovoort voor elke schrijfbewerking naar een Delta-tabel door de history opdracht uit te voeren. De bewerkingen worden geretourneerd in omgekeerde chronologische volgorde. Tabelgeschiedenis wordt standaard 30 dagen bewaard.

Zie Wat is Delta Lake? voor meer informatie.

Schijfcache beschikbaar voor Azure Lsv2-exemplaren

[Schijfcache]] (.. /.. /optimizations/disk-cache.md) is nu standaard ingeschakeld voor alle Lsv2-exemplaren.

Geoptimaliseerde opslag met behulp van lokale bestands-API's

Api's voor lokale bestanden zijn handig omdat u toegang hebt tot bestanden uit onderliggende gedistribueerde objectopslag als lokale bestanden. In Databricks Runtime 6.0 hebben we de FUSE-koppeling verbeterd waarmee lokale bestands-API's belangrijke beperkingen kunnen aanpakken. Databricks Runtime 6.0 verbetert de lees- en schrijfsnelheid aanzienlijk en ondersteunt bestanden die groter zijn dan 2 GB. Als u snellere en betrouwbaardere lees- en schrijfbewerkingen nodig hebt, zoals voor gedistribueerde modeltraining, zou u deze verbetering met name nuttig vinden. Bovendien hoeft u geen gegevens te laden in een lokale opslag voor uw workloads, zowel kosten besparen als de productiviteit verbeteren.

Zie Wat is DBFS? voor meer informatie.

Meerdere matplotlib-plots per notebookcel

U kunt nu meerdere matplotlib-plots per notebookcel weergeven:

Meerdere matplotlib-plots in cel

Servicereferenties voor meerdere Azure Data Lake Storage Gen1-accounts

U kunt nu servicereferenties instellen voor meerdere toegang tot Azure Data Lake Storage Gen1 vanuit Azure Databricks-accounts voor gebruik in één Apache Spark-sessie. U doet dit door deze toe te voegen account.<account-name> aan de configuratiesleutels. Als u bijvoorbeeld referenties wilt instellen voor accounts voor toegang tot beide adl://example1.azuredatalakestore.net en adl://example2.azuredatalakestore.net, kunt u dit als volgt doen:

spark.conf.set("fs.adl.oauth2.access.token.provider.type", "ClientCredential")

spark.conf.set("fs.adl.account.example1.oauth2.client.id", "<application-id-example1>")
spark.conf.set("fs.adl.account.example1.oauth2.credential", dbutils.secrets.get(scope = "<scope-name>", key = "<key-name-for-service-credential-example1>"))
spark.conf.set("fs.adl.account.example1.oauth2.refresh.url", "https://login.microsoftonline.com/<directory-id-example1>/oauth2/token")

spark.conf.set("fs.adl.account.example2.oauth2.client.id", "<application-id-example2>")
spark.conf.set("fs.adl.account.example2.oauth2.credential", dbutils.secrets.get(scope = "<scope-name>", key = "<key-name-for-service-credential-example2>"))
spark.conf.set("fs.adl.account.example2.oauth2.refresh.url", "https://login.microsoftonline.com/<directory-id-example2>/oauth2/token")

Verbeteringen

AWS SDK bijgewerkt naar 1.11.596.
Azure Storage SDK in het WASB-stuurprogramma bijgewerkt naar 7.0.
OPTIMIZE biedt nu een overzicht van metrische gegevens, zoals het aantal toegevoegde bestanden, het aantal bestanden dat is verwijderd en de maximale en minimale bestandsgrootte. Zie Gegevensbestanden comprimeren met Optimize in Delta Lake.

Verwijdering

Databricks ML Model Export wordt verwijderd. Gebruik in plaats daarvan MLeap voor het importeren en exporteren van modellen.

Apache Spark

Notitie

Dit artikel bevat verwijzingen naar de term slave, een term die azure Databricks niet gebruikt. Zodra de term uit de software wordt verwijderd, verwijderen we deze uit dit artikel.

Databricks Runtime 6.0 bevat Apache Spark 2.4.3. Deze release bevat alle Spark-oplossingen en -verbeteringen die zijn opgenomen in Databricks Runtime 5.5 LTS (niet-ondersteund) en de volgende aanvullende bugfixes en verbeteringen in Spark:

[SPARK-27992][SPARK-28881][PYTHON] Toestaan dat Python wordt samengevoegd met verbindingsthread om fouten door te geven
[SPARK-27330][SS]ondersteuningstaak wordt afgebroken in foreach writer (6.0, 5.x)
[SPARK-28642][SQL] Referenties verbergen in SHOW CREATE TABLE
[SPARK-28699][CORE] Een hoekcase herstellen voor het afbreken van onbepaalde fase
[SPARK-28647][WEBUI] Aanvullende functie voor metrische gegevens herstellen
[SPARK-28766][R] [DOC] Waarschuwing voor binnenkomende CRAN-haalbaarheid oplossen voor ongeldige URL
[SPARK-28486][CORE] [PYTHON] Het gegevensbestand van PythonBroadcast toewijzen aan een BroadcastBlock om verwijderen door GC te voorkomen
[SPARK-25035][CORE] Geheugentoewijzing voorkomen bij schijfopslag blokkeert replicatie
[SPARK-27234][SS] [PYTHON] Use InheritableThreadLocal for current epoch in EpochTracker (ter ondersteuning van Python UDF's)
[SPARK-28638][WEBUI] Taakoverzicht mag alleen de metrische gegevens van geslaagde taken bevatten
[SPARK-28153][PYTHON] AtomicReference gebruiken bij InputFileBlockHolder (ter ondersteuning van input_file_name met Python UDF)
[SPARK-28564][CORE] Toegangsgeschiedenistoepassing is standaard ingesteld op de id van de laatste poging
[SPARK-28260] Cluster kan automatisch worden beëindigd terwijl de query van de riftserver nog steeds resultaten ophaalt
[SPARK-26152][CORE] Werkrol opschonen synchroniseren met Werkrol afsluiten
[SPARK-28545][SQL] Voeg de grootte van de hash-kaart toe aan het directionele logboek van ObjectAggregationIterator
[SPARK-28489][SS] Een bug opgelost die KafkaOffsetRangeCalculator.getRanges kan verschuivingen laten dalen
[SPARK-28421][ML] SparseVector.apply performance optimization
[SPARK-28156][SQL] Self-join mag de weergave met cache niet missen
[SPARK-28152][SQL] ShortType toegewezen aan SMALLINT en FloatType naar REAL voor MsSqlServerDialect
[SPARK-28054][SQL] Fout opgelost bij het dynamisch invoegen van een gepartitioneerde Hive-tabel waarbij de partitienaam hoofdletters bevat
[SPARK-27159][SQL] mssql server dialect bijwerken ter ondersteuning van binair type
[SPARK-28355][CORE] [PYTHON] Spark conf gebruiken voor drempelwaarde waarvoor com...
[SPARK-27989][CORE] Nieuwe pogingen toegevoegd voor de verbinding met het stuurprogramma voor k8s
[SPARK-27416][SQL] UnsafeMapData & OnveiligeArrayData Kryo serialisatie ...
[SPARK-28430][UI] Weergave van fasetabel oplossen wanneer de metrische gegevens van sommige taken ontbreken
[SPARK-27485] EnsureRequirements.reorder moet dubbele expressies correct verwerken
[SPARK-28404][SS] Negatieve time-outwaarde in RateStreamContinuousPartitionReader corrigeren
[SPARK-28378][PYTHON] Gebruik van cgi.escape verwijderen
[SPARK-28371][SQL] Parquet 'StartsWith'-filter null-safe maken
[SPARK-28015][SQL] Controleer of stringToDate() volledige invoer verbruikt voor de notatie jjjj en jjjj-[m]m
[SPARK-28302][CORE] Zorg ervoor dat u een uniek uitvoerbestand genereert voor SparkLauncher in Windows
[SPARK-28308][CORE] Sub-tweede deel CalendarInterval moet worden opgevuld voordat u parseert
[SPARK-28170][ML] [PYTHON] Documentatie over Uniform Vectors en Matrix
[SPARK-28160][CORE] Er is een fout opgelost die de callback-functie mogelijk vastloopt wanneer een niet-ingeschakelde uitzondering is gemist
[SPARK-27839][SQL] UTF8String.replace() wijzigen om te werken op UTF8-bytes
[SPARK-28157][CORE] SHS wissen KVStore LogInfo voor de vermeldingen in de zwarte lijst
[SPARK-28128][PYTHON] [SQL] pandas gegroepeerde UDF's slaan lege partities over
[SPARK-28012][SQL] Hive UDF ondersteunt structtype vouwbare expressie
[SPARK-28164] Gebruiksbeschrijving van start-slave.sh oplossen
[SPARK-27100][SQL] Matrix gebruiken in plaats van Seq in FilePartition om StackOverflowError te voorkomen
[SPARK-28154][ML] GMM fix double caching

Onderhoudsupdates

Zie onderhoudsupdates voor Databricks Runtime 6.0.

Systeemomgeving

Besturingssysteem: Ubuntu 16.04.6 LTS
Java: 1.8.0_232
Scala: 2.11.12
Python: 3.7.3
R: R versie 3.6.1 (2019-07-05)
Delta Lake: 0.3.0