Compartilhar via

Databricks Runtime 4.2 (sem suporte)

  • Artigo

O Databricks lançou esta imagem em julho de 2018.

Importante

Esta versão foi preterida em 5 de março de 2019. Para obter mais informações sobre a política de desativação e o agendamento do Databricks Runtime, confira Ciclos de vida do suporte do Databricks Runtime.

As notas sobre a versão a seguir fornecem informações sobre o Databricks Runtime 4.2 da plataforma Apache Spark.

Delta Lake

Databricks Runtime 4.2 adiciona melhorias de qualidade e funcionalidade importantes ao Delta Lake. O Databricks recomenda que todos os clientes do Delta Lake atualizem para o novo runtime. Esta versão permanece em Versão Prévia Privada, mas representa uma versão candidata em antecipação à próxima versão de GA (disponibilidade geral).

Novos recursos

  • Os fluxo de dados agora podem ser gravados diretamente em uma tabela Delta registrada no metastore do Hive usando df.writeStream.table(...).

Aprimoramentos

  • Todos os comandos e consultas do Delta Lake agora são suportados para fazer referência a uma tabela usando seu caminho como um identificador:

    delta.`<path-to-table>`

    Anteriormente, OPTIMIZE e VACUUM exigiam o uso não padrão de literais de cadeia de caracteres (ou seja, '<path-to-table>').

  • DESCRIBE HISTORY agora inclui a ID de confirmação e é ordenado, por padrão, do mais recente para o mais antigo.

Correções de bug

  • A filtragem com base em predicados de partição agora opera corretamente, mesmo quando o caso dos predicados é diferente do da tabela.
  • Corrigida a coluna ausente AnalysisException ao executar verificações de igualdade em colunas boolianas em tabelas Delta (ou seja, booleanValue = true).
  • CREATE TABLE não modifica mais o log de transações ao criar um ponteiro para uma tabela existente. Isso impede conflitos desnecessários com fluxos simultâneos e permite a criação de ponteiro de metastore em tabelas em que o usuário só tem acesso de leitura aos dados.
  • Chamar display() em um fluxo com grandes quantidades de dados não causa mais OOM no driver.
  • AnalysisException agora é lançada quando um caminho do Delta Lake subjacente é excluído, em vez de retornar resultados vazios.
  • As configurações do Delta Lake que exigem uma versão de protocolo específica (por exemplo, appendOnly) só podem ser aplicadas a tabelas em uma versão apropriada.
  • Ao atualizar o estado de uma tabela Delta, as linhagens longas agora são truncadas automaticamente para evitar um StackOverFlowError.

Streaming estruturado

Novos recursos

  • O Delta Lake e o Kafka agora são totalmente suportados pelo Trigger.Once. Os limites de taxa anteriores (por exemplo maxOffsetsPerTrigger ou maxFilesPerTrigger) especificados como opções de origem ou padrões podem resultar em apenas uma execução parcial dos dados disponíveis. Essas opções agora são ignoradas quando Trigger.Once é usado, permitindo que todos os dados disponíveis no momento sejam processados.

  • Adicionado novo fluxo foreachBatch() no Scala, no qual você pode definir uma função para processar a saída de cada microlote usando operações do DataFrame. Isso possibilita o seguinte:

    • Usando fontes de dados em lote existentes para gravar saídas de microlote em sistemas que ainda não têm uma fonte de dados de fluxo (por exemplo, use o gravador de lote do Cassandra em cada saída de microlote).
    • Escrevendo a saída do microlote em vários locais.
    • A aplicação de operações do DataFrame e de tabela em saídas de microlote que ainda não têm suporte em DataFrames de fluxo (por exemplo, saída de microlote de upsert em uma tabela Delta).

  • Adicionadas funções from_avro/to_avro para ler e gravar dados Avro em um DataFrame em vez de apenas arquivos, semelhantes a from_json/to_json. Confira Ler e gravar dados avro em qualquer lugar para obter mais detalhes.

  • Adicionado suporte para fluxo foreach() no Python (já disponível no Scala). Confira a documentação sobre foreach e foreachBatch para obter mais detalhes.

Aprimoramentos

  • Geração mais rápida de resultados de saída e/ou limpeza de estado com operações com estado (mapGroupsWithState, junção de fluxo, agregação de fluxo, fluxo dropDuplicates) quando não há dados no fluxo de entrada.

Correções de bug

  • Correção do bug de correção SPARK-24588 na junção fluxo-fluxo em que a junção relatou menos resultados quando há uma repartição explícita antes dela (por exemplo, df1.repartition("a", "b").join(df, "a")).

Outras alterações e melhorias

  • Adicionado suporte para o comando Deny do SQL para clusters habilitados do controle de acesso de tabela. Os usuários agora podem negar permissões específicas da mesma maneira que poderiam ser concedidas antes. Uma permissão negada irá substituir uma concedida. Administradores e proprietários de um objeto específico ainda têm permissão para executar ações.
  • Nova fonte de dados do Azure Data Lake Storage Gen2 que usa o driver ABFS. Confira Conectar-se ao Azure Data Lake Storage Gen2 e ao Armazenamento de Blobs
  • Atualizou algumas bibliotecas do Python instaladas:
    • pip: de 10.0.0b2 para 10.0.1
    • setuptools: de 39.0.1 para 39.2.0
    • tornado: de 5.0.1 para 5.0.2
    • wheel: de 0.31.0 para 0.31.1
  • Atualizou várias bibliotecas do R instaladas. Confira Bibliotecas do R instaladas.
  • Suporte aprimorado do Parquet
  • ORC do Apache atualizado de 1.4.1 para 1.4.3

Apache Spark

O Databricks Runtime 4.2 inclui o Apache Spark 2.3.1. Esta versão inclui todas as correções e melhorias incluídas no Databricks Runtime 4.1 (sem suporte), assim como as seguintes correções de bug adicionais e melhorias feitas no Spark:

  • [SPARK-24588][SS] A junção de fluxo deve exigir HashClusteredPartitioning de filhos
  • [SPARK-23931][SQL] Faça arrays_zip em function.scala @scala.annotation.varargs.
  • [SPARK-24633][SQL] Corrige o codegen quando a divisão é necessária para arrays_zip
  • [SPARK-24578][CORE] Limite o tamanho da sub-região do buffer nio retornado
  • [SPARK-24613][SQL] O cache com UDF não pôde ser encontrado com caches dependentes subsequentes
  • [SPARK-24583][SQL] Tipo de esquema errado em InsertIntoDataSourceCommand
  • [SPARK-24565][SS] Adicionar API para no Streaming Estruturado para expor linhas de saída de cada microlote como um DataFrame
  • [SPARK-24396][SS][PYSPARK] Adicionar Fluxo Estruturado ForeachWriter para Python
  • [SPARK-24216][SQL] O Spark TypedAggregateExpression usa getSimpleName, que não é seguro no Scala
  • [SPARK-24452][SQL][CORE] Evitar possível estouro em int add ou multiple
  • [SPARK-24187][R][SQL] Adicionar a função array_join ao SparkR
  • [SPARK-24525][SS] Forneça uma opção para limitar o número de linhas em um MemorySink
  • [SPARK-24331][SPARKR][SQL] Adicionando arrays_overlap, array_repeat, map_entries ao SparkR
  • [SPARK-23931][SQL] Adiciona a função arrays_zip ao Spark SQL
  • [SPARK-24186][R][SQL] Alterar reverse e concat nas funções collection em R
  • [SPARK-24198][SPARKR][SQL] Adicionar a função slice ao SparkR
  • [SPARK-23920][SQL] adicionar array_remove para remover todos os elementos que são iguais ao elemento da matriz
  • [SPARK-24197][SPARKR][SQL] Adicionar a função array_sort ao SparkR
  • [SPARK-24340][CORE] Limpar arquivos do gerenciador de blocos de disco sem embaralhamento após o executor sair em um cluster autônomo
  • [SPARK-23935][SQL] Adicionar a função map_entries
  • [SPARK-24500][SQL] Verifique se os fluxos estão materializados durante as transformações de árvore.
  • [SPARK-24495][SQL] EnsureRequirement retorna um plano errado ao reordenar chaves iguais
  • [SPARK-24506][UI] Adicionar filtros de interface do usuário às guias adicionadas após a associação
  • [SPARK-24468][SQL] Manipular escala negativa ao ajustar a precisão para operações decimais
  • [SPARK-24313][SQL] Correção da avaliação interpretada das operações de coleção para tipos complexos
  • [SPARK-23922][SQL] Adicionar a função arrays_overlap
  • [SPARK-24369][SQL] Tratamento correto para várias agregações distintas com o mesmo conjunto de argumentos
  • [SPARK-24455][CORE] correção de erro de digitação no comentário TaskSchedulerImpl
  • [SPARK-24397][PYSPARK] Adicionado TaskContext.getLocalProperty(key) no Python
  • [SPARK-24117][SQL] Unificado o getSizePerRow
  • [SPARK-24156][SS] Correção de erro ao recuperar da falha em um lote sem dados
  • [SPARK-24414][UI] Calcule o número correto de tarefas para uma fase.
  • [SPARK-23754][PYTHON] Gerando novamente StopIteration no código do cliente
  • [SPARK-23991][DSTREAMS] Correção da perda de dados quando a gravação WAL falha em allocateBlocksToBatch
  • [SPARK-24373][SQL] Adicionar AnalysisBarrier ao filho de RelationalGroupedDataset e KeyValueGroupedDataset
  • [SPARK-24392][PYTHON] Rótulo pandas_udf como experimental
  • [SPARK-24334] Corrigir a condição de corrida no ArrowPythonRunner causa um desligamento do alocador de memória de Seta
  • [SPARK-19112][CORE] Adicionar shortCompressionCodecNames ausente à configuração.
  • [SPARK-24244][SPARK-24368][SQL] Passando apenas as colunas necessárias para o analisador CSV
  • [SPARK-24366][SQL] Melhoria das mensagens de erro para conversão de tipo
  • [SPARK-24371][SQL] Adicionado isInCollection na API do DataFrame para Scala a…
  • [SPARK-23925][SQL] Adicionar a função de coleção array_repeat
  • [MINOR] Adicionar configuração SSL de porta em toString e scaladoc
  • [SPARK-24378][SQL] Corrigir os exemplos incorretos da função date_trunc
  • [SPARK-24364][SS] Impedir que o InMemoryFileIndex falhe se o caminho do arquivo não existir
  • [SPARK-24257][SQL] LongToUnsafeRowMap calcula que o novo tamanho pode estar errado
  • [SPARK-24348][SQL] correção de erro element_at"
  • [SPARK-23930][SQL] Adicionar a função slice
  • [SPARK-23416][SS] Adicione um método de parada específico para ContinuousExecution.
  • [SPARK-23852][SQL] Atualização para o Parquet 1.8.3
  • [SPARK-24350][SQL] Corrige ClassCastException na função “array_position”
  • [SPARK-24321][SQL] Extrair código comum de Divisão/Resto para uma característica base
  • [SPARK-24309][CORE] AsyncEventQueue deve parar na interrupção.
  • [SPARK-23850][SQL] Adicione a configuração separada para a redação de opções do SQL.
  • [SPARK-22371][CORE] Retornar Nenhum em vez de lançar uma exceção quando um acumulador é coletado como lixo.
  • [SPARK-24002][SQL] Tarefa não serializável causada por org.apache.parquet.io.api.Binary$ByteBufferBackedBinary.getBytes
  • [SPARK-23921][SQL] Adicionar a função array_sort
  • [SPARK-23923][SQL] Adicionar a função cardinality
  • [SPARK-24159][SS] Habilitar microlotes sem dados para transmitir mapGroupswithState
  • [SPARK-24158][SS] Habilitar lotes sem dados para junções de fluxo
  • [SPARK-24157][SS] Lotes sem dados habilitados no MicroBatchExecution para agregação e redução de fluxo
  • [SPARK-23799][SQL] FilterEstimation.evaluateInSet produz estatísticas erradas para STRING
  • [SPARK-17916][SQL] Corrige a cadeia de caracteres vazia que está sendo analisada como nula quando o nullValue está definido.
  • [SPARK-23916][SQL] Adicionar a função array_join
  • [SPARK-23408][SS] Sincronizar ações sucessivas de AddData em Streaming*JoinSuite
  • [SPARK-23780][R] Falha ao usar a biblioteca googleVis com o novo SparkR
  • [SPARK-23821][SQL] Função collection: nivelar
  • [SPARK-23627][SQL] Fornecer isEmpty no conjunto de dados
  • [SPARK-24027][SQL] Suporte a MapType com StringType para chaves como o tipo raiz por from_json
  • [SPARK-24035][SQL] Sintaxe SQL pivot – correção do aviso antlr
  • [SPARK-23736][SQL] Estender a função concat para dar suporte às colunas de matriz
  • [SPARK-24246][SQL] Melhorar AnalysisException definindo a causa quando ela estiver disponível
  • [SPARK-24263][R] Quebras de verificação java do SparkR com openjdk
  • [SPARK-24262][PYTHON] Corrigir erro de digitação na mensagem de erro de combinação de tipo UDF
  • [SPARK-24067][STREAMING][KAFKA] Permitir deslocamentos não consecutivos
  • [SPARK-10878][CORE] Correção da condição de corrida quando vários clientes resolvem artefatos ao mesmo tempo
  • [SPARK-19181][CORE] Corrigindo “métricas SparkListenerSuite.local”
  • [SPARK-24068] Propagando as opções do DataFrameReader para fonte de dados de texto na inferência de esquema
  • [SPARK-24214][SS] Correção de JSON para StreamingRelationV2/StreamingExecutionRelation/ContinuousExecutionRelation
  • [SPARK-23919][SPARK-23924][SPARK-24054][SQL] Adicionar a função array_position/element_at
  • [SPARK-23926][SQL] Estender a função reverse para dar suporte aos argumentos ArrayType
  • [SPARK-23809][SQL] A SparkSession ativa deve ser definida por getOrCreate
  • [SPARK-23094][SPARK-23723][SPARK-23724][SQL] Suporte à codificação personalizada para arquivos json
  • [SPARK-24035] [SQL] Sintaxe de SQL para Pivot
  • [SPARK-24069][R] Adicionar as funções array_min / array_max
  • [SPARK-23976][CORE] Detectar estouro de tamanho em UTF8String.concat()/ByteArray.concat()
  • [SPARK-24188][CORE] Restaurar o ponto de extremidade da API "/version".
  • [SPARK-24128][SQL] Opção de configuração de menção no erro CROSS JOIN implícito
  • [SPARK-23291][SQL][R] A substr do R não deve reduzir a posição inicial em 1 ao chamar a API Scala
  • [SPARK-23697][CORE] LegacyAccumulatorWrapper deve definir isZero corretamente
  • [SPARK-24168][SQL] WindowExec não deve acessar SQLConf no lado do executor
  • [SPARK-24143]filtrar blocos vazios ao converter mapstatus em par (blockId, size)
  • [SPARK-23917][SPARK-23918][SQL] Adicionar a função array_max/array_min
  • [SPARK-23905][SQL] Adicionar dia da semana do UDF
  • [SPARK-16406][SQL] Melhorar o desempenho de LogicalPlan.resolve
  • [SPARK-24013][SQL] Remover compactação não precisa em ApproximatePercentile
  • [SPARK-23433][CORE] Preenchimentos tardios de tarefas do zombie atualizam todos os taskets
  • [SPARK-24169][SQL] JsonToStructs não deve acessar SQLConf no lado do executor
  • [SPARK-24133][SQL] Backport [SPARK-24133]Verificar se há estouros de inteiro ao redimensionar WritableColumnVectors
  • [SPARK-24166][SQL] InMemoryTableScanExec não deve acessar SQLConf no lado do executor
  • [SPARK-24133][SQL] Verificar se há estouros de inteiro ao redimensionar WritableColumnVectors
  • [SPARK-24085][SQL] A consulta retorna UnsupportedOperationException quando a subconsulta escalar está presente na expressão de particionamento
  • [SPARK-24062][THRIFT SERVER] Correção de problema de criptografia SASL não habilitada no servidor Thrift
  • [SPARK-23004][SS] Verifique se StateStore.commit é chamado apenas uma vez em uma tarefa de agregação de fluxo
  • [SPARK-23188][SQL] Tornar o tamanho do lote do leitor de columar vetorizado configurável
  • [SPARK-23375][SPARK-23973][SQL] Eliminar Classificação não necessária no Otimizador
  • [SPARK-23877][SQL] Usar predicados de filtro para remoção de partições em consultas de somente metadados
  • [SPARK-24033][SQL] Correção de incompatibilidade do quadro de janela especificadowindowframe(RowFrame, -1, -1)
  • [SPARK-23340][SQL] Atualizar o Apache ORC para 1.4.3
  • Corrija um problema de verificação nula ausente que é mais provavelmente disparado pela geração de código de expressão simplificada e exposto pelo SPARK-23986, pois ele tornou o código-fonte gerado um pouco mais longo e disparou o caminho de código problemático (divisão de código por Expression.reduceCodeSize()).
  • [SPARK-23989][SQL] A troca deve copiar dados antes do embaralhamento não serializado
  • [SPARK-24021][CORE] correção de bug no updateBlacklistForFetchFailure do BlacklistTracker
  • [SPARK-24014][PYSPARK] Adicionar o método onStreamingStarted ao StreamingListener
  • [SPARK-23963][SQL] Lidar corretamente com um grande número de colunas em consulta na tabela Hive baseada em texto
  • [SPARK-23948] Disparar o ouvinte de trabalho do mapstage em submitMissingTasks
  • [SPARK-23986][SQL] freshName pode gerar nomes não exclusivos
  • [SPARK-23835][SQL] Adicionar verificação não nula aos argumentos de tuplas

Atualizações de manutenção

Confira Atualizações de manutenção do Databricks Runtime 4.2.

Ambiente do sistema

  • Sistema operacional: Ubuntu 16.04.4 LTS
  • Java: 1.8.0_162
  • Scala: 2.11.8
  • Python: 2.7.12 para os clusters do Python 2 e 3.5.2 para os clusters do Python 3.
  • R: R versão 3.4.4 (15-03-2018)
  • Clusters da GPU: as seguintes bibliotecas GPU da NVIDIA estão instaladas:
    • Driver Tesla 375.66
    • CUDA 9.0
    • cuDNN 7.0

Bibliotecas Python instaladas

Biblioteca Versão Biblioteca Versão Biblioteca Versão
ansi2html 1.1.1 argparse 1.2.1 backports-abc 0.5
boto 2.42.0 boto3 1.4.1 botocore 1.4.70
brewer2mpl 1.4.1 certifi 2016.2.28 cffi 1.7.0
chardet 2.3.0 colorama 0.3.7 configobj 5.0.6
criptografia 1.5 cycler 0.10.0 Cython 0.24.1
decorator 4.0.10 docutils 0,14 enum34 1.1.6
et-xmlfile 1.0.1 freetype-py 1.0.2 funcsigs 1.0.2
fusepy 2.0.4 futures 3.2.0 ggplot 0.6.8
html5lib 0,999 idna 2.1 ipaddress 1.0.16
ipython 2.2.0 ipython-genutils 0.1.0 jdcal 1,2
Jinja2 2.8 jmespath 0.9.0 llvmlite 0.13.0
lxml 3.6.4 MarkupSafe 0,23 matplotlib 1.5.3
mpld3 0,2 msgpack-python 0.4.7 ndg-httpsclient 0.3.3
numba 0.28.1 numpy 1.11.1 openpyxl 2.3.2
pandas 0.19.2 pathlib2 2.1.0 patsy 0.4.1
pexpect 4.0.1 pickleshare 0.7.4 Pillow 3.3.1
pip 10.0.1 ply 3.9 prompt-toolkit 1.0.7
psycopg2 2.6.2 ptyprocess 0.5.1 py4j 0.10.3
pyarrow 0.8.0 pyasn1 0.1.9 pycparser 2.14
Pygments 2.1.3 PyGObject 3.20.0 pyOpenSSL 16.0.0
pyparsing 2.2.0 pypng 0.0.18 Python 2.7.12
python-dateutil 2.5.3 python-geohash 0.8.5 pytz 2016.6.1
solicitações 2.11.1 s3transfer 0.1.9 scikit-learn 0.18.1
scipy 0.18.1 scour 0,32 seaborn 0.7.1
setuptools 39.2.0 simplejson 3.8.2 simples3 1,0
singledispatch 3.4.0.3 six 1.10.0 statsmodels 0.6.1
tornado 5.0.2 traitlets 4.3.0 urllib3 1.19.1
virtualenv 15.0.1 wcwidth 0.1.7 wheel 0.31.1
wsgiref 0.1.2

Bibliotecas R instaladas

Biblioteca Versão Biblioteca Versão Biblioteca Versão
abind 1.4-5 assertthat 0.2.0 backports 1.1.2
base 3.4.4 BH 1.66.0-1 bindr 0.1.1
bindrcpp 0.2.2 bit 1.1-12 bit64 0.9-7
bitops 1.0-6 blob 1.1.1 boot 1.3-20
brew 1.0-6 broom 0.4.4 carro 3.0-0
carData 3.0-1 sinal de interpolação 6.0-79 cellranger 1.1.0
chron 2.3-52 classe 7.3-14 cli 1.0.0
cluster 2.0.7-1 codetools 0.2-15 colorspace 1.3-2
commonmark 1.4 compiler 3.4.4 crayon 1.3.4
curl 3.2 CVST 0.2-1 data.table 1.10.4-3
conjuntos de dados 3.4.4 DBI 0.8 ddalpha 1.3.1.1
DEoptimR 1.0-8 desc 1.1.1 devtools 1.13.5
dichromat 2.0-0 digest 0.6.15 dimRed 0.1.0
doMC 1.3.5 dplyr 0.7.4 DRR 0.0.3
forcats 0.3.0 foreach 1.4.4 foreign 0.8-70
gbm 2.1.3 ggplot2 2.2.1 git2r 0.21.0
glmnet 2.0-16 glue 1.2.0 gower 0.1.2
elemento gráfico 3.4.4 grDevices 3.4.4 grade 3.4.4
gsubfn 0.7 gtable 0.2.0 h2o 3.16.0.2
haven 1.1.1 hms 0.4.2 httr 1.3.1
hwriter 1.3.2 hwriterPlus 1.0-3 ipred 0.9-6
iterators 1.0.9 jsonlite 1.5 kernlab 0.9-25
KernSmooth 2.23-15 labeling 0.3 lattice 0.20-35
lava 1.6.1 lazyeval 0.2.1 littler 0.3.3
lme4 1.1-17 lubridate 1.7.3 magrittr 1.5
mapproj 1.2.6 mapas 3.3.0 maptools 0.9-2
MASS 7.3-50 Matriz 1.2-14 MatrixModels 0.4-1
memoise 1.1.0 methods 3.4.4 mgcv 1.8-24
mime 0.5 minqa 1.2.4 mnormt 1.5-5
ModelMetrics 1.1.0 munsell 0.4.3 mvtnorm 1.0-7
nlme 3.1-137 nloptr 1.0.4 nnet 7.3-12
numDeriv 2016.8-1 openssl 1.0.1 openxlsx 4.0.17
parallel 3.4.4 pbkrtest 0.4-7 pillar 1.2.1
pkgconfig 2.0.1 pkgKitten 0.1.4 plogr 0.2.0
plyr 1.8.4 praise 1.0.0 prettyunits 1.0.2
pROC 1.11.0 prodlim 1.6.1 proto 1.0.0
psych 1.8.3.3 purrr 0.2.4 quantreg 5.35
R.methodsS3 1.7.1 R.oo 1.21.0 R.utils 2.6.0
R6 2.2.2 randomForest 4.6-14 RColorBrewer 1.1-2
Rcpp 0.12.16 RcppEigen 0.3.3.4.0 RcppRoll 0.2.2
RCurl 1.95-4.10 readr 1.1.1 readxl 1.0.0
recipes 0.1.2 rematch 1.0.1 reshape2 1.4.3
rio 0.5.10 rlang 0.2.0 robustbase 0.92-8
RODBC 1.3-15 roxygen2 6.0.1 rpart 4.1-13
rprojroot 1.3-2 Rserve 1.7-3 RSQLite 2.1.0
rstudioapi 0.7 scales 0.5.0 sfsmisc 1.1-2
sp 1.2-7 SparkR 2.3.1 SparseM 1.77
spatial 7.3-11 splines 3.4.4 sqldf 0.4-11
SQUAREM 2017.10-1 statmod 1.4.30 stats 3.4.4
stats4 3.4.4 stringi 1.1.7 stringr 1.3.0
survival 2.42-3 tcltk 3.4.4 TeachingDemos 2,10
testthat 2.0.0 tibble 1.4.2 tidyr 0.8.0
tidyselect 0.2.4 timeDate 3043.102 tools 3.4.4
utf8 1.1.3 utils 3.4.4 viridisLite 0.3.0
whisker 0.3-2 withr 2.1.2 xml2 1.2.0

Instaladas as bibliotecas do Java e Scala (versão de cluster do Scala 2.11)

ID do Grupo Artifact ID Versão
antlr antlr 2.7.7
com.amazonaws amazon-kinesis-client 1.7.3
com.amazonaws aws-java-sdk-autoscaling 1.11.313
com.amazonaws aws-java-sdk-cloudformation 1.11.313
com.amazonaws aws-java-sdk-cloudfront 1.11.313
com.amazonaws aws-java-sdk-cloudhsm 1.11.313
com.amazonaws aws-java-sdk-cloudsearch 1.11.313
com.amazonaws aws-java-sdk-cloudtrail 1.11.313
com.amazonaws aws-java-sdk-cloudwatch 1.11.313
com.amazonaws aws-java-sdk-cloudwatchmetrics 1.11.313
com.amazonaws aws-java-sdk-codedeploy 1.11.313
com.amazonaws aws-java-sdk-cognitoidentity 1.11.313
com.amazonaws aws-java-sdk-cognitosync 1.11.313
com.amazonaws aws-java-sdk-config 1.11.313
com.amazonaws aws-java-sdk-core 1.11.313
com.amazonaws aws-java-sdk-datapipeline 1.11.313
com.amazonaws aws-java-sdk-directconnect 1.11.313
com.amazonaws aws-java-sdk-directory 1.11.313
com.amazonaws aws-java-sdk-dynamodb 1.11.313
com.amazonaws aws-java-sdk-ec2 1.11.313
com.amazonaws aws-java-sdk-ecs 1.11.313
com.amazonaws aws-java-sdk-efs 1.11.313
com.amazonaws aws-java-sdk-elasticache 1.11.313
com.amazonaws aws-java-sdk-elasticbeanstalk 1.11.313
com.amazonaws aws-java-sdk-elasticloadbalancing 1.11.313
com.amazonaws aws-java-sdk-elastictranscoder 1.11.313
com.amazonaws aws-java-sdk-emr 1.11.313
com.amazonaws aws-java-sdk-glacier 1.11.313
com.amazonaws aws-java-sdk-iam 1.11.313
com.amazonaws aws-java-sdk-importexport 1.11.313
com.amazonaws aws-java-sdk-kinesis 1.11.313
com.amazonaws aws-java-sdk-kms 1.11.313
com.amazonaws aws-java-sdk-lambda 1.11.313
com.amazonaws aws-java-sdk-logs 1.11.313
com.amazonaws aws-java-sdk-machinelearning 1.11.313
com.amazonaws aws-java-sdk-opsworks 1.11.313
com.amazonaws aws-java-sdk-rds 1.11.313
com.amazonaws aws-java-sdk-redshift 1.11.313
com.amazonaws aws-java-sdk-route53 1.11.313
com.amazonaws aws-java-sdk-s3 1.11.313
com.amazonaws aws-java-sdk-ses 1.11.313
com.amazonaws aws-java-sdk-simpledb 1.11.313
com.amazonaws aws-java-sdk-simpleworkflow 1.11.313
com.amazonaws aws-java-sdk-sns 1.11.313
com.amazonaws aws-java-sdk-sqs 1.11.313
com.amazonaws aws-java-sdk-ssm 1.11.313
com.amazonaws aws-java-sdk-storagegateway 1.11.313
com.amazonaws aws-java-sdk-sts 1.11.313
com.amazonaws aws-java-sdk-support 1.11.313
com.amazonaws aws-java-sdk-swf-libraries 1.11.22
com.amazonaws aws-java-sdk-workspaces 1.11.313
com.amazonaws jmespath-java 1.11.313
com.carrotsearch hppc 0.7.2
com.chuusai shapeless_2.11 2.3.2
com.clearspring.analytics fluxo 2.7.0
com.databricks Rserve 1.8-3
com.databricks dbml-local_2.11 0.4.1-db1-spark2.3
com.databricks dbml-local_2.11-tests 0.4.1-db1-spark2.3
com.databricks jets3t 0.7.1-0
com.databricks.scalapb compilerplugin_2.11 0.4.15-9
com.databricks.scalapb scalapb-runtime_2.11 0.4.15-9
com.esotericsoftware kryo-shaded 3.0.3
com.esotericsoftware minlog 1.3.0
com.fasterxml classmate 1.0.0
com.fasterxml.jackson.core jackson-annotations 2.6.7
com.fasterxml.jackson.core jackson-core 2.6.7
com.fasterxml.jackson.core jackson-databind 2.6.7.1
com.fasterxml.jackson.dataformat jackson-dataformat-cbor 2.6.7
com.fasterxml.jackson.datatype jackson-datatype-joda 2.6.7
com.fasterxml.jackson.module jackson-module-paranamer 2.6.7
com.fasterxml.jackson.module jackson-module-scala_2.11 2.6.7.1
com.github.fommil jniloader 1,1
com.github.fommil.netlib core 1.1.2
com.github.fommil.netlib native_ref-java 1,1
com.github.fommil.netlib native_ref-java-natives 1,1
com.github.fommil.netlib native_system-java 1,1
com.github.fommil.netlib native_system-java-natives 1,1
com.github.fommil.netlib netlib-native_ref-linux-x86_64-natives 1,1
com.github.fommil.netlib netlib-native_system-linux-x86_64-natives 1,1
com.github.luben zstd-jni 1.3.2-2
com.github.rwl jtransforms 2.4.0
com.google.code.findbugs jsr305 2.0.1
com.google.code.gson gson 2.2.4
com.google.guava guava 15.0
com.google.protobuf protobuf-java 2.6.1
com.googlecode.javaewah JavaEWAH 0.3.2
com.h2database h2 1.3.174
com.jamesmurty.utils java-xmlbuilder 1,1
com.jcraft jsch 0.1.50
com.jolbox bonecp 0.8.0.RELEASE
com.mchange c3p0 0.9.5.1
com.mchange mchange-commons-java 0.2.10
com.microsoft.azure azure-data-lake-store-sdk 2.2.8
com.microsoft.sqlserver mssql-jdbc 6.2.2.jre8
com.ning compress-lzf 1.0.3
com.sun.mail javax.mail 1.5.2
com.thoughtworks.paranamer paranamer 2.8
com.trueaccord.lenses lenses_2.11 0.3
com.twitter chill-java 0.8.4
com.twitter chill_2.11 0.8.4
com.twitter parquet-hadoop-bundle 1.6.0
com.twitter util-app_2.11 6.23.0
com.twitter util-app_2.11 6.23.0
com.twitter util-app_2.11 6.23.0
com.typesafe config 1.2.1
com.typesafe.scala-logging scala-logging-api_2.11 2.1.2
com.typesafe.scala-logging scala-logging-slf4j_2.11 2.1.2
com.univocity univocity-parsers 2.5.9
com.vlkan flatbuffers 1.2.0-3f79e055
com.zaxxer HikariCP 3.1.0
commons-beanutils commons-beanutils 1.7.0
commons-beanutils commons-beanutils-core 1.8.0
commons-cli commons-cli 1,2
commons-codec commons-codec 1,10
commons-collections commons-collections 3.2.2
commons-configuration commons-configuration 1.6
commons-dbcp commons-dbcp 1.4
commons-digester commons-digester 1.8
commons-httpclient commons-httpclient 3.1
commons-io commons-io 2.4
commons-lang commons-lang 2.6
commons-logging commons-logging 1.1.3
commons-net commons-net 2.2
commons-pool commons-pool 1.5.4
info.ganglia.gmetric4j gmetric4j 1.0.7
io.airlift aircompressor 0.8
io.dropwizard.metrics metrics-core 3.1.5
io.dropwizard.metrics metrics-ganglia 3.1.5
io.dropwizard.metrics metrics-graphite 3.1.5
io.dropwizard.metrics metrics-healthchecks 3.1.5
io.dropwizard.metrics metrics-jetty9 3.1.5
io.dropwizard.metrics metrics-json 3.1.5
io.dropwizard.metrics metrics-jvm 3.1.5
io.dropwizard.metrics metrics-log4j 3.1.5
io.dropwizard.metrics metrics-servlets 3.1.5
io.netty Netty 3.9.9.Final
io.netty netty-all 4.1.17.Final
io.prometheus simpleclient 0.0.16
io.prometheus simpleclient_common 0.0.16
io.prometheus simpleclient_dropwizard 0.0.16
io.prometheus simpleclient_servlet 0.0.16
io.prometheus.jmx coletor 0.7
javax.activation activation 1.1.1
javax.annotation javax.annotation-api 1,2
javax.el javax.el-api 2.2.4
javax.jdo jdo-api 3.0.1
javax.servlet javax.servlet-api 3.1.0
javax.servlet.jsp jsp-api 2.1
javax.transaction jta 1,1
javax.validation validation-api 1.1.0.Final
javax.ws.rs javax.ws.rs-api 2.0.1
javax.xml.bind jaxb-api 2.2.2
javax.xml.stream stax-api 1.0-2
javolution javolution 5.5.1
jline jline 2,11
joda-time joda-time 2.9.3
log4j apache-log4j-extras 1.2.17
log4j log4j 1.2.17
net.hydromatic eigenbase-properties 1.1.5
net.iharder base64 2.3.8
net.java.dev.jets3t jets3t 0.9.4
net.razorvine pyrolite 4.13
net.sf.jpam jpam 1,1
net.sf.opencsv opencsv 2.3
net.sf.supercsv super-csv 2.2.0
net.snowflake snowflake-jdbc 3.6.3
net.snowflake spark-snowflake_2.11 2.3.2
net.sourceforge.f2j arpack_combined_all 0,1
org.acplt oncrpc 1.0.7
org.antlr ST4 4.0.4
org.antlr antlr-runtime 3.4
org.antlr antlr4-runtime 4.7
org.antlr stringtemplate 3.2.1
org.apache.ant ant 1.9.2
org.apache.ant ant-jsch 1.9.2
org.apache.ant ant-launcher 1.9.2
org.apache.arrow arrow-format 0.8.0
org.apache.arrow arrow-memory 0.8.0
org.apache.arrow arrow-vector 0.8.0
org.apache.avro avro 1.7.7
org.apache.avro avro-ipc 1.7.7
org.apache.avro avro-ipc-tests 1.7.7
org.apache.avro avro-mapred-hadoop2 1.7.7
org.apache.calcite calcite-avatica 1.2.0-incubating
org.apache.calcite calcite-core 1.2.0-incubating
org.apache.calcite calcite-linq4j 1.2.0-incubating
org.apache.commons commons-compress 1.4.1
org.apache.commons commons-crypto 1.0.0
org.apache.commons commons-lang3 3,5
org.apache.commons commons-math3 3.4.1
org.apache.curator curator-client 2.7.1
org.apache.curator curator-framework 2.7.1
org.apache.curator curator-recipes 2.7.1
org.apache.derby derby 10.12.1.1
org.apache.directory.api api-asn1-api 1.0.0-M20
org.apache.directory.api api-util 1.0.0-M20
org.apache.directory.server apacheds-i18n 2.0.0-M15
org.apache.directory.server apacheds-kerberos-codec 2.0.0-M15
org.apache.hadoop hadoop-annotations 2.7.3
org.apache.hadoop hadoop-auth 2.7.3
org.apache.hadoop hadoop-client 2.7.3
org.apache.hadoop hadoop-common 2.7.3
org.apache.hadoop hadoop-hdfs 2.7.3
org.apache.hadoop hadoop-mapreduce-client-app 2.7.3
org.apache.hadoop hadoop-mapreduce-client-common 2.7.3
org.apache.hadoop hadoop-mapreduce-client-core 2.7.3
org.apache.hadoop hadoop-mapreduce-client-jobclient 2.7.3
org.apache.hadoop hadoop-mapreduce-client-shuffle 2.7.3
org.apache.hadoop hadoop-yarn-api 2.7.3
org.apache.hadoop hadoop-yarn-client 2.7.3
org.apache.hadoop hadoop-yarn-common 2.7.3
org.apache.hadoop hadoop-yarn-server-common 2.7.3
org.apache.htrace htrace-core 3.1.0-incubating
org.apache.httpcomponents httpclient 4.5.4
org.apache.httpcomponents httpcore 4.4.8
org.apache.ivy ivy 2.4.0
org.apache.orc orc-core-nohive 1.4.3
org.apache.orc orc-mapreduce-nohive 1.4.3
org.apache.parquet parquet-column 1.8.3-databricks2
org.apache.parquet parquet-common 1.8.3-databricks2
org.apache.parquet parquet-encoding 1.8.3-databricks2
org.apache.parquet parquet-format 2.3.1
org.apache.parquet parquet-hadoop 1.8.3-databricks2
org.apache.parquet parquet-jackson 1.8.3-databricks2
org.apache.thrift libfb303 0.9.3
org.apache.thrift libthrift 0.9.3
org.apache.xbean xbean-asm5-shaded 4.4
org.apache.zookeeper zookeeper 3.4.6
org.bouncycastle bcprov-jdk15on 1.58
org.codehaus.jackson jackson-core-asl 1.9.13
org.codehaus.jackson jackson-jaxrs 1.9.13
org.codehaus.jackson jackson-mapper-asl 1.9.13
org.codehaus.jackson jackson-xc 1.9.13
org.codehaus.janino commons-compiler 3.0.8
org.codehaus.janino janino 3.0.8
org.datanucleus datanucleus-api-jdo 3.2.6
org.datanucleus datanucleus-core 3.2.10
org.datanucleus datanucleus-rdbms 3.2.9
org.eclipse.jetty jetty-client 9.3.20.v20170531
org.eclipse.jetty jetty-continuation 9.3.20.v20170531
org.eclipse.jetty jetty-http 9.3.20.v20170531
org.eclipse.jetty jetty-io 9.3.20.v20170531
org.eclipse.jetty jetty-jndi 9.3.20.v20170531
org.eclipse.jetty jetty-plus 9.3.20.v20170531
org.eclipse.jetty jetty-proxy 9.3.20.v20170531
org.eclipse.jetty jetty-security 9.3.20.v20170531
org.eclipse.jetty jetty-server 9.3.20.v20170531
org.eclipse.jetty jetty-servlet 9.3.20.v20170531
org.eclipse.jetty jetty-servlets 9.3.20.v20170531
org.eclipse.jetty jetty-util 9.3.20.v20170531
org.eclipse.jetty jetty-webapp 9.3.20.v20170531
org.eclipse.jetty jetty-xml 9.3.20.v20170531
org.fusesource.leveldbjni leveldbjni-all 1.8
org.glassfish.hk2 hk2-api 2.4.0-b34
org.glassfish.hk2 hk2-locator 2.4.0-b34
org.glassfish.hk2 hk2-utils 2.4.0-b34
org.glassfish.hk2 osgi-resource-locator 1.0.1
org.glassfish.hk2.external aopalliance-repackaged 2.4.0-b34
org.glassfish.hk2.external javax.inject 2.4.0-b34
org.glassfish.jersey.bundles.repackaged jersey-guava 2.22.2
org.glassfish.jersey.containers jersey-container-servlet 2.22.2
org.glassfish.jersey.containers jersey-container-servlet-core 2.22.2
org.glassfish.jersey.core jersey-client 2.22.2
org.glassfish.jersey.core jersey-common 2.22.2
org.glassfish.jersey.core jersey-server 2.22.2
org.glassfish.jersey.media jersey-media-jaxb 2.22.2
org.hibernate hibernate-validator 5.1.1.Final
org.iq80.snappy snappy 0,2
org.javassist javassist 3.18.1-GA
org.jboss.logging jboss-logging 3.1.3.GA
org.jdbi jdbi 2.63.1
org.joda joda-convert 1,7
org.jodd jodd-core 3.5.2
org.json4s json4s-ast_2.11 3.2.11
org.json4s json4s-core_2.11 3.2.11
org.json4s json4s-jackson_2.11 3.2.11
org.lz4 lz4-java 1.4.0
org.mariadb.jdbc mariadb-java-client 2.1.2
org.mockito mockito-all 1.9.5
org.objenesis objenesis 2.1
org.postgresql postgresql 42.1.4
org.roaringbitmap RoaringBitmap 0.5.11
org.rocksdb rocksdbjni 5.2.1
org.rosuda.REngine REngine 2.1.0
org.scala-lang scala-compiler_2.11 2.11.8
org.scala-lang scala-library_2.11 2.11.8
org.scala-lang scala-reflect_2.11 2.11.8
org.scala-lang scalap_2.11 2.11.8
org.scala-lang.modules scala-parser-combinators_2.11 1.0.2
org.scala-lang.modules scala-xml_2.11 1.0.5
org.scala-sbt test-interface 1,0
org.scalacheck scalacheck_2.11 1.12.5
org.scalanlp breeze-macros_2.11 0.13.2
org.scalanlp breeze_2.11 0.13.2
org.scalatest scalatest_2.11 2.2.6
org.slf4j jcl-over-slf4j 1.7.16
org.slf4j jul-to-slf4j 1.7.16
org.slf4j slf4j-api 1.7.16
org.slf4j slf4j-log4j12 1.7.16
org.spark-project.hive hive-beeline 1.2.1.spark2
org.spark-project.hive hive-cli 1.2.1.spark2
org.spark-project.hive hive-exec 1.2.1.spark2
org.spark-project.hive hive-jdbc 1.2.1.spark2
org.spark-project.hive hive-metastore 1.2.1.spark2
org.spark-project.spark unused 1.0.0
org.spire-math spire-macros_2.11 0.13.0
org.spire-math spire_2.11 0.13.0
org.springframework spring-core 4.1.4.RELEASE
org.springframework spring-test 4.1.4.RELEASE
org.tukaani xz 1,0
org.typelevel machinist_2.11 0.6.1
org.typelevel macro-compat_2.11 1.1.1
org.xerial sqlite-jdbc 3.8.11.2
org.xerial.snappy snappy-java 1.1.2.6
org.yaml snakeyaml 1.16
oro oro 2.0.8
software.amazon.ion ion-java 1.0.2
stax stax-api 1.0.1
xmlenc xmlenc 0.52