Databricks Runtime 15.3 (EoS)

As notas da versão a seguir fornecem informações sobre o Databricks Runtime 15.3, alimentado pelo Apache Spark 3.5.0.

A Databricks lançou essa versão em junho de 2024.

Novos recursos e aprimoramentos

O PySpark DataSources já dá suporte à leitura e à gravação do fluxo

O PySpark DataSources, que permite a leitura de fontes de dados personalizadas e a gravação nos coletores de dados personalizados, já dá suporte à leitura e à gravação do fluxo. Veja Fontes de dados personalizadas do PySpark.

Desativar o mapeamento de colunas com a funcionalidade de remoção

Agora você pode usar DROP FEATURE para desabilitar o mapeamento de colunas em tabelas Delta e fazer downgrade do protocolo da tabela. Confira Desabilitar o mapeamento de colunas.

Sintaxe e funções do tipo variante em Pré-visualização Pública

O suporte nativo do Apache Spark para trabalhar com dados semiestruturados como o tipo VARIANT agora está disponível no DataFrames e no SQL do Spark. Confira Consulta de dados de variantes.

O suporte ao tipo variante para Delta Lake está em Visualização Pública

Agora você pode usar VARIANT para armazenar dados semiestruturados em tabelas respaldadas pelo Delta Lake. Consulte o suporte ao tipo Variant.

Suporte a diferentes modos de evolução de esquemas em exibições

CREATE VIEW e ALTER VIEW agora permite que você defina um modo de associação de esquema, aprimorando como as exibições lidam com alterações de esquema em objetos subjacentes. Esse recurso permite que as exibições tolerem ou se adaptem às alterações de esquema nos objetos subjacentes. Aborda as alterações no esquema de consulta que resultam de modificações em definições de objeto.

Suporte para métodos observe() adicionados ao cliente Scala do Spark Connect

O cliente Scala do Spark Connect agora dá suporte aos métodos Dataset.observe(). O suporte a esses métodos permite que você defina métricas a serem observadas em um objeto Dataset usando os métodos ds.observe("name", metrics...) ou ds.observe(observationObject, metrics...).

Latência de reinício do fluxo reduzida para o Auto Loader

Essa versão inclui uma alteração que reduz a latência de reinicialização do fluxo para o Carregador Automático. Essa melhoria é implementada ao tornarmos o carregamento de estado pelo repositório de estado do RocksDB assíncrono. Com essa alteração, você deverá ver uma melhoria nos tempos de início para fluxos com estados grandes, como, por exemplo, fluxos com um grande número de arquivos já ingeridos.

Retornar um DataFrame como um pyarrow.Table

Para dar suporte à escrita direta de um DataFrame em um objeto pyarrow.Table do Apache Arrow, essa versão inclui a função DataFrame.toArrow(). Para saber mais sobre como usar o Arrow no PySpark, consulte Apache Arrow no PySpark.

Melhoria de desempenho para algumas funções de janela

Esta versão inclui uma alteração que melhora o desempenho de algumas funções de janela do Spark, especificamente funções que não incluem uma cláusula ORDER BY ou um parâmetro window_frame. Nesses casos, o sistema pode reescrever a consulta para executá-la usando uma função de agregação. Essa alteração permite que a consulta seja executada mais rapidamente usando a agregação parcial e evitando a sobrecarga de funções de janela em execução. O parâmetro de configuração spark.databricks.optimizer.replaceWindowsWithAggregates.enabled do Spark controla essa otimização e é definido como true por padrão. Para desativar essa otimização, defina spark.databricks.optimizer.replaceWindowsWithAggregates.enabled como false.

Suporte para a função try_mod adicionado

Esta versão adiciona suporte para a função try_mod() do PySpark. Essa função dá suporte ao cálculo compatível com SQL ANSI do resto inteiro da divisão de dois valores numéricos. Se o argumento divisor for 0, a função try_mod() retornará nulo em vez de gerar uma exceção. Você pode usar a função try_mod() em vez de mod ou %, que gera uma exceção se o argumento divisor for 0 e o SQL ANSI estiver habilitado.

Suporte para um parâmetro de escopo opcional no list_secrets()

Essa versão permite que você limite os resultados da função de tabela list_secrets() a um escopo específico.

Correções de bug

WriteIntoDeltaCommand métricas na interface do usuário do Spark agora são exibidas corretamente

Essa versão inclui uma correção nas métricas exibidas na aba SQL da interface do usuário do Spark para o nó Execute WriteIntoDeltaCommand. Anteriormente, as métricas mostradas para esse nó eram todas iguais a zero.

A função groupby() na API do Pandas ignorou o argumento as_index=False

Esta versão inclui uma correção para um problema com a função groupby() na API do Pandas no Spark. Antes dessa correção, um groupby() com renomeação de colunas agregadas e o argumento as_index=False não incluíam chaves de grupo no DataFrame resultante.

Erro de análise com funções de janela múltiplas que referenciam a saída de outras funções

Essa versão corrige um problema que pode ocorrer quando uma consulta Spark tem várias funções de janela consecutivas, em que as funções de janela fazem referência à saída das outras funções de janela. Em casos raros, o sistema pode descartar uma das referências, levando a erros na avaliação da consulta. Isso corrige essas referências para garantir a avaliação da consulta. Essa alteração é controlada pelo parâmetro de configuração spark.databricks.optimizer.collapseWindows.projectReferences do Spark, que é definido como true por padrão. Para desativar essa alteração, defina spark.databricks.optimizer.collapseWindows.projectReferences como false.

Atualizações da biblioteca

• Bibliotecas de Python atualizadas:
  • filelock de 3.13.1 para 3.13.4
• Atualização das bibliotecas do R:
• Bibliotecas de Java atualizadas:
  • org.rocksdb.rocksdbjni de 8.3.2 para 8.11.4

Apache Spark

O Databricks Runtime 15.3 inclui o Apache Spark 3.5.0. Esta versão inclui todas as correções e melhorias do Spark incluídas no Databricks Runtime 15.2 (EoS), bem como as seguintes correções de bug adicionais e melhorias feitas no Spark:

• [SPARK-48211] [DBRRM-1041][15.x][15.3] Reverter "[SC-165552][sql] DB2: Leia SMALLINT como Sho...
• [SPARK-47904] [DBRRM-1040][behave-33][SC-163409] Reverter SPARK-47904: Preservar caso no esquema Avro ao usar enableStableIdentifiersForUnionType
• [SPARK-48288] [SC-166141] Adicionar o tipo de dados de origem para a expressão de conversão do conector
• [SPARK-48175] [SC-166341][sql][PYTHON] Armazenar informações de ordenação em metadados e não em tipo para SER/DE
• [SPARK-48172] [SC-166078][sql] Corrigir problemas de escape em JDBCDialects
• [SPARK-48186] [SC-165544][sql] Adicionar suporte para AbstractMapType
• [SPARK-48031] [SC-166523] Exibições herdadas do avô para SCHEMA BINDING
• [SPARK-48369] [SC-166566][sql][PYTHON][connect] Adicionar função timestamp_add
• [SPARK-48330] [SC-166458][ss][PYTHON] Corrigir o problema de tempo limite da fonte de dados de streaming do Python para um grande intervalo de gatilho
• [SPARK-48369] Reverter “[SC-166494][sql][PYTHON][connect] Adicionar função timestamp_add”
• [SPARK-48336] [SC-166495][ps][CONNECT] Implementar ps.sql no Spark Connect
• [SPARK-48369] [SC-166494][sql][PYTHON][connect] Adicionar função timestamp_add
• [SPARK-47354] [SC-165546][sql] Adicionar suporte de ordenação para expressões variantes
• [SPARK-48161] [SC-165325][sql] Correção de PR revertida – Adicionar suporte de ordenação para expressões JSON
• [SPARK-48031] [SC-166391] Decompor a configuração viewSchemaMode, adicionar suporte SHOW CREATE TABLE
• [SPARK-48268] [SC-166217][core] Adicionar uma configuração para SparkContext.setCheckpointDir
• [SPARK-48312] [ES-1076198][sql] Melhorar o desempenho de Alias.removeNonInheritableMetadata
• [SPARK-48294] [SC-166205][sql] Manipular letras minúsculas em nestedTypeMissingElementTypeError
• [SPARK-47254] [SC-158847][sql] Atribuir nomes às classes de erro _LEGACY_ERROR_TEMP_325[1-9]
• [SPARK-47255] [SC-158749][sql] Atribuir nomes às classes de erro _LEGACY_ERROR_TEMP_323[6-7] e _LEGACY_ERROR_TEMP_324[7-9]
• [SPARK-48310] [SC-166239][python][CONNECT] As propriedades armazenadas em cache devem retornar cópias
• [SPARK-48308] [SC-166152][core] Unificar a obtenção de esquema de dados sem colunas de partição no FileSourceStrategy
• [SPARK-48301] [SC-166143][sql] Renomear CREATE_FUNC_WITH_IF_NOT_EXISTS_AND_REPLACE para CREATE_ROUTINE_WITH_IF_NOT_EXISTS_AND_REPLACE
• [SPARK-48287] [SC-166139][ps][CONNECT] Aplicar o método builtin timestamp_diff
• [SPARK-47607] [SC-166129] Adicionar documentação para o framework de registro em log estruturado
• [SPARK-48297] [SC-166136][sql] Corrigir uma cláusula TRANSFORM de regressão com char/varchar
• [SPARK-47045] [SC-156808][sql] Substituir IllegalArgumentException por SparkIllegalArgumentException in sql/api
• [SPARK-46991] [SC-156399][sql] Substituir IllegalArgumentException por SparkIllegalArgumentException in catalyst
• [SPARK-48031] [SC-165805][sql] Evolução do esquema de exibição de suporte
• [SPARK-48276] [SC-166116][python][CONNECT] Adicione o método ausente __repr__ para SQLExpression
• [SPARK-48278] [SC-166071][python][CONNECT] Refinar a representação de cadeia de caracteres de Cast
• [SPARK-48272] [SC-166069][sql][PYTHON][connect] Adicionar função timestamp_diff
• [SPARK-47798] [SC-162492][sql] Enriquecer a mensagem de erro para as falhas de leitura de valores decimais
• [SPARK-47158] [SC-158078][sql] Atribuir o nome adequado e sqlState a _LEGACY_ERROR_TEMP_(2134|2231)
• [SPARK-48218] [SC-166082][core] TransportClientFactory.createClient pode causar FetchFailedException devido a um NPE (NullPointerException)
• [SPARK-48277] [SC-166066] Aprimorar a mensagem de erro para ErrorClassesJsonReader.getErrorMessage
• [SPARK-47545] [SC-165444][conectar] Suporte ao conjunto observe de dados para o cliente Scala
• [SPARK-48954] [SC-171672][sql] Adicionar try_mod função
• [SPARK-43258] [SC-158151][sql] Atribuir nomes ao erro _LEGACY_ERROR_TEMP_202[3,5]
• [SPARK-48267] [SC-165903][ss] Teste de regressão e2e com SPARK-47305
• [SPARK-48263] [SC-165925] Suporte à função de Ordenação para sequências de caracteres não UTF8_BINARY
• [SPARK-48260] [SC-165883][sql] Desabilitar a coordenação do committer de saída em um teste de ParquetIOSuite
• [SPARK-47834] [SC-165645][sql][CONNECT] Marcar funções preteridas com @deprecated in SQLImplicits
• [SPARK-48011] [SC-164061][core] Armazenar nome do LogKey como valor para evitar a geração de novas instâncias de cadeia de caracteres
• [SPARK-48074] [SC-164647][core] Melhorar a legibilidade dos logs JSON
• [SPARK-44953] [SC-165866][core] Registre um aviso quando o shuffle tracking estiver ativado juntamente com outro mecanismo suportado pelo DA
• [SPARK-48266] [SC-165897][conectar] Mover objeto org.apache.spark.sql.connect.dsl do pacote para o diretório de teste
• [SPARK-47847] [SC-165651][core] Obsoletar spark.network.remoteReadNioBufferConversion
• [SPARK-48171] [SC-165178][core] Limpar o uso de construtores obsoletos de o.rocksdb.Logger
• Passe o join diretamente em vez de passar todos os argumentos para obterBroadcastBuildSide e obterShuffleHashJoinBuildSide
• [SPARK-48224] [SC-165648][sql] Não permitir que as chaves do mapa sejam do tipo variante
• [SPARK-48248] [SC-165791][python] Corrigir matriz aninhada para respeitar a configuração herdada de inferArrayTypeFromFirstElement
• [SPARK-47409] [SC-165568][sql] Adicionar suporte para ordenação para o tipo stringTrim de funções/expressões (para UTF8_BINARY &LCASE)
• [SPARK-48143] [ES-1095638][sql] Use exceções leves para o fluxo de controle entre UnivocityParser e FailureSafeParser
• [SPARK-48146] [SC-165668][sql] Corrigir a função de agregação na verificação de filho da expressão 'With'
• [SPARK-48161] Reverter "[SC-165325][sql] Adicionar suporte de ordenação para expressões JSON"
• [SPARK-47963] [CORE] Fazer com que o ecossistema externo do Spark possa usar mecanismos estruturados de registro em log
• [SPARK-48180] [SC-165632][sql] Melhorar o erro quando a chamada UDTF com argumento TABLE esquece os parênteses ao redor de múltiplas expressões PARTITION/ORDER BY
• [SPARK-48002] [SC-164132][python][SS] Adicionar teste para métricas observadas no PySpark StreamingQueryListener
• [SPARK-47421] [SC-165548][sql] Adicionar suporte de ordenação para expressões de URL
• [SPARK-48161] [SC-165325][sql] Adicionar suporte de ordenação para expressões JSON
• [SPARK-47359] [SC-164328][sql] Suporte à função TRANSLATE para trabalhar com cadeias de caracteres agrupadas
• [SPARK-47365] [SC-165643][python] Adicionar método DataFrame a PySpark
• [SPARK-48228] [SC-165649][python][CONNECT] Implementar a validação de função ausente em ApplyInXXX
• [SPARK-47986] [SC-165549][connect][PYTHON] Não é possível criar uma nova sessão quando a sessão padrão é fechada pelo servidor
• [SPARK-47963] Reverter "[CORE] Permitir que o ecossistema externo do Spark use mecanismos de logging estruturados"
• [SPARK-47963] [CORE] Fazer com que o ecossistema externo do Spark possa usar mecanismos estruturados de registro em log
• [SPARK-48208] [SC-165547][ss] Ignorar o fornecimento de métricas de uso de memória do RocksDB se o uso limitado de memória estiver habilitado
• [SPARK-47566] [SC-164314][sql] Suporte à função SubstringIndex para trabalhar com cadeias de caracteres agrupadas
• [SPARK-47589] [SC-162127][sql]Hive-Thriftserver: Migrar logError com variáveis para estrutura de log estruturada
• [SPARK-48205] [SC-165501][python] Remover o modificador privado[sql] para fontes de dados Python
• [SPARK-48173] [SC-165181][sql] CheckAnalysis deve ver todo o plano de consulta
• [SPARK-48197] [SC-165520][sql] Evite o erro de declaração para a função lambda inválida
• [SPARK-47318] [SC-162573][core] Adiciona a rodada HKDF à derivação de chave AuthEngine para seguir as práticas padrão kex
• [SPARK-48184] [SC-165335][python][CONNECT] Sempre defina a semente no lado do cliente Dataframe.sample
• [SPARK-48128] [SC-165004][sql] Para expressão BitwiseCount/bit_count, corrija o erro de sintaxe de codegen para entradas de tipo booliano
• [SPARK-48147] [SC-165144][ss][CONNECT] Remover ouvintes do cliente quando a sessão local do Spark é excluída
• [SPARK-48045] [SC-165299][python] API do Pandas groupby com multi-agg-relabel ignora o parâmetro as_index=False
• [SPARK-48191] [SC-165323][sql] Suporte a UTF-32 para codificação e decodificação de cadeia de caracteres
• [SPARK-45352] [SC-137627][sql] Eliminar partições de janela removíveis
• [SPARK-47297] [SC-165179][sql] Adicionar suporte de ordenação para expressões de formato
• [SPARK-47267] [SC-165170][sql] Adicionar suporte de ordenação para expressões de hash
• [SPARK-47965] [SC-163822][core] Evitar o uso de orNull em TypedConfigBuilder e OptionalConfigEntry
• [SPARK-48166] [SQL] Evite usar BadRecordException como um erro voltado para o usuário em VariantExpressionEvalUtils
• [SPARK-48105] [SC-165132][ss] Corrigir a condição de concorrência entre o descarregamento do repositório de estado e a criação de snapshots
• [SPARK-47922] [SC-163997][sql] Implementar a expressão try_parse_json
• [SPARK-47719] [SC-161909][sql] Alteração spark.sql.legacy.timeParse...
• [SPARK-48035] [SC-165136][sql] Corrigir try_add/try_multiply terem semântica igual a adicionar/multiplicar
• [SPARK-48107] [SC-164878][python] Excluir testes da distribuição Python
• [SPARK-46894] [SC-164447][python] Mover condições de erro do PySpark para o arquivo JSON autônomo
• [SPARK-47583] [SC-163825][core] SQL core: Migrar logError com variáveis para a estrutura de log estruturada
• [SPARK-48064] Reverter "[SC-164697][sql] Atualizar mensagens de erro para classes de erro relacionadas à rotina"
• [SPARK-48048] [SC-164846][connect][SS] Adicionado suporte ao ouvinte do lado do cliente para Scala
• [SPARK-48064] [SC-164697][sql] Atualizar mensagens de erro para categorias de erro associadas a rotinas
• [SPARK-48056] [SC-164715][connect][PYTHON] Executar novamente o plano se um erro de SESSION_NOT_FOUND for gerado e nenhuma resposta parcial tiver sido recebida
• [SPARK-48124] [SC-165009][core] Desabilitar o registro em log estruturado para Connect-Repl por padrão
• [SPARK-47922] Reverter “[SC-163997][sql] Implementar a expressão try_parse_json”
• [SPARK-48065] [SC-164817][sql] SPJ: allowJoinKeysSubsetOfPartitionKeys está demasiado restritivo
• [SPARK-48114] [SC-164956][core] Pré-compilar regex de modelos para evitar trabalho desnecessário
• [SPARK-48067] [SC-164773][sql] Corrigir colunas padrão variantes
• [SPARK-47922] [SC-163997][sql] Implementar a expressão try_parse_json
• [SPARK-48075] [SC-164709][SS] Adicionar verificação de tipo para funções avro do PySpark
• [SPARK-47793] [SC-164324][ss][PYTHON] Implementar SimpleDataSourceStreamReader para fonte de dados de streaming em python
• [SPARK-48081] [SC-164719] Corrigir ClassCastException em NTile.checkInputDataTypes() quando o argumento não for desmontável ou estiver com o tipo errado
• [SPARK-48102] [SC-164853][ss] Acompanhar a duração para obter métricas de origem/destino ao relatar o progresso da consulta em streaming
• [SPARK-47671] [SC-164854][core] Habilitar o registro em log estruturado em log4j2.properties.template e atualizar documentos
• [SPARK-47904] [SC-163409][sql] Preservar caso no esquema Avro ao usar enableStableIdentifiersForUnionType
• [SPARK-48058] [SC-164695][spark-43727][PYTHON][connect] UserDefinedFunction.returnType analisa a cadeia de caracteres DDL
• [SPARK-46922] [SC-156102][core][SQL] Não encapsular erros voltados para o usuário do runtime
• [SPARK-48047] [SC-164576][sql] Reduzir a pressão de memória das tags vazias do TreeNode
• [SPARK-47934] [SC-164648][CORE] Garantir barras finais nos redirecionamentos de URLHistoryServer
• [SPARK-47921] [SC-163826][connect] Correção da criação de ExecuteJobTag no ExecuteHolder
• [SPARK-48014] [SC-164150][sql] Altere o erro makeFromJava em EvaluatePython para um erro voltado para o usuário
• [SPARK-47903] [SC-163424][python] Adicione suporte para tipos escalares restantes na biblioteca PySpark Variant
• [SPARK-48068] [SC-164579][python] mypy deve ter --python-executable parâmetro
• [SPARK-47846] [SC-163074][sql] Adicionar suporte para o tipo Variant na expressão from_json
• [SPARK-48050] [SC-164322][ss] Registrar plano lógico ao início da consulta
• [SPARK-47810] [SC-163076][sql] Substituir expressão equivalente a <=> em condição de junção
• [SPARK-47741] [SC-164290] Adicionado o tratamento de estouro de pilha ao analisador
• [SPARK-48053] [SC-164309][python][CONNECT] SparkSession.createDataFrame deve avisar para opções sem suporte
• [SPARK-47939] [SC-164171][sql] Implementar uma nova regra do Analisador para mover ParameterizedQuery dentro de ExplainCommand e DescribeQueryCommand
• [SPARK-48063] [SC-164432][core] Habilitar spark.stage.ignoreDecommissionFetchFailure por padrão
• [SPARK-48016] [SC-164280][sql] Corrigir um bug na função try_divide quando tiver decimais
• [SPARK-48033] [SC-164291][sql] Corrigir RuntimeReplaceable expressões que estão sendo usadas em colunas padrão
• [SPARK-48010] [SC-164051][sql][ES-1109148] Evite chamadas repetidas para conf.resolver em resolveExpression
• [SPARK-48003] [SC-164323][sql] Adicionar suporte de ordenação para agregação de esboço hll
• [SPARK-47994] [SC-164175][sql] Corrigir bug com a redução de filtro de coluna CASE WHEN no SQLServer
• [SPARK-47984] [SC-163837][ml][SQL] Mudar MetricsAggregate/V2Aggregator#serialize/deserialize para chamar SparkSerDeUtils#serialize/deserialize
• [SPARK-48042] [SC-164202][sql] Use um formatador de timestamp com fuso horário no nível da classe em vez de criar cópias no nível do método
• [SPARK-47596] [SPARK-47600][spark-47604][SPARK-47804] Migrações de log estruturadas
• [SPARK-47594] [SPARK-47590][spark-47588][SPARK-47584] Migrações de log estruturadas
• [SPARK-47567] [SC-164172][sql] Suporte à função LOCATE para trabalhar com cadeias de caracteres agrupadas
• [SPARK-47764] [SC-163820][core][SQL] Limpeza de dependências de shuffle com base no ShuffleCleanupMode
• [SPARK-48039] [SC-164174][python][CONNECT] Atualize a classe de erro para group.apply
• [SPARK-47414] [SC-163831][sql] Suporte à ordenação minúscula para expressões regexp
• [SPARK-47418] [SC-163818][sql] Adicionar implementações feitas à mão para o unicode-aware minúsculo contém, iniciaWith e endsWith e otimiza UTF8_BINARY_LCASE
• [SPARK-47580] [SC-163834][sql] Catalisador de SQL: eliminar variáveis sem nome em logs de erros
• [SPARK-47351] [SC-164008][sql] Adicionar suporte de ordenação para expressões de cadeia de caracteres StringToMap &Mask
• [SPARK-47292] [SC-164151][ss] safeMapToJValue deve levar em consideração valores com tipo nulo
• [SPARK-47476] [SC-164014][sql] Função REPLACE de suporte para trabalhar com cadeias de caracteres agrupadas
• [SPARK-47408] [SC-164104][sql] Corrigir mathExpressions que usam StringType
• [SPARK-47350] [SC-164006][sql] Adicionar suporte de ordenação para expressão de cadeia de caracteres SplitPart
• [SPARK-47692] [SC-163819][sql] Corrigir o significado padrão do StringType na conversão implícita
• [SPARK-47094] [SC-161957][sql] SPJ: reequilibrar dinamicamente o número de buckets quando eles não forem iguais
• [SPARK-48001] [SC-164000][core] Remover não utilizado private implicit def arrayToArrayWritable de SparkContext
• [SPARK-47986] [SC-163999][connect][PYTHON] Não é possível criar uma nova sessão quando a sessão padrão é fechada pelo servidor
• [SPARK-48019] [SC-164121] Corrigir o comportamento incorreto em ColumnVector/ColumnarArray com dicionário e nulos
• [SPARK-47743] [SPARK-47592][spark-47589][SPARK-47581][spark-47586][SPARK-47593][spark-47595][SPARK-47587][spark-47603] Migrações estruturadas de log
• [SPARK-47999] [SC-163998][ss] Melhorar o log em torno da criação de instantâneos e adicionar/remover entradas do mapa de cache de estado no fornecedor de armazenamento de estado suportado pelo HDFS.
• [SPARK-47417] [SC-162872][sql] Suporte à ordenação: Ascii, Chr, Base64, UnBase64, Decode, StringDecode, Encode, ToBinary, FormatNumber, Sentences
• [SPARK-47712] [SC-161871][conectar] Permitir que os plug-ins de conexão criem e processem conjuntos de dados
• [SPARK-47411] [SC-163351][sql] Suporte a funções StringInstr &FindInSet para trabalhar com cadeias de caracteres agrupadas
• [SPARK-47360] [SC-163014][sql] Suporte à ordenação: Overlay, FormatString, Length, BitLength, OctetLength, SoundEx, Luhncheck
• [SPARK-47413] [SC-163323][sql] – adicione suporte a substr/left/right para ordenações
• [SPARK-47983] [SC-163835][sql] Rebaixar spark.sql.pyspark.legacy.inferArrayTypeFromFirstElement.enabled para interno
• [SPARK-47964] [SC-163816][python][CONNECT] Ocultar SQLContext e HiveContext no pyspark-connect
• [SPARK-47985] [SC-163841][python] Simplificar funções com lit
• [SPARK-47633] [SC-163453][sql] Incluir saída de plano do LateralJoin#allAttributes lado direito para uma canonização mais consistente
• [SPARK-47909] Reverter "[PYTHON][conectar] Classe DataFrame pai f...
• [SPARK-47767] [SC-163096][sql] Mostrar valor do offset em TakeOrderedAndProjectExec
• [SPARK-47822] [SC-162968][sql] Proibir expressões de hash de realizar hash no tipo de dados Variant
• [SPARK-47490] [SC-160494][ss] Corrigir o uso do construtor do Logger RocksDB para evitar aviso de descontinuação
• [SPARK-47417] Reverter “[SC-162872][sql] Suporte à ordenação: Ascii, Chr, Base64, UnBase64, Decode, StringDecode, Encode, ToBinary, FormatNumber, Sentences”
• [SPARK-47352] [SC-163460][sql] Corrigir reconhecimento de sensibilidade de ordenação nas funções Upper, Lower, InitCap
• [SPARK-47909] [PYTHON][connect] Classe DataFrame pai para Spark Connect e Spark Classic
• [SPARK-47417] [SC-162872][sql] Suporte à ordenação: Ascii, Chr, Base64, UnBase64, Decode, StringDecode, Encode, ToBinary, FormatNumber, Sentences

Suporte ao driver ODBC/JDBC do Databricks

O Databricks dá suporte a drivers ODBC/JDBC lançados nos últimos dois anos. Baixe os drivers e a atualização lançados recentemente (baixe o ODBC, baixe o JDBC).

Confira Atualizações de manutenção do Databricks Runtime 15.3.

Ambiente do sistema

• Sistema operacional: Ubuntu 22.04.4 LTS
• Java: Zulu 8.78.0.19-CA-linux64
• Scala: 2.12.18
• Python: 3.11.0
• R: 4.3.2
• Delta Lake: 3.2.0

Bibliotecas de Python instaladas

Bibliotecas R instaladas

As bibliotecas do R são instaladas do Posit Gerenciador de Pacotes CRAN snapshot.

Bibliotecas Java e Scala instaladas (versão do cluster Scala 2.12)