Databricks Runtime 15.1 voor Machine Learning (EoS)

Databricks Runtime 15.1 voor Machine Learning biedt een kant-en-klare omgeving voor machine learning en gegevenswetenschap op basis van Databricks Runtime 15.1 (EoS). Databricks Runtime ML bevat veel populaire machine learning-bibliotheken, waaronder TensorFlow, PyTorch en XGBoost. Databricks Runtime ML bevat AutoML, een hulpprogramma voor het automatisch trainen van machine learning-pijplijnen. Databricks Runtime ML biedt ook ondersteuning voor gedistribueerde Deep Learning-training met behulp van Horovod.

Nieuwe functies en verbeteringen

Databricks Runtime 15.1 ML is gebouwd op Databricks Runtime 15.1. Zie de releaseopmerkingen van Databricks Runtime 15.1, waaronder Apache Spark MLlib en SparkR, voor informatie over wat er nieuw is in Databricks Runtime 15.1 (EoS).

Wijzigingen die fouten veroorzaken

Verouderde Databricks CLI is niet meer standaard geïnstalleerd

In Databricks Runtime 14.3 LTS ML en hieronder, omdat de vooraf geïnstalleerde versie van MLflow de verouderde Databricks CLI vereist, is deze automatisch geïnstalleerd in $PATH. Databricks Runtime 15.1 ML bevat MLflow versie 2.10.2, waarvoor de verouderde CLI niet is vereist.

Vanaf Databricks Runtime 15.1 ML wordt de verouderde Databricks CLI niet meer automatisch geïnstalleerd in $PATH. Dit is een belangrijke wijziging voor gebruikers die afhankelijk zijn van de verouderde CLI die in de runtime wordt geïnstalleerd. Zoals %sh databricks ... werken opdrachten niet meer in Databricks Runtime 15.1 ML en hoger.

Als u de verouderde Databricks CLI vanuit een notebook wilt blijven gebruiken, installeert u deze als een cluster- of notebookbibliotheek. De nieuwe Databricks CLI is beschikbaar via de webterminal. Zie Webterminal en Databricks CLI gebruiken voor meer informatie.

MLeap is niet meer beschikbaar vanaf Databricks Runtime 15.1 ML

MLeap is niet meer beschikbaar in Databricks Runtime 15.1 ML en hoger. Databricks raadt het gebruik van de ONNX-indeling aan om modellen voor implementatie in JVM-frameworks te verpakken.

Afschaffing van Horovod en HorovodRunner

Horovod en HorovodRunner zijn nu afgeschaft. Voor gedistribueerde deep learning raadt Databricks aan om TorchDistributor te gebruiken voor gedistribueerde training met PyTorch of de tf.distribute.Strategy API voor gedistribueerde training met TensorFlow. Horovod en HorovodRunner zijn vooraf geïnstalleerd in Databricks Runtime 15.1 ML, maar worden verwijderd in de volgende primaire Databricks Runtime ML-versie.

Systeemomgeving

De systeemomgeving in Databricks Runtime 15.1 ML verschilt als volgt van Databricks Runtime 15.1:

• Voor GPU-clusters bevat Databricks Runtime ML de volgende NVIDIA GPU-bibliotheken:
  • CUDA 12.1
  • cuDNN 8.9.0.131-1
  • NCCL 2.17.1
  • TensorRT 8.6.1.6-1

Bibliotheken

In de volgende secties worden de bibliotheken vermeld die zijn opgenomen in Databricks Runtime 15.1 ML die verschillen van de bibliotheken die zijn opgenomen in Databricks Runtime 15.1.

In deze sectie:

• Hoogwaardige bibliotheken
• Python bibliotheken
• R-bibliotheken
• Java- en Scala-bibliotheken (Scala 2.12-cluster)

Topbibliotheken

Databricks Runtime 15.1 ML bevat de volgende topbibliotheken:

• GraphFrames
• MLflow
• PyTorch
• spark-tensorflow-connector
• TensorFlow
• TensorBoard
• Scikit-learn
• (Afgeschaft) Horovod en HorovodRunner

Python bibliotheken

Databricks Runtime 15.1 ML maakt gebruik van virtualenv voor Python pakketbeheer en bevat veel populaire ML-pakketten.

Naast de pakketten die in de volgende secties zijn opgegeven, bevat Databricks Runtime 15.1 ML ook de volgende pakketten:

• hyperopt 0.2.7+db4
• sparkdl-3.0.0_db1
• automl 1.25.0

Als u de Databricks Runtime ML-Python-omgeving in uw lokale Python virtuele omgeving wilt reproduceren, downloadt u het bestand requirements-15.1.txt en voert u pip install -r requirements-15.1.txt uit. Met deze opdracht worden alle open source bibliotheken geïnstalleerd die door Databricks Runtime ML worden gebruikt, maar worden geen bibliotheken geïnstalleerd die zijn ontwikkeld door Databricks, zoals databricks-automl, databricks-feature-store of de Databricks-fork van hyperopt.

Python bibliotheken op CPU-clusters

Python bibliotheken op GPU-clusters

R-bibliotheken

De R-bibliotheken zijn identiek aan de R-bibliotheken in Databricks Runtime 15.1.

Java en Scala-bibliotheken (Scala 2.12-cluster)

Naast Java- en Scala-bibliotheken in Databricks Runtime 15.1 bevat Databricks Runtime 15.1 ML de volgende JAR's:

CPU-clusters

GPU-clusters