Databricks Runtime 12.2 LTS für Machine Learning (EoS)

Databricks Runtime 12.2 LTS für Machine Learning bietet eine ready-to-go Umgebung für machine learning und Data Science basierend auf Databricks Runtime 12.2 LTS (EoS). Databricks Runtime ML enthält viele beliebte Machine Learning-Bibliotheken, einschließlich TensorFlow, PyTorch und XGBoost. Databricks Runtime ML enthält AutoML, ein Tool zum automatischen Trainieren von Machine Learning-Pipelines. Databricks Runtime ML unterstützt auch verteiltes Deep Learning-Training mit Horovod.

Neue Features und Verbesserungen

Databricks Runtime 12.2 LTS ML basiert auf Databricks Runtime 12.2 LTS. Informationen zu den Neuerungen in Databricks Runtime 12.2 LTS, einschließlich Apache Spark MLlib und SparkR, finden Sie in den Versionshinweisen zu Databricks Runtime 12.2 LTS (EoS).

Automatisiertes maschinelles Lernen (AutoML)

Sie können vorhandene Featuretabellen im Feature-Store verwenden, um das ursprüngliche Eingabedataset für Vorhersageprobleme beim automatisierten ML zu erweitern. Ausführliche Informationen finden Sie unter AutoML Feature Store-Integration.

Weitere Informationen zu AutoML finden Sie unter Was ist AutoML?.

Systemumgebung

Die Systemumgebung in Databricks Runtime 12.2 LTS ML unterscheidet sich wie folgt von Databricks Runtime 12.2 LTS:

• DBUtils: Databricks Runtime ML enthält kein Library Utility (dbutils.library) (legacy). Verwenden Sie stattdessen %pip-Befehle. Siehe Notebook-bezogenen Python-Bibliotheken.
• Für GPU-Cluster umfasst Databricks Runtime ML die folgenden NVIDIA-GPU-Bibliotheken:
  • CUDA 11.3
  • cuDNN 8.0.5.39
  • NCCL 2.9.9
  • TensorRT 7.2.2

Databricks Runtime 12.2 LTS ML enthält XGBoost 1.7.2, das keine GPU-Cluster mit Computefunktionalität 5.2 und niedriger unterstützt.

Bibliotheken

In den folgenden Abschnitten sind die Bibliotheken aufgeführt, die in Databricks Runtime 12.2 LTS ML enthalten sind und sich von den in Databricks Runtime 12.2 LTS enthaltenen Bibliotheken unterscheiden.

Inhalt dieses Abschnitts:

• Bibliotheken der obersten Ebene
• Python-Bibliotheken
• R-Bibliotheken
• Java- und Scala-Bibliotheken (Scala 2.12 Cluster)

Bibliotheken der obersten Ebene

Databricks Runtime 12.2 LTS ML enthält die folgenden Bibliotheken der obersten Ebene:

• GraphFrames
• Horovod und HorovodRunner
• MLflow
• PyTorch
• Spark-Tensorflow-Verbinder
• TensorFlow
• TensorBoard
• scikit-learn

Python-Bibliotheken

Databricks Runtime 12.2 LTS ML verwendet Virtualenv für Python Paketverwaltung und enthält viele beliebte ML-Pakete.

Zusätzlich zu den Paketen, die in den folgenden Abschnitten aufgeführt sind, umfasst Databricks Runtime 12.2 LTS ML auch die folgenden Pakete:

• hyperopt 0.2.7+db3
• sparkdl 2.3.0-db3
• automl 1.16.0

Um die Databricks Runtime ML-Python-Umgebung in Ihrer lokalen Python virtuellen Umgebung zu reproduzieren, laden Sie die Datei requirements-12.2.txt herunter, und führen Sie pip install -r requirements-12.2.txt aus. Dieser Befehl installiert alle Open Source Bibliotheken, die Databricks Runtime ML verwendet, installiert jedoch keine Bibliotheken, die von Databricks entwickelt wurden, z. B. databricks-automl, databricks-feature-store, oder die Databricks-Verzweigung von hyperopt.

Python-Bibliotheken auf CPU-Clustern

Python Bibliotheken auf GPU-Clustern

R-Bibliotheken

Die R-Bibliotheken sind mit den R-Bibliotheken in Databricks Runtime 12.2 LTS identisch.

Java- und Scala-Bibliotheken (Scala 2.12-Cluster)

Zusätzlich zu Java- und Scala-Bibliotheken in Databricks Runtime 12.2 LTS enthält Databricks Runtime 12.2 LTS ML die folgenden JARs:

CPU-Cluster

GPU-Cluster