次の方法で共有


Databricks Runtime 14.2 for Machine Learning (EoS)

この Databricks Runtime バージョンのサポートは終了しました。 サポート終了日については、サポート 終了と有効期限の履歴を参照してください。 サポートされている Databricks Runtime のすべてのバージョンについては、「Databricks Runtime リリース ノートのバージョンと互換性」を参照してください。

Databricks Runtime 14.2 for Machine Learningは、Databricks Runtime 14.2 (EoS) に基づいて、機械学習とデータサイエンス用の即使用可能な環境を提供します。 Databricks Runtime ML には、TensorFlow、PyTorch、XGBoost など、多くの一般的な機械学習ライブラリが含まれています。 Databricks Runtime ML には、機械学習パイプラインを自動的にトレーニングするツールである AutoML が含まれています。 また、Databricks Runtime ML では、Horovod を使用した分散型ディープ ラーニング トレーニングもサポートされます。

新機能と機能強化

Databricks Runtime 14.2 ML は Databricks Runtime 14.2 上に構築されています。 Apache Spark MLlib や SparkR など、Databricks Runtime 14.2 の新機能については、 Databricks Runtime 14.2 (EoS) のリリース ノートを参照してください。

システム環境

Databricks Runtime 14.2 ML のシステム環境は、Databricks Runtime 14.2 とは次のように異なります:

Databricks Runtime 14.2 ML には XGBoost 1.7.6 が含まれています。これは、コンピューティング機能 5.2 以下の GPU クラスターをサポートしていません。

ライブラリ

以降のセクションでは、Databricks Runtime 14.2 ML に含まれていて、Databricks Runtime 14.2 に含まれているものとは異なるライブラリ リストを示します。

このセクションの内容は次のとおりです。

最上位層ライブラリ

Databricks Runtime 14.2 ML には、次の最上位層ライブラリが含まれています:

Python ライブラリ

Databricks Runtime 14.2 ML では、Python パッケージ管理に virtualenv が使用され、多くの一般的な ML パッケージが含まれています。

以下のセクションで指定されているパッケージに加えて、Databricks Runtime 14.2 ML には次のパッケージも含まれています:

  • hyperopt 0.2.7+db4
  • sparkdl 3.0.0_db1
  • automl 1.23.0

ローカルの Python 仮想環境で Databricks Runtime ML Python環境を再現するには、requirements-14.2.txt ファイルをダウンロードし、pip install -r requirements-14.2.txt を実行します。 このコマンドは、Databricks Runtime ML が使用するすべてのオープンソース ライブラリをインストールしますが、databricks-automldatabricks-feature-storehyperopt の Databricks フォークなど、Databricks によって開発されたライブラリはインストールされません。

CPUクラスター上のPythonライブラリ

ライブラリ バージョン ライブラリ バージョン ライブラリ バージョン
absl-py 1.0.0 加速する 0.23.0 aiohttp 3.8.6
aiosignal 1.3.1 anyio 3.5.0 appdirs 1.4.4
argon2-cffi 21.3.0 argon2-cffi-bindings 21.2.0 アストール 0.8.1
asttokens 2.0.5 astunparse 1.6.3 async-timeout 4.0.3
属性 22.1.0 audioread 3.0.1 azure-core 1.29.1
azure-cosmos 4.3.1 Azure Storage Blob (Azureストレージブロブ) 12.18.3 azure-storage-file-datalake 12.13.2
バックコール 0.2.0 bcrypt(ビークリプト) 3.2.0 beautifulsoup4 4.11.1
22.6.0 漂白剤 4.1.0 インジケーター 1.4
blis 0.7.11 boto3 1.24.28 botocore 1.27.96
cachetools 5.3.2 カタログ 2.0.10 カテゴリエンコーダ 2.6.2
certifi 2022.12.7 cffi 1.15.1 chardet 4.0.0
charset-normalizer 2.0.4 クリックする 8.0.4 cloudpathlib 0.16.0
クラウドピクル 2.0.0 cmdstanpy 1.2.0 comm 0.1.2
菓子 0.1.3 configparser 5.2.0 contourpy 1.0.5
暗号 39.0.1 サイクラー 0.11.0 cymem 2.0.8
Cython 0.29.32 デイサイト 1.8.1 databricks-automl-runtime 0.2.20
databricks-cli 0.18.0 databricks・フィーチャーエンジニアリング 0.1.2 databricks-feature-store 0.16.1
databricks-sdk 0.1.6 dataclasses-json 0.6.1 データセット 2.14.5
dbl-tempo 0.1.26 dbus-python 1.2.18 debugpy 1.6.7
デコレータ 5.1.1 deepspeed 0.11.1 defusedxml 0.7.1
ディル 0.3.6 diskcache 5.6.3 distlib 0.3.7
ドックストリングをマークダウンに変換 0.11 エントリーポイント 0.4 評価する 0.4.1
実行中 0.8.3 ファセット概要 1.1.1 fastjsonschema 2.18.1
fasttext 0.9.2 filelock 3.9.0 Flask 2.2.5
flatbuffers 23.5.26 fonttools 4.25.0 フローズンリスト 1.4.0
fsspec 2023.6.0 future 0.18.3 ガスト 0.4.0
gitdb 4.0.11 GitPython 3.1.27 google-api-core 2.12.0
google-auth 2.21.0 google-auth-oauthlib 1.0.0 google-cloud-core 2.3.3
google-cloud-storage 2.11.0 google-crc32c 1.5.0 google-pasta 0.2.0
google-resumable-media 2.6.0 googleapis-common-protos 1.61.0 greenlet 2.0.1
grpcio 1.48.2 grpcio-status 1.48.1 gunicorn 20.1.0
gviz-api 1.10.0 h5py 3.7.0 hjson 3.1.0
holidays 0.35 horovod 0.28.1 htmlmin 0.1.12
httplib2 0.20.2 huggingface-hub 0.16.4 IDNA 3.4
ImageHash 4.3.1 imbalanced-learn 0.11.0 importlib-metadata 4.11.3
importlib-resources 6.1.0 ipykernel 6.25.0 ipython 8.14.0
ipython-genutils 0.2.0 ipywidgets 7.7.2 isodate 0.6.1
itsdangerous 2.0.1 jedi 0.18.1 jeepney 0.7.1
Jinja2 3.1.2 jmespath 0.10.0 joblib 1.2.0
joblibspark 0.5.1 jsonpatch 1.33 jsonpointer 2.4
jsonschema 4.17.3 jupyter-client 7.3.4 ジュピターサーバー 1.23.4
jupyter_core 5.2.0 jupyterlab-pygments 0.1.2 jupyterlab-widgets 1.0.0
keras 2.14.0 キー管理システム 23.5.0 kiwisolver 1.4.4
langchain 0.0.314 言語コード 3.3.0 langsmith 0.0.56
launchpadlib 1.10.16 lazr.restfulclient 0.14.4 lazr.uri 1.0.6
lazy_loader 0.3 libclang 15.0.6.1 librosa 0.10.1
lightgbm 4.1.0 llvmlite 0.39.1 lxml 4.9.1
Mako 1.2.0 Markdown 3.4.1 MarkupSafe 2.1.1
マシュマロ 3.20.1 matplotlib 3.7.0 matplotlib-inline 0.1.6
mccabe 0.7.0 mistune 0.8.4 ml-dtypes 0.2.0
mlflow-skinny 2.8.0 more-itertools 8.10.0 mpmath 1.2.1
msgpack 1.0.7 multidict 6.0.4 複数手法 1.10
マルチプロセス 0.70.14 murmurhash 1.0.10 mypy-extensions 0.4.3
nbclassic 0.5.2 nbclient 0.5.13 nbconvert 6.5.4
nbformat 5.7.0 nest-asyncio 1.5.6 networkx 2.8.4
ninja 1.11.1.1 nltk 3.7 nodeenv 1.8.0
ノートブック 6.5.2 notebook_shim 0.2.2 numba 0.56.4
numpy 1.23.5 oauthlib 3.2.0 openai 0.28.1
opt-einsum 3.3.0 パッケージング 22.0 pandas 1.5.3
pandocfilters 1.5.0 paramiko 2.9.2 parso 0.8.3
pathspec 0.10.3 pathy 0.10.3 パッツィ 0.5.3
petastorm 0.12.1 pexpect 4.8.0 phik (フィーク) 0.12.3
ピクルシェア 0.7.5 Pillow 9.4.0 pip 22.3.1
platformdirs 2.5.2 plotly 5.9.0 pluggy 1.0.0
pmdarima 2.0.3 ワンちゃん 1.4.0 プレッシュド 3.0.9
prometheus-client 0.14.1 prompt-toolkit 3.0.36 予言者 1.1.5
protobuf 4.24.0 psutil 5.9.0 psycopg2 2.9.3
ptyprocess 0.7.0 pure-eval 0.2.2 py-cpuinfo 9.0.0
pyarrow 8.0.0 pyasn1 0.4.8 pyasn1-modules 0.2.8
pybind11 2.11.1 pycparser 2.21 pydantic 1.10.6
pyflakes 3.1.0 Pygments 2.11.2 PyGObject 3.42.1
PyJWT 2.3.0 PyNaCl 1.5.0 pyodbc 4.0.32
pyparsing 3.0.9 pyright 1.1.294 pyrsistent 0.18.0
pytesseract 0.3.10 python-dateutil 2.8.2 Pythonエディタ 1.0.4
python-lsp-jsonrpc 1.1.1 python-lsp-server 1.8.0 pytoolconfig 1.2.5
pytz 2022.7 PyWavelets 1.4.1 PyYAML 6.0
pyzmq 23.2.0 RegEx 2022.7.9 リクエスト 2.28.1
requests-oauthlib 1.3.1 応答 0.18.0 ロープ 1.7.0
rsa 4.9 s3transfer 0.6.2 セーフテンソル 0.4.0
scikit-learn 1.1.1 scipy (Pythonライブラリ) 1.10.0 seaborn 0.12.2
SecretStorage 3.3.1 Send2Trash 1.8.0 sentence-transformers 2.2.2
sentencepiece 0.1.99 setuptools 65.6.3 shap 0.43.0
simplejson 3.17.6 6 1.16.0 スライサー 0.0.7
smart-open 5.2.1 smmap 5.0.0 sniffio 1.2.0
soundfile 0.12.1 soupsieve 2.3.2.post1 soxr 0.3.7
スペーシー 3.7.1 spacy-legacy 3.0.12 spacy-loggers 1.0.5
spark-tensorflow-distributor 1.0.0 SQLAlchemy 1.4.39 sqlparse 0.4.2
マジで 2.4.8 ssh-import-id 5.11 スタックデータ 0.2.0
stanio 0.3.0 statsmodels 0.13.5 sympy 1.11.1
表にする 0.8.10 タングルドアップ・イン・ユニコード 0.2.0 粘り強さ 8.1.0
TensorBoard 2.14.0 tensorboard-data-server 0.7.2 tensorboard-plugin-profile 2.14.0
tensorflow-cpu 2.14.0 tensorflow-estimator 2.14.0 tensorflow-io-gcs-filesystem 0.34.0
termcolor 2.3.0 完了 0.17.1 thinc 8.2.1
threadpoolctl 2.2.0 tiktoken 0.5.1 tinycss2 1.2.1
tokenize-rt 4.2.1 トークナイザー 0.14.0 tomli 2.0.1
torch 2.0.1+cpu torchvision 0.15.2+cpu tornado 6.1
tqdm 4.64.1 traitlets 5.7.1 トランスフォーマー 4.34.0
型ガード 2.13.3 タイピスト 0.9.0 タイプインスペクト 0.9.0
typing_extensions 4.4.0 ujson 5.4.0 自動アップグレード 0.1
urllib3 1.26.14 virtualenv 20.16.7 ビジョン 0.7.5
wadllib 1.3.6 わさび 1.1.2 wcwidth 0.2.5
weasel 0.3.3 webencodings 0.5.1 websocket-client 0.58.0
Werkzeug 2.2.2 whatthepatch 1.0.2 ホイール 0.38.4
widgetsnbextension 3.6.1 wordcloud 1.9.2 wrapt 1.14.1
xgboost 1.7.6 xxhash 3.4.1 yapf 0.33.0
yarl 1.9.2 ydata-profiling 4.2.0 zipp 3.11.0

GPU クラスター上のPython ライブラリ

ライブラリ バージョン ライブラリ バージョン ライブラリ バージョン
absl-py 1.0.0 加速する 0.23.0 aiohttp 3.8.6
aiosignal 1.3.1 anyio 3.5.0 appdirs 1.4.4
argon2-cffi 21.3.0 argon2-cffi-bindings 21.2.0 アストール 0.8.1
asttokens 2.0.5 astunparse 1.6.3 async-timeout 4.0.3
属性 22.1.0 audioread 3.0.1 azure-core 1.29.1
azure-cosmos 4.3.1 Azure Storage Blob (Azureストレージブロブ) 12.18.3 azure-storage-file-datalake 12.13.2
バックコール 0.2.0 bcrypt(ビークリプト) 3.2.0 beautifulsoup4 4.11.1
22.6.0 漂白剤 4.1.0 インジケーター 1.4
blis 0.7.11 boto3 1.24.28 botocore 1.27.96
cachetools 5.3.2 カタログ 2.0.10 カテゴリエンコーダ 2.6.2
certifi 2022.12.7 cffi 1.15.1 chardet 4.0.0
charset-normalizer 2.0.4 クリックする 8.0.4 cloudpathlib 0.16.0
クラウドピクル 2.0.0 cmake 3.27.7 cmdstanpy 1.2.0
コミュニケーション 0.1.2 菓子 0.1.3 configparser 5.2.0
contourpy 1.0.5 暗号 39.0.1 サイクラー 0.11.0
cymem 2.0.8 Cython 0.29.32 デイサイト 1.8.1
databricks-automl-runtime 0.2.20 databricks-cli 0.18.0 databricks・フィーチャーエンジニアリング 0.1.2
databricks-feature-store 0.16.1 databricks-sdk 0.1.6 dataclasses-json 0.6.1
データセット 2.14.5 dbl-tempo 0.1.26 dbus-python 1.2.18
debugpy 1.6.7 デコレータ 5.1.1 deepspeed 0.11.1
defusedxml 0.7.1 dill 0.3.6 diskcache 5.6.3
distlib 0.3.7 docstring-to-markdown 0.11 einops 0.7.0
entrypoints 0.4 evaluate 0.4.1 実行中 0.8.3
ファセット概要 1.1.1 fastjsonschema 2.18.1 fasttext 0.9.2
filelock 3.9.0 flash-attn 2.3.2 Flask 2.2.5
flatbuffers 23.5.26 fonttools 4.25.0 フローズンリスト 1.4.0
fsspec 2023.6.0 未来 0.18.3 ゲスト 0.4.0
gitdb 4.0.11 GitPython 3.1.27 google-api-core 2.12.0
google-auth 2.21.0 google-auth-oauthlib 1.0.0 google-cloud-core 2.3.3
Google Cloud Storage 2.11.0 google-crc32c 1.5.0 google-pasta 0.2.0
google-resumable-media 2.6.0 googleapis-common-protos 1.61.0 greenlet 2.0.1
grpcio 1.48.2 grpcio-status 1.48.1 gunicorn 20.1.0
gviz-api 1.10.0 h5py 3.7.0 hjson 3.1.0
祝日 0.35 horovod 0.28.1 htmlmin 0.1.12
httplib2 0.20.2 huggingface-hub 0.16.4 IDNA 3.4
ImageHash 4.3.1 imbalanced-learn 0.11.0 importlib-metadata 4.11.3
importlib-resources 6.1.0 ipykernel 6.25.0 ipython 8.14.0
ipython-genutils 0.2.0 ipywidgets 7.7.2 isodate 0.6.1
itsdangerous 2.0.1 jedi 0.18.1 jeepney 0.7.1
Jinja2 3.1.2 jmespath 0.10.0 joblib 1.2.0
joblibspark 0.5.1 jsonpatch 1.33 jsonpointer 2.4
jsonschema 4.17.3 jupyter-client 7.3.4 ジュピターサーバー 1.23.4
jupyter_core 5.2.0 jupyterlab-pygments 0.1.2 jupyterlab-widgets 1.0.0
keras 2.14.0 keyring 23.5.0 kiwisolver 1.4.4
langchain 0.0.314 言語コード 3.3.0 langsmith 0.0.56
launchpadlib 1.10.16 lazr.restfulclient 0.14.4 lazr.uri 1.0.6
lazy_loader 0.3 libclang 15.0.6.1 librosa 0.10.1
lightgbm 4.1.0 点灯 17.0.4 llvmlite 0.39.1
lxml 4.9.1 Mako 1.2.0 Markdown 3.4.1
MarkupSafe 2.1.1 マシュマロ 3.20.1 matplotlib 3.7.0
matplotlib-inline 0.1.6 mccabe 0.7.0 mistune 0.8.4
ml-dtypes 0.2.0 mlflow-skinny 2.8.0 more-itertools 8.10.0
mpmath 1.2.1 msgpack 1.0.7 multidict 6.0.4
複数手法 1.10 マルチプロセス 0.70.14 murmurhash 1.0.10
mypy-extensions 0.4.3 nbclassic 0.5.2 nbclient 0.5.13
nbconvert 6.5.4 nbformat 5.7.0 nest-asyncio 1.5.6
networkx 2.8.4 ninja 1.11.1.1 nltk 3.7
nodeenv 1.8.0 ノートブック 6.5.2 ノートブックシム 0.2.2
numba 0.56.4 numpy 1.23.5 oauthlib 3.2.0
openai 0.28.1 opt-einsum 3.3.0 パッケージング 22.0
pandas 1.5.3 pandocfilters 1.5.0 paramiko 2.9.2
parso 0.8.3 pathspec 0.10.3 pathy 0.10.3
パッツィ 0.5.3 petastorm 0.12.1 pexpect 4.8.0
phik (フィーク) 0.12.3 ピクルシェア 0.7.5 Pillow 9.4.0
pip 22.3.1 platformdirs 2.5.2 plotly 5.9.0
pluggy 1.0.0 pmdarima 2.0.3 ワンちゃん 1.4.0
プレッシュド 3.0.9 prompt-toolkit 3.0.36 予言者 1.1.5
protobuf 4.24.0 psutil 5.9.0 psycopg2 2.9.3
ptyprocess 0.7.0 pure-eval 0.2.2 py-cpuinfo 9.0.0
pyarrow 8.0.0 pyasn1 0.4.8 pyasn1-modules 0.2.8
pybind11 2.11.1 pycparser 2.21 pydantic 1.10.6
pyflakes 3.1.0 Pygments 2.11.2 PyGObject 3.42.1
PyJWT 2.3.0 PyNaCl 1.5.0 pyodbc 4.0.32
pyparsing 3.0.9 pyright 1.1.294 pyrsistent 0.18.0
pytesseract 0.3.10 python-dateutil 2.8.2 Pythonエディタ 1.0.4
python-lsp-jsonrpc 1.1.1 python-lsp-server 1.8.0 pytoolconfig 1.2.5
pytz 2022.7 PyWavelets 1.4.1 PyYAML 6.0
pyzmq 23.2.0 RegEx 2022.7.9 リクエスト 2.28.1
requests-oauthlib 1.3.1 応答 0.18.0 ロープ 1.7.0
rsa 4.9 s3transfer 0.6.2 セーフテンソル 0.4.0
scikit-learn 1.1.1 scipy (Pythonライブラリ) 1.10.0 seaborn 0.12.2
SecretStorage 3.3.1 Send2Trash 1.8.0 sentence-transformers 2.2.2
sentencepiece 0.1.99 setuptools 65.6.3 shap 0.43.0
simplejson 3.17.6 6 1.16.0 スライサー 0.0.7
smart-open 5.2.1 smmap 5.0.0 sniffio 1.2.0
soundfile 0.12.1 soupsieve 2.3.2.post1 soxr 0.3.7
スペーシー 3.7.1 spacy-legacy 3.0.12 spacy-loggers 1.0.5
spark-tensorflow-distributor 1.0.0 SQLAlchemy 1.4.39 sqlparse 0.4.2
マジで 2.4.8 ssh-import-id 5.11 スタックデータ 0.2.0
stanio 0.3.0 statsmodels 0.13.5 sympy 1.11.1
tabulate 0.8.10 タングルドアップ・イン・ユニコード 0.2.0 粘り強さ 8.1.0
TensorBoard 2.14.0 tensorboard-data-server 0.7.2 tensorboard-plugin-profile 2.14.0
tensorflow 2.14.0 tensorflow-estimator 2.14.0 tensorflow-io-gcs-filesystem 0.34.0
termcolor 2.3.0 terminado 0.17.1 thinc 8.2.1
threadpoolctl 2.2.0 tiktoken 0.5.1 tinycss2 1.2.1
tokenize-rt 4.2.1 トークナイザー 0.14.0 tomli 2.0.1
torch 2.0.1+cu118 torchvision 0.15.2+cu118 tornado 6.1
tqdm 4.64.1 traitlets 5.7.1 トランスフォーマー 4.34.0
triton 2.0.0 型ガード 2.13.3 タイピスト 0.9.0
タイプインスペクト 0.9.0 typing_extensions 4.4.0 ujson 5.4.0
自動アップグレード 0.1 urllib3 1.26.14 virtualenv 20.16.7
ビジョン 0.7.5 wadllib 1.3.6 わさび 1.1.2
wcwidth 0.2.5 イタチ 0.3.3 webencodings 0.5.1
websocket-client 0.58.0 Werkzeug 2.2.2 そのパッチとは何ですか 1.0.2
ホイール 0.38.4 widgetsnbextension 3.6.1 wordcloud 1.9.2
包まれた 1.14.1 xgboost 1.7.6 xxhash 3.4.1
yapf 0.33.0 yarl 1.9.2 ydata-profiling 4.2.0
zipp 3.11.0

R ライブラリ

R ライブラリは、Databricks Runtime 14.2 の R ライブラリと同じです。

Javaおよび Scala ライブラリ (Scala 2.12 クラスター)

Databricks Runtime 14.2 のJavaライブラリと Scala ライブラリに加えて、Databricks Runtime 14.2 ML には次の JAR が含まれています。

CPU クラスター

グループ ID 成果物 ID バージョン
com.typesafe.akka akka-actor_2.12 2.5.23
ml.dmlc xgboost4j-spark_2.12 1.7.3
ml.dmlc xgboost4j_2.12 1.7.3
org.graphframes graphframes_2.12 0.8.2-db2-spark3.4
org.mlflow mlflow-client 2.8.0
org.scala-lang.modules scala-java8-compat_2.12 0.8.0
org.tensorflow spark-tensorflow-connector_2.12 1.15.0

GPU クラスター

グループ ID 成果物 ID バージョン
com.typesafe.akka akka-actor_2.12 2.5.23
ml.dmlc xgboost4j-gpu_2.12 1.7.3
ml.dmlc xgboost4j-spark-gpu_2.12 1.7.3
org.graphframes graphframes_2.12 0.8.2-db2-spark3.4
org.mlflow mlflow-client 2.8.0
org.scala-lang.modules scala-java8-compat_2.12 0.8.0
org.tensorflow spark-tensorflow-connector_2.12 1.15.0