注
この Databricks Runtime バージョンのサポートは終了しました。 サポート終了日については、サポート 終了と有効期限の履歴を参照してください。 サポートされている Databricks Runtime のすべてのバージョンについては、「Databricks Runtime リリース ノートのバージョンと互換性」を参照してください。
Databricks Runtime 15.3 for Machine Learningは、Databricks Runtime 15.3 (EoS)に基づいて、機械学習とデータサイエンスを目的としたすぐに使用できる環境を提供します。 Databricks Runtime ML には、TensorFlow、PyTorch、XGBoost など、多くの一般的な機械学習ライブラリが含まれています。 Databricks Runtime ML には、機械学習パイプラインを自動的にトレーニングするツールである AutoML が含まれています。 また、Databricks Runtime ML では、Horovod を使用した分散型ディープ ラーニング トレーニングもサポートされます。
新機能と機能強化
Databricks Runtime 15.3 ML は Databricks Runtime 15.3 の上に構築されています。 Apache Spark MLlib や SparkR など、Databricks Runtime 15.3 の新機能については、 Databricks Runtime 15.3 (EoS) のリリース ノートを参照してください。
AutoML の手動データ分割とサンプルの重み付け
AutoML では、手動データ分割がサポートされるようになりました。これによって分類モデルと回帰モデルに対して行単位のトレーニング、検証、およびテスト データセットを指定できます。 「トレーニング、検証およびテスト セットへのデータの分割」を参照してください。
AutoML ではサンプルの重み付けがサポートされるようになりました。これによって回帰モデルのトレーニング中に各行の重要度を調整できます。 詳細については、AutoML Python API の regression パラメーターを参照してください。
システム環境
Databricks Runtime 15.3 ML のシステム環境は、Databricks Runtime 15.3 のものとは以下の点で異なります。
- GPU クラスターの場合、Databricks Runtime ML には次の NVIDIA GPU ライブラリが含まれています。
- CUDA 12.1
- cusolver 11.4.5.107-1
- cupti 12.1
- cuDNN 8.9.0.131-1
- NCCL 2.17.1
- TensorRT 8.6.1.6-1
ライブラリ
次のセクションでは、Databricks Runtime 15.3 ML に含まれる、Databricks Runtime 15.3 に含まれるライブラリと異なるライブラリを示します。
このセクションの内容は次のとおりです。
最上位層ライブラリ
Databricks Runtime 15.3 ML には、以下の最上位層ライブラリが含まれています。
- datasets
- GraphFrames
- MLflow
- PyTorch
- spark-tensorflow-connector
- Scikit-learn
- TensorFlow
- TensorBoard
- transformers
Python ライブラリ
Databricks Runtime 15.3 ML では、Python パッケージ管理に virtualenv が使用され、多くの一般的な ML パッケージが含まれています。
以下のセクションで示されるパッケージに加えて、Databricks Runtime 15.3 ML には以下のパッケージも含まれています。
- hyperopt 0.2.7+db3
- sparkdl 3.0.0_db1
- automl 1.27.0
ローカルの Python 仮想環境で Databricks Runtime ML Python環境を再現するには、requirements-15.3.txt ファイルをダウンロードし、pip install -r requirements-15.3.txt を実行します。 このコマンドは、Databricks Runtime ML が使用するすべてのopen source ライブラリをインストールしますが、databricks-automl、databricks-feature-engineering、hyperopt の Databricks フォークなど、Databricks によって開発されたライブラリはインストールされません。
CPUクラスター上のPythonライブラリ
| ライブラリ | バージョン | ライブラリ | バージョン | ライブラリ | バージョン |
|---|---|---|---|---|---|
| absl-py | 1.0.0 | 加速する | 0.30.1 | aiohttp | 3.8.5 |
| aiohttp-cors | 0.7.0 | aiosignal | 1.2.0 | anyio | 3.5.0 |
| argon2-cffi | 21.3.0 | argon2-cffi-bindings | 21.2.0 | アストール | 0.8.1 |
| asttokens | 2.0.5 | astunparse | 1.6.3 | async-timeout | 4.0.2 |
| 属性 | 22.1.0 | audioread | 3.0.1 | azure-core | 1.30.1 |
| azure-cosmos | 4.3.1 | azure-identity | 1.16.0 | Azure Storage Blob (Azureストレージブロブ) | 12.19.1 |
| azure-storage-file-datalake | 12.14.0 | バックコール | 0.2.0 | bcrypt（ビークリプト） | 3.2.0 |
| beautifulsoup4 | 4.12.2 | 黒 | 23.3.0 | 漂白剤 | 4.1.0 |
| インジケーター | 1.4 | blis | 0.7.11 | boto3 | 1.34.39 |
| botocore | 1.34.39 | Brotli | 1.0.9 | cachetools | 5.3.3 |
| カタログ | 2.0.10 | カテゴリエンコーダ | 2.6.3 | certifi | 2023.7.22 |
| cffi | 1.15.1 | chardet | 4.0.0 | charset-normalizer | 2.0.4 |
| サーキットブレーカー | 1.4.0 | クリック | 8.0.4 | cloudpathlib | 0.16.0 |
| クラウドピクル | 2.2.1 | cmdstanpy | 1.2.2 | colorful (カラフル) | 0.5.6 |
| コミュニケーション | 0.1.2 | 菓子 | 0.1.4 | configparser | 5.2.0 |
| contourpy | 1.0.5 | 暗号 | 41.0.3 | サイクラー | 0.11.0 |
| cymem | 2.0.8 | Cython | 0.29.32 | デイサイト | 1.8.1 |
| databricks-automl-runtime | 0.2.21 | databricks・フィーチャーエンジニアリング | 0.5.0 | databricks-sdk | 0.20.0 |
| dataclasses-json | 0.6.6 | データセット | 2.19.1 | dbl-tempo | 0.1.26 |
| dbus-python | 1.2.18 | debugpy | 1.6.7 | デコレータ | 5.1.1 |
| deepspeed | 0.14.0 | defusedxml | 0.7.1 | ディル | 0.3.6 |
| diskcache | 5.6.3 | distlib | 0.3.8 | dm-tree | 0.1.8 |
| エントリーポイント | 0.4 | 評価する | 0.4.2 | 実行中 | 0.8.3 |
| ファセット概要 | 1.1.1 | Farama-Notifications | 0.0.4 | fastjsonschema | 2.19.1 |
| fasttext | 0.9.2 | filelock | 3.13.4 | Flask | 2.2.5 |
| flatbuffers | 24.3.25 | fonttools | 4.25.0 | フローズンリスト | 1.3.3 |
| fsspec | 2023.5.0 | 未来 | 0.18.3 | ゲスト | 0.4.0 |
| gitdb | 4.0.11 | GitPython | 3.1.27 | google-api-core | 2.18.0 |
| google-auth | 2.21.0 | google-auth-oauthlib | 1.0.0 | google-cloud-core | 2.4.1 |
| Google Cloud Storage | 2.10.0 | google-crc32c | 1.5.0 | google-pasta | 0.2.0 |
| google-resumable-media | 2.7.0 | googleapis-common-protos | 1.63.0 | greenlet | 2.0.1 |
| grpcio | 1.60.0 | grpcio-status | 1.60.0 | gunicorn | 20.1.0 |
| gviz-api | 1.10.0 | ジム / 体育館 | 0.28.1 | h11 | 0.14.0 |
| h5py | 3.10.0 | hjson | 3.1.0 | 祝日 | 0.45 |
| horovod | 0.28.1+db1 | htmlmin | 0.1.12 | httpcore | 1.0.5 |
| httplib2 | 0.20.2 | httpx | 0.27.0 | huggingface-hub | 0.21.2 |
| IDNA | 3.4 | ImageHash | 4.3.1 | imageio | 2.31.1 |
| imbalanced-learn | 0.11.0 | importlib-metadata | 6.0.0 | importlib_resources | 6.4.0 |
| ipyflow-core | 0.0.198 | ipykernel | 6.25.1 | ipython | 8.15.0 |
| ipython-genutils | 0.2.0 | ipywidgets | 7.7.2 | isodate | 0.6.1 |
| itsdangerous | 2.0.1 | jax-jumpy | 1.0.0 | jedi | 0.18.1 |
| jeepney | 0.7.1 | Jinja2 | 3.1.2 | jmespath | 0.10.0 |
| joblib | 1.2.0 | joblibspark | 0.5.1 | jsonpatch | 1.33 |
| jsonpointer | 2.4 | jsonschema | 4.17.3 | ジュピターサーバー | 1.23.4 |
| jupyter_client | 7.4.9 | jupyter_core | 5.3.0 | jupyterlab-pygments | 0.1.2 |
| keras | 3.1.1 | キー管理システム | 23.5.0 | kiwisolver | 1.4.4 |
| langchain | 0.1.20 | Langchainユーザーコミュニティ | 0.0.38 | langchain-core | 0.1.52 |
| langchain-text-splitters | 0.0.2 | 言語コード | 3.4.0 | langsmith | 0.1.63 |
| 言語データ | 1.2.0 | launchpadlib | 1.10.16 | lazr.restfulclient | 0.14.4 |
| lazr.uri | 1.0.6 | lazy_loader | 0.2 | libclang | 15.0.6.1 |
| librosa | 0.10.1 | lightgbm | 4.3.0 | linkify-it-py | 2.0.0 |
| llvmlite | 0.40.0 | lxml | 4.9.2 | lz4 | 4.3.2 |
| Mako | 1.2.0 | marisa-trie | 1.1.1 | Markdown | 3.4.1 |
| markdown-it-py | 2.2.0 | MarkupSafe | 2.1.1 | マシュマロ | 3.21.2 |
| matplotlib | 3.7.2 | matplotlib-inline | 0.1.6 | mdit-py-plugins | 0.3.0 |
| mdurl | 0.1.0 | メムレイ | 1.12.0 | mistune | 0.8.4 |
| ml-dtypes | 0.3.2 | mlflow-skinny | 2.11.3 | more-itertools | 8.10.0 |
| mosaicml-streaming | 0.7.4 | mpmath | 1.3.0 | msal | 1.28.0 |
| msal-extensions | 1.1.0 | msgpack | 1.0.8 | multidict | 6.0.2 |
| 複数手法 | 1.11.2 | マルチプロセス | 0.70.14 | murmurhash | 1.0.10 |
| mypy-extensions | 0.4.3 | namex | 0.0.8 | nbclassic | 0.5.5 |
| nbclient | 0.5.13 | nbconvert | 6.5.4 | nbformat | 5.7.0 |
| nest-asyncio | 1.5.6 | networkx | 3.1 | ninja | 1.11.1.1 |
| nltk | 3.8.1 | ノートブック | 6.5.4 | ノートブックシム | 0.2.2 |
| numba | 0.57.1 | numpy | 1.23.5 | oauthlib | 3.2.0 |
| oci | 2.126.4 | openai | 1.29.0 | opencensus | 0.11.4 |
| opencensus-context | 0.1.3 | opt-einsum | 3.3.0 | optree | 0.11.0 |
| orjson | 3.10.3 | パッケージング | 23.2 | pandas | 1.5.3 |
| pandocfilters | 1.5.0 | paramiko | 3.4.0 | parso | 0.8.3 |
| pathspec | 0.10.3 | パッツィ | 0.5.3 | petastorm | 0.12.1 |
| pexpect | 4.8.0 | phik (フィーク) | 0.12.4 | ピクルシェア | 0.7.5 |
| Pillow | 9.4.0 | pip | 23.2.1 | platformdirs | 3.10.0 |
| plotly | 5.9.0 | pmdarima | 2.0.4 | ワンちゃん | 1.8.1 |
| portalocker | 2.8.2 | プレッシュド | 3.0.9 | prometheus-client | 0.14.1 |
| prompt-toolkit | 3.0.36 | 予言者 | 1.1.5 | proto-plus | 1.23.0 |
| protobuf | 4.24.1 | psutil | 5.9.0 | psycopg2 | 2.9.3 |
| ptyprocess | 0.7.0 | pure-eval | 0.2.2 | py-cpuinfo | 8.0.0 |
| py-spy | 0.3.14 | pyarrow | 14.0.1 | pyarrow-hotfix | 0.6 |
| pyasn1 | 0.4.8 | pyasn1-modules | 0.2.8 | pybind11 | 2.12.0 |
| ピッコロ | 0.0.52 | pycparser | 2.21 | pydantic | 1.10.6 |
| Pygments | 2.15.1 | PyGObject | 3.42.1 | PyJWT | 2.3.0 |
| PyNaCl | 1.5.0 | pynvml | 11.5.0 | pyodbc | 4.0.38 |
| pyOpenSSL | 23.2.0 | pyparsing | 3.0.9 | pyrsistent | 0.18.0 |
| pytesseract | 0.3.10 | python-dateutil | 2.8.2 | Pythonエディタ | 1.0.4 |
| python-lsp-jsonrpc | 1.1.1 | python-snappy | 0.6.1 | pytz | 2022.7 |
| PyWavelets | 1.4.1 | PyYAML | 6.0 | pyzmq | 23.2.0 |
| ray | 2.12.0 | RegEx | 2022.7.9 | リクエスト | 2.31.0 |
| requests-oauthlib | 1.3.1 | rich | 13.7.1 | rsa | 4.9 |
| s3transfer | 0.10.1 | セーフテンソル | 0.4.2 | scikit-image | 0.20.0 |
| scikit-learn | 1.3.0 | scipy (Pythonライブラリ) | 1.11.1 | seaborn | 0.12.2 |
| SecretStorage | 3.3.1 | Send2Trash | 1.8.0 | sentence-transformers | 2.7.0 |
| sentencepiece | 0.1.99 | setuptools | 68.0.0 | shap | 0.44.0 |
| simplejson | 3.17.6 | 6 | 1.16.0 | スライサー | 0.0.7 |
| smart-open | 5.2.1 | smmap | 5.0.0 | sniffio | 1.2.0 |
| soundfile | 0.12.1 | soupsieve | 2.4 | soxr | 0.3.7 |
| スペーシー | 3.7.2 | spacy-legacy | 3.0.12 | spacy-loggers | 1.0.5 |
| spark-tensorflow-distributor | 1.0.0 | SQLAlchemy | 1.4.39 | sqlparse | 0.4.2 |
| マジで | 2.4.8 | ssh-import-id | 5.11 | スタックデータ | 0.2.0 |
| stanio | 0.5.0 | statsmodels | 0.14.0 | sympy | 1.11.1 |
| タングルドアップ・イン・ユニコード | 0.2.0 | 粘り強さ | 8.2.2 | TensorBoard | 2.16.2 |
| tensorboard-data-server | 0.7.2 | tensorboard_plugin_profile | 2.15.1 | tensorboardX | 2.6.2.2 |
| tensorflow | 2.16.1 | tensorflow-estimator | 2.15.0 | tensorflow-io-gcs-filesystem | 0.37.0 |
| termcolor | 2.4.0 | 完了 | 0.17.1 | テキスト | 0.63.3 |
| tf_keras | 2.16.0 | thinc | 8.2.3 | threadpoolctl | 2.2.0 |
| tifffile | 2021年7月2日 | tiktoken | 0.5.2 | tinycss2 | 1.2.1 |
| tokenize-rt | 4.2.1 | トークナイザー | 0.19.0 | torch | 2.3.0+cpu |
| torcheval | 0.0.7 | torchvision | 0.18.0+cpu | tornado | 6.3.2 |
| tqdm | 4.65.0 | traitlets | 5.7.1 | トランスフォーマー | 4.40.2 |
| 型ガード | 2.13.3 | タイピスト | 0.9.4 | タイプインスペクト | 0.9.0 |
| typing_extensions | 4.10.0 | tzdata | 2022.1 | uc-micro-py | 1.0.1 |
| ujson | 5.4.0 | 自動アップグレード | 0.1 | urllib3 | 1.26.16 |
| virtualenv | 20.24.2 | ビジョン | 0.7.5 | wadllib | 1.3.6 |
| わさび | 1.1.2 | wcwidth | 0.2.5 | イタチ | 0.3.4 |
| webencodings | 0.5.1 | websocket-client | 0.58.0 | Werkzeug | 2.2.3 |
| ホイール | 0.38.4 | wordcloud | 1.9.3 | 包まれた | 1.14.1 |
| xgboost | 2.0.3 | xxhash | 3.4.1 | yarl | 1.8.1 |
| ydata-profiling | 4.5.1 | zipp | 3.11.0 | zstd | 1.5.5.1 |
GPU クラスター上のPython ライブラリ
| ライブラリ | バージョン | ライブラリ | バージョン | ライブラリ | バージョン |
|---|---|---|---|---|---|
| absl-py | 1.0.0 | 加速する | 0.30.1 | aiohttp | 3.8.5 |
| aiohttp-cors | 0.7.0 | aiosignal | 1.2.0 | anyio | 3.5.0 |
| argon2-cffi | 21.3.0 | argon2-cffi-bindings | 21.2.0 | アストール | 0.8.1 |
| asttokens | 2.0.5 | astunparse | 1.6.3 | async-timeout | 4.0.2 |
| 属性 | 22.1.0 | audioread | 3.0.1 | azure-core | 1.30.1 |
| azure-cosmos | 4.3.1 | azure-identity | 1.16.0 | Azure Storage Blob (Azureストレージブロブ) | 12.19.1 |
| azure-storage-file-datalake | 12.14.0 | バックコール | 0.2.0 | bcrypt（ビークリプト） | 3.2.0 |
| beautifulsoup4 | 4.12.2 | 黒 | 23.3.0 | 漂白剤 | 4.1.0 |
| インジケーター | 1.4 | blis | 0.7.11 | boto3 | 1.34.39 |
| botocore | 1.34.39 | Brotli | 1.0.9 | cachetools | 5.3.3 |
| カタログ | 2.0.10 | カテゴリエンコーダ | 2.6.3 | certifi | 2023.7.22 |
| cffi | 1.15.1 | chardet | 4.0.0 | charset-normalizer | 2.0.4 |
| サーキットブレーカー | 1.4.0 | クリック | 8.0.4 | cloudpathlib | 0.16.0 |
| クラウドピクル | 2.2.1 | cmdstanpy | 1.2.2 | colorful (カラフル) | 0.5.6 |
| コミュニケーション | 0.1.2 | 菓子 | 0.1.4 | configparser | 5.2.0 |
| contourpy | 1.0.5 | 暗号 | 41.0.3 | サイクラー | 0.11.0 |
| cymem | 2.0.8 | Cython | 0.29.32 | デイサイト | 1.8.1 |
| databricks-automl-runtime | 0.2.21 | databricks・フィーチャーエンジニアリング | 0.5.0 | databricks-sdk | 0.20.0 |
| dataclasses-json | 0.6.6 | データセット | 2.19.1 | dbl-tempo | 0.1.26 |
| dbus-python | 1.2.18 | debugpy | 1.6.7 | デコレータ | 5.1.1 |
| deepspeed | 0.14.0 | defusedxml | 0.7.1 | ディル | 0.3.6 |
| diskcache | 5.6.3 | distlib | 0.3.8 | dm-tree | 0.1.8 |
| einops | 0.8.0 | エントリーポイント | 0.4 | 評価する | 0.4.2 |
| 実行中 | 0.8.3 | ファセット概要 | 1.1.1 | Farama-Notifications | 0.0.4 |
| fastjsonschema | 2.19.1 | fasttext | 0.9.2 | filelock | 3.13.4 |
| flash-attn | 2.5.8 | Flask | 2.2.5 | flatbuffers | 24.3.25 |
| fonttools | 4.25.0 | フローズンリスト | 1.3.3 | fsspec | 2023.5.0 |
| 未来 | 0.18.3 | ゲスト | 0.4.0 | gitdb | 4.0.11 |
| GitPython | 3.1.27 | google-api-core | 2.18.0 | google-auth | 2.21.0 |
| google-auth-oauthlib | 1.0.0 | google-cloud-core | 2.4.1 | Google Cloud Storage | 2.10.0 |
| google-crc32c | 1.5.0 | google-pasta | 0.2.0 | google-resumable-media | 2.7.0 |
| googleapis-common-protos | 1.63.0 | greenlet | 2.0.1 | grpcio | 1.60.0 |
| grpcio-status | 1.60.0 | gunicorn | 20.1.0 | gviz-api | 1.10.0 |
| ジム / 体育館 | 0.28.1 | h11 | 0.14.0 | h5py | 3.10.0 |
| hjson | 3.1.0 | 祝日 | 0.45 | horovod | 0.28.1+db1 |
| htmlmin | 0.1.12 | httpcore | 1.0.5 | httplib2 | 0.20.2 |
| httpx | 0.27.0 | huggingface-hub | 0.21.2 | IDNA | 3.4 |
| ImageHash | 4.3.1 | imageio | 2.31.1 | imbalanced-learn | 0.11.0 |
| importlib-metadata | 6.0.0 | importlib_resources | 6.4.0 | ipyflow-core | 0.0.198 |
| ipykernel | 6.25.1 | ipython | 8.15.0 | ipython-genutils | 0.2.0 |
| ipywidgets | 7.7.2 | isodate | 0.6.1 | itsdangerous | 2.0.1 |
| jax-jumpy | 1.0.0 | jedi | 0.18.1 | jeepney | 0.7.1 |
| Jinja2 | 3.1.2 | jmespath | 0.10.0 | joblib | 1.2.0 |
| joblibspark | 0.5.1 | jsonpatch | 1.33 | jsonpointer | 2.4 |
| jsonschema | 4.17.3 | ジュピターサーバー | 1.23.4 | jupyter_client | 7.4.9 |
| jupyter_core | 5.3.0 | jupyterlab-pygments | 0.1.2 | keras | 3.1.1 |
| キー管理システム | 23.5.0 | kiwisolver | 1.4.4 | langchain | 0.1.20 |
| Langchainユーザーコミュニティ | 0.0.38 | langchain-core | 0.1.52 | langchain-text-splitters | 0.0.2 |
| 言語コード | 3.4.0 | langsmith | 0.1.63 | 言語データ | 1.2.0 |
| launchpadlib | 1.10.16 | lazr.restfulclient | 0.14.4 | lazr.uri | 1.0.6 |
| lazy_loader | 0.2 | libclang | 15.0.6.1 | librosa | 0.10.1 |
| lightgbm | 4.3.0 | linkify-it-py | 2.0.0 | llvmlite | 0.40.0 |
| lxml | 4.9.2 | lz4 | 4.3.2 | Mako | 1.2.0 |
| marisa-trie | 1.1.1 | Markdown | 3.4.1 | markdown-it-py | 2.2.0 |
| MarkupSafe | 2.1.1 | マシュマロ | 3.21.2 | matplotlib | 3.7.2 |
| matplotlib-inline | 0.1.6 | mdit-py-plugins | 0.3.0 | mdurl | 0.1.0 |
| メムレイ | 1.12.0 | mistune | 0.8.4 | ml-dtypes | 0.3.2 |
| mlflow-skinny | 2.11.3 | more-itertools | 8.10.0 | mosaicml-streaming | 0.7.4 |
| mpmath | 1.3.0 | msal | 1.28.0 | msal-extensions | 1.1.0 |
| msgpack | 1.0.8 | multidict | 6.0.2 | 複数手法 | 1.11.2 |
| マルチプロセス | 0.70.14 | murmurhash | 1.0.10 | mypy-extensions | 0.4.3 |
| namex | 0.0.8 | nbclassic | 0.5.5 | nbclient | 0.5.13 |
| nbconvert | 6.5.4 | nbformat | 5.7.0 | nest-asyncio | 1.5.6 |
| networkx | 3.1 | ninja | 1.11.1.1 | nltk | 3.8.1 |
| ノートブック | 6.5.4 | ノートブックシム | 0.2.2 | numba | 0.57.1 |
| numpy | 1.23.5 | nvidia-cublas-cu12 | 12.1.3.1 | nvidia-cuda-cupti-cu12 | 12.1.105 |
| nvidia-cuda-nvrtc-cu12 | 12.1.105 | nvidia-cuda-runtime-cu12 | 12.1.105 | nvidia-cudnn-cu12 | 8.9.2.26 |
| nvidia-cufft-cu12 | 11.0.2.54 | nvidia-curand-cu12 | 10.3.2.106 | nvidia-cusolver-cu12 | 11.4.5.107 |
| nvidia-cusparse-cu12 | 12.1.0.106 | nvidia-nccl-cu12 | 2.20.5 | nvidia-nvjitlink-cu12 | 12.5.40 |
| nvidia-nvtx-cu12 | 12.1.105 | oauthlib | 3.2.0 | oci | 2.126.4 |
| openai | 1.29.0 | opencensus | 0.11.4 | opencensus-context | 0.1.3 |
| opt-einsum | 3.3.0 | optree | 0.11.0 | orjson | 3.10.3 |
| パッケージング | 23.2 | pandas | 1.5.3 | pandocfilters | 1.5.0 |
| paramiko | 3.4.0 | parso | 0.8.3 | pathspec | 0.10.3 |
| パッツィ | 0.5.3 | petastorm | 0.12.1 | pexpect | 4.8.0 |
| phik (フィーク) | 0.12.4 | ピクルシェア | 0.7.5 | Pillow | 9.4.0 |
| pip | 23.2.1 | platformdirs | 3.10.0 | plotly | 5.9.0 |
| pmdarima | 2.0.4 | ワンちゃん | 1.8.1 | portalocker | 2.8.2 |
| プレッシュド | 3.0.9 | prometheus-client | 0.14.1 | prompt-toolkit | 3.0.36 |
| 予言者 | 1.1.5 | proto-plus | 1.23.0 | protobuf | 4.24.1 |
| psutil | 5.9.0 | psycopg2 | 2.9.3 | ptyprocess | 0.7.0 |
| pure-eval | 0.2.2 | py-cpuinfo | 8.0.0 | py-spy | 0.3.14 |
| pyarrow | 14.0.1 | pyarrow-hotfix | 0.6 | pyasn1 | 0.4.8 |
| pyasn1-modules | 0.2.8 | pybind11 | 2.12.0 | ピッコロ | 0.0.52 |
| pycparser | 2.21 | pydantic | 1.10.6 | Pygments | 2.15.1 |
| PyGObject | 3.42.1 | PyJWT | 2.3.0 | PyNaCl | 1.5.0 |
| pynvml | 11.5.0 | pyodbc | 4.0.38 | pyOpenSSL | 23.2.0 |
| pyparsing | 3.0.9 | pyrsistent | 0.18.0 | pytesseract | 0.3.10 |
| python-dateutil | 2.8.2 | Pythonエディタ | 1.0.4 | python-lsp-jsonrpc | 1.1.1 |
| python-snappy | 0.6.1 | pytz | 2022.7 | PyWavelets | 1.4.1 |
| PyYAML | 6.0 | pyzmq | 23.2.0 | ray | 2.12.0 |
| RegEx | 2022.7.9 | リクエスト | 2.31.0 | requests-oauthlib | 1.3.1 |
| rich | 13.7.1 | rsa | 4.9 | s3transfer | 0.10.1 |
| セーフテンソル | 0.4.2 | scikit-image | 0.20.0 | scikit-learn | 1.3.0 |
| scipy (Pythonライブラリ) | 1.11.1 | seaborn | 0.12.2 | SecretStorage | 3.3.1 |
| Send2Trash | 1.8.0 | sentence-transformers | 2.7.0 | sentencepiece | 0.1.99 |
| setuptools | 68.0.0 | shap | 0.44.0 | simplejson | 3.17.6 |
| 6 | 1.16.0 | スライサー | 0.0.7 | smart-open | 5.2.1 |
| smmap | 5.0.0 | sniffio | 1.2.0 | soundfile | 0.12.1 |
| soupsieve | 2.4 | soxr | 0.3.7 | スペーシー | 3.7.2 |
| spacy-legacy | 3.0.12 | spacy-loggers | 1.0.5 | spark-tensorflow-distributor | 1.0.0 |
| SQLAlchemy | 1.4.39 | sqlparse | 0.4.2 | マジで | 2.4.8 |
| ssh-import-id | 5.11 | スタックデータ | 0.2.0 | stanio | 0.5.0 |
| statsmodels | 0.14.0 | sympy | 1.11.1 | タングルドアップ・イン・ユニコード | 0.2.0 |
| 粘り強さ | 8.2.2 | TensorBoard | 2.16.2 | tensorboard-data-server | 0.7.2 |
| tensorboard_plugin_profile | 2.15.1 | tensorboardX | 2.6.2.2 | tensorflow | 2.16.1 |
| tensorflow-estimator | 2.15.0 | tensorflow-io-gcs-filesystem | 0.37.0 | termcolor | 2.4.0 |
| 完了 | 0.17.1 | テキスト | 0.63.3 | tf_keras | 2.16.0 |
| thinc | 8.2.3 | threadpoolctl | 2.2.0 | tifffile | 2021年7月2日 |
| tiktoken | 0.5.2 | tinycss2 | 1.2.1 | tokenize-rt | 4.2.1 |
| トークナイザー | 0.19.0 | torch | 2.3.0+cu121 | torcheval | 0.0.7 |
| torchvision | 0.18.0+cu121 | tornado | 6.3.2 | tqdm | 4.65.0 |
| traitlets | 5.7.1 | トランスフォーマー | 4.40.2 | triton | 2.3.0 |
| 型ガード | 2.13.3 | タイピスト | 0.9.4 | タイプインスペクト | 0.9.0 |
| typing_extensions | 4.10.0 | tzdata | 2022.1 | uc-micro-py | 1.0.1 |
| ujson | 5.4.0 | 自動アップグレード | 0.1 | urllib3 | 1.26.16 |
| virtualenv | 20.24.2 | ビジョン | 0.7.5 | wadllib | 1.3.6 |
| わさび | 1.1.2 | wcwidth | 0.2.5 | イタチ | 0.3.4 |
| webencodings | 0.5.1 | websocket-client | 0.58.0 | Werkzeug | 2.2.3 |
| ホイール | 0.38.4 | wordcloud | 1.9.3 | 包まれた | 1.14.1 |
| xgboost | 2.0.3 | xxhash | 3.4.1 | yarl | 1.8.1 |
| ydata-profiling | 4.5.1 | zipp | 3.11.0 | zstd | 1.5.5.1 |
R ライブラリ
R ライブラリは、Databricks Runtime 15.3 の R ライブラリと同じです。
Javaおよび Scala ライブラリ (Scala 2.12 クラスター)
Databricks Runtime 15.3 のJavaライブラリと Scala ライブラリに加えて、Databricks Runtime 15.3 ML には次の JAR が含まれています。
CPU クラスター
| グループ ID | 成果物 ID | バージョン |
|---|---|---|
| com.typesafe.akka | akka-actor_2.12 | 2.5.23 |
| ml.dmlc | xgboost4j-spark_2.12 | 1.7.3 |
| ml.dmlc | xgboost4j_2.12 | 1.7.3 |
| org.graphframes | graphframes_2.12 | 0.8.3-db1-spark3.5 |
| org.mlflow | mlflow-client | 2.11.1 |
| org.scala-lang.modules | scala-java8-compat_2.12 | 0.8.0 |
| org.tensorflow | spark-tensorflow-connector_2.12 | 1.15.0 |
GPU クラスター
| グループ ID | 成果物 ID | バージョン |
|---|---|---|
| com.typesafe.akka | akka-actor_2.12 | 2.5.23 |
| ml.dmlc | xgboost4j-gpu_2.12 | 1.7.3 |
| ml.dmlc | xgboost4j-spark-gpu_2.12 | 1.7.3 |
| org.graphframes | graphframes_2.12 | 0.8.3-db1-spark3.5 |
| org.mlflow | mlflow-client | 2.11.1 |
| org.scala-lang.modules | scala-java8-compat_2.12 | 0.8.0 |
| org.tensorflow | spark-tensorflow-connector_2.12 | 1.15.0 |