模型训练的例子
本节包括示例展示了如何训练机器学习和深度学习模型在砖使用许多流行的开源库。
您还可以使用AutoML自动准备模型训练数据集,执行一组试验使用开源库如scikit-learn XGBoost,并创建一个Python笔记本每个试验运行的源代码,这样你就能评论,复制和修改代码。
例如笔记本显示如何训练机器学习模型,使用数据在统一目录和编写预测统一目录,看看培训和注册机器学习模型与统一目录。
机器学习的例子
包 |
笔记本(s) |
特性 |
---|---|---|
scikit-learn |
分类模型、MLflow自动化hyperparameter调优Hyperopt和MLflow |
|
scikit-learn |
分类模型、MLflow自动化hyperparameter调优Hyperopt和MLflow模型注册表 |
|
scikit-learn |
分类模型、MLflow自动化hyperparameter调优Hyperopt和MLflow XGBoost,注册表模型、服务模型 |
|
MLlib |
二进制分类、决策树、GBT回归,结构化流,定制的变压器 |
|
xgboost |
Python, PySpark Scala,单个节点的工作负载和分布式训练 |
深度学习的例子
也看到深度学习的最佳实践在砖上。
包 |
笔记本 |
特性 |
---|---|---|
TensorFlow Keras |
TensorFlow Keras、TensorBoard Hyperopt MLflow |
|
TensorFlow(单个节点) |
TensorFlow, TensorBoard |
|
PyTorch(单个节点) |
PyTorch |
分布式深度学习培训,见:
包 |
笔记本 |
特性 |
---|---|---|
HorovodRunner (TensorFlow Keras) |
TensorFlow Keras单节点分布式训练 |
|
HorovodRunner (PyTorch) |
PyTorch单节点分布式训练 |
|
HorovodRunner |
Horovod时间表 |
|
|
|
|
|
分布式训练TensorFlow在Apache火花集群 |
|
TorchDistributor |
分布式训练PyTorch在Apache火花集群 |
Hyperparameter调优示例
对于一般信息hyperparameter调优在砖,明白了Hyperparameter调优。
包 |
笔记本 |
特性 |
---|---|---|
Hyperopt |
分布式hyperopt、scikit-learn MLflow |
|
Hyperopt |
使用分布式搜索hyperopt hyperparameter空间同时对不同模型类型 |
|
Hyperopt |
Hyperopt, MLlib |
|
Hyperopt |
不同大小的数据集的最佳实践 |