经典MLflow模型在砖

需求

• 经典MLflow模型用于Python MLflow服务模型。你必须声明所有模型conda环境的依赖性。看到日志模型依赖。

• 使模型服务,你必须有集群创建权限。

模型从模型注册服务

在注册表砖从模型的模型服务是可用的。

为验证模型

从服务选项卡中,您可以发送一个请求到服务模型和视图响应。

服务版本管理

所有活动部署(non-archived)模型版本,你可以使用uri查询。砖时自动部署新的模型版本的注册,并自动删除旧版本时存档。

访问权限管理模型

模型访问权限继承模型注册表。启用或禁用服务功能需要“管理”权限的注册模型。任何阅读权利可以得分的任何部署的版本。

分数部署模型版本

取得一个部署模型中,您可以使用UI或发送一个REST API请求的URI模式。

curl - x POST - u令牌:DATABRICKS_API_TOKEN美元MODEL_VERSION_URI美元\- h“application / json内容类型:\- d”({“sepal_length”: 5.1,“sepal_width”: 3.5,“petal_length”: 1.4,“petal_width”: 0.2}]“

curl - x POST - u令牌:DATABRICKS_API_TOKEN美元MODEL_VERSION_URI美元\- h“application / json内容类型:\- d{“输入”:[[5.1,3.5,1.4,0.2]]}”

进口numpy作为np进口熊猫作为pd进口请求defcreate_tf_serving_json(数据):返回{“输入”:{的名字:数据(的名字]。tolist()为的名字在数据。键()}如果isinstance(数据,dict)其他的数据。tolist()}defscore_model(model_uri,databricks_token,数据):头={“授权”:f“不记名{databricks_token}”,“内容类型”:“application / json”,}data_json=数据。to_dict(东方=“记录”)如果isinstance(数据,pd。DataFrame)其他的create_tf_serving_json(数据)响应=请求。请求(方法=“职位”,头=头,url=model_uri,json=data_json)如果响应。status_code! =200年:提高异常(f“请求失败状态{响应。status_code},{响应。文本}”)返回响应。json()#接受大熊猫DataFrames评分模型数据=pd。DataFrame([{“sepal_length”:5.1,“sepal_width”:3.5,“petal_length”:1.4,“petal_width”:0.2}))score_model(MODEL_VERSION_URI,DATABRICKS_API_TOKEN,数据)#得分一个接受张量的模型数据=np。asarray([[5.1,3.5,1.4,0.2]])score_model(MODEL_VERSION_URI,DATABRICKS_API_TOKEN,数据)

监控服务模型

服务页面显示状态指标服务集群以及各个模型版本。

• 检查服务集群的状态,使用模型的事件选项卡,显示一个列表的所有服务事件模型。

• 检查单个模型的状态版本,单击模型版本选项卡并滚动到视图日志或版本的事件选项卡。

定制服务集群

定制服务集群,使用集群设置选项卡上的服务选项卡。

• 修改内存大小和数量的核心服务集群,使用实例类型下拉菜单中选择所需的集群配置。当你点击保存,现有的集群是终止并创建一个新的集群与指定的设置。

• 添加一个标签,类型的名称和值添加标签字段并单击添加。

• 编辑或删除现有的标签,点击一个图标的行动列的标签表。

功能存储整合

经典模型服务可以自动查找从在线商店发布特性值。

砖经典MLflow模型服务支持自动从这些在线商店功能查找:

• 亚马逊DynamoDB (v0.3.8及以上)

• 亚马逊极光(MySQL-compatible)

• Amazon RDS MySQL

已知的错误

ResolvePackageNotFound:pyspark = 3.1.0

这个错误可能发生取决于如果一个模型pyspark和记录使用砖运行时的8.倍。如果你看到这个错误,指定pyspark版本明确记录模型时,使用“conda_env”参数。

未被认可的内容类型参数:格式

这个错误可能发生的新的MLflow 2.0得分协议格式。如果你看到这个错误,你可能使用一个过时的得分请求格式。解决错误,您可以:

• 更新你的得分请求格式的最新协议。

  请注意

  下面的例子反映了得分格式在MLflow 2.0中引入的。如果你喜欢使用MLflow 1。x,你可以修改log_model ()API调用,包括所需的MLflow版本依赖的extra_pip_requirements参数。这样做可以确保使用适当的得分格式。

  mlflow。<味道>。log_model(…,extra_pip_requirements=(“mlflow = = 1 *”。])

  查询模型接受大熊猫dataframe输入。

  curl - x POST - u令牌:DATABRICKS_API_TOKEN美元MODEL_VERSION_URI美元\- h“application / json内容类型:\- d”{“dataframe_records”: [{”sepal_length (cm)”:5.1,“sepal_width (cm)”:3.5,”petal_length (cm)": 1.4, "petal_width": 0.2},{" sepal_length (cm)”:4.2, "sepal_width (cm)": 5.0, "petal_length (cm)": 0.8, "petal_width": 0.5}]}'

  查询模型接受张量输入。张量的输入应格式化中描述TensorFlow服务的API文档。

  curl - x POST - u令牌:DATABRICKS_API_TOKEN美元MODEL_VERSION_URI美元\- h“application / json内容类型:\- d{“输入”:[[5.1,3.5,1.4,0.2]]}”

  进口numpy作为np进口熊猫作为pd进口请求defcreate_tf_serving_json(数据):返回{“输入”:{的名字:数据(的名字]。tolist()为的名字在数据。键()}如果isinstance(数据,dict)其他的数据。tolist()}defscore_model(model_uri,databricks_token,数据):头={“授权”:f“不记名{databricks_token}”,“内容类型”:“application / json”,}data_dict={“dataframe_split”:数据。to_dict(东方=“分裂”)}如果isinstance(数据,pd。DataFrame)其他的create_tf_serving_json(数据)data_json=json。转储(data_dict)响应=请求。请求(方法=“职位”,头=头,url=model_uri,json=data_json)如果响应。status_code! =200年:提高异常(f“请求失败状态{响应。status_code},{响应。文本}”)返回响应。json()#接受大熊猫DataFrames评分模型数据=pd。DataFrame([{“sepal_length”:5.1,“sepal_width”:3.5,“petal_length”:1.4,“petal_width”:0.2}))score_model(MODEL_VERSION_URI,DATABRICKS_API_TOKEN,数据)#得分一个接受张量的模型数据=np。asarray([[5.1,3.5,1.4,0.2]])score_model(MODEL_VERSION_URI,DATABRICKS_API_TOKEN,数据)

  可以得分数据集掌权BI桌面使用以下步骤:

  1. 打开数据集你想得分。

  2. 去转换数据。

  3. 在左边面板中右键单击并选择创建新的查询。

  4. 去视图>高级编辑器。

  5. 用下面的代码片段,替换查询身体后填入一个适当的DATABRICKS_API_TOKEN和MODEL_VERSION_URI。

     (数据集作为表)作为表= >让call_predict=(数据集作为表)作为列表= >让apiToken=DATABRICKS_API_TOKEN,modelUri=MODEL_VERSION_URI,responseList=Json。文档(网络。内容(modelUri,(头=(#“内容类型”=“application / json”,#“授权”=文本。格式(无记名# {0},{apiToken})),内容=Json。FromValue(数据集)]))在responseList,predictionList=列表。结合(列表。变换(表。分裂(数据集,256年),(x)= >call_predict(x))),predictionsTable=表。FromList(predictionList,(x)= >{x},{“预测”}),datasetWithPrediction=表。加入(表。AddIndexColumn(predictionsTable,“指数”),“指数”,表。AddIndexColumn(数据集,“指数”),“指数”)在datasetWithPrediction

  6. 名称查询你想要的模型名称。

  7. 打开高级查询编辑器为你的数据集和应用模型的功能。

• 如果您的评分要求使用MLflow客户端mlflow.pyfunc.spark_udf ()MLflow客户端升级到版本2.0或更高版本,使用最新的格式。BOB低频彩了解更多更新的MLflow模型评分MLflow 2.0协议。

关于输入数据格式的更多信息接受的服务器(例如,熊猫split-oriented格式),看到的MLflow文档。