不了解从服务发布到服务管理的流程？请先阅读快速入门

仪表盘

点击顶部墨蓝色导航栏中的 服务管理，然后点击二级导航栏中的 仪表盘 ，即可进入仪表盘界面。仪表盘界面支持查看服务总量和上下线情况。

您可以在仪表盘界面查看访问量和平均响应时间的实时数据和历史变化趋势。

您也可以在本界面查看CPU和内存的实时使用率情况。

您可以在仪表盘页面查看使用度情况和访问记录。
使用度情况如下图所示，每列是一周，每一行从上到下依次是周日到周六，每个小方块代表一天。访问量越大，小方块的颜色越深。

鼠标悬停在小方块上，页面会显示该小方块对应的日期和当日访问量。

访问记录部分展示了服务名称、创建时间、状态、IP、运行时长和操作。点击任一服务的 调用详情 按钮，即可查看调用详情信息。

调用详情部分会展示该服务的通用字段、请求头、请求参数、响应头和相应参数，如下图所示。

服务列表

点击顶部墨蓝色导航栏中的 服务管理，然后点击二级导航栏中的 服务列表 ，即可进入服务列表界面。点击服务名称（在操作中点击 详情 按钮也可），进入该服务的详情页。

服务列表页面的操作栏提供了版本详情、服务上下线、编辑、删除、审计、测试、评估的按钮。您可以根据需要进入对应页面，您也可以在版本详情页面中进行页面切换。

您还可以点击列表右上角的 [刷新] 按钮，获取服务 运行状态 的实时信息。

版本详情

服务的详情页如下图所示。服务详情页界面分为上下两部分，上半部分展示了服务名称、运行情况（运行中、上线中、已下线）、发布者名称、创建时间、描述和API接口（分为 模型预测API 和 模型解释API ，支持复制）。鼠标悬停在头像、时间和描述图表上，会显示字段含义。此外，页面的上半部分还提供了编辑、审计和上下线按钮。页面的下半部分包含五个标签页，分别是：版本详情、服务测试、模型评估、数据偏移和告警设置。默认进入版本详情页。

在页面左侧版本列表中展示该服务内各版本的服务推理图信息。

若模型服务开启了 模型解释 功能，则 模型解释API 显示接口参数信息。如下所示：

编辑版本信息

鼠标移入版本列表，在对应版本的操作按钮中点击 详情 按钮，在弹窗内查看服务信息和资源配置信息。

在“服务信息”中，可以查看所属服务、版本类型、流量分配比例和新建时间，并且支持编辑版本名称和版本描述。其中，“流量分配比例”需要在编辑服务的弹窗中修改，保证各版本的流量之和为100%。

在“资源配置”中，可以编辑伸缩策略、选择集群节点、选择GPU、配置单个实例的资源，如果版本类型是“推理图”，此处还可以按节点来配置资源。如果TCOS版本＜3.0，则不支持选择GPU。

如果TCOS版本≥3.3.1，则可以无限额共享GPU。

用户可以不设置限额分享GPU，即选择“分享”模式，并开启“无限额共享”，无需填写GPU算力和GPU显存大小。
服务日志

v1.2版本新增功能：支持通过前端页面查看已部署模型服务的节点日志及容器事件。

在部署模型服务推理图后，对于上线中或运行中的模型服务，用户可以通过前端页面查看服务的日志记录信息，以便运维排查。
其中，查看日志的层级为：服务版本>>服务实例>>容器事件+节点日志。

服务版本：统一模型服务内支持多个版本，每个版本对应一个后台容器，支持分别查看其日志。
切换实例：同一服务版本若存在多个实例（提升并发能力），支持切换实例查看每个实例的日志。
容器事件：对应describe pod，记录每个实例整体状态的日志信息。
节点日志：对应container logs，分别记录模型节点、逻辑节点、解释器节点、模型镜像等节点容器的日志信息。

A.查看容器事件及XAI节点日志
鼠标移入版本列表，在对应版本的操作按钮中点击 日志 按钮，在弹窗内查看容器事件信息及XAI节点日志。

仅当开启模型解释功能时，可在左侧tab栏中显示并切换查看XAI节点日志。由于XAI在版本详情中无指代节点，因此与容器事件放在同一处显示。

B.查看模型节点日志
在版本详情中，点击模型节点后，可在右侧边栏中查看对应节点的日志信息。

长按并拖拽右侧边栏弹窗，可伸缩拉开，便于查看日志信息。

服务测试

仅支持对在线服务（“运行中”状态）进行测试。

点击标签页中的 服务测试 ，您将看到如下界面。
服务测试功能支持分别调用 预测 及 解释 类型的API接口，模拟线上真实环境，发起调用请求并获取预测或解释结果。

模型预测接口测试

左侧是参数代码部分，Sophon MLOps平台会根据服务信息，给出如图所示的代码。 "name"字段后方框中的是特征名，比如演示的服务的特征一共有4个，分别是a1，a2，a3和a4。
“ndarray”中的内容与“name”中一一对应，比如演示中给出0,0,0,0数据，表示a1,a2,a3,a4取值都为0。您可以根据需要修改“ndarray”中的数字（但个数必须和特征数一致），然后点击 测试 按钮进行测试。

将“ndarray”中数据修改为“0,1,2,3”(表示a1取0，a2取1，a3取2，a4取3)，然后点击测试，测试结果部分会展示该条数据的结果，如下图所示。

模型解释接口测试

仅当模型服务开启了 模型解释 功能，才可点选 解释 按钮，否则置灰禁用，默认调用模型预测接口进行服务测试。切换选中 解释 按钮，点击 测试 按钮进行测试。

然后，切换至 【服务管理-仪表盘】 页面，或点击进入当前服务 【审计】 页面，查看服务调用记录。

图表含义说明——
1. 预测结果：即模型分类结果，如本次调用记录内“0”/“1”即分别表示模型预测的两个类别，且此时预测为分类“0”的概率为0.9997。
2. 左侧纵坐标：表示模型服务的输入参数，及其对应输入值。如此处“a1=1”表示模型参数“a1”在本次调用记录内的参数值为1。
3. 顶部横坐标：表示Shapley值大小，含正向、负向坐标轴。
4. 柱状图：通过颜色区分Shapley值的正负，通过长度区分Shapley值的大小。
5. Shapley值：若值为正，则表示在本次调用记录内，该参数的输入值对预测结果起正相关影响；若值为负，则起负相关影响。若数值越大，则表示影响程度越大；反之，则影响程度越小。
6. 举例：本条调用记录预测结果分类为0，预测概率为0.9997。其中，参数a1的输入值1，对最终预测结果起正向作用，影响程度为0.2431；参数a2的输入值2，对最终预测结果起负向作用，影响程度为0.0089；依此类推。

调用示例

页面下方展示了Curl、Java、Scala和Python的调用示例，可直接使用各类编程语言调用 Sophon MLOps 系统发布的模型服务接口。

v1.2版本支持部署的服务API同时支持http和grpc接口访问。具体调用方式如下所示。
【备注】当前仅有通过自定义镜像节点构建功能产出的模型节点支持grpc访问，其他模型节点需要安装seldon_core_v2-1.8.0-py3-none-any.whl才可以支持。如有需要，请联系工作人员在以下路径获取——https://wiki.transwarp.io/pages/viewpage.action?pageId=82919798

seldon_istio_client.py（使用grpc实现模型预测的python示例）

from seldon_core.proto import prediction_pb2, prediction_pb2_grpc
from seldon_core.utils import seldon_message_to_json
import grpc
import logging
from google.protobuf import json_format

logger = logging.getLogger(__name__)
logger.level = logging.DEBUG
grpc_max_send_message_length: int = 4 * 1024 * 1024
grpc_max_receive_message_length: int = 4 * 1024 * 1024


def _grpc(predictor_host: str, data: dict, names=None, namespace="", deployment_name=""):
    import time
    import os
    start_time = time.time()
    batch_size = int(os.environ.get("BATCH_SIZE", "1000"))
    print(batch_size)
    options = [
        ("grpc.max_send_message_length", grpc_max_send_message_length),
        ("grpc.max_receive_message_length", grpc_max_receive_message_length),
    ]
    channel = grpc.insecure_channel(predictor_host, options)
    stub = prediction_pb2_grpc.SeldonStub(channel)
    b = prediction_pb2.ModelPredictMessage()
    json_format.ParseDict(data, b)
    try:
        if deployment_name != "":
            metadata = [("seldon", deployment_name), ("namespace", namespace)]
            response = stub.PredictV2(request=b, metadata=metadata)
        else:
            response = stub.PredictV2(request=b)
        response = seldon_message_to_json(response)
    except Exception as e:
        logger.error(e)
        raise e
    end_time = time.time()
    logger.info("grpc end, spend time:" + str(end_time - start_time))
    channel.close()
    return response

input = {
    "inputs": [{
        "name": "data",
        "data": [[
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
            [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]
        ]],
        "datatype": "float",
        "shape": [28, 28],
        "parameters": {
            "feature_names": "null"
        }
    }]
}

response = _grpc(
    predictor_host="172.26.0.128:31380",
    data=input,
    namespace="default", (1)
    deployment_name="service-057d4944-23a1-4353-889b-aaeab5c262c6" (2)
)

print(response)

1	默认namepsace为default
2	deployment_name为"service-"接模型服务id

模型评估

目前仅支持由服务推理图发布的服务进行评估，不支持由镜像发布的服务的评估。

评估报告

模型评估部分，Sophon MLOps平台将评估数据输入到运行中的服务里，得到关于模型性能的评估报告（已下线和上线中的服务不支持评估）。在进行模型评估之前，请确保您已导入相应的评估数据（如果还没有导入评估数据，请先阅读新建评估数据部分）。

点击标签栏中的 模型评估 ，进入模型评估页面。点击 评估 按钮，页面将出现评估弹窗。

请根据页面提示填写评估信息（带有 * 的是必填项），填写完成且校验元信息通过后，评估按钮变为蓝色，点击 评估 按钮， Sophon MLOps平台将进行评估，并生成报告。校验元信息用于检验评估数据是否满足模型输入的要求，检查的内容包括列数是否一致和数据类型是否一致。

如果校验元信息不通过，页面将展示详细信息，如下图所示。

评估完成的报告将集中展示在模型评估页。在操作列，点击任一条评估报告的 进度日志，即可查看每条数据的输入输出；点击 查看报告，即可进入评估报告页面。

评估的进度日志弹窗如下图所示。该界面展示出每条数据的处理状态、输入和输出，如果处理失败，会进一步展示出报错信息。

评估报告页面如下图所示。该部分对比了各个指标的真实值和原始值，并展示相关图表。

整合报告

若要对多份报告的表现进行评估，那么您可以在Sophon MLOps中生成一份整合报告。回到任意服务的评估页面，选取至少两份成功的评估报告，然后点击 分析 按钮，即可得到整合报告。

整合报告如下图所示，对所选报告各项指标进行对比，并展示数值和图形。

指标清单与评价标准

Sophon MLOps支持包含二分类、（多）分类、回归和聚类在内的模型，不同模型的评估指标不同。

二分类

表 6. 二分类-评估指标
参数	名称	类型	意义	取值范围	评价标准
Accuracy	准确率	float	分类正确的样本数占总样本数的比例	[0,1]	越大越好
Precision	查准率	float	预测为正例的样本中，真实正例所占的比例	[0,1]	越大越好
Recall	查全率（召回率）	float	真实正例被正确预测的比例	[0,1]	越大越好
True Negative Rate	特异率（TNR）	float	真实负例被正确预测的比例	[0,1]	越大越好
AUC	Area Under ROC Curve	float	ROC曲线下的面积（ROC曲线描述真正例率随假正例率的变化情况）	[0,1]	越大越好
K-S		float	通过衡量真正例率和假正例率的差值来评估模型的风险区分能力。KS=MAX(TPR−FPR)	[0,1]	越大区分能力越强（但大于0.75时，可能有问题）
F1 Score	F1度量	float	基于查准率和查全率的调和平均	[0,1]	越大越好

表 7. 二分类-性能曲线
性能曲线	意义	评价标准
Gain	整体精准度的指标。根据预测为正例的样本从大到小排序，依次选取截断点，计算真正例率后绘图（Gain = TP/(TP+FP))	模型曲线快速上升到1时，模型较好
Lift	模型的预测能力优于随机选择的倍数（大于1则优于随机选择）	越大越好

（多）分类

表 8. （多）分类-评估指标
参数	名称	类型	意义	取值范围	评价标准
Accuracy	准确率	float	分类正确的样本数占总样本数的比例	[0,1]	越大越好
Weighed Precision	加权查准率	float	对于每一个类别，计算预测为正例的样本中，真实正例所占的比例，加权求和	[0,1]	越大越好
Weighed Recall	加权查全率（加权召回率）	float	对于每一个类别，计算真实正例被正确预测的比例，加权求和	[0,1]	越大越好
Weighed F-Measure	加权F-Measure	float	基于查准率和查全率的调和平均	[0,1]	越大越好

回归

表 9. 回归-评估指标
参数	名称	类型	意义	评价标准
Mean Absolute Error	平均绝对误差	float	平均绝对误差(Mean Absolute Error)是指预测值与真实值之间平均相差多大。	越小越好
Mean Squared Error	均方误差	float	平均方差是指预测值和真实值的平方差的平均数。	越小越好
Root Mean Squared Error	均方根误差	float	均方根误差是观测值与真值偏差的平方与观测次数n比值的平方根。	越小越好
R²	决定系数	float	决定系数R²(R-Square)=1-SSE/SST，其中SSE是真实值与预测值的平方差之和，而SST则表示真实值和均值的平方差之和。取值范围为[0,1]，且R²越大则表明模型的拟合效果越好。	越大越好

聚类

表 10. 聚类-评估指标
参数	名称	类型	意义
silhouette-cosine	轮廓系数-余弦相似度	float	计算向量之间的相似度：根据余弦函数在 0~π间单调递减的特征，向量完全重合夹角为0值、余弦值为1，向量完全背离夹角为180°、余弦值为-1。
silhouette-euclidean	轮廓系数-欧氏距离	float	计算两点的直线距离，距离越大，相似度越小。
SSE	残差平方和	float	用于明确解释变量和随机误差各产生的效应是多少。真实值和预测值的差异称为残差，把每个残差平方之后加起来称为残差平方和，它表示随机误差的效应。一组数据的残差平方和越小,其拟合程度越好。
covariance	协方差	float	衡量两个随机变量的联合变化程度。其取值在[－1, 1]之间。相关性η = 1时称为“完全线性相关”，相关性η = －1时称为“完全线性负相关”；相关性数值介于－1到1之间时，其绝对值越接近1表明线性相关性越好。

数据偏移

在机器学习模型的全生命周期流程中，模型监控是保证预测性能的主要方式。其中，数据偏移（datadrift）是模型精度随时间递减的重要原因之一——即由于输入数据分布的变化，导致模型预测性能下降。因此，监控模型服务的数据偏移情况，有助于检测模型预测性能，并及时预警提示，进入后续模型迭代环节。

Sophon MLOps 支持监控模型服务的预测数据，与训练数据的分布差异程度，按特征维度统计最值/均值/标准差、分布区间对比、PSI/JS散度等数据偏移指标，减少因输入数据的分布变化，导致模型预测性能下降带来的损失。

当开启数据偏移功能后，系统将在每日24时开始计算该服务当天所有在线预测数据的统计指标。通过对比分析模型服务的预测数据，与训练数据分布，以实现监控模型服务性能随时间变化趋势的目的。
1. 当前版本数据偏移功能仅支持包含唯一模型节点的服务版本（推理图）。
2. 所有图表内的统计值，皆不包含今日新入数据，每日24时计算当日统计结果。
3. 暂不支持统计非数值型的输入参数。
4. 需依赖模型训练数据分布信息（新建模型时填写），若无，则部分图表无法完整展示。

统计筛选
您可根据使用需要，通过按钮控制开启或关闭数据偏移统计功能。开启功能后，可分别以 服务版本、 特征参数、 时间范围 为筛选维度，切换并查看 某一服务版本 中的 某一特征参数 在 某段时间范围内 的数据偏移监控指标。
1. 服务版本：当前服务内，已发布并上线的服务版本，详见版本列表。
2. 特征参数：当前服务内，模型的输入参数名称，详见模型元信息。
3. 时间范围：按最近7/15/30天或自定义时间范围内查看指标变化情况。
输入参数统计
支持对输入参数的统计指标进行监控：按特征统计 均值、 标准差 、 最大值 、 最小值 ——
1. 均值：支持统计并查看某一特征变量，在某段时间范围内，每天的“均值”指标值及其变化趋势。
2. 标准差：支持统计并查看某一特征变量，在某段时间范围内，每天的“标准差”指标值及其变化趋势。
3. 最大值：支持统计并查看某一特征变量，在某段时间范围内，每天的“最大值”指标值及其变化趋势。
4. 最小值：支持统计并查看某一特征变量，在某段时间范围内，每天的“最小值”指标值及其变化趋势。
输出参数统计

支持对输出参数的预测比例进行监控，统计并查看在某段时间范围内，每天各输出类型的占比及其变化趋势。

当前版本仅限分类模型支持输出参数统计，其余类型暂不支持。

输入参数分布对比

支持对输入参数的分布区间进行监控，统计并查看某一特征变量，在某段时间范围内，训练数据集与线上预测的数据的分布区间情况对比。

图例分别代表训练数据集的区间分布情况与对应时间范围内的所有预测数据的区间分布情况。只有在所选模型及输入参数包含训练数据的分布信息时，才能完整显示（新建模型版本录入）。

输入参数偏移指标

支持对输入参数的偏移程度进行监控：按特征统计数据偏移指标，包括： PSI、 JS散度 ——

PSI：支持统计并查看某一特征变量，在某段时间范围内，每天的“PSI”指标值及其变化趋势。
JS散度：支持统计并查看某一特征变量，在某段时间范围内，每天的“JS散度”指标值及其变化趋势。

备注——
1. 只有在所选模型及输入参数包含训练数据的分布信息时，才能完整显示（新建模型版本录入）。
2. PSI数值越小表示偏移程度越小： 0-0.1，数据分布变化小。 0.1-0.25，分布出现变化，需关注。 >0.25，分布出现较大变化，需及时调整。
3. JS散度数值范围在0-1之间，越小表示偏移程度越小。

告警规则

支持用户自定义配置预警规则，快速发现监控指标的异常情况，并以系统内通知的方式及时提醒管理员。

数据偏移告警规则
支持对数据偏移指标进行预警规则配置，当指标数值达到 XX(阈值) 时，系统将发送告警消息。指标包括： PSI、 JS散度 ——
1. PSI：支持自定义配置数据偏移指标“PSI”的预警规则，触发条件则发送告警消息。
2. JS散度：支持自定义配置数据偏移指标“JS散度”的预警规则，触发条件则发送告警消息。
服务资源告警规则
支持对服务资源利用率指标进行预警规则配置，当指标数值达到 XX(阈值1) ，且持续 XX(阈值2) 时，系统将每隔 XX(阈值3) 发送告警消息。指标包括： 内存利用率、 CPU利用率 ——
1. 内存利用率：支持自定义配置数据偏移指标“内存利用率”的预警规则，触发条件则发送告警消息。
2. CPU利用率：支持自定义配置数据偏移指标“CPU利用率”的预警规则，触发条件则发送告警消息。

服务审计

点击页面顶部墨蓝色导航栏中的 服务管理 ，然后选中二级导航栏中的 服务列表 ，此处以threeclass_test服务为例。点击 threeclass_test 服务（在操作中点击 详情 按钮也可），进入该服务的详情页。

点击标签栏中的 模型评估 ，进入模型评估页面。点击 审计 按钮，进入服务审计页面。

审计页面如下图所示，您可以在此页面查看该服务的访问量、响应时间、CPU使用率、内存使用率和访问记录等信息。

编辑服务

进入服务详情页面，点击界面右上角的 编辑 按钮，即可打开编辑框。
对于在线服务，编辑框如下图所示，不仅支持编辑服务名称和描述，还支持修改上线策略和API接口，以及开关异步调用和模型解释功能。

对于离线服务，编辑框如下图所示。

服务上下线

服务上线

对于离线的服务，您可以在服务列表页面找到其 上线 按钮。

您也可以进入该服务的详情页，在右上角找到其 上线 按钮。

点击 上线 按钮，页面会出现编辑框，您可以对上线策略和上线版本进行调整。
服务下线

对于在线或上线中的服务，您可以在服务列表页面找到其 下线 按钮，点击即可下线。

您也可以进入该服务的详情页，在右上角找到其 下线 按钮，点击即可下线。