5 Star 40 Fork 15

PaddlePaddle / Serving

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
克隆/下载
Prometheus_CN.md 2.92 KB
一键复制 编辑 原始数据 按行查看 历史
ShiningZhang 提交于 2022-02-22 14:33 . update README & doc/Prometheus_CN.md

Paddle Serving使用普罗米修斯监控

Paddle Serving支持普罗米修斯进行性能数据的监控。默认的访问接口为http://localhost:19393/metrics。数据形式为文本格式,您可以使用如下命令直观的看到:

curl http://localhost:19393/metrics

配置使用

C++ Server

对于 C++ Server 来说,启动服务时请添加如下参数

参数 参数说明 备注
enable_prometheus 开启Prometheus 开启Prometheus功能
prometheus_port Prometheus数据端口 默认为19393

Python Pipeline

对于 Python Pipeline 来说,启动服务时请在配置文件config.yml中添加如下参数

dag:
    #开启Prometheus
    enable_prometheus: True
    #配置Prometheus数据端口
    prometheus_port: 19393

监控数据类型

监控数据类型如下表

Metric Frequency Description
pd_query_request_success_total Per request Number of successful query requests
pd_query_request_failure_total Per request Number of failed query requests
pd_inference_count_total Per request Number of inferences performed
pd_query_request_duration_us_total Per request Cumulative end-to-end query request handling time
pd_inference_duration_us_total Per request Cumulative time requests spend executing the inference model

监控示例

此处给出一个使用普罗米修斯进行服务监控的简单示例

1、获取镜像

docker pull prom/node-exporter
docker pull prom/prometheus

2、运行镜像

docker run -d -p 9100:9100 \
  -v "/proc:/host/proc:ro" \
  -v "/sys:/host/sys:ro" \
  -v "/:/rootfs:ro" \
  --net="host" \
  prom/node-exporter

3、配置

修改监控服务的配置文件/opt/prometheus/prometheus.yml,添加监控节点信息

global:
  scrape_interval:     60s
  evaluation_interval: 60s
  
scrape_configs:
  - job_name: prometheus
    static_configs:
      - targets: ['localhost:9090']
        labels:
          instance: prometheus
  
  - job_name: linux
    static_configs:
      - targets: ['$IP:9100']
        labels:
          instance: localhost

4、启动监控服务

docker run  -d \
  -p 9090:9090 \
  -v /opt/prometheus/prometheus.yml:/etc/prometheus/prometheus.yml  \
  prom/prometheus

访问 http://serverip:9090/graph 即可

C++
1
https://gitee.com/paddlepaddle/Serving.git
git@gitee.com:paddlepaddle/Serving.git
paddlepaddle
Serving
Serving
v0.9.0

搜索帮助