Tensorflow服务的普罗米修斯

Question

使用Prometheus exporter进行Tensorflow服务的步骤是什么？根据1.11TF服务支持普罗米修斯指标：https://github.com/tensorflow/serving/releases/tag/1.11.0

我从示例https://www.tensorflow.org/serving/docker和以下代码中启动了一个docker：

docker运行-p 8501:8501 -p 8500:8500 \--挂载目标，\ source=/tmp/tfserving/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_two_cpu，\ type=bind =/models/half_plus_two\ -e MODEL_NAME=half_plus_two -t tensorflow/serving &

普罗米修斯配置文件: global: scrape_interval: 10s evaluation_interval: 10s monitor：‘tf-serving monitor’

scrape_configs：- job_name：'tensorflow‘scrape_interval: 5s static_configs：- targets：'localhost:8501’

但普罗米修斯未能找到tf serving暴露的指标。有没有我应该在docker上打开的特定端口，或者我应该传递给TF serving的一些参数？

Answer 1

According to the release notes you linked to TensorFlow在/monitoring/prometheus/metrics导出普罗米修斯指标(而不是普罗米修斯的默认/metrics)。所以至少你需要在你的配置中添加一个metrics_path：

scrape_configs:
  - job_name: 'tensorflow'
    scrape_interval: 5s
    metrics_path: '/monitoring/prometheus/metrics'
    static_configs:
      - targets: ['localhost:8501']

但首先要确保您可以在浏览器中看到在http://localhost:8501/monitoring/prometheus/metrics中导出的指标。否则(用你的浏览器)到处看看，直到你找到合适的URL (并在你的配置中反映出来)。