如何将数据从卡夫卡导出到普罗米修斯？

Question

我得到的300K+指标/分钟卡夫卡主题作为时间序列。我想存储和查询数据。满足我需求的可视化工具是Grafana。为了有效地存储和查询，我正在考虑将这些时间序列存储在Prometheus中。

卡夫卡主题与许多时间系列-> Prometheus -> Grafana

我不太确定，我怎么能做到这一点，因为Prometheus是基于拉的刮擦方法。即使我写了一个拉服务，它是否允许我提取300 K/分钟的度量标准？

SYS 1, UNIX TIMESTAMP, CPU%, 10
SYS 1, Processor, UNIX TIMESTAMP, CPUCACHE, 10
SYS 2, UNIX TIMESTAMP, CPU%, 30
.....

大多数文章都提到了卡夫卡出口商/JMX出口商来监控卡夫卡。我不是在寻找kafka监控，而是发布存储在主题中的timeseries数据，并利用Prometheus查询语言和Grafana进行分析。

Answer 1

我遇到了"Kafka Connect Prometheus Metrics Sink连接器“，它从多个Apache主题导出数据，并将数据提供给由Prometheus服务器刮取的端点。这是一个融合平台的商业产品。

https://docs.confluent.io/kafka-connect-prometheus-metrics/current/index.html#prometheus-metrics-sink-connector-for-cp

我坚持使用现有的timeseries数据库。为了使用Grafana，编写一个自定义数据源。实施PROMQL可以是另一种选择。

更新：

了解了OpenTelemetry。人们可以使用Opentelem遥测标准将度量转换为OTLP格式，并让Opentelem遥测收集器从Kafka读取它。OpenTelemetry收集器有一个prometheus远程写导出程序。

Answer 2

我强烈反对这种方法，Prometheus出口商主要用于基于度量的分析和监视:例如，您希望每10s通过一个主题/分区检查多少条消息。

您可以做您所描述的事情，但是如果您根据集群规范不断地刮取大量的数据，则可能会对Prometheus集群和存储造成严重的压力。

如果您真的想存储和查询基于时间序列的事件，我建议将它们记录到Elasticsearch.中。您可以将Grafana连接到Elasticsearch，并将其用作查询的数据源。

另一个选择可能是搜索Grafana网站上基于社区的Kafka仪表板，该网站由Prometheus数据源填充，并查看其中是否有您需要的度量标准。这样，您就可以知道哪个出口商为您工作：https://grafana.com/grafana/dashboards?dataSource=prometheus&direction=desc&orderBy=reviewsCount&search=kafka