首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏k8s技术圈

    使用 vmagent 代替 Prometheus 采集监控指标

    0 3m43s vmagent-1 1/1 Running 0 2m9s 这里我们部署了两个 vmagent 实例来抓取监控指标,我们这里一共 3 实例会分别采集部分指标,我们可以通过查看日志来进行验证: ☸ ➜ kubectl logs -f vmagent-0 -n kube-vm # ...... ☸ ➜ kubectl apply -f vmagent-config2.yaml 配置刷新有两种方式: 发送 SUGHUP 信号给 vmagent 进程 向 http://vmagent:8429/ -/reload 发送一个 http 请求 刷新后就可以开始采集上面的指标了,同样我们也可以通过 http://vmselect/select/0/vmui/ 来访问 vmui,比如现在我们来查询 pod = +inf vmagent 作为采集指标重要的一环,当然对它的监控也不可少。

    4.8K40编辑于 2022-05-22
  • 来自专栏运维开发故事

    what is vmagent

    背景 在之前的文章中,讲解了如何在k8s上安装vm;但采集指标的组件使用的是opentelemetry,那么vm是否有自己的组件去采集指标呢? -55bbbd9f6d-497m5 2/2 Running 4 2d17h # 从命令结果来看,该pod有两个容器,而我们定义vmagent的yaml文件时,看起来只设置了一个 time: "2022-01-14T08:15:12Z" name: vmagent-vm-vmagent-55bbbd9f6d-497m5 namespace: monitoring-system -55bbbd9f6d-497m5 2/2 Running 4 50s # 通过vmagent api查看一下targets [root@kube-control-1 配置刷新说明 配置刷新有两种方式,如下: 发送SUGHUP信号给vmagent进程 向http://vmagent:8429/-/reload发送一个http请求 vmagent监控 vmagent作为采集指标重要的一环

    1.6K10编辑于 2022-02-09
  • 来自专栏k8s技术圈

    使用 Victoria Metrics Operator 管理 VM 集群

    /name=vmagent NAME READY STATUS RESTARTS AGE vmagent-vmagent-demo -6dcc7f9dfd-hxsff 2/2 Running 0 4m24s 可以看到 vmagent 有两个容器,一个是 vmagent 应用容器,另外一个是用于挂载 from [::1]:8429 -> 8429 我们可以在浏览器中访问 http://127.0.0.1:8429/targets 来检查 vmagent 采集的集群指标: vmagent 会通过 会采集 VM 集群相关组件的指标,包括 vmagent 本身的,所以我们可以正常看到 VM 集群的 Dashboard,但是没有采集其他的指标,比如 node-exporter,我们可以在 Grafana dashboard: 这个时候我们可以通过 VMNodeScrape 这个 CRD 对象来进行定义,VMNodeScrape 对象可以用来自动发现 Kubernetes 节点,创建如下所示的资源对象来采集

    2.8K40编辑于 2022-05-22
  • 云服务器指标采集

    一:整体架构说明备注: ● 选择Node_exporter作为指标采集器,因其成熟社区以及腾讯云云监控默认指标维度、粒度都不够; ● 选择Vmagent抓取Node_exporter指标,主要是其高性能 用户习惯,配套的Dashboard等二:Node_exports部署与运行Node_exports已经成为机器监控的标准exporter,基本指标约100来个,几乎可以覆盖日常定位需求,顾采用其作为机器采集组件 补充说明 ✓ 整体上部署很简单,如有异常根据特定下错误日志上下文排查; ✓ 此外上边步骤可以打包成一个脚本或者特定编排工具部署更简单; ✓ node_exporters启动可以指定更多选项,比如更多指标采集等 (比如TCP stat),调整其采集指标需谨慎评估。 vmagent自身监控 ● 采集自身指标备注:vmagent自身也暴漏了自身的metrics,本文采用最简方式,自己采集自己,只需要在config配置加上其自身监控job即可,如:[root@VM-120

    1.5K41编辑于 2024-06-25
  • 来自专栏我的小碗汤

    Prometheus 文档缺失的一章 - 程序的 Metrics 优化

    所以这篇博客就尝试介绍一下 metrics 采集量计算的逻辑和优化的方法。 VictoraMetrics 去年支持了 stream aggregation[9]。 支持让 vmagent (VictoriaMetrics 系统中负责采集 metrics 的组件)在采集 metrics 的时候进行聚合。我们在一些场景下用了这个功能,资源使用很少,效果不错。 他们提的另一个方案是部署多个 vmagent,每一个都跑一个 stream aggregation:vmagent1 -> vmagent2 -> … -> vmagentN。 在配置的时候,要给每一个 vmagent 的 stream aggregation 规则都加上一个 vmagent 编号的 label,否则的话,多个 vmagent 可能得到完全相同的 metrics

    50510编辑于 2023-12-24
  • 来自专栏运维开发故事

    老炮新作,大一统的监控探针采集器 cprobe 开源了

    :对于非边车模式的 Exporter,即一个 Exporter 对应多个采集目标的,通常很难做到不同的采集目标不同的配置,期望能有一种配置文件切分 INCLUDE 机制,不同的采集目标采用不同的配置 缺乏监控目标服务发现 ,把这些问题都解决掉,采用插件机制,All-in-One 采集所有监控目标,不同的插件体验一致,那该多好啊! 以我当前的认知,监控数据的采集大抵需要三个角色,一个是部署在所有的目标机器上的,比如使用 categraf,中心端需要两个采集器,一个用于采集 Prometheus 协议的端点数据,可以使用 vmagent 当然,vmagent 和 cprobe 都是探针角色,理论上可以合二为一,未来也会考虑让 cprobe 支持采集 Prometheus 协议的端点数据,这样就可以把 vmagent 去掉了,不过 vmagent 这几个插件在整合的过程中,也做了一些改动,主要改动如下: 统一日志库,统一日志格式,统一日志级别控制 统一配置文件管理,支持配置文件切分 支持不同的采集目标不同的配置 支持采集目标的服务发现,目前主要是

    55910编辑于 2023-12-13
  • 来自专栏crossoverJie

    老炮新作,大一统的监控探针采集器 cprobe 开源了

    :对于非边车模式的 Exporter,即一个 Exporter 对应多个采集目标的,通常很难做到不同的采集目标不同的配置,期望能有一种配置文件切分 INCLUDE 机制,不同的采集目标采用不同的配置 缺乏监控目标服务发现 ,把这些问题都解决掉,采用插件机制,All-in-One 采集所有监控目标,不同的插件体验一致,那该多好啊! 以我当前的认知,监控数据的采集大抵需要三个角色,一个是部署在所有的目标机器上的,比如使用 categraf,中心端需要两个采集器,一个用于采集 Prometheus 协议的端点数据,可以使用 vmagent 当然,vmagent 和 cprobe 都是探针角色,理论上可以合二为一,未来也会考虑让 cprobe 支持采集 Prometheus 协议的端点数据,这样就可以把 vmagent 去掉了,不过 vmagent 这几个插件在整合的过程中,也做了一些改动,主要改动如下: 统一日志库,统一日志格式,统一日志级别控制 统一配置文件管理,支持配置文件切分 支持不同的采集目标不同的配置 支持采集目标的服务发现,目前主要是

    72510编辑于 2023-12-13
  • 来自专栏Kubernetes 与 Devops 干货分享

    VictoriaMetrics原理及实践

    单节点版:直接运行一个二进制文件,既可以运行,官方建议采集数据点(data points)低于100w/s,推荐VM单节点版,简单好维护,但不支持告警。 单节点版直接运行一个二进制文件既,官方建议采集数据点(data points)低于 100w/s,推荐 VM 单节点版,简单好维护,但不支持告警。集群版支持数据水平拆分。 集群方案把功能拆分为 vmstorage、 vminsert、vmselect 组件,如果要替换 Prometheus,还需要使用 vmagent、vmalert。 vmagent 的主要目的是用来收集指标数据然后存储到 VM 以及 Prometheus 兼容的存储系统中(支持 remote_write 协议即可)。 同时支持最大磁盘占用 相比 prometheus 使用较少的内存、cpu、磁盘 io 以及网络带宽 VictoriaMetrics 单节点版 下面模拟1个node-exporter,被Prometheus采集数据

    5.2K20编辑于 2022-10-31
  • 来自专栏菩提树下的杨过

    freeswitch笔记(9)-esl outbound中如何放音采集按键?

    } exe.answer(); int timeOutSeconds = 30; //放音采集

    1.8K41发布于 2020-08-10
  • 来自专栏CNCF

    Prometheus一致性计划:远程写遵从性测试结果

    (0.01s) --- FAIL: TestRemoteWrite/vmagent/Invalid (20.66s) --- FAIL: TestRemoteWrite/vmagent /vmagent/HonorLabels (20.66s) --- PASS: TestRemoteWrite/vmagent/InstanceLabel (20.66s) --- PASS : TestRemoteWrite/vmagent/JobLabel (20.66s) --- PASS: TestRemoteWrite/vmagent/NameLabel (20.66s) 如果你想帮助我们,请考虑添加更多的远程写集成[9]。 github.com/prometheus/compliance/pull/24 [8] 现有系统的新版本: https://github.com/prometheus/compliance/pull/25 [9]

    63710发布于 2021-05-27
  • 来自专栏Qt项目实战

    Qt编写控件属性设计器9-数据库采集

    一、前言 数据库作为数据源,在很多组态软件中使用非常多,指定数据库类型,填写好数据库连接信息,指定对应的数据库表和字段,采集间隔,程序按照采集间隔自动采集数据库数据,绑定到界面上的控件赋值显示即可。 打通了串口采集、网络采集、数据库采集三种方式设置数据。 代码极其精简,注释非常详细,可以作为组态的雏形,自行拓展更多的功能。 纯Qt编写,支持任意Qt版本+任意编译器+任意系统。 this); connect(tcpServer, SIGNAL(newConnection()), this, SLOT(newConnection())); //开启定时器读取数据库采集数据

    1.2K00发布于 2019-09-14
  • 来自专栏k8s技术圈

    Prometheus 长期远程存储方案 VictoriaMetrics 入门实践

    vmbackup/vmrestore 工具轻松快速地从实时快照备份到 S3 或 GCS 对象存储中 支持从第三方时序数据库获取数据源 由于存储架构,它可以保护存储在非正常关机(即 OOM、硬件重置或 kill -9vmagent 的主要目的是用来收集指标数据然后存储到 VM 以及 Prometheus 兼容的存储系统中(支持 remote_write 协议即可)。 单节点 这里我们采集 node-exporter 为例进行说明,首先使用 Prometheus 采集数据,然后将 Prometheus 数据远程写入 VM 远程存储,由于 VM 提供了 vmagent /1 Running 0 27m 192.168.0.110 node1 <none> <none> prometheus-dfc9f6 这样我们就使用 VM 替换掉了 Prometheus,我们也可以这 Grafana 的 Explore 页面去探索采集到的指标。

    9.8K51编辑于 2022-05-22
  • 来自专栏科控自动化

    地热数据采集项目9 Blazor Server 应用程序中进行 HTTP 请求

    获取网关信息并显示 { "data": [ { "deviceName": "电表1", "modbusAddress": "0", "variableName": "Ua", "value": 239.2 }, { "deviceName": "电表1", "modbusAddress": "2", "variableNam

    55330编辑于 2022-12-20
  • 来自专栏腾讯云容器运维

    如何通过TMP监控TKE独立集群的etcd

    通过secret挂载etcd证书因为etcd这里都是有证书鉴权的 ,这里通过serviceMonitor采集etcd监控需要配置证书才行,serviceMonitor是可以直接读取后端prometheus 容器的证书配置的,tmp这里是vmagent,那么这里有什么办法将证书挂载到vmagent容器。 但是这里遇到一个问题,就是当我创建完ServiceMonitor后,tmp控制台的采集配置显示target都是空的,这是什么原因呢? 图片tmp关机tke集群会默认创建一个prometheuses对象,这里会定义采集那些ServiceMonitor,这里看下集群的prometheuses配置,是不是有特殊的配置。 /article/old/22616484. grafana配置etcd的dashboard独立集群的etcd监控数据已经采集到tmp了,下面就是需要在grafana配置dashboard,这里有2种方案

    90530编辑于 2023-06-13
  • 来自专栏msray

    全网搜索引擎采集(msray)|URL采集|关键词采集|域名采集

    搜索引擎全网采集Msray-plus,是企业级综合性爬虫/采集软件。支持亿级数据存储、导入、重复判断等。无需使用复杂的命令,提供本地WEB管理后台对软件进行相关操作,功能强大且简单易上手! 同时支持存储域名、根网址、网址(url)、IP、IP所属国家、标题、描述、访问状态等多种数据,主要运用于全网域名/网址/采集、行业市场研究分析、指定类型网站采集与分析、网络推广分析以及为各种大数据分析等提供数据支撑 ----1:采集注意事项1:搜索引擎是根据关键词采集的,采集之前要准备好关键词(关键词可以为txt文档,一行一个)---- 2:配置流程1:上传关键词文件2:选择适合自己需求的过滤规则(可保持默认)3: 选择需要使用到的搜索引擎4:过滤方案的使用,可以保持默认,也可以自定义过滤规则,可根据域名,ip地址,国家信息进行过滤图片图片----3:对采集的数据进行 导出和数据分析软件可进行全网公开数据挖掘,大规模采集互联网公开数据 ,精准挖取采集内容。

    2.3K20编辑于 2022-10-17
  • 来自专栏msray

    全网URL采集工具,支持关键词采集,域名采集,联系人采集

    **今天介绍的这款全网URL采集工具可以运用于全网域名/网址/IP信息检索、指定关键词批量数据采集、SEO、网络推广分析、内容源收集,以及为各种大数据分析等提供数据支撑。 访问状态等..进行自定义过滤图片3: 灵活的推送方案软件不仅支持将结果保存在本地,而且还支持远程的数据推送,可以和自己内部的业务系统相结合,便于数据的再次利用分析,核心功能1: 关键词采集根据提供的关键词采集全网的数据 ,重复判断:可以选择根据域名或者网址进行重复判断,采集字段包括域名,网址,IP地址,IP所属国家,标题,描述,访问状态等。 图片2: URL采集根据提供的URL数据批量采集全网被收录的数据,重复判断:可以选择根据域名或者网址进行重复判断,支持线程数自定义,可根据自己机器配置调整最优采集字段包括域名,网址,IP地址,IP **创建爬虫任务**图片图片3: 联系任务可根据提供的域名地址采集被收录的联系方式等信息包含手机。

    3.5K11编辑于 2022-10-17
  • 来自专栏用户6632349的专栏

    采集软件-免费采集软件下载

    免费采集软件9.png 一、页面内容质量的高低 网站优化行业一直有一个亘古不变的道理,内容为王。所谓内容为王首先保证内容的原创性,只有原创的内容对搜索引擎才会更加感兴趣,才会被搜索引擎收录。 我们可以用这款采集软件实现自动采集伪原创发布以及主动推送给搜索引擎,操作简单不需要学习更多专业的技术,只需简单几步就可以轻松采集内容数据,用户只需在采集软件上进行简单的设置,采集软件工具根据用户设置的关键词精准的采集文章 采集来的文章可选择本地化保存,亦可选择自动伪原创后发布,提供了方便快捷的内容收集以及快速打造内容伪原创。 相对于其它采集软件这款采集软件基本不存在什么规则,更不用花费大量时间去学习正则表达或html标签,一分钟即可上手使用只需要输入关键词即可实现采集采集软件同时还配备了关键词采集功能)。全程自动挂机! 这款采集软件还配置了很多SEO功能,通过软件采集伪原创发布的同时还能提升很多SEO方面的优化。

    3.1K40编辑于 2022-03-03
  • B站监控2.0架构落地实践

    采集采集器Collector 是基于vmagent封装了一层。 主要有两个功能,一个是定时上报心跳给Contractor, 二是拿到相关采集配置,call reload api,触发vmagent开始采集。 当我们灰度了一些量后,发现vmagent占用的内存较高,通过heap pprof发现, 在每次pull 抓取上报的指标消耗内存较多,后面开启流式采集 promscrape.streamParse=true vmagent 自身会有随机(采集间隔时间)平滑load机制。比如我们采集间隔配置了30s,当vmagent拿到配置时,一个target最慢要30s才会有指标数据。 架构如下:比较idc采集方案,云上监控有以下几点不同:Contractor支持从公网pull本zone所需的采集配置。为什么使用Prometheus而不是vmagent采集

    63220编辑于 2024-12-26
  • 来自专栏全栈程序员必看

    API数据采集_数据采集接口

    大家好,又见面了,我是你们的朋友全栈君。 1 API使用简介 实例: 使用音乐排行榜详情API如下:https://api.apiopen.top/musicRankingsDetails?type=

    3.1K50编辑于 2022-09-28
  • 来自专栏物联网wtblnet.com

    数据采集网关|工业数据采集网关

    数据采集网关|工业数据采集网关 随着数据量的不断增速,数据价值也逐步被许多公司所关注,尤其是偏重于业务型的企业,许多数据的发生,在未被挖掘整合的进程中通常被看作是一堆无效且占用资源的;但一旦被发掘,数据的价值将无可估计 数据采集网关,物通博联数据采集网关相关产品: 1477559252.jpg 1480315233.jpg 一、业务流程整理 在业务流程整理的进程中,咱们先预设个场景,如: 当公司运营人员提出一个订单转化率的需求

    2.4K40发布于 2019-12-03
领券