首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏深度学习与python

    作业帮服务观测之基础观测能力

    在 2010 年代,云计算引入了发布 - 订阅(pub-sub)、微服务、事件驱动工作流和无服务器模型等模式,现在大多数基于云的分布式系统都是以它们为基础的。 Amazon Bedrock(和许多其他)服务原生支持此功能,而且根据报告,对于大型提示,这减少了高达 85% 的延迟。 然后,你可以通过推理服务器和 LLM 处理这些批次。这种方法可以帮助你增加系统的吞吐量,并确保 GPU 以接近最佳的利用率运行。 虽然你可以在定制系统中实现自定义排队和批处理逻辑,但生产就绪的工具,如 vLLM、NVIDIA Triton 推理服务器 和 AWS Bedrock,为大多数用例提供了强大的、现成的解决方案。 在入口点引入一个轻量级的初始模型,类似于传统微服务中的反向代理或 API 网关。像反向代理一样,这个模型可以帮助实现模型之间的负载均衡,缓存频繁使用的响应,并优雅地处理回退。

    21610编辑于 2025-06-08
  • 来自专栏程序猿的大杂烩

    Service Mesh - Istio服务观测

    洞察你的服务:使用Kiali观测你的微服务应用 微服务架构可视化的重要性: 痛点: 服务间依赖关系错综复杂 问题排查困难,扯皮甩锅时有发生 可视化的优势: 梳理服务的交互关系 了解应用的行为与状态 什么是 Kiali: Kiali属于Istio的集成组件之一,是一个用于Istio的可观测性控制台,具有服务网格配置和验证功能。 开发有较强的绑定关系 Kiali 是 Istio 服务观测的一环 Kiali 的功能: ? AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.88 Safari/537.36" "1e449e4d-0f3f-928b-9add-8b8ace3f5feb AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.88 Safari/537.36" "1e449e4d-0f3f-928b-9add-8b8ace3f5feb

    1.4K20发布于 2020-12-28
  • 来自专栏后台全栈之路

    腾讯 tRPC-Go 教学——(8)通过泛 HTTP 能力实现和观测 MCP 服务

    腾讯 tRPC-Go 教学——(8)通过泛 HTTP 能力实现和观测 MCP 服务 MCP 应用场景简介 LLM的MCP(Model Context Protocol,模型上下文协议)是由 Anthropic 不过如果希望将自己的 MCP 服务开放使用的话,就必须得通过 HTTP 来提供 MCP 服务了。 就本例子来说,从日志中我们可以观测到,Cursor 向 /mcp/sse 发起了一个 GET 请求,然后 mcp-go 返回了以下数据: event: endpoint data: /mcp/message 如果你想开发自己的MCP服务,希望这篇文章能给你一些启发,也顺便展示了一下 tRPC 实现普通泛 HTTP 服务的能力。 原文标题:《腾讯 tRPC-Go 教学——(8)通过泛 HTTP 能力实现和观测 MCP 服务》 发布日期:2025-04-18 原文链接:https://cloud.tencent.com/developer

    1.3K30编辑于 2025-04-19
  • 来自专栏运维开发故事

    k8s的可观测

    概念 “可观测性”这个名词其实是最近几年才从控制理论中借用的舶来概念,不过实际上,计算机科学中关于可观测性的研究内容已经有了很多年的实践积累。 通常,人们会把可观测性分解为三个更具体的方向进行研究,分别是:日志收集、链路追踪和聚合度量。 结合k8s可观测性 度量(Metrics) 度量的主要目的是监控(Monitoring)和预警(Alert)。比如说,当某些度量指标达到了风险阈值时就触发事件,以便自动处理或者提醒管理员介入。 而在微服务时代,追踪就不只局限于调用栈了,一个外部请求需要内部若干服务的联动响应,这时候完整的调用轨迹就会跨越多个服务,会同时包括服务间的网络传输信息与各个服务内部的调用堆栈信息。 这个监控系统应该从对外的 API 开始,然后将后台的实际服务给关联起来,然后再进一步将这个服务的依赖服务关联起来,直到最后一个服务(如 MySQL 或 Redis),这样就可以把整个系统的服务全部都串连起来了

    70630编辑于 2023-05-01
  • 来自专栏NetCore 从壹开始

    系列:8、在Centos系统中,搭建Skywalking服务

    并将查询请求封装为graphQL提交给后端,后端通过ribbon做负载均衡转发给OAP集群,再将查询结果渲染展示 搭建Skywalking环境,一共需要四个步骤: 1、搭建持久化环境; 2、配置Skywalking服务 Skywalking可视化平台; 4、在对于的客户端中配置Agent; 一、数据持久化 持久化方案,官方主要使用免费开源的数据库,主要有以下几种: H2 OpenSearch ElasticSearch 6, 7, 8 docker run -d --name=sw_mysql -p 3306:3306 -e MYSQL_ROOT_PASSWORD=pwd@123 mysql:5.7 二、安装 Skywalking OAP 服务 skywalking共有两个服务协议,分别是http(提供可视化接口)和grpc(提供agent数据传输)。 设置skyapm.json 说明:skyapm.json需要设置属性——始终复制 { "SkyWalking": { "ServiceName": "bg::op::gateway",//服务

    1.8K20编辑于 2023-01-09
  • 来自专栏JiekeXu之路

    MySQL 8 主从延迟监控(复制可观测性)

    大家好,我是 JiekeXu,很高兴又和大家见面了,今天和大家一起来看看 MySQL 8 主从延迟监控(复制可观测性),欢迎点击上方蓝字“JiekeXu DBA之路”关注我的公众号,标星或置顶,更多干货第一时间到达 : 54d83026-40eb-11ee-a5d3-c8cb9e32df8e:105184-105547 *************************** 8. row ************* :1-4,54d83026-40eb-11ee-a5d3-c8cb9e32df8e:1-137384,54d8329c-40eb-11ee-a5d3-c8cb9e32df8e:1-5,7b6bf4f0- :1-4,54d83026-40eb-11ee-a5d3-c8cb9e32df8e:1-138552,54d8329c-40eb-11ee-a5d3-c8cb9e32df8e:1-5" 结论 复制可观测性非常详细,并为 MySQL 8 提供了大量信息。也许现在是更改查看或监视复制方式的好时机。

    1.3K20编辑于 2023-09-26
  • 来自专栏痴者工良

    Isito 入门(四):微服务观测

    本教程已加入 Istio 系列:https://istio.whuanle.cn 可观测性 Istio 集成了 Jaeger、Zipkin 和 Skywalking 等链路追踪应用,能够有效地捕获服务网格的结构 Kiali 使用这些 Prometheus 数据来生成服务之间的流量、错误率、延迟等指标。 Istio 遥测数据:Istio 服务网格生成的遥测数据包括请求、响应、延迟以及 Envoy 代理的其他性能指标。 Kiali 从这些遥测数据中获取服务拓扑信息,以创建服务之间的依赖关系图。 Kiali 将这两个数据源的信息整合在一起,生成 Graph,它展示了服务网格的拓扑结构、服务之间的流量以及其他性能指标。 这有助于用户更好地理解服务之间的依赖关系,发现潜在的性能问题,并优化服务网格配置。 可能失败的原因 如果你的 Kiali 一直显示 Empty Graph。

    79340编辑于 2023-07-24
  • 来自专栏技术、架构与思维

    .Net微服务实战之可观测

    系列文章 .Net微服务实战之技术选型篇 .Net微服务实战之技术架构分层篇 .Net微服务实战之DevOps篇 .Net微服务实战之负载均衡(上) .Net微服务实战之CI/CD .Net微服务实战之 Kubernetes的搭建与使用 .Net微服务实战之负载均衡(下) .Net微服务实战之必须得面对的分布式问题 前言 很多次去面试,有经验的面试官都会问一个问题,你是怎么去定位日常遇到的问题? 日志、指标、跟踪三者结合起来有一种统称——可观测性 运维是架构的地基,我第一次看到这句是在张辉清写的《小团队构建大网站:中小研发团队架构实践》,说实话,我非常的认同。 可观测性 可观测性的意思是可以由系统的外部输出推断其内部状态的程度,在软件系统中,可观察性是指能够收集有关程序执行、模块内部状态以及组件之间通信的数据。 同时他还支持多种告警接收方式,常见的如邮件、企业信、钉钉等。

    79410发布于 2021-10-09
  • 来自专栏干货满满

    极速体验|使用 Erda 微服务观测接入 Jaeger Trace

    但在要实现微服务系统完整的可观测性,我们发现 Jaeger 本身也具有一定的局限性: 相比其他的可观测性系统,Jaeger 更专注于链路追踪(Tracing),日志和指标功能支持比较有限。 那么这种情况下我们怎么去降低可观测性平台的复杂性?怎么去提供高可用和高性能的后端服务? 最好的方式是寻找一个能够兼容 Jaeger 的后端系统,提供高可靠、高性能的能力。 当 Jaeger 相遇 Erda Erda 作为一款云上应用协同开发平台,提供了 SaaS 化可开箱即用的可观测性云服务,免去了自己运维多个监控、日志系统后端的复杂性,同时也提供了完整的微服务观测能力, 接下来,我们看一下如何使用 Jaeger SDK 把数据接入 Erda 微服务观测平台。 首先,在管理中心创建一个监控项目(监控项目和研发项目的区别是后者除观测能力之外还包含完整的 DevOps 研发功能): 接下来在微服务治理平台中找到创建的监控项目,进入后点击【环境设置】 > 【接入配置页面

    95630编辑于 2022-03-09
  • 来自专栏大数据-BigData

    博增值团队可观测性实践落地与回顾-上篇

    前言 前言、理论,实践请参考 博增值团队可观测性探索与实践-初探 、博增值团队可观测性探索与实践-实践 强烈建议优先阅读。 提前说明一下,本人现在已经从博离职了,这篇文章算是对我过去两年多关于可观测性相关工作的反思与回顾吧。 截止23年3月末,博增值团队从上线一站式可观测平台到现在也运行了差不多两年的时间了。 异步处理:对于耗时较长的任务,拆分异步处理,减轻服务器压力,提高响应速度。 4. 传统物理机迁移 k8s: 1. 更多实现细节请参考: 博增值团队可观测性探索与实践-初探 、博增值团队可观测性探索与实践-实践 实施过程 实施过程是项目成功的保证之一。 捆绑生态:捆绑 k8s 服务、捆绑团队框架,接入生态的用户可以体验开箱即用的快感。后面回顾来看,这是整个生态能推动的最大功臣。

    69810编辑于 2023-04-18
  • 来自专栏云云众生s

    趋势报告:合并可观测性和IT服务管理

    在 IT 领域,可观测性和 IT 服务管理 (ITSM) 历来在孤岛中运行。但随着 IT 环境变得越来越复杂和繁重,IT 团队需要的不只是点解决方案。 因此,可观测性和 ITSM 服务正在向融合靠拢。这种转变将为 IT 运营 (ITOps) 领域带来巨大的好处,使 IT 团队能够达到前所未有的效率和生产力水平。 什么是可观测性? 随着现代 IT 基础设施变得越来越复杂,该行业已投入时间、金钱和精力来改进可观测性工具和服务。 但可观测性的承诺并不是 IT 复杂性的万能药。 在提供有效的服务感知和可用性方面,可观测性只是难题的一部分。 看看这些数字:根据 Enterprise Strategy Group 研究,91% 的组织在部署可观测性解决方案时报告遇到了挑战。 可观测性的目标是提供对 IT 生态系统的可见性和理解。可观测服务和 ITOps 团队需要采取的警报之间经常存在差距。

    18810编辑于 2024-05-16
  • 来自专栏腾讯云中间件的专栏

    基于 SkyWalking 的腾讯云微服务观测最佳实践

    本文主要基于智慧零售腾讯有数产品的业务背景分享基于 SkyWalking 的腾讯云微服务观测实践,希望给有这方面需求的同学一些启发。 作者介绍 陈俊洪 腾讯智慧零售部 运营开发工程师 擅长数据资产管理、微服务治理等 背景 众多的微服务缺乏统一的管理规范(监控、调用链追踪) 多账号公有云,自研云,内网 k8s 多个部署平台 TAF skywalking-trace 腾讯微服务观测平台:TSW 确定了组件之后,如何能让开发同学更专注于业务功能开发,而不需要关注 SkyWalking 底层服务的日常运维? Agent性能分析图 总结 应用性能管理只是服务治理中的一部分,本文以腾讯有数业务的后台服务现状为背景,为了解决当前遇到的服务调用监控、服务链路追踪和服务性能诊断的3大问题,先后介绍了开源 SkyWalking 腾讯微服务观测平台产品概述: https://cloud.tencent.com/document/product/1311/50754 3.

    1.9K40发布于 2021-03-29
  • 企业信接口在可观测性平台中的深度集成实践

    企业信接口在可观测性平台中的深度集成实践随着现代分布式系统复杂度不断提升,可观测性(Observability)已成为保障系统稳定性的核心技术支柱。 本文将深入探讨如何将企业信接口深度融入可观测性技术栈,构建具备主动洞察与协同排障能力的智能运维体系。一、可观测性场景下企业信的定位演进在传统的可观测性实践中,企业信常被简化为“告警通知通道”。 ├──告警收敛与智能路由├──上下文组装服务├──交互式诊断卡片生成└──协同作战室管理三、核心技术实现方案1.基于OpenTelemetry的端到端可观测性集成通过标准化可观测性数据模型,实现与企业信接口的无缝对接 alertService.sendErrorDiagnosticCard(getOnCallEngineer(span.getServiceName()),card);//重置计数器errorCounts.remove(serviceKey);}}}//企业信可观测性告警服务 script_id,arguments,executionResult,user);return{success:true,execution_id:executionResult.id};}}4.可观测性数据的长期存储与分析构建专门的企业信可观测性数据仓库

    10710编辑于 2026-02-07
  • 来自专栏滚雪球学SpringBoot

    服务网格环境下实现微服务的可观测性与诊断能力!

    而在这些功能中,可观测性与诊断能力无疑是最为关键的部分。  在本篇文章中,我将深入探讨如何在服务网格环境下,通过使用 Istio 或 Linkerd 等技术来提升微服务架构的可观测性与诊断能力。 通过服务网格,我们可以在不改变微服务本身的代码情况下,获得全面的可观测性和强大的诊断能力。 ,模拟服务故障发生。实际应用中,故障注入可以通过引入故障注入框架(如 Chaos Monkey)或者手动触发网络延迟、断开数据库连接等方式进行。8. 通过本文的分析和示例,相信你已经掌握了如何利用服务网格提升微服务架构的可观测性与诊断能力。 如果你也在面对微服务架构中的可观测性和故障排查问题,服务网格绝对值得你去尝试并深入学习。  愿你在微服务的世界中,能够通过强大的可观测性和诊断能力,为你的应用和用户带来更加稳定、可靠的服务

    55821编辑于 2025-02-21
  • 来自专栏痴者工良

    Istio 入门(三):体验 Istio、微服务部署、可观测

    在本章中,我们将会学习到如何部署一套微服务、如何使用 Istio 暴露服务到集群外,并且如何使用可观测性组件监测流量和系统指标。 书店微服务分为四个单独的微服务,在上图中已经使用红色方框画出来了。这四个微服务分别是: productpage: 汇集所有服务的数据,生成浏览页面。 productpage type: NodePort kubectl -n bookinfo apply -f productpage_tmpsvc.yaml 查看所有 Service: root@k8smain root@k8smain:/data/learn/book# kubectl get gw -A NAMESPACE NAME AGE bookinfo bookinfo-gateway root@k8smain:/data/learn/book# kubectl get vs -A NAMESPACE NAME GATEWAYS HOSTS

    2.5K31编辑于 2023-07-24
  • K8s企业级深度研修:云原生、DevOps、可观测性、弹性伸缩、服务网格、异地多活

    在云原生的时代,Kubernetes(K8s)已成为事实上的操作系统。无数工程师涌入这个赛道,学习 kubectl 命令,编写 YAML 文件,部署应用。 要真正成为企业不可或缺的稀缺人才,你必须超越工具的表层,掌握 K8s 的全栈能力,尤其是其中最具挑战性和价值的两大支柱:可观测性(Observability)与异地多活(Multi-Active Geo-Replication 二、 破局之路一:掌握可观测性,成为系统的“先知”如果说 K8s 是一辆复杂的赛车,那么可观测性就是它的仪表盘、传感器和诊断系统。 从“救火队员”到“先知”:掌握了可观测性,你不再被动地等待告警。你可以通过分布式追踪,清晰地看到一个请求在微服务迷宫中的完整路径,精准定位到毫秒级的延迟瓶颈。 数据驱动的决策者:可观测性提供的不是原始数据,而是洞察。你可以基于这些数据,向业务方提出优化建议:“A 服务的延迟增加了 20%,导致用户转化率下降 5%,建议优化其数据库查询。”

    29710编辑于 2025-11-27
  • 来自专栏爱可生开源社区

    新特性解读 | MySQL 8 复制延迟观测新方式,更全面更精准

    一直以来 MySQL 复制延迟观测是不完善的,既无法观测到真实的主从延迟,也无法支持复杂的复制拓扑环境,常用的 second_behind_master 指标更多是判断是否存在回放延迟,以及趋势变化。 你无法直观的观测到事务精确的延迟情况,因为 slave 无法获知事务在 master 上的提交时间。 MySQL 8 复制延迟观测的改进 ---- WL#7319 和 WL#7374 共同完善了复制延迟观测,WL#7319 Infrastructure for GTID based delayed replication QUEUEING_TRANSACTION_IMMEDIATE_COMMIT_TIMESTAMP FROM performance_schema.replication_connection_status MySQL 8 从根源上解决了过往版本缺少事务提交时间且无法传递的问题,PS 视图暴露更多观测点简化了观测方式,帮助工程师更精准的诊断复制延迟问题。

    97230发布于 2020-03-13
  • 来自专栏全栈程序员必看

    信公众平台-服务号开发

    文章目录 背景: 一、信各个平台介绍 二、公众平台介绍 三、开发前准备 四、服务器配置 五、服务器验证 六、消息接收 七、客服消息 八、获取素材 九、相关工具 十、最终效果展示 总结 背景: 近期接到了涉及信开放平台和信公众平台相关的开发需求 ,开发过程中踩了许多坑,把相关问题整理记录下来以便巩固记忆,并把总结的经验分享出来,本篇分享服务号开发,希望可以给大家提供帮助 一、信各个平台介绍 1、信开放平台:面向开发人员,为网站、App提供信第三方登录功能 IP为白名单,白名单以外的ip请求access_token接口会报40164错误,有了 access_token 才能调用信的各种接口 四、服务器配置 开启服务器配置,开启以后服务号的推送信息将会传送到所配置的服务器中 ,服务器将发送GET请求到填写的服务器地址URL上,GET请求携带参数如下表所示: 参数 描述 signature 信加密签名,signature结合了开发者填写的token参数和请求中的 服务器在五秒内收不到响应会断掉连接,并且重新发起请求,总共重试三次。假如服务器无法保证在五秒内处理并回复,可以直接回复空串,服务器不会对此作任何处理,并且不会发起重试。

    10.7K30编辑于 2022-07-28
  • 来自专栏owent

    游戏服务的可观测性能力建设(C++生态)

    前言 近年来可观测性领域越来越成熟,游戏服务的可观测性能力建设日益成为提升产品质量与运维效率的关键环节。随着游戏系统架构的不断复杂化,传统的监控和故障排查方式已难以满足业务高可用和用户体验优化的需求。 通过健全的可观测性体系,可以实现对游戏服务全链路的实时监控、异常检测与分析,助力技术团队及时发现和定位问题,推动产品持续优化与稳定迭代,从而为玩家提供更加流畅和可靠的游戏体验。 作为 OpenTelemetry 社区 C++ SDK 的核心贡献者,我一直致力于将可观测性能力引入并深度集成和应用到游戏服务框架和业务开发过程中。 在有了指标上报和策略管理之后,我们就可以结合新版本K8S的HPAv2的外部指标和自定义指标来驱动K8S管理Pods。 在HPA控制器的层面,我们又加了两组指标来和K8S打通。 最后在震荡期之后的安全退出阶段,写出预期副本数据的指标,通知K8S扩缩容。 无状态服务直接按目标分布标签的策略路由控制集群分布即可。

    40610编辑于 2025-05-27
  • 来自专栏ytkah

    信竟然还能当笔记用!【信高级教程8

      信除了用来聊天沟通、刷朋友圈、看公众号外,很多朋友还不知道信还能当笔记用吧?记笔记?没错,新版信的收藏功能就隐藏这样的神秘技能。 厦门就随ytkah一起来看看怎么玩吧   1、首先,我们登陆信,点击底部的【我】选项,点击进入。 ?   2、点击收藏   3、点击右上角的【+】 ?    4、直接在信笔记页面中点击光标,即可写笔记内容;   点底部第1个的“图片”选项,可选择要插入的图片。在插入图片的时候,也可以选择摄像头拍摄照片; ? ?    ios版的信添加新收藏比较不一样,直接把“拍摄照片”直接提出来,替换了“增加文件”的功能菜单 ?   5、添加位置功能,点击第2个的“位置”选项,即可分享当前信所在的地理位置; ?    在信收藏页面中,可看到自收藏的信息与写的笔记。

    1.5K110发布于 2018-03-06
领券