- 综合排序
- 最热优先
- 最新优先
- 来自专栏流计算操作效率提升指南
流计算 Oceanus 操作效率提升指南一
[image.png] 快速进入体验： https://console.cloud.tencent.com/oceanus/job
1.4K90编辑于 2022-05-23 - 来自专栏腾讯云大数据
流计算 Oceanus 操作效率提升指南（一）
作者：李贤雨，腾讯 CSIG 工程师 批量操作 功能简介 为了避免用户机械重复地对作业进行某一类操作，Oceanus 平台支持五种快捷高效的批量操作。分别是批量启动、停止、删除、创建副本、移动。 更多 Oceanus 最佳实践以及入门指引参见我们的 专栏文章，最后欢迎大家猛戳 一元购 试用 Oceanus，机不可失时不再来：） 扫码加入 流计算 Oceanus 产品交流群 流计算 Oceanus 限量秒杀专享活动火爆进行中↓↓ 扫码关注「腾讯云大数据」，了解腾讯云流计算 Oceanus 更多信息~ 腾讯云大数据 长按二维码 关注我们
1.1K20编辑于 2022-06-20 - 来自专栏腾讯云流计算 Oceanus
腾讯云流计算 Oceanus Connector 使用示例汇总
各位老铁，刚刚总结了流计算 Oceanus (Flink) 上下游 Connector 的使用示例，作为新年福利送给大家。 欢迎收藏~ Flink SQL 示例： Connector 组合 - SQL 作业 文章链接 说明 datagen -> Oceanus -> blackhole https://cloud.tencent.com /developer/article/1895677 零基础 datagen -> Oceanus -> Elasticsearch https://cloud.tencent.com/developer 入门级 CKafka -> Oceanus -> CKafka https://cloud.tencent.com/developer/article/1867621 入门级 datagen -> Oceanus Oceanus -> COS 对象存储 https://cloud.tencent.com/developer/article/1875598 入门级 MySQL -> Oceanus -> ClickHouse
3K30编辑于 2022-01-24 - 来自专栏腾讯云流计算 Oceanus
基于流计算 Oceanus 和 Elasticsearch 构建日志分析系统
实时即未来，最近在腾讯云流计算 Oceanus（Flink）进行实时计算服务，以下为MySQL 到 Flink 进行处理分析，再存储到ES的实践。 方案中使用了云数据库 MySQL、流计算 Oceanus（Flink）、Elasticsearch、Kibana 和私有网络 VPC。 图片.png 2 前置准备 2.1 创建流计算 Oceanus 集群 在 Oceanus 控制台的【集群管理】->【新建集群】页面创建集群，选择地域、可用区、VPC、日志、存储，设置初始密码等。 student score' 2.3 创建 Elasticsearch Service 集群 在腾讯云主页【产品】->【大数据】->【ElasticSearch】页面购买ES集群，这里为了简单，选择了与流计算 Oceanus 同一个地域，同可用区。
1.5K60编辑于 2021-11-29 - 来自专栏腾讯云文档
【优秀最佳实践展播】第12期：流计算 Oceanus
“产品使用攻略”、“上云技术实践” 有奖征集啦～ 图片案例名称案例简介使用流计算 Oceanus 和 ES 构建日志分析系统介绍从 mysql 数据库采集数据到流计算服务 Oceanus 进行分析，最后输出到 使用 MySQL 关联 HBase 维表数据到 ClickHouse介绍结合 MySQL 数据库、流计算 Oceanus、HBase 以及云数据仓库 ClickHouse 来构建实时数仓，并通过流计算 视频直播解决方案之实时 BI 分析结合腾讯云消息队列 CKafka、流计算 Oceanus、私有网络 VPC、商业智能分析 BI 等，对视频直播行业数字化运营进行实时可视化分析。 监控解决方案之系统级和应用级实时监控结合腾讯云 Ckafka、流计算 Oceanus、腾讯云数据库 Elasticsearch、腾讯云 Prometheus 等，通过 Filebeat 实时监控系统日志和应用日志 指标统计之自建集群数据实现 UV/PV 统计结合本地自建 Kafka 集群、腾讯云流计算 Oceanus（Flink）、云数据库 Redis 对博客、购物等网站 UV、PV 指标进行实时可视化分析。
1.5K31编辑于 2022-10-28 - 来自专栏腾讯云大数据
EventBridge 最佳实践场景：流计算 Oceanus 告警消息实时推送
流计算 Oceanus 以实现企业数据价值最大化为目标，加速企业实时化数字化的建设进程。 通过结合事件总线 EventBridge + 云函数 SCF，可以实时捕获流计算 Oceanus 集群异常事件并完成推送，本文演示如何捕获流计算 Oceanus 集群状态变更，并发送到企业微信或钉钉、飞书客户端 流计算 Oceanus 常见事件类型如下： 流计算作业失败 流计算快照失败 JobManager Pod 异常退出 TaskManager 背压较高 TaskManager CPU 负载过高 TaskManager 短信告警效果 欢迎识别下方二维码，进入「流计算 Oceanus」技术交流群，和产品经理、技术爱好者一起探讨！ Oceanus 限量秒杀专享活动火爆进行中↓↓ 点击文末「阅读原文」，了解腾讯云流计算 Oceanus 更多信息~ 腾讯云大数据 长按二维码 关注我们
1.3K30编辑于 2022-01-07 - 来自专栏腾讯云流计算 Oceanus
腾讯云流计算 Oceanus 最佳实践&解决方案汇总
本页面汇总了腾讯云流计算 Oceanus (Flink 实时计算) 产品的最佳实践和解决方案文档，将持续更新。 产品文档：流计算 Oceanus 产品文档 最佳实践&解决方案： Oceanus 实践-从0到1接入 Ckafka Oceanus 实践-从0到1开发 PG SQL 作业 Oceanus 实践-从0到1 开发 ClickHouse SQL作业 Oceanus 实践-从0到1开发 MySQL-cdc 到 ES SQL 作业 Oceanus 实践-消费 CMQ 主题模型数据源 Oceanus 实践-从0到1 接入 COS SQL 作业 日志搜索：基于流计算 Oceanus 和 Elasticsearch 实现日志搜索场景实时数据分析 实时数仓：基于流计算 Oceanus 实现 MySQL 和 Hbase 维表到 ClickHouse 的实时分析 视频直播：基于流计算 Oceanus（Flink） 的实时大屏分析 实时监控：基于流计算 Oceanus（Flink) 实现系统和应用级实时监控 指标统计：基于流计算
4.8K122编辑于 2021-12-21 - 来自专栏腾讯云大数据
基于流计算 Oceanus（Flink） CDC 做好数据集成场景
例如 MySQL 的 binlog 日志完整记录了数据库中的变更，可以把 binlog文件当作流的数据源，通过对 MySQL Binlog 进行实时采集，然后对接一些实时计算引擎或者 APP 进行消费后把数据传输入 笔者认为这种优势主要来源有： 1.架构的先进行 2.集合了当下主流热门的技术优势 我们以腾讯云， 云上全托管流计算 Oceanus(Oceanus 是云上基于 Apache Flink 构建的高性能企业级实时大数据分析平台 场景和最佳实践 在场景和最佳实践方面，这里引用一下云+ 社区 腾讯云流计算 Oceanus 专栏文章 。这里可以找到关于 CDC的当下热门的应用场景和最佳实践，而且定时更新，极具参考价值。 同时希望大家多关注云+ 社区 腾讯云流计算 Oceanus，多多交流，相互学习，共同进步。 流计算 Oceanus 限量秒杀专享活动火爆进行中↓↓ 点击文末「阅读原文」，了解腾讯云流计算 Oceanus 更多信息~ 腾讯云大数据 长按二维码 关注我们
1.7K10编辑于 2022-02-17 - 来自专栏腾讯云大数据
流计算 Oceanus 限量1元秒杀，立省2000元
一、流计算 Oceanus 限量秒杀专享活动 二、什么是ETL ETL（Extract，Transform，Load）描述了将数据从源端经过抽取、转换、加载至目的端的过程。 企业收集到的原始数据通常存在数据缺失、数据结构混乱等问题，难以直接用来分析或计算。 使用腾讯云流计算 Oceanus 开发 ETL 作业时，用户只需选择数据源表和目的表，并根据业务逻辑完成字段映射的配置，即可实现低代码、可视化开发。 更加复杂的数据加工逻辑也可以通过流计算 Oceanus SQL 作业来实现。 流计算 Oceanus ETL 作业，助您轻松应对海量数据的处理和分析决策。 三、ETL构建视频 点击文末「阅读原文」，了解腾讯云流计算 Oceanus 更多信息~ 腾讯云大数据 长按二维码 关注我们
93350发布于 2021-10-08 - 来自专栏腾讯云流计算 Oceanus
EventBridge 最佳实践场景：流计算 Oceanus 告警消息实时推送
作者：腾讯云云函数团队产品经理 April 导语 本文演示了如何捕获流计算 Oceanus (Flink) 集群状态变更，并通过事件总线（EventBridge）发送到企业微信或钉钉、飞书客户端。 流计算 Oceanus 是大数据产品生态体系的实时化分析利器，是基于 Apache Flink 构建的具备一站开发、无缝连接、亚秒延时、低廉成本、安全稳定等特点的企业级实时大数据分析平台。 流计算 Oceanus 以实现企业数据价值最大化为目标，加速企业实时化数字化的建设进程。 通过结合事件总线 EventBridge + 云函数 SCF，可以实时捕获流计算 Oceanus 集群异常事件并完成推送，本文演示如何捕获流计算 Oceanus 集群状态变更，并发送到企业微信或钉钉、飞书客户端 [事件配置] 流计算 Oceanus 常见事件类型如下： 流计算作业失败 流计算快照失败 JobManager Pod 异常退出 TaskManager 背压较高 TaskManager CPU 负载过高
1.3K10编辑于 2022-01-12 - 来自专栏腾讯云大数据
流计算 Oceanus | Flink JVM 内存超限的分析方法总结
官方文档 [1] 和很多第三方博客 [2] [3] 都对此有较为详尽的分析，这里只做流程的简单说明，不再详尽描述每个区域的具体计算过程。 总而言之，优先级是 新配置 > 旧配置 > 无配置（计算推导 + 默认值）。 我们正在规划将这些定位流程标准化地集成到我们的流计算 Oceanus 平台上，做到自助、自动诊断，逐步实现我们的愿景：打造大数据产品生态体系的实时化分析利器，成为一个基于 Apache Flink 构建的具备一站开发 mp.weixin.qq.com/s/aYwIH0TN3nSzNaMR2FN0AA [8] jemalloc https://github.com/jemalloc/jemalloc/releases 流计算 Oceanus 限量秒杀专享活动火爆进行中↓↓
1.6K00编辑于 2022-01-21 - 来自专栏腾讯云流计算 Oceanus
基于流计算 Oceanus Flink CDC 做好数据集成场景
首先需要做的就是进行跨应用的数据融合计算，需要将数据从孤立的数据源中采集出来，汇集到可被计算平台高效访问的目的地。此过程称之为ETL。 例如 MySQL 的 binlog 日志完整记录了数据库中的变更，可以把 binlog 文件当作流的数据源，通过对 MySQL Binlog 进行实时采集，然后对接一些实时计算引擎或者 APP 进行消费后把数据传输入 笔者认为这种优势主要来源有： 1.架构的先进行 2.集合了当下主流热门的技术优势 我们以腾讯云， 云上全托管流计算 Oceanus(Oceanus 是云上基于 Apache Flink 构建的高性能企业级实时大数据分析平台 场景和最佳实践 在场景和最佳实践方面，这里引用一下云+ 社区 腾讯云流计算 Oceanus 专栏文章 。 这里可以找到关于 CDC 的当下热门的应用场景和最佳实践，而且定时更新，极具参考价值。 同时希望大家多关注云+ 社区 腾讯云流计算 Oceanus，多多交流，相互学习，共同进步。
1.9K70编辑于 2021-12-22 - 来自专栏腾讯云流计算 Oceanus
【流计算 Oceanus】巧用 Flink 实现高性能 ClickHouse 实时数仓
[Flink 的流表映射] 由于开源版 Flink 的应用开发、调优、监控、运维较为繁琐，腾讯云为了解决这些痛点，推出了 流计算 Oceanus 产品。 对于平台提供方，例如我们腾讯云流计算 Oceanus 而言，需要提供元数据管理等基本能力，避免实际需要修改表结构时，难以追踪多个不同作业之间的依赖关系，造成错漏。 而影响链路时延有很多不同因素，例如： [影响时延的因素] 流计算 Oceanus 平台为了确保及时发现上述问题，也做了很多优化工作。 在异常感知方面，流计算 Oceanus 平台还可以自动诊断作业运行期间的常见异常事件，例如 TaskManager CPU 占用率过高、Full GC 事件过久、严重背压、Pod 异常退出等，事件可以秒级送达 [数仓的演进] 流计算 Oceanus 产品在实时数仓领域长期深耕，也将批流融合数仓也作为重点发展方向。
5.6K92编辑于 2021-12-17 - 来自专栏腾讯大数据的专栏
SIGMOD 2025｜腾讯 Oceanus 开创云原生流计算弹性新纪元
基于这些原因，腾讯实时计算团队以流计算场景的成本效益及稳定性为出发点，对云上实时计算场景的弹性伸缩能力进行了探索，提出了一种针对云原生流计算场景的自动化垂直弹性解决方案，通过云原生跨层动态调整技术细粒度地调整计算资源 ，解决流计算场景的动态特性问题，同时最大程度地降低弹性伸缩对流计算服务 SLO 的影响，从而提升资源利用率及稳定性。 在该课题的研究过程中，主要面临以下技术挑战： ● 流量的动态特性并非具备绝对的周期性，需要准确地进行扩缩容预测； ● 资源调整行为需要保证流计算处理不会中断； ● 需要有效处理扩缩容后的各种异常情况，确保任务的稳定性 Oceanus 通过在流处理框架中实现统一的资源调整方案，引入紧密结合的跨层调整机制，从而实现 Flink、Kubernetes、JVM 三个组件层面的资源动态调整，实现原地资源调整并维持流式服务不间断运行 核心思想是统一流计算框架的资源管理与 Kubernetes、JVM 的资源声明及申请，从而实现资源的跨层实时变更能力。
92610编辑于 2025-05-08 - 来自专栏腾讯云流计算 Oceanus
基于流计算 Oceanus 和 Elasticsearch Service 实现实时监控系统
概述 本方案结合腾讯云 CKafka、流计算 Oceanus (Flink)、 Grafana 等，通过 Beats 中的 Filebeat 工具实时采集系统和应用监控数据，并传输到 CKafka，再将 创建私有网络 VPC 私有网络（VPC）是一块您在腾讯云上自定义的逻辑隔离网络空间，在构建 CKafka、流计算 Oceanus，Elasticsearch 集群等服务时选择建议同一个 VPC。 创建流计算 Oceanus 集群 流计算 Oceanus 是大数据产品生态体系的实时化分析利器，是基于 Apache Flink 构建的具备一站开发、无缝连接、亚秒延时、低廉成本、安全稳定等特点的企业级实时大数据分析平台 流计算 Oceanus 以实现企业数据价值最大化为目标，加速企业实时化数字化的建设进程。 在流计算 Oceanus 控制台的【集群管理】->【新建集群】页面创建集群，具体步骤请参考帮助文档。 4. 创建流计算 Oceanus 作业 在 Oceanus 中，对 Kafka 接入的数据进行加工处理，并存入 Elasticsearch 中。
1.5K40发布于 2021-11-18 - 来自专栏腾讯云大数据
流计算 Oceanus | 巧用 Flink 构建高性能 ClickHouse 实时数仓
Flink 的流表映射 由于开源版 Flink 的应用开发、调优、监控、运维较为繁琐，腾讯云为了解决这些痛点，推出了 流计算 Oceanus 产品。 对于平台提供方，例如我们腾讯云流计算 Oceanus 而言，需要提供元数据管理等基本能力，避免实际需要修改表结构时，难以追踪多个不同作业之间的依赖关系，造成错漏。 而影响链路时延有很多不同因素，例如： 影响时延的因素 流计算 Oceanus 平台为了确保及时发现上述问题，也做了很多优化工作。 数仓的演进 流计算 Oceanus 产品在实时数仓领域长期深耕，也将批流融合数仓也作为重点发展方向。 流计算 Oceanus & ClickHouse 服务组合套餐限时放价售卖中↓↓ 点击文末「阅读原文」，了解更多相关信息~ 腾讯云大数据 长按二维码 关注我们
1.2K30编辑于 2021-12-28 - 来自专栏腾讯云流计算 Oceanus
视频直播：基于流计算 Oceanus（Flink） 的实时大屏分析
1 解决方案描述 1.1 概述 本方案结合腾讯云 CKafka、流计算 Oceanus、私有网络 VPC、商业智能分析BI等，对视频直播行业数字化运营进行实时可视化分析。 [视频直播场景] 1.2 方案架构及优势 根据以上视频直播场景，设计了如下架构图： [架构图] 涉及产品列表： 流计算 Oceanus 私有网络 VPC 消息队列 CKafka 云数据库 MySQL EMR rid=8 2.2 创建 Oceanus 集群 流计算 Oceanus 服务兼容原生的Flink任务。 在 Oceanus 控制台的【集群管理】->【新建集群】页面创建集群，选择地域、可用区、VPC、日志、存储，设置初始密码等。VPC及子网使用刚刚创建好的网络。 3 方案实现 接下来通过案例为您介绍如何利用流计算服务Oceanus实现视频直播数字化运营的实时可视化数据处理与分析。
3K51编辑于 2022-04-27 - 来自专栏【腾讯云开发者】
流计算Oceanus | 巧用Flink构建高性能ClickHouse实时数仓
Flink的流表映射 由于开源版Flink的应用开发、调优、监控、运维较为繁琐，腾讯云为了解决这些痛点，推出了流计算Oceanus产品。 对于平台提供方，例如我们腾讯云流计算Oceanus而言，需要提供元数据管理等基本能力，避免实际需要修改表结构时，难以追踪多个不同作业之间的依赖关系，造成错漏。 而影响链路时延有很多不同因素，例如： 影响时延的因素 流计算Oceanus平台为了确保及时发现上述问题，也做了很多优化工作。 数仓的演进 流计算Oceanus产品在实时数仓领域长期深耕，也将批流融合数仓也作为重点发展方向。 （作者：董伟柯——腾讯云大数据产品中心高级工程师） 流计算Oceanus&ClickHouse服务组合套餐限时放价售卖中↓↓ 戳「阅读原文」立即预约直播，了解更多信息~
96530编辑于 2021-12-29 - 来自专栏腾讯云流计算 Oceanus
主用户为子用户添加流计算 Oceanus 授权策略指南
流计算 Oceanus 的云 API 已经启用 CAM 服务级鉴权。 默认情况下，所有主账号（也成为主用户）均有 QcloudOceanusFullAccess 策略，可以不用任何设置，正常使用流计算服务。 但是，所有子账号（也称为子用户）没有没有此策略，默认无权调用 Oceanus 的云 API，甚至无法访问流计算的界面，如下图（因为前端的操作也是通过调用云 API 来实现的）。 console.cloud.tencent.com/cam/policy，所有主账号应该默认就有这个策略（如果没有看到，请确认当前登录用户是否是主账号）： image.png 如果希望子账号也可以访问流计算页面 点击图中的“关联用户/组”链接： image.png 然后在弹出的对话框内，对需要授权的用户进行选择，例如下图选择 Kyle 用户进行授权： image.png 点击“确定”按钮，此时，该子账户就可以正常使用流计算的各项服务
1.3K30发布于 2019-11-18 - 来自专栏【腾讯云开发者】
指标统计：基于流计算Oceanus(Flink) 实现实时UVPV统计
一、解决方案描述 （一）概述 本方案结合本地自建Kafka集群、腾讯云流计算Oceanus（Flink)、云数据库Redis对博客、购物等网站UV、PV指标进行实时可视化分析。 （二）方案架构及优势 根据以上实时指标统计场景，设计了如下架构图： 涉及产品列表： 本地数据中心（IDC）的自建Kafka集群 私有网络VPC 专线接入/云联网/VPN连接/对等连接 流计算Oceanus 私有网络创建步骤请参考帮助文档： （https://cloud.tencent.com/document/product/215/36515） （二）创建Oceanus集群 流计算Oceanus是大数据产品生态体系的实时化分析利器 流计算Oceanus以实现企业数据价值最大化为目标，加速企业实时化数字化的建设进程。 ↓↓ ---- 点击下方「阅读原文」，了解腾讯云流计算Oceanus更多信息~
1.4K30发布于 2021-10-22
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号