首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏【腾讯云开发者】

    原生数据湖101

    二、原生数据湖架构三原则 原生数据湖架构的核心理念是低成本,并且追求不俗的性能。 综合公有上的机遇,我们提出原生数据湖架构三原则:存算分离采用对象存储降低存储成本、充分利用上弹性资源降低计算成本、通过缓存及建模革新等一些列补偿架构来提升性能,下面分别看看三原则的优势和要克服的困难 有 1:5 到 1:10 的成本优势。 Spot 价格通常能到三折甚至一折,如何充分利用 Spot 计算资源,又不至于被回收导致任务失败是原生数据平台的一挑战。 腾讯数据湖产品 要解决数据湖架构三原则中的诸多问题,从 0 打造原生数据湖,需要很多专业的公有背景和数据湖技术能力,腾讯为此推出两款数据湖产品,便于客户数据平台架构升级。

    84010发布于 2021-03-11
  • 来自专栏DBA随笔

    原生技术之docker学习笔记(5

    原生技术之docker学习笔记(5) 这两天在研究docker容器的底层原理和k8是相关的一些东西,说实话,这块儿的内容还挺复杂的,尤其是k8s的集群运维方面,没有一点沉淀真的很难理解各种模块之间的关系 当我们在Linux操作系统执行一个程序,这个程序可能是一个二进制文件,它被调用的时候,变成了计算机内存中的数据、寄存器中的值、堆栈中的指令、以及各种设备状态信息的一个集合。 再次查看mysqld进程的进程号: [root@VM-16-13-centos service]# ps -ef|grep mysql root 5152 5059 0 2020 pts/5 20 11:38 cpu -> cpu,cpuacct lrwxrwxrwx 1 root root 11 Nov 20 11:38 cpuacct -> cpu,cpuacct drwxr-xr-x 5 drwxr-xr-x 3 root root 0 Nov 20 11:38 freezer drwxr-xr-x 3 root root 0 Nov 20 11:38 hugetlb drwxr-xr-x 5

    52810发布于 2021-03-13
  • 来自专栏【腾讯云开发者】

    铺天盖地原生,什么才是真正的原生数据仓库?

    2015年之后,随着的发展,出现了新一代的原生数据仓库,我们称为智能数据云平台的阶段。每个阶段关注的点其实不太一样,环境、应用出现变化的时候,里面的技术架构也出现了一些的变革,之后会详细介绍。 从原生数据库系统来说,要做一个原生数据库系统是非常复杂的,要实现大规模计算、存储、事务管理等等,的集群架构不像只是在容器里面跑一个小的应用。 快5-10倍,这非常难,但我们做到了。 从数据共享角度来看,比如新一代的原生架构可以共享同一份数据,不需要因为集群的规模导致要分割很多种小的存储集群,相当于用一个的存储集群就搞定了。存储是统一的,只需要存一份数据,不会形成数据孤岛。 点击观看峰会的精彩总结视频 关注腾讯开发者社区,回复关键词:“数据”,可获取峰会当天全程回顾视频链接 6月5日,Techo TVP 开发者峰会 ServerlessDays China 2021,即将重磅来袭

    3.8K20发布于 2021-05-26
  • 来自专栏项目文章

    原生|实践指北】5:真实业务场景下原生项目落地实践学习

    大家学习原生,肯定都很少听过原生一些真实的场景下如何去运用如何去落地,只知道Docker能干嘛干嘛,K8s能用来高效能的管理容器编排,原生能够赋能项目如何如何减小成本等等。 那么本期文章就是笔者学习了一些腾讯/阿里基于原生的产品项目开放的落地实践方案的一些感想与学习记录。后续也会多写一些原生落地实践方案的学习记录! 在学习原生的时候,我才发现原来原生使得项目落地的方案离我们这么近,作业帮就是一个很好的例子。 2、原业务对服务间时延依赖,部分业务连接超时时间设置为5毫秒,所以无法承担细微系统调度和 网络波动,如果一旦在未经优化的内核和网络下,容易引起业务大面积超时。 那么这样一个的APP,每天都会产生大量的数据,当APP产生了数据之后,就需要有一个组件获取数据,并将数据写到kafka。

    48410编辑于 2024-06-07
  • 来自专栏云资讯小编的专栏

    腾讯将新增海外数据中心

    据新华社消息,腾讯公司 25 日在新加坡举行的媒体发布会上宣布,腾讯全球化布局全面提速,今年将新增海外数据中心,目的是为“走出去”的中资企业和海外企业拓展全球业务提供优质服务。 新增的数据中心包括美国硅谷、德国法兰克福、韩国首尔、印度孟买和俄罗斯莫斯科数据中心。此前,腾讯已经在多伦多、新加坡等地建立数据中心。 近半年,腾讯扩建了北京、上海、广州等地的数据中心,连同分布在亚太、欧洲、北美和南美地区的 11 大海外合作数据节点,目前开放的全球服务节点已达 29 个,腾讯也由此成为全球计算基础设施最广泛的中国互联网服务商 腾讯副总裁曾佳欣表示,经过对海外市场多年耕耘,腾讯已经在全球市场建立了自身的差异化优势。

    5.9K00发布于 2017-04-26
  • 来自专栏java学习java

    原生】Docker容器数据

    是什么 卷就是目录或文件,存在于一个或多个容器中,由docker挂载到容器,但不属于联合文件系统,因此能够绕过Union File System提供一些用于持续存储或共享数据的特性: 卷的设计目的就是数据的持久化 Docker容器产生的数据,如果不备份,那么当容器实例删除后,容器内的数据自然也就没有了。 为了能保存数据在docker中我们使用卷。 特点: 1:数据卷可在容器之间共享或重用数据 2:卷中的更改可以直接实时生效,爽 3:数据卷中的更改不会包含在镜像的更新中 4:数据卷的生命周期一直持续到没有容器使用它为止 数据卷案例 宿主vs容器之间映射添加容器卷 ,docker容器重启看数据是否同步。

    1.4K20编辑于 2022-11-15
  • 来自专栏云计算D1net

    构建原生权限的5个最佳实践

    本文介绍了构建原生权限的五个最佳实践,这些实践可以为开发人员减少很多麻烦。 基于原生/微服务的产品很复杂,为这些产品构建访问控制和管理权限也很复杂。而且每次拉取请求只会让情况变得更糟。 为了让人们的工作和生活更轻松,需要了解构建原生权限带来的独特挑战,并了解构建原生权限的五个最佳实践,这些实践可以为开发人员减少很多麻烦。 其次,原生应用程序往往需要集成第三方服务(例如计费、身份验证、数据库、分析等),并且除了开发人员自己的应用程序的微服务之外,还需要能够控制对它们的访问。 构建原生权限的5个最佳实践 为了处理所有这些更改,有一些最佳实践可以帮助开发人员构建原生权限,并有时间实际开发功能,而不是在处理权限方面不堪重负。 (5)GitOps 因此创建了一个单独的微服务来管理权限,并且能够以事件驱动的方式向它提供更新。现在如何管理这些更改、应用版本、应用各种制衡,并确保微服务的代码和数据符合需求和要求?

    68020编辑于 2022-05-18
  • 来自专栏技术那些事

    原生5课:Kubernetes工作负载管理

    本篇文章来自《华为云云原生王者之路训练营》黄金系列课程第5课,由华为容器技术专家Jessia Ding主讲,帮你了解工作负载的概念以及Kubernetes提供的内置工作负载的信息;Deployment 典型使用场景: 计算以及训练任务, 如批量计算,AI训练任务等 CronJob 主要处理周期性或者重复性的任务: 基于Crontab格式的时间调度 可以暂停/恢复CronJob 典型的使用场景: 周期性的数据分析服务

    1.9K00编辑于 2021-12-13
  • 来自专栏云云众生s

    原生平台工程的三悖论

    原生悖论 这种原生思维为开发者的工作带来了架构方面的关注。 原生开发者构建单个微服务,但也必须跟踪集群中的 Pod 行为以及集群池中的集群行为。换句话说,他们必须同时关注森林和树木。 答案在于数据。在开发微服务的同时保持对大局的适当关注的唯一方法是掌握有关原生基础设施性能的所有相关数据。 然而,太多的数据比太少的数据更糟,这就是为什么来自 Google Cloud 的工具的原生可观测性以及原生思维对于实现原生计算的业务目标至关重要。 鼓励开发者在大规模原生计算中把握全局对于实现软件工作目标至关重要,但没有适当的可观测性数据,他们将永远无法在这一全局和日常构建与部署微服务的工作之间找到平衡。 因此,整个原生思维的概念包含了所有这些平衡行为。倾听你的开发者,给他们正确的数据,让他们找到平衡。

    27910编辑于 2024-03-28
  • 来自专栏Lansonli技术博客

    数据需要拥抱原生吗?原生为什么这么火?

    一、前言 随着各种平台、计算的兴起,原生的概念应运而生,至于什么是原生下面的会详细介绍。作为大数据领域的开发者,如看待原生的技术,需要深入学习它吗? 我觉得原生和大数据有着密切关系,原生好比一把武器,如果你是一个武林高手,是拿一把神器去参加比武,还是拿着一根树枝和别人比武,结果很显然。 二、从招聘需求来看大数据原生 1、原生开发工程师 2、大数据工程师 简单对比一下,或多或少有共同掌握的内容,都比较重视你在Java语言的编程经验 三、计算的技术革命 1、互联网时代的历程 2、计算到底是什么 3、计算历程 4、名词 5平台的优缺点 优势 稳定性:平台大量资源,分布式集群部署,保障服务永不宕机,几个9;0.999999,1 弹性扩展:按需索取,一键秒级开通需要的资源 不符合特殊级别的安全场景 私有,搭建、维护、升级成本 四、计算技术架构演进变革 1、体系变革 2、架构变革 单体架构阶段 集群架构阶段  分布式架构阶段 分布式和集群的简单区别?

    1.3K51编辑于 2022-04-28
  • 来自专栏云技术+云运维

    原生原生应用概念解析

    在一般用法中,“原生”是一种构建和运行应用程序的方法,它利用了计算交付模型的优势。“原生”是关于如何创建和部署应用程序,和位置无关。 这意味着应用程序位于云中,而不是传统数据中心。 CNCF给出了原生应用的三特征: 容器化封装:以容器为基础,提高整体开发水平,形成代码和组件重用,简化原生应用程序的维护。 当你听到“重新平台化”一词时,通常是为了适应网络,存储甚至数据库技术的变化,以允许应用程序在云中运行,“Deloitte的Kavis说。 他们肯定会将一些工作卸载到库中,但最终它是一个包含大量子程序的应用程序。原生应用程序更加模块化,许多功能分解为微服务。这允许在不需要时关闭它们,并将更新推广到那个模块,而不是整个应用程序。 无状态 的松耦合特性意味着应用程序与基础架构无关,这意味着它们是无状态的。原生应用程序将其状态存储在数据库或其他外部实体中,因此实例可以来去,应用程序仍然可以跟踪应用程序在工作单元中的位置。

    3.7K34发布于 2019-10-29
  • 来自专栏让技术和时代并行

    Thoughtworks|探讨下原生安全的5个支柱

    解决此问题的最佳方法是使用单点登录 (SSO) 访问基础设施。 数据安全和隐私 从多个角度来看,数据安全和隐私至关重要:主要是法规(如 GDPR 和 CCPA)和客户信任。 有时,当存储组件(如 S3 存储桶)配置错误时,不应该访问数据的人可能会访问数据。解决这个问题的一种方法是使用“上的租户模型”来确保数据隔离。 原生加密服务不仅可以用来保护所有这些静态数据,还可以用来保护跨系统共享的数据。您还应该使用 S3 安全扫描工具;它们可以非常有效地发现常见的错误配置。 将较低的环境视为较小的安全风险是一个特别的错误。为了解决这个问题,重要的是您将每个盒子都视为生产。保护基线配置并持续扫描和审查所有环境变得至关重要。 这意味着它应该出现在每个事件中 - 从小到 - 例如签署工件的正确权限,在开发早期定义粒度访问以使用通过 IAM 规则路由的应用程序和数据库等组件之间的访问,一旦构建发生,就开始扫描镜像。

    67040编辑于 2023-03-18
  • 来自专栏云计算与大数据

    浅谈5 种典型的原生架构反模式

    本文将为大家讲解原生架构中常见的反模式。 如果涉及个性化推荐的商业需求,大数据和 AI 平台也是必不可少的。 依据 DDD 的 Domain 原则划分子域后,我们会使用 Bounded Context 来实现这些子域的落地。 、数据分析平台等。 当开发人员同时投入 3 到 5 个微服务应用的开发和维护时,想要在不同的应用之间快速切换且不出现错误,则是非常困难的。所以一定要铭记,对于微服务来说,自动化的 CI/CD 是最低的要求。 5 技术架构与组织能力不匹配 应用微服务化之后,会有更多的小团队负责不同的微服务应用,可能需要重新组建管理团队、开发团队和基础设施运维团队,由此可能会带来组织结构和管理方式的调整。

    1K30发布于 2021-08-26
  • 来自专栏程序大视界

    原生数据库的到来

    原创不易,且行且珍惜” 01 — 前言 1.1 何为原生数据库? 原生数据库?即「Cloud-Native Database Systems」。 原生数据库是一种通过平台进行构建、部署和分发的服务。作为一种平台,原生数据库以PaaS的形式进行分发,也经常被称作DBaaS;用户可以将该平台用于多种目的,例如存储,管理和提取数据。 1.2 为何原生数据库? 原生数据库就应运而生了,它很好地避免和解决了上述因传统数据库本身的缺陷带来的一系列问题。亚马逊科技在原生数据库方面的成果遥遥领先。 亚马逊科技提供了100余种产品免费套餐。 03 — 亚马逊的原生数据库 3.1 AWS 数据库 亚马逊原生数据,即AWS数据库是一种使用完全托管式专用数据库实现数据现代化的形式的基础设施。

    1.9K10编辑于 2022-09-22
  • 来自专栏赵化冰的技术博客

    译著:原生数据中心网络

    分布式应用架构的演变是一场由应用程序领舞,网络配合的双人舞,当应用程序开始翩翩起舞时,传统的网络已经无法跟上其灵活的步伐,于是现代数据中心网络的故事就开始了。 虽然市面上有很多网络和计算的中文书籍,但这些书籍要么偏重于介绍计算的整体架构,要么偏重于介绍其中某一项网络技术,很少有技术书籍能够将计算和相关网络知识很好地结合以来,帮助读者建立起一个完 整的计算网络知识体系 这本《原生数据中心网络》是目前市面上可以找到的介绍计算底层网络技术的最好的中文书籍之一。原版作者 Dinesh G. Dutt 是 VXLAN 的发明者,对于原生数据中心网络有着深刻的见解。 如果你想要学习或者构建一个现代化的原生数据中心网络,或者想简单验证一下你对现代原生数据中心网络的一些想法,那么这本书正是你所需要的。 不管你是在搭建一个多租户的私有,还是一个运行机器学习的网络,或者一个企业数据中心,本书作者都介绍了必要的步骤,以帮助你设计费用合理、高容量、易于管理、敏捷且可靠的数据中心。

    1.4K30编辑于 2022-08-01
  • 来自专栏CNCF

    浅谈5 种典型的原生架构反模式

    本文将为大家讲解原生架构中常见的反模式。 如果涉及个性化推荐的商业需求,大数据和 AI 平台也是必不可少的。 依据 DDD 的 Domain 原则划分子域后,我们会使用 Bounded Context 来实现这些子域的落地。 、数据分析平台等。 当开发人员同时投入 3 到 5 个微服务应用的开发和维护时,想要在不同的应用之间快速切换且不出现错误,则是非常困难的。所以一定要铭记,对于微服务来说,自动化的 CI/CD 是最低的要求。 5 技术架构与组织能力不匹配 应用微服务化之后,会有更多的小团队负责不同的微服务应用,可能需要重新组建管理团队、开发团队和基础设施运维团队,由此可能会带来组织结构和管理方式的调整。

    58220发布于 2021-07-30
  • 来自专栏有点技术

    原生数据库vitess简介

    vitess 简介 Vitess是用于部署,扩展和管理MySQL实例的大型群集的数据库解决方案。它在架构上可以像在专用硬件上一样有效地在公共或私有架构中运行。 从裸机迁移到私有或公共。 部署和管理大量MySQL实例。 Vitess包括使用本机查询协议的兼容JDBC和Go数据库驱动程序。 无论哪种情况,从应用程序的角度来看,keyspace都显示为单个数据库。 从keyspace读取数据就像从MySQL数据库读取数据一样。 例如,如果一个键空间中的索引表引用了另一个键空间中的数据, 则可以执行片剂内部完整性检查以验证类似外键的关系或跨表完整性检查 总结 vitess是一个基于MySQL的原生数据库,自身屏蔽了分库分表的复杂性 ,使应用能够直接使用无需特殊配置,与原生MySQL高度兼容,目前已经从CNCF毕业,相信以后会有更多的用户使用vitess.

    6.8K50发布于 2020-07-14
  • 来自专栏从救火到防火:大模型赋能云原生安全

    5 期:AI × 原生安全:如何用模型打造企业级“风险决策引擎”

    前引入LLM后自动生成攻击路径需人工查看N个系统,耗时N久一键攻击推演攻击链识别率低,人工漏掉链路是大概率发生非常高事前风险处置率低(几乎做不到)每周N+条可阻断攻击链三、打造你的“安全决策大脑”未来的原生安全平台 原生让基础设施变得流动,AI让攻防对抗变得极速。但不变的是安全的本质:看见风险、理解风险、处置风险。 第5期(本期):展望未来,讲解AI×原生安全,即如何用模型打造企业级的“风险决策引擎”,实现智能防火。 春根实战AI原生安全简介我是深耕云安全领域十余年的资深架构师/产品专家,专注于LLM时代下的风险源头治理实战。本号的内容专为CTO、CISO、安全架构师等核心决策者而写。 如果您正在寻求高价值、去噪音的专业交流,对原生安全治理的顶层设计感兴趣,欢迎关注本号。

    19110编辑于 2026-01-01
  • 来自专栏云原生技术社区

    金融原生漫谈(五)|如何打造更适合原生数据存储方案?

    如何更好地利用原生技术,帮助银行实现敏捷、轻量、快速、高效地进行开发、测试、交付和运维一体化,从而重构业务,推动金融科技的发展,是个长期课题。 本期金融原生漫谈,将和您一起探寻如何打造更适合原生数据存储方案。 近年来,金融服务形态经历了巨大的变化。线上业务的兴起,带来了海量的数据接入和业务的不确定性。 同时,存储系统自身的自动化运维能力,也成为IT建设者关注的焦点…… 那么,原生时代,我们需要什么样的数据存储方案? 针对底层的IT基础架构,和数据存储环境挑战,金融IT建设者们真实发问: 容器数据持久化存储方案怎么选? 容器数据资源如何分配? 如何提升容器平台的数据一致性? 通过上述改造,将传统的单体应用解耦,使与事务无关的业务逻辑并行运行,结合消息队列 / 服务网格、关系型数据库等,针对不同业务需求,可以分别实现数据的最终一致性和强一致性,打造更适合原生数据存储方案。

    78620编辑于 2022-03-03
  • 来自专栏腾讯云原生团队

    腾讯5位技术专家在上海 ArchSummit 峰会分享原生、大数据计算等话题

    腾讯5位技术专家参与了 ArchSummit 全球架构师峰会的专题演讲,与开发者分享原生、大数据计算与负载均衡等话题。 包括发布腾讯原生最佳实践路线图、开源十年战略、星星海首款自研GPU服务器和星星海新一代自研双路服务器、SuperEdge 边缘容器开源项目、八原生系列新品、以及腾讯未来开发者云梯计划等。 2021年,腾讯将继续在原生数据库、计算技术、人工智能、大数据、音视频、开源、物联网、5G、边缘计算等领域持续深耕,释放计算价值。 以下为 ArchSummit 上海站腾讯5位专家的演讲信息。 ,微服务治理体系也有了新的解读和挑战,腾讯凭借着对的深刻理解,深耕原生微服务治理体系,完成了王者荣耀全球同服的毫秒级延时和春节红包的高并发交易等性能需求,以日 5 万亿次的惊人调度次数,支撑腾讯内部海量业务的构建与发展

    3.3K30发布于 2021-04-26
领券