首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏大数据技术博文

    Kylin云端跨集群迁移实践

    “ 本文介绍在云端kylin数据迁移的实现方案以及在迁移过程中的遇到哪些问题,并给出了问题解决方案.本次迁移中涉及到的hbase cube表1600+,model数量80+,project 10+” 01 — 目录 迁移前准备 Kylin迁移概述与方案制定 不同方案的实现与问题 迁移前的前置依赖 迁移过程中的问题以及解决方法 迁移完成后的checklist都有哪些? ,大数据拉取数据端口开放,可以正常拉取到源集群中的hdfs文件 目前集群的kylin版本与源集群版本保持一致 确保在目标集群中hive表已经构建且数据已经迁移完成 提前准备好数据迁移的脚本,hdfs数据迁移 在hbase上存储的metadata表数据迁移,实现元数据同步 Kylin cube预计算数据迁移方案: 通过hbase的snapshot方式在另外一个集群恢复实现 04 — 迁移前的前置依赖 在进行 元数据迁移完成之后,接下来需要迁移kylin的cube 预计算的数据.

    1.3K30编辑于 2022-04-18
  • 来自专栏云计算D1net

    企业如何无缝迁移云端

    人才管理解决方案提供商Cornerstone OnDemand公司首席顾问Arnab Banerjee解释了企业的业务在迁移云端时需要考虑的多个流程,其中包括如何选择服务提供商和实施,以及如何为这种变更做好准备 企业一旦决定将其业务迁移云端,就应该将其背后的决策和道理清楚地传达给所有利益相关者。而解释收益将会推动创新,增加灵活性,并控制成本。此外,还要为其组织的工作方式的变化和强制性改变做好准备。 事实上,选择云计算提供商只是迁移云端的一小部分流程,选择正确的变更管理合作伙伴更为关键。 所有这些都在后台进行,企业首席信息官能否执行“升级和转移”流程,以及在帮助他们的公司迁移云端时应该考虑什么? 最后,如果企业正在考虑将业务迁移到云中,请在准备建立时为增加资源和其他重复成本做好准备。虽然迁移云端将最终帮助实现自动化,但企业需要首先完成工作才能看到结果。

    1.1K00发布于 2018-07-31
  • 迁移服务:将存储数据迁移云端全面指南

    随着数字化转型的加速推进,越来越多的企业选择将本地存储数据迁移云端,以享受云计算带来的弹性扩展、成本优化和运维简化等优势。腾讯云作为国内领先的云服务提供商,提供了完整的存储迁移解决方案。 ,使用DTS迁移10亿条MySQL数据,时间从10小时缩短至2小时,业务中断仅3分42秒。 网络配置是迁移流畅的关键。在同一地域内,优先使用内网迁移,不仅速度更快(带宽可达10Gbps),还能避免公网流量费用。 测试显示,10GB的CheckPoint文件在传统NFS存储需25秒完成,而CFS Turbo仅需0.86秒,性能提升近30倍。 企业应结合自身业务特点,选择最适合的迁移路径,充分利用腾讯云提供的各种工具和服务,确保数据安全、高效地完成向云端迁移,最终实现数字化转型的目标。

    1.2K10编辑于 2025-07-09
  • 来自专栏腾讯云大数据

    PB 级数据的云端迁移战事

    如果单纯从字面上,普通人可能无法理解要把 PB 级的数据迁移到一朵云上,难度有多大。 “这个迁移和简单的复制完全不一样,即便是拷贝,把1PB 的数据复制过来,也需要很长时间。” 少波说的这个正是一个月前他和另外3位同事,一起经历的一场云端迁移战事。 两手准备 这么大的数据量,不是说迁移迁移。 这个迁移到底有没有坑,谁也不敢拍着胸脯保证。 确保全覆盖场景;其次,对各类数据和任务,抽样进行尝试迁移验证,包括元数据、数据、作业等相关联的完整测试校验,确保无误;最后,结合业务应用特征,配置策略,利用低峰期将历史数据平缓迁移,再配置双写策略,平滑迁移实时数据和任务 目前,借助于云端大数据基础设施,快速实现基于数据驱动的业务创新和运营创新已成为新一代互联网企业的业界共识和主流趋势。

    2K30发布于 2021-09-18
  • 来自专栏养虾记

    OpenClaw 云端迁移至本地部署指南

    适用场景:OpenClaw最初部署在云端(VPS/服务器),调教完成后迁移到本地机器(Mac/Linux/Windows)继续使用。 --version2.完整迁移(推荐)2.1云端—停止网关并打包⚠️停止网关可以防止迁移过程中数据被写入,保证数据一致性。 或names)clawhubinstall<skill-name>#或者在workspace/skills/目录手动恢复5.云端善后迁移完成后,建议在云端执行以下操作:5.1停止云端网关(防止混淆)展开代码语言 :BashAI代码解释#在云端服务器执行openclawgatewaystop5.2考虑删除或保留备份展开代码语言:BashAI代码解释#确认本地迁移成功后再删除云端数据(谨慎!) #rm-rf~/.openclaw/#rmopenclaw-full-backup.tar.gz5.3如果要彻底释放云端资源⚠️这是不可逆操作,请确保本地迁移完全成功后再执行。

    2K610编辑于 2026-03-27
  • 来自专栏云计算D1net

    如何从传统的IT迁移云端

    从架构师到开发人员,从传统IT到云端的镀金工作都有一条路。 传统的IT技术人员(例如企业架构师,开发人员和网络工程师)都投入到云计算事业,这不仅可以提供就业保障,而且收入颇丰。 企业架构师:通往云的道路 比如,企业架构师在技术和平台方面的作用非常普遍,但预计迁移云端的公司正在寻找更具体的技能。 但是看下职业生涯蓝图。 然而,迁移到公共云的企业通常会选择更便宜和更现代的数据库技术,因此对于甲骨文数据库管理员来说,学习如何管理其他数据库是有好处的。 例如,亚马逊的RDS关系数据库如今是企业中受欢迎的云选择。 然而,在云端,深入了解特定的公共云是要付出代价的,因为你需要了解并能够创建云原生应用程序。 测试与验收工程师:通往云的道路 测试与验收工程师没有一个通往云端的坦途。所以,如果你想保持竞争力,你要学习和重学很多东西。云的最佳映射是了解与云相关的功能。

    1.8K80发布于 2018-03-28
  • 来自专栏技术杂记

    mysql 迁移10

    监测进展 [root@slave02 data]# watch -n 2 du -sh /data/mysql/ 每两秒看一下数据目录大小 ---- 恢复完成 151209 03:57:34 [01] Copying ./mysqltestt_db/kqmobile_payments.ibd to /var/lib/mysql/mysqltestt_db/kqmobile_payments.ibd 151209 03:57:34 [01] ...done 151209 03:57:34 [01

    2.7K20编辑于 2022-03-22
  • 迁移服务:将数据库迁移云端全面指南

    一、迁移规划与评估阶段1. 业务目标与技术评估 迁移驱动分析: 成本优化:据IDC报告,云迁移可降低企业IT运维成本35%以上。 弹性扩展:应对业务峰值,如电商大促时数据库读写负载激增。 迁移策略选择 策略类型 适用场景 停机窗口 全量迁移 非核心业务(<1TB) 小时级 增量迁移(推荐) 网络与资源准备 网络架构: 专线接入(Direct Connect):迁移速度提升3-5倍,延迟<10ms。 公网迁移需启用SSL加密,带宽建议≥迁移数据量/计划时间×1.5(冗余系数)。 数据库迁移服务DTS(推荐) 核心能力: 多线程加速:支持32线程并发,10亿数据迁移10小时缩短至2小时。 GTID无缝复制:自动定位Binlog位置,确保增量数据零丢失。 技术演进方向 智能化迁移:AI预测最优迁移窗口与参数组合。 多云无缝迁移:避免厂商锁定,支持AWS RDS→腾讯云TDSQL一键同步。 2.

    91300编辑于 2025-07-12
  • 来自专栏技术杂记

    mysql 迁移10

    修改权限 [root@slave02 mysql]# cat xtrabackup_binlog_pos_innodb mysql-bin.000004 8299670 [root@slave02 mysql]# ll total 5916780 drwx------ 2 root root 4096 Dec 9 02:49 livedb drwx------ 2 root root 4096 Dec 9 02:57 mysqltest_his drwx------ 2 ro

    51630编辑于 2022-03-22
  • 来自专栏云计算D1net

    如何让数据迁移云端更加容易

    限制企业的业务向云端转移的原因有很多,但企业加快企业云采用可能更容易。以下仔细看看如何能变得更容易。 查看数据的冷热 企业采用云计算通常会从数据档案开始,因为迁移不再使用的数据风险较低。 然后,他们必须确定哪些存储资源共同托管关键业务数据,并计划迁移周围活跃的应用程序。然后,IT团队必须在非工作时间内安排并执行到云端迁移,以保护业务连续性。 这可能需要一定时间,因为数据通常通过缓慢的互联网迁移云端。事实上,一些企业甚至运行sneakernets以确保数据可以快速安全地移动,而不会中断业务。 元数据引擎使这个过程简单得多。 数据可以在内部存储和一个或多个云端之间移动,而不会中断应用程序的访问,即使数据在运行中。 重要的是,元数据引擎可以帮助IT比传统的归档解决方案更智能地将数据归档到云端。 其次,只有当移动不影响其他正在运行的应用程序时,才会将数据迁移云端。这可以保护业务连续性,同时允许存档迁移全天候发生,无需IT干预。

    1.2K60发布于 2018-03-27
  • 来自专栏云计算D1net

    迁移云端的五个关键优势

    越来越多的企业都希望利用云计算,并接受迁移到基于云计算的数据仓库所带来的好处。那么到底有什么好处呢? 无缝简洁 迁移云端的最令人信服的原因之一是它提供的简单性。 而快速升级硬件并安全存储无限数据量的能力使云端成为大数据分析的理想之地。 经济高效的可扩展性 为云计算设计的数据仓库可以适应实时使用情况,灵活地将组织的确切使用模式与“正确”的容量相匹配。 幸运的是,迁移到基于云计算的数据仓库可以提供安全性和监管,而不会耗费更多的人力资源。尽管存在最初的担忧,但人们普遍认为基于云计算的服务几乎肯定比定制解决方案更安全。 数据使用者可以通过云端简单地访问数据,并立即享受访问带来的好处。 因此,出现了新的商业模式和市场机会。那些通过云计算实现数据共享生态系统的企业将比竞争对手更具优势。 毫不奇怪,越来越多的企业(包括初创企业和跨国公司)正在向云端迈进。根据云计算产业论坛(CIF)的研究,目前英国的整体云采用率为88%。而随着大数据时代的来临,这种发展趋势仍将持续。

    1.1K20发布于 2019-06-15
  • 来自专栏媒矿工厂

    使用OpenSIPS 3.0来向云端迁移

    他介绍了RTC行业的趋势,包括向云端迁移以节省基础设施的花费,快速的开发和测试,全自动化的部署以及提供更加严格的协议。

    1.2K40发布于 2020-03-05
  • 来自专栏云计算D1net

    成功迁移云端需要采取的步骤

    事实上,根据O'Reilly公司最近发布的一份调查报告,目前10家公司中有9家公司以某种方式使用云计算服务。 与其相反,企业应该将云迁移视为一个考虑更好架构的机会,以节省成本、提高性能,并为最终用户带来更好的体验。 02 关注基础设施而不是用户需求 当数据领导者决定将业务迁移云端时,往往更关注各种云服务的特性和功能,而没有考虑数据科学家和数据工程师的工作流程。 企业领导者应该与他们的数据工程师和数据科学团队合作,确定哪些数据子集对他们可以在云中访问、迁移数据,并让他们亲身体验云服务的好处。 更顺畅的云迁移 尽管面临重重障碍,但数据领导者可以采取许多措施骤来确保他们的云计算部署尽可能顺利。

    66420编辑于 2022-09-02
  • 来自专栏云计算D1net

    将数据迁移云端的最佳实践

    并不是每个组织都有足够的专用带宽来传输数PB的数据,而不会导致核心业务的性能下降,也并不具有足够的备用硬件迁移云端。 这些车辆可以轻松地为驻留在AWS云端实施数据购买和部署迁移服务。使用专用的100Mbps连接迁移100TB的数据需要120天。使用多个Snowball进行同样的迁移将只需要大约一个星期的时间。 在另一个例子中,全球管理咨询公司使用10G链接将规模较小的数据从数据中心移动到目标存储云,以及迁移设备来移动PB数据。 一旦10G链接数据上传被复制到存储资源,云迁移提供商使用AWS平台直接连接到AWS。这样就可以将资源从公共云中分离出来,而且随时可用。 新的数据迁移选项使IT团队能够以最小化风险,成本和麻烦的方式“分解”云端,并最大程度地提高敏捷性。

    1.9K90发布于 2018-03-28
  • 来自专栏云计算D1net

    迁移云端?SD-WAN很重要!

    人们在过去的几年中看到了数据中心战略发生了重大转变,很多企业的IT组织正在将应用程序和工作负载转移到云端,无论是私有云还是公共云。 最近发表的一篇题为“亚马逊网络服务如何吸引银行业进入云端”的文章报道称,一些企业已经完全将其所有应用程序和IT工作负载迁移到公共云基础设施。 迁移云端和采用SD-WAN之间是否存在直接关联? 由于云计算可以使业务更快地发展,因此自上而下的业务意图是驱动因素的SD-WAN架构对于确保成功至关重要,尤其是当分支机构分布在全球各地时。 EdgeConnect可以提供: (1)从分支到云端的一致部署,将SD-WAN的范围扩展到虚拟私有云环境。 (2)多云灵活性,可以更轻松地跨多个云计算提供商启动和分配资源。 (3)通过自信地将内部IT资源迁移到领先的公共云平台的任意组合,了解其云托管实例将得到EdgeConnect的完全支持,从而实现投资保护。

    82420发布于 2019-06-15
  • 来自专栏云计算D1net

    成功迁移云端的6个策略

    如今越来越多组织将在云端开展业务,那么如何迁移云端?虽然条条大路通罗马,但有些道路更加复杂和曲折。本文分享了组织成功进入云端的6个策略。 选择迁移策略很大程度上取决于组织希望实现的目标。 基本上将其整个数据中心运营的业务迁移云端。 重新托管可能是一个有吸引力的选择。组织可以相对快速地完成工作,并且所涉及的风险很小。但是,这种策略有一个明显的缺点:运营成本会相对较高,尤其是从长期来看。 组织可以在云迁移结束之后再进行迁移,随后逐步淘汰或在以后替换。 总之,这可能是一个有用的策略,但要明智且谨慎地使用。提升和转移是快速进入云端的一种方式,但其代价是必须在之后开展更多的工作。 有时候,有些系统变得不再那么适合,当然可以保留一段时间,但迟早需要退役,因此将它们迁移云端并不值得。 也许组织刚刚实施了一个大型系统升级项目。 什么时候可以开始迁移? 如何加快迁移速度? 何时以及如何成功完成云迁移

    1.3K10发布于 2021-01-05
  • 来自专栏云计算D1net

    如何将数据中心迁移云端

    诚然,把基础架构迁移到云平台上有很多优势,但如果没能咨询考虑,系统性能反而会受到妨碍,把基础架构从物理迁移到虚拟才能带来最好的资源利用率。 分析完成后,物理机到虚拟机的迁移就可以有效提升资源利用率,免除了对新物理架构的需求,减少了管理费用。我们要看一下哪些应用支持虚拟化,以此为依据对应用进行分类。 现在我们就可以向云实现迁移。架构向云的迁移也需要有步骤地进行。最初可以少迁移一些关键应用和相关架构。业务关键的架构应该以之前的成功步骤为基础。确保物理产品的环境已经卸下,但不要完全退役。 将数据中向云中迁移的过程现在变得越来越复杂。然而,迁移失败的主要原因要归咎于准备不充分。 为了避免使云迁移项目脱轨,最后再次提醒,在进行一个云计算迁移项目是,需要谨慎计划,为项目提供一个安全的、可衡量的方法,这样更有助于成功的项目结果。

    1.6K90发布于 2018-03-15
  • 来自专栏加米谷大数据

    数据科学最终迁移云端的5个原因

    以下是数据科学家应该放弃笔记本电脑或本地服务器,并将其业务迁移云端的五个充分的理由。 No 1:数据科学是一项团队运动 算法和机器学习模型构成了企业高级分析和机器学习难题的一部分。 随着规模的扩大,数据通常需要在云端或大型内部部署集群中进行处理。将笔记本电脑添加到混合部署中会在整个流程中造成瓶颈,并导致延迟。 ? 在云端开始使用数据科学和机器学习的最快和最具成本效益的方法是使用基于云计算的数据科学和机器学习平台。

    56730发布于 2019-04-19
  • 来自专栏架构师之路

    从IDC到云端架构迁移之路(GITC2016)

    大家好,很高兴来到GITC2016的舞台,我是来自58到家的沈剑,今天我分享的主题是《58到家从IDC到云端架构迁移之路》。 机房迁移是一个很大的动作: 15年在58同城实施过一次(“逐日”项目),几千台物理机,从IDC迁到了腾讯的天津机房,项目做了10个多月,跨所有的部门,与所有的业务都相关; 16年在58到家又实施了一次( 上层就要连接多少个服务; (2)业务服务层调用基础服务层,基础服务复制了多少份,上层就要连多少个服务; (3)服务层调用数据库,从库冗余了多少份,上层就要连多少个从库; 比如说,站点接入层某一个应用有10 台机器,业务服务层某一个服务有8层机器,那肯定是上游的10台会与下游的8台进行一个全相连的。 ,在10个月的逐步迁移过程中,肯定存在一个中间过渡阶段,两边机房都有流量,两边机房都对外提供服务,这就是一个多机房的架构了。

    1.9K50发布于 2018-03-01
  • 来自专栏不能显示专栏创建者

    缺乏合格的Linux人才阻碍企业迁移云端

    自从大流行以来,已经存在的Linux技术池差距不断扩大,这种结合导致企业计划将本地计算基础迁移到公共云操作的速度减缓或延迟。

    94700发布于 2020-12-28
领券