首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏技术杂记

    mysql 迁移10

    监测进展 [root@slave02 data]# watch -n 2 du -sh /data/mysql/ 每两秒看一下数据目录大小 ---- 恢复完成 151209 03:57:34 [01] Copying ./mysqltestt_db/kqmobile_payments.ibd to /var/lib/mysql/mysqltestt_db/kqmobile_payments.ibd 151209 03:57:34 [01] ...done 151209 03:57:34 [01

    2.5K20编辑于 2022-03-22
  • 来自专栏技术杂记

    mysql 迁移10

    修改权限 [root@slave02 mysql]# cat xtrabackup_binlog_pos_innodb mysql-bin.000004 8299670 [root@slave02 mysql]# ll total 5916780 drwx------ 2 root root 4096 Dec 9 02:49 livedb drwx------ 2 root root 4096 Dec 9 02:57 mysqltest_his drwx------ 2 ro

    42230编辑于 2022-03-22
  • 来自专栏架构之家

    从单体架构迁移到 CQRS架构

    当现有的架构遇到问题而又无法解决时,系统就会开始演进。每一次演进都会伴随着一些技术上的选择。需要解决什么问题?需要付出什么样的代价? 作为一名架构师或高级工程师,必须找到一种合理的演进方式,在开发进度、技术栈、团队水平等各方面都能满足条件,这样才能制定出可行的解决方案。 我们将从一个小型单体架构开始,逐步演进,像每一个软件系统的演进一样。本文将介绍每一次演进背后的原因和方法。 传统单体架构 这是最常见的系统设计。 从系统架构的角度来看,数据库很容易成为整个系统的瓶颈。读取和写入都必须在它上面进行。因为缺少横向扩展能力,RDBMS 的问题就更加严重了。 基于任务的单体架构 为了解决上述传统单体架构中存在的问题,这里我们尝试引入域的概念。 这个图与上面的图基本相同。唯一的区别是在写路径上用消息代替了 DTO。

    70120编辑于 2022-09-27
  • 来自专栏云计算

    迁移到微服务架构

    第一个问题是为什么金融科技公司应当把遗留的传统架构应用迁移到现代的架构风格上;其次,如何在这一范式迁移过程中重用现有的应用资产;最后是这种迁移将以何种方式解决这一领域中包括代码质量和重用性在内的一系列令人望而生畏的问题 因而类似的公司在早期并不会给予应用架构足够的重视。他们往往采用单体架构建立应用程序。这一架构易于实现,但在增加功能时会形成紧密的依赖关系。 对于难以适应变化的单体架构而言这种问题会更加严重。 单体架构 单体应用的架构是单层结构,用户接口和数据访问代码都集成在一个平台中。 未来之路 事实上,迁移到微服务牵涉到风险,努力和成本。但是,如果我们能制定正确的策略,那么从长远来看,应用程序的整体质量将会增加。这是无可否认的。 为了消除这种迁移风险,公司可以考虑先用微服务架构完成新需求的开发,并逐渐将传统模块转变为基于微服务的体系结构。 腾讯云分布式微服务来啦!

    1.2K60发布于 2018-06-25
  • 来自专栏云计算D1net

    10步搞定系统的云迁移

    首先我想要说,未来大多数企业都会从具体的机房迁移出来。虽然你企业中并不是所有负载系统都适合云计算,但是大多数公司可以而且应该采用云计算。 然而,什么是云计算呢? 虽然这篇博客文章的主题是有关云计算迁移的,但我更想说的是云计算不仅是一次运动,更是一次变革。 云迁移从哪开始呢? 业务影响。我不会从业务的最关键的应用系统开始。如果你来自于零售业,不要从电子商务开始。在迁移那些重要负载系统之前需要获取更多的经验。 多个应用集成起来的复杂架构系统往往也不是很合适。 许可协议。一定要分析你的软件供应商的云计算模式,看看改变它的专用模式是否价格很昂贵。 服务水平协议。 在进行云迁移之前这几个问题是需要考虑的。不过别担心,供应商会越来越好地满足你的需求。一个功能支持限制可能在几个月内就被解决,并且有所改变。

    88660发布于 2018-03-26
  • 来自专栏iTesting

    Cypress10.x版本迁移指南

    我将讲解如何迁移到Cypress最新Release的10.x版本(买了书的同学们,公众号回复你的微信号,拉你到Cypress中国群)。 迁移步骤 改变太大了,大家接受的意愿就低,如果你完全用Cypress默认的那一套还好,如果你跟我一样,做了很多定制,更改了很多默认文件夹,你肯定有点烦的。不过没关系。 Cypress给大家准备了一个迁移工具。 老版本Cypress迁移到Cypress10.x步骤如下: 1.安装最新版本。 迁移要点 大概率还是讲下要点: 1. cypress.json 文件改成cypress.config.js/cypress.config.ts。 如果迁移还有问题,可以直接Cypress中国群里问,或者官网看看细节。 最后寄语 Cypress10.x下决心做这么大改动,社区的反馈声音也很大,但基本是好的。

    2.4K20编辑于 2022-09-01
  • 来自专栏第三方工具

    10亿数据,如何做迁移

    10亿数据,如何做迁移? 一、分而治之 若把数据迁移比作吃蛋糕,没人能一口吞下整个十层蛋糕; 必须切成小块细嚼慢咽。 二、双写 经典方案是停机迁移,但对10亿数据来说停机成本难以承受,双写方案才是王道。 三、用好工具 工具名称 适用场景 10亿数据速度参考 mysqldump 小型表全量导出 不建议(可能天级) MySQL Shell InnoDB并行导出 约2-4小时 DataX 多源异构迁移 (物理备份+ Binlog点位) 流量回切:准备路由配置秒级切换旧库 数据标记:新库数据打标,便于清理脏数据 处理10亿数据的核心: 分而治之:拆解问题比解决问题更重要 逐步递进:通过灰度验证逐步放大流量 守牢底线:回滚方案必须真实演练过 没有百分百成功的迁移,只有百分百准备的Plan B!

    25300编辑于 2025-05-29
  • 来自专栏超级架构师

    「数据架构」数据迁移神器 pgloader,迁移各种数据到PostgreSQL

    命令 pgloader实现了自己的命令语言,这是一种DSL,允许指定要实现的数据加载和迁移的各个方面。该语言中提供的一些功能只适用于特定的源类型。 : pgloader [<options>] [<command-file>]...pgloader [<options>] SOURCE TARGET 您可以使用pgloader命令语言拥有一个包含迁移规范的命令文件 intro.html 本文:https://pub.intelligentx.net/pgloader-loads-data-various-sources-postgresql 讨论:请加入知识星球或者微信圈子【首席架构师圈 】 微信公众号 如果喜欢仙翁的分享,请关注微信公众号【首席架构师智库】 仙翁小号 如果想进一步讨论,请加仙翁小号【intelligenttimes】,注明你希望加入的群:架构,云计算,大数据,数据科学, 微信圈子 如果想和志趣相投的同好交流,请关注仙翁的微信圈子【首席架构师圈】。 如果想向大咖提问,近距离接触,或者获得私密分享,请加入知识星球【首席架构师圈】

    3.4K10发布于 2020-01-14
  • 来自专栏杨建荣的学习笔记

    迁移到MySQL的架构演进(一)

    这是学习笔记的第 2010 篇文章 我们经过了一个相对漫长的周期把SQL Server业务迁移到了MySQL分布式架构,整个过程算是跌宕起伏。我来复现一下这个过程。 迁移前,我们做了业务梳理,发现这个业务其实可以划分为两个大类,一个是数据业务,一个是账单业务。数据业务负责事务性数据,而账单业务是状态数据的操作历史。整体的系统现状梳理如下表10-4。 表10-4 数据业务与账单业务的对比 数据业务账单业务数据量400G+1024G+数据特点数据读写(插入,修改,查询)数据写入为主(插入,查询)数据属性事务性数据流水型数据数据保留周期物理备份保留周期 (1)功能阶段:梳理需求,对存储过程进行转义,适配MySQL方向 (2)架构阶段: 对系统架构和业务架构进行改进设计,支持分布式扩展 (3)性能阶段: 对系统压力进行增量测试,全量测试,全面优化性能问题 (4)迁移阶段: 设计数据迁移方案,完成线上环境到MySQL分布式环境的迁移 我们主要讨论上面3个阶段,我总结为8个架构演进策略,我们逐个来说一下。

    88920发布于 2019-06-18
  • 来自专栏苏三说技术

    给你10亿数据,如何做迁移

    这让我深刻领悟到——10亿条数据不能用蛮力搬运,得用巧劲儿递接! 今天这篇文章,跟大家一起聊聊10亿条数据,如何做迁移,希望对你会有所帮助。 ,但对10亿数据来说停机成本难以承受,双写方案才是王道。 异步双写架构如图所示: 代码实现核心逻辑: 开启双写开关 @Transactional public void createUser(User user) { // 旧库主写 工具选型对照表 工具名称 适用场景 10亿数据速度参考 mysqldump 小型表全量导出 不建议(可能天级) MySQL Shell InnoDB并行导出 约2-4小时 DataX 多源异构迁移 依赖资源配置 切换DNS解析 aws route53 change-resource-record-sets --cli-input-json file://switch_to_old.json 总结 处理10

    39510编辑于 2025-02-21
  • 来自专栏杨建荣的学习笔记

    迁移到MySQL的业务架构演进实战

    本文会着重讨论迁移到MySQL架构体系的演进过程,相信大大小小的公司在不同的发展阶段都会碰到其中一些共性的问题。 我们先来简单介绍一下系统迁移的背景,在这个过程中我们不会刻意强调源数据库的一些功能性差异,相对来说是一种更通用的架构改进方式。 一、架构改造背景和演进策略 迁移前,我们做了业务梳理,整体的系统现状梳理如下表,可以发现这个业务其实可以划分为两个大类,一个是数据业务,一个是账单业务。 (4)迁移阶段:设计数据迁移方案,完成线上环境到MySQL分布式环境的迁移。 我们主要讨论上面前3个阶段,我总结为8个架构演进策略,我们逐个来说一下。 六、架构里程碑和补充:基于分布式架构的水平扩展方案 至此,我们的分布式集群架构初步实现了业务需求,后续就是数据迁移的方案设计了,3套集群的实例部署架构如下图所示。 ?

    1.1K20发布于 2019-10-31
  • 来自专栏计算机视觉战队

    学习迁移架构用于Scalable图像的识别

    链接:https://arxiv.org/abs/1707.07012 ---- 1、Introduction 在ImageNet上学习到的分类网络,其特征迁移到其他任务时,往往能获得更好的效果。 所以作者就想在CIFAR-10上训练得到一个比较好的网络,然后迁移到ImageNet上也能获得很好的效果。为了能完成这种迁移,作者设计一个与网络深度和图片大小无关的搜索空间。 NASNet-A 3.Reslut 3.1 CIFAR-10 Tabel 1主要在CIFAR-10上和其他网络对比,在相当的计算复杂度上,都获得不错的表现,超越了shake-shake网络。 ? 3.2 ImageNet 作者强调他们仅仅是使用了CIFAR-10上的最优网络,从0开始在ImageNet上训练。 nas 基于强化学习,方法也很暴力,搜索空间也很大,在cnn和rnn上都做了探索,使用了800块gpu,当然只在cifair10上做的啦,而且没有超过densenet的性能。

    95750发布于 2018-04-17
  • 来自专栏斑斓

    【系统架构】遗留系统的技术栈迁移

    最后,还有一种方式,则是对遗留系统进行技术栈迁移

    1.3K70发布于 2018-03-07
  • 来自专栏CloudBest

    CIO需要考虑的10个云迁移技巧

    迁移并不是一件容易的事,特别是对于将工作负载转移到云中的CIO和IT领导者而言。为了确保迁移成功,人们需要参与行业专家提出的10个建议。 ? 企业需要遵循以下10个云迁移过程建议: 1 分析应用程序 企业首席信息官需要从分析应用程序开始,并提出以下关键问题:应用程序是否能够在虚拟化环境中工作? 他说:“很多迁移项目也是现代化项目。” 5 云迁移过程中考虑提升和转移 企业在云迁移过程中考虑提升和转移项目。 与其相反,他们应该让具有团队经验的架构师将这些应用程序迁移到云平台中,以确认提升和转移是否起作用,并确保云迁移得到很好的协调。 10 将优化纳入企业的计划 Buchholz说:“不要以为这是一劳永逸的事情。在初始迁移之后会产生意想不到的后果,这需要解决以获得并最终最大化迁移到云平台的预期利益。

    56510发布于 2019-11-11
  • 来自专栏阿杜的世界

    10个常见软件架构

    原文参见:10 Common Software Architectural Patterns in a nutshell 在开始一个大型项目之前,我们需要进行详细的系统分析,尽量选择合适的架构,这样方便我们快速交付和后期维护升级 ,这篇文章总结了10种常见的架构模式。 在阅读这篇文章的时候,我想到了之前读过的一本书——《企业应用架构模式》,这本书偏理论,但是对理解大型系统的构建很有帮助。 架构模式的定义:架构模式是在给定的场景下,前人总结出来的通用的、可重复利用的解决方案。架构模式和设计模式的作用类似,但是它针对的范围更加广泛。 下面这张图值得收藏,讲了这几种架构模式的trade-off ? image.png

    1.4K30发布于 2018-12-14
  • 来自专栏从ORACLE起航,领略精彩的IT技术。

    Oracle 10g DG 数据文件迁移

    背景:某客户Oracle 10g 的DG由于空间不足,之前将部分数据文件迁移到其他目录,如今原目录扩容成功,要将之前迁移的数据文件再次迁移回来。 环境:Oracle 10.2.0.5 DG 单机 首先想到的是10gDG是在mount模式下应用的,在测试环境可以很容易的模拟下这个需求实现的过程: 1.查询当前DG的状态 2.停止DG应用 3.备份copy 副本到新目录并切换 4.删除之前的目录并开启应用 1.查询当前DG的状态 **查询当前DG的状态:** Connected to: Oracle Database 10g Enterprise Edition alter database recover managed standby database cancel; Database altered. 3.备份copy副本到新目录并切换 **3.1 确认需要迁移的数据文件 ** 查看当前的数据文件,确认将9,10,11三个文件迁移回原来的目录: SQL> select file#, name from v$datafile; FILE# NAME -----

    51310编辑于 2022-05-06
  • 来自专栏服务器运维日常

    Win10 WSL 迁移Ubuntu 至D盘

    前言WSL(WindowsSubsystemforLinux)是Windows10/11提供的一个强大功能,它允许用户在Windows系统中原生运行Linux环境。 前置条件Windows10版本2004或更高版本(构建19041及以上)已安装WSL2及Ubuntu子系统目标磁盘(D盘)有足够的可用空间操作步骤第一步:查看当前WSL状态在迁移之前,首先需要确认Ubuntu 第六步:验证迁移结果迁移完成后,验证Ubuntu是否可以正常启动:展开代码语言:BashAI代码解释wsl-l-vwsl-dUbuntu迁移后验证迁移成功后,你可以通过以下方式验证:检查状态:确认Ubuntu 常见问题Q1:迁移后Ubuntu无法启动?确保使用--vhd参数,并且导入路径是空目录。如果仍有问题,可以尝试重新导出导入。Q2:如何迁移其他WSL发行版? Q3:能否迁移到其他磁盘?可以,只需要修改目标路径即可。例如迁移到E盘:wsl--importUbuntuE:\WSL\Ubuntu...

    12421编辑于 2026-04-16
  • 来自专栏AIoT技术交流、分享

    嵌入式SoC多线程架构迁移多进程架构开发技巧

    将嵌入式SoC开发从单进程多线程架构迁移多进程架构是一项需要谨慎规划和实施的任务,尤其在资源有限的嵌入式系统中。 这种架构转变通常是为了提高系统的稳定性、隔离性、安全性和并发处理能力。 1、架构迁移步骤 1、分析系统功能模块 首先,需要对现有的单进程多线程架构中的功能模块进行分析。 找出哪些模块可以独立运行,并识别哪些模块间存在紧密通信的依赖。 2、架构迁移的关键点 性能与资源管理 多进程架构在嵌入式系统中的使用可能会增加内存和资源开销,因为每个进程都有自己的独立地址空间和资源。 3、迁移实例 这里以一个简单的嵌入式系统为例,逐步展示如何从单进程多线程架构转变为多进程架构。 在这个架构中,系统有三个主要功能模块: 温度传感器数据采集线程。 数据处理线程。 优化后的多进程架构代码: // 模拟读取温度传感器数据 float read_temperature_sensor() { return 25.0 + (rand() % 10); // 随机模拟温度

    31100编辑于 2024-12-20
  • 来自专栏计算机视觉

    深度学习500问——Chapter10迁移学习(4)

    更进一步:如果应用于迁移学习,如何决定该迁移哪些层、固定哪些层? 这个问题对于理解神经网络以及深度迁移学习都有着非常重要的意义。 ​ 简单:随着可迁移层数的增加,模型性能下降。但是,前3层仍然还是可以迁移的!同时,与随机初始化所有权重比较,迁移学习的精度是很高的! IEEE TKDE*, 22(10):1345-1359. [Patil and Phursule, 2013] Patil, D. M. and Phursule, R. (2013). Journal of Machine Learning Research, 10(Jul):1633- 1685. In Proceedings of the 27th international conference on machine learning (ICML- 10), pages 1231-1238.

    37410编辑于 2024-06-15
  • 来自专栏计算机视觉

    深度学习500问——Chapter10迁移学习(3)

    11.3 迁移学习的常用方法 11.3.1 数据分布自适应 数据分布自适应(Distribution Adaption)是一类最常用的迁移学习方法。 11.3.2 边缘分布自适应 边缘分布自适应方法(Marginal Distribution Adaption)的目标是减小源域和目标域的边缘概率分布的距离,从而完成迁移学习。 即: 边缘分布自适应对应于图19中由图19(a) 迁移到 图19(b)的情形。 类内迁移可以利用类内特征,实现更好的迁移效果。 即: ​ 联合分布自适应对应于图19中由图19(a)迁移到图19(b)的情形、以及图19(a)迁移到 图19(c)的情形。

    54610编辑于 2024-06-15
领券