首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏Hank’s Blog

    3-3 数据框的子集

    > x <- data.frame(v1=1:5,v2=6:10,v3=11:15) > x v1 v2 v3 1 1 6 11 2 2 7 12 3 3 8 13 4 4 9 14 5 5 10 15 > x$v3[c(2,4)] <- NA > x v1 v2 v3 1 1 6 11 2 2 7 NA 3 3 8 13 4 4 9 NA 5 5 10 15 > #找出第2列 > x[,2] [1] 6 7 8 9 10 > x[,"v2"] [1] 6 7 8 9 10 > x[

    78400发布于 2020-09-16
  • 来自专栏AustinDatabases

    从MYSQL 数据归档归档设计

    4 自己设计数据归档 自己设计数据归档的面就广了,有使用程序来做的,例如JAVA ,Python等等,也有使用存储过程来进行的。 ,或者数据过期时间 同时归档表是否必须是全量的数据归档,还是可以抛弃一些数据,例如有一些日志的归档中可能存在一些无用的数据,是否还必须全量的归档等等都是要考虑的问题,归档数据并不一定是原封不动的归档 2 归档数据量,数据归档一般根据上面的东西,归档有一次性归档,和规律有固定日期的归档,一次性的归档一般归档数据量比较大,而有规律的归档归档数据量并不大,对比两者的方式,其实定期归档(有规律)的要有优势一些 3 归档的方法,自己定义数据归档方面,可以每次归档数据灌入一个表,也可以定期的将数据写入不同的归档表,例如已归档日期和后缀的方式来将每次写入的数据进行分割,或者建立分区表的方式来进行归档。 而日志表本身就是一个查看归档成功失败的东西,其中的type_s 就是表现数据归档操作状态的东西,通过日志表可以反映归档多少数据,每次操作消耗的时间,以及当前操作获取的系统变量是什么,方便出现故障时,查看到底归档数据少不少

    6.1K41发布于 2020-04-24
  • 来自专栏AI机器学习与深度学习算法

    机器学习入门 3-3 NumPy数据基础

    熟悉Python语言的都知道Python自带的数据类型List列表也可以表示一维数组以及多维数组,下面就说一说List相比于NumPy模块中的数组的缺点。 首先创建一个List列表生成式: ? ,但是不论是一维数组还是二维数组,list和array都没有把数据看成是向量或者是矩阵,相应的也就没有为这些运算配备和向量以及矩阵相关的运算,这使得机器学习算法中使用比list高效的array还是不方便 因此NumPy解决了list的效率问题,只能存储同一种数据类型,并且把数组看成是矩阵或者向量,并提供了很多相应的矩阵和向量的运算,这就解决了list和array不能进行科学计算的问题。 当然由于numpy数组同样只能存储一种数据类型,所以使用字符串修改元素值会抛出异常: ? 由于numpy数组只存放唯一数据类型的元素,所以我们可以通过dtype属性来查看numpy数组的数据类型,即数组中元素类型: ?

    90400发布于 2019-11-13
  • 来自专栏Netkiller

    日志归档数据挖掘

    日志归档数据挖掘 摘要 2013-03-19 第一版 2014-12-16 第二版 我的系列文档 Netkiller Architect 手札 Netkiller Developer 手札 Netkiller 什么日志归档 2. 为什么要做日志归档 3. 何时做日志归档 4. 归档日志放在哪里 5. 谁去做日志归档 6. 怎样做日志归档 6.2.1. 软件安装 6.2.2. 节点推送端 6.2.3. 什么日志归档 归档,是指将日志整理完毕且有保存价值的文件,经系统整理交日志服务器保存的过程。 2. 为什么要做日志归档 随时调出历史日志查询。 通过日志做数据挖掘,挖掘有价值的数据。 何时做日志归档 日志归档应该是企业规定的一项制度(“归档制度”),系统建设之初就应该考虑到日志归档问题。如果你的企业没有这项工作或制度,在看完本文后建议你立即实施。 4. 将日志放入数据库 将WEB服务器日志通过管道处理然后写入数据库 处理程序源码 $ vim match.d import std.regex; import std.stdio; import std.string

    1.6K100发布于 2018-03-05
  • 来自专栏python3

    3-3 SQL Server 2005数

    3-3 SQL Server 2005数据库优化 了解数据库引擎优化顾问基本内容 掌握数据库引擎优化顾问的使用 掌握通过命令行的方式进行索引的优化——DTA 一个数据库系统的性能依赖于组成这些系统的数据库中物理设计结构的有效配置 SQL Server 2005提供了一套综合的工具,用于优化物理数据库的设计,其中数据库引擎优化顾问,是分析一个或多个数据库上工作负荷(对要做出优化的数据库而编写的一组T-SQL语名句)的性能效果的工具 本节主要介绍数据库引擎优化顾问的使用。 3-3-1 数据库引擎优化顾问概述 数据库引擎优化顾问是一种工具,用于分析在一个或多个数据库中运行的工作负荷的性能效果。 工作负荷是对在优化的数据库招待的一组T-SQL语句。分析数据库的工作负荷效果后,数据库引擎优化顾问会提供在SQL Server 2005 数据库中添加、删除或修改物理设计结构的建议。 随后启动数据库引擎优化顾问,如图3-10所示。数据库引擎优化顾问主要用于优化数据库以及查看优化的建议和报告的单独图形化用户界面。 ?

    82820发布于 2020-01-07
  • 来自专栏每日一篇技术文章

    归档

    什么是tar 内容写入归档 如何从本地磁盘读取归档文件的内容呢? 什么是tar ? 也是Linux常见的压缩归档的处理方法 内容写入归档 package main import ( "archive/tar" "bytes" "fmt" "io" "log" (buf) 参数是一个缓冲类型的指针 3.写入归档文件时 需要先创建一个文档的头部 tar.Header 添加相应的参数 比如文件的名称 文件长度 和模式等等 4.内容全部写入归档缓冲区后,请调用close ()关闭归档写入 如何将归档后的文件写入磁盘? ioutil.WriteFile("归档",buf.Bytes(),os.ModePerm) ? image.png 如何从本地磁盘读取归档文件的内容呢?

    1.6K20发布于 2019-05-26
  • 来自专栏ShaoYL

    归档

    归档 基本概念 - 对象归档是指将对象写入文件保存在硬盘上,当再次重新打开程序时,可以还原这些对象。你也可以称他为对象序列化,对象持久化。 数据持久性的方式 NSKeyedArchiver --- 对象归档 NSUserDefaults 属性列表化(NSArray、NSDictionary保存文件) SQlite数据库、Core Data数据归档的形式 对Foundation库中对象进行归档 自定义对象进行归档(需要实现归档协议,NSCoding) 归档后的文件是加密的,属性列表是明文的。 示例 归档(序列化) //对数组进行归档归档文件名为temparray 后缀名可以任意 NSString *homeDirectory = NSHomeDirectory(); NSArray * %@",unArray); 自定义内容归档示例 归档 使用 NSData 实例作为归档的存储数据 添加归档的内容(设置key与value) 完成归档归档数据存入磁盘中 解归档 从磁盘读取文件,生成

    1.7K60发布于 2018-05-11
  • 来自专栏运维监控日志分析

    Logstash 索引数据按周归档

    背景 日志分析平台对网络设备和服务器日志进行收集时发现索引数据按天归档单个索引的大小能控制在1G 以内,ELk集群产生的索引数量过多,于是决定将索引数据归档规则改为按周归档。 索引按天归档 index => "networklogs-%{+YYYY.MM.dd}" 索引按周归档 index => "ism-prod-networklogs-%{+YYYY.ww}" 数据格式

    1.7K10发布于 2021-01-08
  • 来自专栏MySQL解决方案工程师

    MySQL审计数据归档演示

    将展示一些的其他技巧包括: 从JSON审计数据中提取行–使用JSON_TABLE函数将JSON数据转换为表格式。 将这些行从已审计的数据库插入到审计数据归档的MySQL数据库中。 这只是一种可能的设计模式,可以轻松地进行第三方集成或更改为将数据写入对象存储或某些其他审计数据存储库。 在术语方面,我将合并审计数据的服务器称为“归档服务器”。 首先让我们以管理员身份登录到归档MySQL服务器实例上–我将使用root。整个示例都需要使用mysql shell。它包括用于从目标服务器提取审计数据进行计划批处理归档的python。 步骤1 –审计归档数据库设置。 ) 好了,现在我需要看看我是否有之前的归档数据——这样我就可以指出审计数据中我需要开始读取更新数据的地方。如果归档不包含此实例的数据—我将从日志数据的开头开始。

    1.5K40发布于 2020-11-09
  • 物联网数据归档方案选择分析

    最近在做数据统计分析。我在做数据分析时候,需要设计归档表。有两种方式, 方式1:年月日。 其中,日表是每小时数据,每台设备有24条数据 月表是每天数据,每台设备根据实际月天数插入 年表是每月数据,每台设备有12条数据。 方式2:年月日时。 上面两种方案,哪个更符合物联网中归档数据方案?在物联网(IoT)归档数据场景中,方式2(年月日时分区)通常是更优且更符合行业实践的选择。 以下是详细分析和建议:核心原因:时序数据特性与查询效率分区粒度匹配数据生成频率IoT设备按小时(甚至更细粒度)产生数据,小时表直接对应原始数据粒度,写入时天然对齐分区,避免跨分区插入。 典型IoT查询场景:存储管理灵活性冷热数据分层:方式2可按小时/日/月分区独立设置存储策略(如SSD存最近7天热数据,HDD存历史数据)。

    39410编辑于 2025-06-06
  • 来自专栏DBA实战

    PT-archiver数据归档-重构版

    背景: 一张大表,我们姑且说1亿条记录,原表我要保存近7天的数据。Percona pt-archiver工具是这样做的,逐条把历史数据insert到归档表,同时删除原表数据。 注:考虑到删库跑路等安全性问题,工具没有对原表进行任何删除归档数据的操作。 pt-archiver/archive/refs/heads/master.zip [root@test19-server07 jesong]# unzip pt-archiver-master.zip 执行数据归档数据归档按天:10天前的( create_time>=2024-03-09) [root@test19-server07 pt-archiver-master]# php pt-archiver.php global show_compatibility_56=on; mysql> set global sql_mode=''; 原生工具 pt-archiver 进行分批缓慢删除: 如果对原表进行删除归档数据

    53010编辑于 2024-09-10
  • 来自专栏叽叽西

    lagou 爪哇 3-3 dubbo 笔记

    注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者。 服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心。 Dubbo 架构具有以下几个特点,分别是连通性、健壮性、伸缩性、以及向未来架构的升级性。 dubbo:protocol org.apache.dubbo.config.ProtocolConfig, 指定服务在进行数据传输所使用的协议。 category=routers 表示该数据为动态配置类型,必填。 dynamic : 是否为持久数据,当指定服务重启时是否继续生效。必填。 RecordTable /** * 一种类似表格的数据接口,类似 Map<A, Map<B,C>>类型。

    61510编辑于 2022-05-17
  • 来自专栏计算机视觉理论及其实现

    数据压缩和归档(二)、zipfile

    The ZIP file format is a common archive and compression standard. This module provides tools to create, read, write, append, and list a ZIP file. Any advanced use of this module will require an understanding of the format, as defined in PKZIP Application Note.

    1.4K30编辑于 2022-09-03
  • 来自专栏编程之旅

    iOS开发——数据持久化之归档

    在实际的项目开发中,数据持久化是我们必须要考虑的一个事情,如何把我们需要的数据进行持久化处理。 既然涉及到了Model类的对象,就要考虑用归档(NSKeyedArchiver)来处理它了。NSKeyedArchiver能够存储的数据范围很广,因为它对应着MVC中的Model层,即实体类。 那么对自定义对象的归档显得重要的多,因为很多时候我们都要在程序退出时保存数据,再程序恢复时重新加载,那么,归档便是一个好的选择。 接下来我们来讲讲NSKeyedArchiver的使用。 ,就需要在归档和解档之前先实现父类的归档和解档方法。 以上就是最简单的归档解档数据持久化的实现方式,至于如何用runtime进行自动归档解档,就又需要日后深入研究了。

    84610发布于 2018-08-30
  • 来自专栏计算机视觉理论及其实现

    数据压缩和归档(三)、tarfile

    The tarfile module makes it possible to read and write tar archives, including those using gzip, bz2 and lzma compression. Use the zipfile module to read or write .zip files, or the higher-level functions in shutil.

    1.1K20编辑于 2022-09-03
  • 来自专栏科控自动化

    C#读取WinCC变量归档数据

    如何在Visual Studio 2019中编写一个C#应用程序,通过WinCC的 OLE DB接口读取设定时间范围内的WinCC变量归档数据。 3 <访问远程计算机的 WinCC 归档数据的注意事项> <如果 C#应用程序和 WinCC 项目不在同一台计算机,那么需要满足以下条件: 1、如果 C#应用程序所在计算机没有安装 WinCC 或者 DataMonitor v 在 C#应用程序中遍历 SQL Server 中所有的数据库名称,从中选择以字母“CC”开头并以字母“R”结尾的数据库名称。

    5.1K12编辑于 2022-03-29
  • 来自专栏XBD

    tar - 归档

    参数 说明 z 创建 gzip 格式的压缩包 j 创建 bz2 格式的压缩包 J 创建 xz 格式的压缩包 x 解压一个压缩包 c 创建一个压缩包 t 查看压缩包的内容 r 把文件追加到压缩包末尾 u 用新的文件替换压缩包中的旧文件 # 创建一个压缩包,排除一些文件 tar zcvf data.tar.gz -T /root/aa -X /root/bb -T:指定需要压缩的目录或文件,需要绝对路径 -X:指定需要排除的文件或目录,需要绝对路径

    1.8K10编辑于 2022-10-27
  • 来自专栏SAP ERP管理实践

    SAP 物料主数据归档操作笔记

    1.MM06标记删除 先用MM06做删除标记,特别注意归档和物理删除是有条件的,如有业务数据是不能进行删除的,要把其它业务数据先做删除或归档处理 ? 在物料的选项框中打勾说明要进行删除物料 ? 2.SARA 归档删除 应用 SARA 进行归档和删除,先归档后删除 ? 点击归档按钮进入MM71如是物料主记录归档,如是其它事务代码是不同的,SARA是一个归档集中器,可以调用不同的归档事务 ? 点击 删除按钮,进入到下列界面,点击归档选择 ? 点击归档选择,点选 下面的两个方框 ? 点击 确认按钮就进行物料删除了,你的任务就完成了,应用MM03是看不到了的,其它的归档原理相同,只是删除的对象不同而矣

    3.6K51发布于 2019-05-29
  • 来自专栏悟道

    3-3欧几里得求最大公因子

    最大公因子,指两个或多个整数共有约数中最大的一个 private static int gc(int a, int b) { if(b==0){ return a; } if(a<b){ int temp=a; a=b; b=temp; } return gc(b,a%b); }

    51320发布于 2021-03-16
  • YashanDB归档管理

    YashanDB通过开启归档模式来进行redo日志文件自动归档,用以支持生产环境中的数据热备份以及高可用主备部署场景的主备同步。 当故障发生时,可以通过历史全量数据数据备份以及归档的redo日志文件重做完成数据库重建。 /archive 2.修改归档路径:通过SQL语句修改归档路径,重启数据库后生效。 清理归档的原则:归档日志不被数据库回放需要,即小于数据库的回放点,这样的归档才可以被清理。可以从V$DATABASE视图的RCY_POINT获取数据库的当前回放点。 若在备份集后生成的归档日志和在线日志连续且完整,可通过指定时间点使数据库继续恢复至任意时间点;若备份集之后的归档日志被清理,则数据库无法继续恢复至任意时间点。

    56210编辑于 2025-03-28
领券