- 综合排序
- 最热优先
- 最新优先
- 来自专栏火星娃统计
GEO数据挖掘7
GEO数据挖掘7 sunqi 2020/7/13 概述 GSVA分析，gene Set Variation Analysis，被称为基因集变异分析，是一种非参数的无监督分析方法，用来评估芯片核转录组的基因集富集结果 分组情况 table(group_list) ## group_list ## Control Vemurafenib ## 3 3 ##导入MigDB数据集名 "c7.all.v6.2.symbols.gmt" "h.all.v6.2.symbols.gmt" # 安装GSVA包 # BiocManager::install('GSVA') library es_max) df=df[df$P.Value<0.01 & abs(df$logFC) > 0.5,] write.csv(df,file = 'GSVA_DEG.csv') 结束语 至此，GEO数据分析的基础基本介绍完毕 ，后面计划解读一些geo数据挖掘的文章 love&peace
1.9K30发布于 2020-09-15 - 来自专栏人工智能
数据挖掘的7个重要技术
数据挖掘技术 数据挖掘是查看大型信息库以生成新信息的过程。直觉上，你可能认为数据挖掘是指提取新的数据，但事实并非如此; 相反的，数据挖掘是从已经收集的数据中推断出新的模式和知识。 数据挖掘专家们在自己所在的领域，依靠数据库管理，统计和机器学习的交叉技术，可以更好地从大量数据中获取到自己想要的结论。但是，他们使用什么技术来实现这一点呢？ 回答是：”数据挖掘技术” 只要利用以下技术中的一种或多种，数据挖掘则会变得非常有效： 1.跟踪模式。数据挖掘中最基本的技术之一就是学习识别数据集中的模式。 更具体地说，回归的主要焦点是帮助您揭示指定数据集中两个（或更多）变量之间的确切关系。 7.预测。预测是最有价值的数据挖掘技术之一，因为它用于投影将来会看到的数据类型。 如何用好数据挖掘工具 那么你是否需要最新最好的机器学习工具来应用这些技术呢？不一定。实际上，您可以用相对适中的数据库系统和一些简单直接可对接的大数据工具来完成一些尖端的数据挖掘工作。
1.2K60发布于 2018-01-09 day 7-8 GEO数据挖掘
有什么类型数据？ 2.GEO背景介绍+分析思路 表达数据实验设计：分组需要有意义 分组为病变组织VS 健康组织 如果公共数据库没有，需要自己测 2.1数据挖掘：有差异的材料→差异基因→找功能/找关联→解释差异,缩小基因范围 ##3.1 查找数据并提取数据信息 下载 Series Materix.txt并放在工作目录下 基因表达芯片的数据大小500k以下说明基因太少或者样本不正常 两种数据：常规转录组；单细胞/基因表达芯片 p) { s = intersect(rownames(pd),colnames(exp)) exp = exp[,s] pd = pd[s,] } #(4)提取芯片平台编号，后面要根据它来找探针注释 /机器学习/热图） 4、没取过log且有负值：提示错误数据（建议换一个数据或处理原始数据） 5、取过1og，有少量的负数，但是4<中位数<15 这种数据正常 3、优先找靠谱正常数据 降低难度 4、代码需要修代的地方
50210编辑于 2025-08-15- 来自专栏人生代码
数据挖掘实践指南读书笔记7
写在之前 本书涉及的源程序和数据都可以在以下网站中找到： http://guidetodatamining.com/ 这本书理论比较简单，书中错误较少，动手锻炼较多，如果每个代码都自己写出来，收获不少。 学习 # 从队列中获得数据的最小值 from Queue import PriorityQueue singersQueue = PriorityQueue() singersQueue.put((16 members = [self.memberOf.count(i) for i in range(len(self.centroids))]#计数列表 #对centroid类的数据的第 k列数据 第i个中心点求和，计算平均 self.centroids = [[sum([self.data[k][i] for 选择初始中心点的步骤： 从数据点中随机选择第一个中心点 重复以下过程，直到选出k个中心点 计算每个数据点dp到其最近的中心点的距离D(dp) 以正比D(dp)的概率，随机选择一个数据点作为新中心点加入到中心点集合
58710发布于 2019-11-05 - 来自专栏搜狗测试
软件品质评测系统- 数据挖掘处理平台
软件品质评测体系建立之后，在进行评测之前首先要确定评测使用的数据，这就需要数据挖掘平台发挥作用了，本文将以输入法评测语料制作为例介绍我们的评测数据挖掘处理平台。 1 数据挖掘处理原则 全面性 使用场景 依照不同用户需要的打字环境的差别，结合当前使用频率较高的几种应用，尽可能全面地覆盖用户使用的打字场景，主要分为以下两个类别： 聊天场景：用户聊天的打字内容，例如 因此我们在挖掘用户打字行为时，除了满足普通打字需求的同时也设计了多种用户可能的行为，包括联想、组词、纠错、退格等。 清洗前的数据： ? 清洗后的数据： ? 数据分词 经过清洗后的数据，仍然是以大段的文章形式存储的，还不能直接拿来使用，需要使用特定的工具对其进行分词处理。 expect_cand": ""} //表示退格 {"pinyin": "#", "expect_cand": ""} //表示换行 ], "键盘类型":26 } 4结语 评测数据挖掘不是一成不变的
93020发布于 2020-07-16 - 来自专栏韩曙亮的移动开发专栏
【数据挖掘】数据挖掘总结 ( 数据挖掘相关概念 ) ★★
用于挖掘的数数据源 必须 真实 : ① 存在的真实数据 : 数据挖掘处理的数据一般是存在的真实数据 , 不是专门收集的数据 ; ② 数据收集 : 该工作不属于数据挖掘范畴 , 属于统计任务 ; 2 . 数据必须海量 : ① 少量数据处理 : 少量数据使用统计方法分析 , 不必使用数据挖掘 ; ② 海量数据 : 处理海量数据时 , 才使用数据挖掘 , 涉及到 有效存储 , 快速访问 , 合理表示 等方面的问题 未知结果 : ① 挖掘结果 : 数据挖掘 挖掘出的知识是未知的 , 目的是为了发掘潜在的知识 , 模式 ; 这些知识只能在特定环境下可以接收 , 可以理解 , 可以运用 ; ② 知识使用 : 数据挖掘出的知识只能在特定领域使用 , 如金融领域数据挖掘结果 , 只能在金融领域及相关领域使用 ; 参考博客 : 【数据挖掘】数据挖掘简介 ( 数据挖掘引入 | KDD 流程 | 数据源要求 | 技术特点 ) 二、 数据挖掘组件化思想 数据挖掘任务分类 : 根据数据挖掘的目标 , 可以将数据挖掘任务分为以下几类 : ① 模式挖掘 , ② 描述建模 , ③ 预测建模 ; 描述建模 和 预测建模 又称为 模型挖掘 ; ① 模式挖掘 : 如
5.3K00编辑于 2023-03-28 - 来自专栏数据科学与人工智能
【数据挖掘】图数据挖掘
那么图数据挖掘是干什么的呢？难道是开着挖掘机来进行挖掘？还是扛着锄头？下面讲讲什么是图数据挖掘。 一、什么是图数据挖掘 这个话题感觉比较沉重，以至于我敲打每个字都要犹豫半天，这里我说说我对图数据挖掘的理解。数据是一个不可数名字，那么说明数据是一个没有边界的东西。 那么不难理解，数据挖掘就是挖掘数据里面的“宝贝”，图数据挖掘，就是以图的结构来存储、展示、思考数据，以达到挖掘出其中的“宝贝”。那这个“宝贝”是什么？ 那么对这个图进行关系挖掘，那么会产生很多有用的数据，比如可以推荐你可能认识的人，那就是朋友的朋友，甚至更深，这就形成了某空间好友推荐的功能。比如某宝的你可能喜欢的宝贝，可以通过图数据挖掘来实现。 这就是我认为的图数据挖掘。 从学术上讲，图数据挖掘分为数据图，模式图两种。至于这两个类型的区别，由于很久没有关注这块，所以只能给出一个字面意义上的区别。
3.3K81发布于 2018-02-27 - 来自专栏CDA数据分析师
科普 | 数据挖掘最常用的7种常方法
利用数据挖掘进行数据分析常用的方法主要有分类、回归分析、聚类、关联规则、特征、变化和偏差分析、Web页挖掘等， 它们分别从不同的角度对数据进行挖掘。 在客户关系管理中，通过对企业的客户数据库里的大量数据进行挖掘，可以从大量的记录中发现有趣的关联关系，找出影响市场营销效果的关键因素，为产品定位、定价与定制客户群，客户寻求、细分与保持，市场营销与推销，营销风险评估和诈骗预测等决策支持提供参考依据 意外规则的挖掘可以应用到各种异常信息的发现、分析、识别、评价和预警等方面。 Web页挖掘 随着Internet的迅速发展及Web 的全球普及， 使得Web上的信息量无比丰富，通过对Web的挖掘，可以利用Web 的海量数据进行分析，收集政治、经济、政策、科技、金融、各种市场、竞争对手 数据挖掘是一种决策支持过程，它通过高度自动化地分析企业的数据，做出归纳性的推理，从中挖掘出潜在的模式，帮助决策者调整市场策略，减少风险，做出正确的决策。这对于一个企业的发展十分重要。
86080发布于 2018-02-11 - 来自专栏韩曙亮的移动开发专栏
【数据挖掘】数据挖掘简介 ( 6 个常用功能 | 数据挖掘结果判断 | 数据挖掘学习框架 | 数据挖掘分类 )
数据挖掘 功能 II . 数据挖掘 结果判断 III . 数据挖掘 学习框架 IV . 数据挖掘 分类 I . 数据挖掘 功能 ---- 1 . 数据挖掘 结果判断 ---- 数据挖掘结果判断 : 数据挖掘得出的 知识 / 模式 , 如何判断得出的结果是否有效 ; ① 客观判断方法 : 通过科学计算进行判断是否正确 , 该计算基于 模式 的t 统计和结构 数据挖掘 学习框架 ---- 1 . 数据挖掘技术 ( 重点 ) : 聚类分析 , 异常检测 , 分类 , 关联规则分析 , 序列模式分析 , 数据方体与数据仓库 ; 2 . 数据挖掘应用 : CRM , 搜索分析 , 网络安全 , 生物信息分析 … IV . 数据挖掘 分类 ---- 1 . : 时间数据 , 空间数据 , 文本数据 , 音视频多媒体数据 , WEB 数据 等类型的数据挖掘 ; 2 .
1.6K20编辑于 2023-03-27 - 来自专栏大大的小数据
泰迪TIPM开源数据挖掘建模平台测试2021.9.14
1、http://python.tipdm.org/ 2、 3、 4、 5、 6、 7、看不到数据 8、 查看报告
29630编辑于 2022-09-22 - 来自专栏韩曙亮的移动开发专栏
【数据挖掘】数据挖掘总结 ( 数据挖掘特点 | 数据挖掘组件化思想 | 决策树模型 ) ★
文章目录 一、 数据挖掘特点 二、 数据挖掘组件化思想 三、 决策树模型 1、 决策树模型创建 2、 树根属性选择 一、 数据挖掘特点 ---- 1 . 用于挖掘的数数据源 必须 真实 : ① 存在的真实数据 : 数据挖掘处理的数据一般是存在的真实数据 , 不是专门收集的数据 ; ② 数据收集 : 该工作不属于数据挖掘范畴 , 属于统计任务 ; 2 . 数据必须海量 : ① 少量数据处理 : 少量数据使用统计方法分析 , 不必使用数据挖掘 ; ② 海量数据 : 处理海量数据时 , 才使用数据挖掘 , 涉及到 有效存储 , 快速访问 , 合理表示 等方面的问题 , 如金融领域数据挖掘结果 , 只能在金融领域及相关领域使用 ; 参考博客 : 【数据挖掘】数据挖掘简介 ( 数据挖掘引入 | KDD 流程 | 数据源要求 | 技术特点 ) 二、 数据挖掘组件化思想 数据挖掘任务分类 : 根据数据挖掘的目标 , 可以将数据挖掘任务分为以下几类 : ① 模式挖掘 , ② 描述建模 , ③ 预测建模 ; 描述建模 和 预测建模 又称为 模型挖掘 ; ① 模式挖掘 : 如
1.4K00编辑于 2023-03-28 - 来自专栏数据科学与人工智能
【数据挖掘】数据挖掘#商业智能（BI）数据分析挖掘概念
数据挖掘目前在各类企业和机构中蓬勃发展。因此我们制作了一份此领域常见术语总结，希望你喜欢。 大数据（Big Data）: 大数据既是一个被滥用的流行语，也是一个当今社会的真实趋势。此术语指代总量与日俱增的数据，这些数据每天都在被捕获、处理、汇集、储存、分析。 机器学习（Machine Learning）: 一个学科，研究从数据中自动学习，以便计算机能根据它们收到的反馈调整自身运行。与人工智能、数据挖掘、统计方法关系密切。 文本挖掘（Text Mining）: 对包含自然语言的数据的分析。对源数据中词语和短语进行统计计算，以便用数学术语表达文本结构，之后用传统数据挖掘技术分析文本结构。 网络挖掘/网络数据挖掘（Web Mining / Web Data Mining) : 使用数据挖掘技术从互联网站点、文档或服务中自动发现和提取信息。
3.2K90发布于 2018-02-27 - 来自专栏数据科学与人工智能
【数据挖掘】大数据知识之数据挖掘
从市场需求及应用的角度来看，通过对大数据的存储、挖掘和分析，大数据在管理、营销、数据标准化等领域大有可为，促使管理/服务水平提升、营销方式改进等。下面我们就来讲讲数据挖掘的那些事。 目前在数据挖掘中，最常使用的两种神经网络是BP网络和RBF网络 不过，由于人工神经网络还是一个新兴学科，一些重要的理论问题尚未解决。 5规则归纳 规则归纳相对来讲是数据挖掘特有的技术。 它指的是在大型数据库或数据仓库中搜索和挖掘以往不知道的规则和规律，这大致包括以下几种形式：IF … THEN … 6可视化技术 可视化技术是数据挖掘不可忽视的辅助技术。 数据挖掘通常会涉及较复杂的数学方法和信息技术，为了方便用户理解和使用这类技术，必须借助图形、图象、动画等手段形象地指导操作、引导挖掘和表达结果等，否则很难推广普及数据挖掘技术。 至于数据挖掘的未来，让我们拭目以待。
2K90发布于 2018-02-26 - 来自专栏测试开发干货
数据工厂平台-7:菜单和首页
平台一般都有自己的lOGO的。一个好的设计会让使用者增加印象，如果实在没有，你就用你们公司自己的产品公司LOGO~ 我这里随便找了个图片做为LOGO： 但是发现这里居然原来用的是.svg格式的。 现在回到我们的views.py中，给前端传递当前登录用户的总数据，这样之后我们之后就可以随意使用user. xxxx 了 效果如下： 好了，今天的内容到此结束。
58030编辑于 2022-05-19 - 来自专栏数据科学与人工智能
【数据挖掘】系统地学习数据挖掘
●什么是数据挖掘？ ●怎么培养数据分析的能力？ ●如何成为一名数据科学家？ 磨刀不误砍柴工。在学习数据挖掘之前应该明白几点： ●数据挖掘目前在中国的尚未流行开，犹如屠龙之技。 ●数据初期的准备通常占整个数据挖掘项目工作量的70%左右。 ●数据挖掘本身融合了统计学、数据库和机器学习等学科，并不是新的技术。 ●数据挖掘技术更适合业务人员学习（相比技术人员学习业务来的更高效） ●数据挖掘适用于传统的BI（报表、OLAP等）无法支持的领域。 ●数据挖掘项目通常需要重复一些毫无技术含量的工作。 ●经典图书推荐：《概率论与数理统计》、《统计学》推荐David Freedman版、《业务建模与数据挖掘》、《数据挖掘导论》、《SAS编程与数据挖掘商业案例》、《Clementine数据挖掘方法及应用 ●可以尝试改进一些主流算法使其更加快速高效，例如实现Hadoop平台下的SVM云算法调用平台--web 工程调用hadoop集群。 ●需要广而深的阅读世界著名会议论文跟踪热点技术。
1.6K50发布于 2018-02-27 - 来自专栏Man_Docker
centos7搭建superset数据平台
最后，建议大家再运行命令： pip install --upgrade pip 3.安装superset平台： 依赖包安装； yum upgrade python-setuptools yum install 将superset的元数据存储改成mysql，就需要这一步。 } } #=============== superset_config.py结束=============== 最后，安装 superset，在安装之前需要在mysql先创建superset的数据库 show variables like "%char%"; create database superset use superset --这里如果不设置数据库为utf8，在后面初始化数据库时会报 user]: admin Email [admin@fab.org]: admin@163.com Password: admin Repeat for confirmation: admin 初始化数据
1.5K30发布于 2020-05-28 - 来自专栏数据科学与人工智能
【数据挖掘】常用的数据挖掘方法
数据挖掘又称数据库中的知识发现，是目前人工智能和数据库领域研究的热点问题，所谓数据挖掘是指从数据库的大量数据中揭示出隐含的、先前未知的并有潜在价值的信息的非平凡过程 利用数据挖掘进行数据分析常用的方法主要有分类 、回归分析、聚类、关联规则、特征、变化和偏差分析、Web页挖掘等， 它们分别从不同的角度对数据进行挖掘。 在客户关系管理中，通过对企业的客户数据库里的大量数据进行挖掘，可以从大量的记录中发现有趣的关联关系，找出影响市场营销效果的关键因素，为产品定位、定价与定制客户群，客户寻求、细分与保持，市场营销与推销，营销风险评估和诈骗预测等决策支持提供参考依据 意外规则的挖掘可以应用到各种异常信息的发现、分析、识别、评价和预警等方面。 ⑦ Web页挖掘。 随着Internet的迅速发展及Web 的全球普及， 使得Web上的信息量无比丰富，通过对Web的挖掘，可以利用Web 的海量数据进行分析，收集政治、经济、政策、科技、金融、各种市场、竞争对手、供求信息
3.2K60发布于 2018-02-27 - 来自专栏全栈程序员必看
数据挖掘——关联规则挖掘
《数据挖掘》国防科技大学 《数据挖掘》青岛大学 数据挖掘之关联规则挖掘 关联规则挖掘（Association Rule Mining）最早是由Agrawal等人提出。 形式化描述 • 关联规则挖掘的交易数据集记为D • D ＝｛T1，T2，…，Tk，…,Tn｝，Tk（k＝1,2,…，n）称为交易，每个交易有唯一的标识，记作TID。 基本概念 挖掘关联规则 在给定一个交易数据集D上，挖掘关联规则问题就是产生支持度和置信度分别大于等于用户给定的最小支持度阈值和最小置信度阈值的关联规则。 FP树是一种输入数据的压缩表示，它通过逐个读入事务，并把每个事务映射到FP树中的一条路径来构造。 构造FP树： 扫描数据库，得到频繁1-项集，并把项按支持度递减排序 再一次扫描数据库，建立FP-tree（遍历每一个事务，构造成一条路径，并给项计数） 生成条件模式： 从FP-tree的头表开始
3.3K10编辑于 2022-09-09 - 来自专栏数据科学与人工智能
【数据挖掘】数据挖掘工作总结
导读：很多人不明白学习数据挖掘以后干什么，这个问题也经常被问到。记得刚学数据挖掘的时候，有一个老师说学数据挖掘有什么用，你以后咋找工作。当时听了，觉得很诧异，不知道他为何有此一问。 数据挖掘在国外是一份很不错的工作。我喜欢数据挖掘，因为它很有趣。很高兴以后就从事这方面的工作啦。写论文之余，也考虑一下数据挖掘工程师的职业规划。 ? 以下是从网上找的一些相关资料介绍，和即将走上数据挖掘岗位或是想往这方面发展的朋友共享： 数据挖掘从业人员工作分析 1.数据挖掘从业人员的愿景： 数据挖掘就业的途径从我看来有以下几种，(注意：本文所说的数据挖掘不包括数据仓库或数据库管理员的角色 从这个方面切入数据挖掘领域的话你需要学习《数理统计》、《概率论》、《统计学习基础：数据挖掘、推理与预测》、《金融数据挖掘》,《业务建模与数据挖掘》、《数据挖掘实践 》等，当然也少不了你使用的工具的对应说明书了 ，如SPSS、SAS等厂商的《SAS数据挖掘与分析》、《数据挖掘Clementine应用实务》、《EXCEL 2007数据挖掘完全手册》等，如果多看一些如《数据挖掘原理》 等书籍那就更好了。
1.8K60发布于 2018-02-27 - 来自专栏数据科学与人工智能
【数据挖掘】数据挖掘 特异群组挖掘的框架与应用
图2 不同相似性定义下的各种簇[7] 但不管怎样，传统聚类算法是处理大部分数据对象具有成簇趋势的数据集，将大部分数据对象划分成若干个簇。 图6 公安系统跟车行为检测 （4）电子商务交易中的信誉欺诈挖掘 大多数在线交易平台（如eBay.com和Taobao.com）都已建立交易双方的信用评分系统。 发现这些可疑账户将为交易平台信誉欺诈检测提供帮助。 （5）社会网络中的小群体发现 Leskovec等人发现社会网络中，社区变得越大，社区成员的交流却开始变得更少[23]。 参考文献[4]对特异群组挖掘算法进行了性能评估实验，对比的算法主要是经典的聚类算法DBSCAN、BBC、SynC以及基于无剪枝的数据对象两两比对的NavAllPairs算法，如图7所示。 图7 在生物数据集上特异群组挖掘算法性能 此外，在公共安全方面发现突发群体事件，在社交网络大数据中发现影响安全、和谐网络环境的特异群体等都是大数据特异群组挖掘的应用需求。
2.1K100发布于 2018-02-27
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号