首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏图形化开放式生信分析系统开发

    图形化开放式分析系统开发 - 6 分析流程批量运行与过程控制

    在上文生分析系统开发 - 5 分析流程服务器端运行 解决了设计好的流程分析服务器上运行的问题,随之而来就衍生出的新需求: 一、批量分析流程的运行顺序 流程输入文件是按照样本编号来匹配运行的,运行顺序就取决于样本信息 样本优先级:此处设计样本录入时候,输入优先级字段范围1-9,数字越大优先级越高 样本顺序:样本默认按照录入的时间先后排序,相同优先级的样本数据,按照录入先后顺序排序运行 二、分析流程的过程控制 强制停止 :开始分析流程之后,可以在任意时间停止分析过程 错误恢复运行:分析流程运行错误,再次运行,可以选择从错误处恢复运行 调试恢复运行:分析结束,修改pipeline参数后,可以选择从任意一点开始重新分析(应用修改后的参数 ) 覆盖运行:分析错误或者正常结束后,重新从头开始运行整个分析流程,并覆盖之前的分析结果 技术实现: 一、批量样本分析流程的运行顺序: 依赖于样本的优先级和输入的顺序先后,每次从数据库取出未完成分析的样本列表 其实就是一个带有优先级参数的先进先出的堆栈 二、分析流程控制 前文描述了如何将设计好的pipeline运行于服务器,如果要监控整个运行过程,就需要创建一个守护线程,如果用户操作停止分析,这时候守护进程就要终止运行进程

    80800发布于 2020-01-17
  • 来自专栏图形化开放式生信分析系统开发

    图形化开放式分析系统开发 - 5 分析流程服务器端运行

    在上文图形化开放式分析系统开发 - 4 分析流程的图形化设计 讨论了分析pipeline的图形化,如何用图形的方式显示pipeline,但是pipeline脚本按照变量的形式保存之后,如何运行 本程序作为控制端,可以和分析端部署在一台机器,也可以通过联网方式连接。 综合考虑,结合软件设计目标,这里选择远程模式 运行服务器节点: 服务器节点信息: 经常手动分析脚本的朋友大家的习惯可能是,ssh远程登录Linux服务器,在shell控制台输入各种脚本,软件。 SliverWorkspace_V2.1.pdf 首先这里实现了,服务器账户信息的管理,账户、主机名、端口、密钥、密码,这些信息为了保证安全,需要二次加密,不能将密码明文保存在数据库中,一旦泄漏危害巨大 服务器信息2.png 针对分析流程 运行完成后服务器端推送信息到控制端,判断是否符合要求,输出文件是否存在 运行失败后服务器端推送信息到控制端,显示错误信息,错误日志,便于开发人员查找错误 统计每一个分析步骤的运行时间,便于统计分析

    1K00发布于 2020-01-17
  • 来自专栏BioIT爱好者

    分析流程构建的几大流派

    导言 构建分析流程是生物信息学从业人员必备的技能之一,对该项能力的评估常常是各大公司招录人员的参考项目之一。 一个好的生物信息分析流程可以让你事倍功半,有效减负,同时也有利于他人重复你的数据分析结果。 根据信息学数据分析流程(管道、工作流程序)构建的风格和方式,大致有以下几大流派(注1): 脚本语言流 Common Workflow language 语言流 Makefile流 配置文件流 Jupyter 分析流程构建的几大流派 | 脚本语言流 脚本语言流的主要是通过简单的脚本语言(如 shell,R,Python,Perl)运行各类命令行脚本/程序。 前两种(1 和 2)是大多数生物信息学初学者(不具备封装和打包能力)最早开始接触分析流程的方式。后两种(3 和 4)是专业人员开发新工具、新流程的必备技能。

    3K41发布于 2021-10-15
  • 来自专栏生信技能树

    分析流程构建的几大流派

    导言 构建分析流程是生物信息学从业人员必备的技能之一,对该项能力的评估常常是各大公司招录人员的参考项目之一。 一个好的生物信息分析流程可以让你事倍功半,有效减负,同时也有利于他人重复你的数据分析结果。 ? 根据信息学数据分析流程(管道、工作流程序)构建的风格和方式,大致有以下几大流派(注1): 脚本语言流 Common Workflow language 语言流 Makefile流 配置文件流 Jupyter 分析流程构建的几大流派 | 脚本语言流 脚本语言流的主要是通过简单的脚本语言(如shell,R,Python,Perl)运行各类命令行脚本/程序。 )最早开始接触分析流程的方式。

    5.5K61发布于 2018-12-18
  • 来自专栏图形化开放式生信分析系统开发

    图形化开放式分析系统开发 - 3 分析流程的进化

    接上两篇内容,本文主要讲述工作中NGS从科研进入医学临床领域,工作中接触到流程,以及最终在实现的过程。 接触二代测序,分析,那真是打开了一个新世界的大门,各种名次术语满天飞,搞的头晕脑胀。 下面分阶段描述分析流程升级/进化的过程: ---- 1.手动命令行运行 经过几个月接触,自学、爬坑,慢慢搞清楚了部分内容,在似懂非懂之间开始了流程分析,终于有一天明白过来,这所谓的pipeline 比如其中一个步骤: 分析流程的进化_1.png QC 完成后,然后运行下一个步骤: 分析流程的进化_2.png 运行模式,一个输入或者多个输入文件,通过软件分析/计算得到一个或者多个输出文件 脚本连续运行 随着熟练程度提高,分析上用到的软件/工具也熟悉起来了,但是问题也暴露出来了,简单的一套 GATK Best Practice 肿瘤突变分析流程,加上CNV,SV 分析从 fastq 文件开始到最后得到过滤的 到这里,基本上就达到很多公司的自动化分析水平了 6. 然而到这里就足够了么?

    1.3K00发布于 2020-01-17
  • 来自专栏生信小驿站

    单基因分析流程(6)单基因相似性分析

    setwd("D:\\Originaldata\\GRCH\\Homo_sapiens.GRCh38.90") load("gtf_df.Rda") test <- gtf_df[1:5,

    1.3K21发布于 2020-08-13
  • 来自专栏图形化开放式生信分析系统开发

    图形化开放式分析系统开发 - 4 分析流程图形化

    在上文图形化开放式分析系统开发 - 3 分析流程的进化 讨论了分析pipeline的进化,从手动到自动,但仍然停留在终端命令行阶段,为了让更多非专业的人能够使用,就要想办法实现分析pipeline ${tools.samtools} 分析流程中用的reference文件以及数据库,如 hg19.fa ${ref.hg19} 分析流程中,用到的cutoff值. 如 cnv的cutoff值 ${cutoff.cnv} 分析流程运行时配置的资源,如 线程数 ${threads} 分配内存大小${mem} 变量值的类型: 字符:通用的格式,比较宽松 /节点设计:前文提到,分析pipeline其实就是基于文件输入输出的工作流,这里对工作流做了简化,归纳起来工作流中有4种节点。 并填写好输出文件后:保存时提示,没有运行的命令: validate_3.png validate_4.png 在Task中输入运行的命令,可以看到:变量提供了语法着色显示,防止输错 validate_5.

    1.2K00发布于 2020-01-17
  • 来自专栏生信菜鸟团

    分析中linux的使用5-grep

    技能树学习笔记 Linux文本处理——grep grep:一种强大的文本搜索工具,它能使用正则表达式匹配模式搜索文本,并把匹配的行打印出来 格式:grep [options] pattern file 问题5:多个关键词匹配?

    42810编辑于 2024-07-10
  • 来自专栏JavaPark

    No 5. 控制流程

    前言 我们在 上一篇文章 中讲了各种操作符的使用技巧,接上一篇文章中的内容,本次文章主要将流程控制,文章主要内容安排如下: 输入输出 条件判断 控制循环 输入输出 输入 要实现从控制台输入并读取到我们的程序中时 要实现从控制台输入,我们需要借助 Scanner 类,它属于标准输入流,其步骤总结如下: 首先,需要导入 Scanner 类。 观察结果可知,当 i == 5 时,我们执行了 break 语句,此时就直接跳出了 for 循环,而不再进行下一次的循环。 continue continue 也同样是应用在循环控制结构中,主要是让程序跳出当次循环,进而进入下一次循环的迭代。 观察上述结果可知,当 i == 5 时,我们执行了 continue 语句,此时便跳出了当次循环,不再进行后边的打印语句,然后继续下一次的循环,所以最终打印的结果没有 5.

    1.1K30发布于 2021-04-21
  • 来自专栏芒果先生聊生信

    分析网站(生存分析

    论文的套路 ONCOMINE从全景、亚型两个维度做表达差异分析; 临床标本从蛋白水平确认(或HPA数据库),很重要; Kaplan-Meier Plotter从临床意义的角度阐明其重要性; cBio-portal 数据库做基因组学的分析(机制一); STRING互作和GO/KEGG分析探讨可能的信号通路(机制二); TISIDB/TIMER分析肿瘤免疫特征(机制三)。 差异分析,无论是Oncomine,GEPIA,还是UALCAN、HPA数据库,都不需要R语言编写代码,容易上手,基本上一个星期甚至更短的时间就可以搞定,属于菜鸟级别生操作。并没有想象中那么难。 生存分析论文中经常出现的表型,也就是说基因在正常和肿瘤组织中表达的差异,与生存率的指标密切相关。如A基因在肿瘤中表达明显上调,生存率显著下降,这就是非常明确的相关性。 生存分析是非常重要的表型,诸多文章均有介绍。这里,我们对生存分析的纯数据库进行总结,果友们在选择时也可以作为参考。

    4.5K44发布于 2020-08-11
  • 来自专栏生物信息学

    一步到位-分析流程构建框架介绍

    好在时至今日,已经有很多科学家开发了非常多优秀的算法及软件,很多时候我们要做的是怎么将这些软件串联起来并构建成分析流程,而这项技能通常是各大公司考核应聘者的项目之一。 这种理念是我们最直观的分析逻辑,也是最常用的流程框架。通常,刚入门的同学们会选择这种方式,简单而暴力;段位较高的同学,则会选择将分析内容进行包装,然后提供多个参数选择,增加流程灵活性。 大部分时候,这样都会满足我们分析需求,但是其作为一个流程有着严重的缺点就是缺乏重入性(reentrancy),即当流程在运行过程中,很容易因为某些不知名的原因而发生中断,而普通的脚本流程只能是从头来过了 下面是Galaxy在线编辑WES分析流程界面: ? ,那么就可以使用Implicit/Explicit类的流程,如:Snakemake、Nextflow等,而这一类的流程也比较适合刚入门生的小伙伴们去尝试; 如果是需要进行高性能流程开发,致力于解决特定的生物学问题

    2.8K30发布于 2020-04-13
  • 星球——入门DAY5:数据结构

    )表示1-10之间每0.5取一个数从向量中提取元素x[4] #x第4个元素x[-4]#排除法,除了第4个元素之外剩余的元素x[2:4]#第2到4个元素x[-(2:4)]#除了第2-4个元素x[c(1,5) ] #第1个和第5个元素x[x==10]#等于10的元素x[x<0]x[x %in% c(1,2,5)]#存在于向量c(1,2,5)中的元素数据框read.table(file="",sep="",header

    31800编辑于 2024-01-21
  • 来自专栏用户10800790的专栏

    星球 day 5 ——橙子🍊

    星球数据结构 向量vector 标量:1个元素 向量:多个元素 从向量中提取元素 x[4] x[x==10] 位置、逻辑值 数据框 a <- read.table(file='huahua.txt'

    24650编辑于 2023-10-25
  • 来自专栏芒果先生聊生信

    分析网站(免疫浸润分析

    论文的套路 ONCOMINE从全景、亚型两个维度做表达差异分析; 临床标本从蛋白水平确认(或HPA数据库),很重要; Kaplan-Meier Plotter从临床意义的角度阐明其重要性; cBio-portal 在差异分析的前提下,表型分析成为重点内容,也是可以玩出花样的地方。 生存分析是非常常见的表型分析。与生存分析相比,相关性分析是另外一个常见的表型分析。 免疫浸润分析比生存分析、差异分析和相关性分析难度更大,因为免疫学是不断延伸、拓展的学科,并不断从理论走向应用、临床,兼有科学性和技术性,比如实验中已经普遍应用的免疫印迹(WB),流式分析,免疫组化和免疫荧光等等 分析中,有一种算法叫反卷积分析,英文名叫Deconvolution。 开发人员可以先通过预设一个优秀的数据训练集(训练集主要包含了每种不同免疫细胞的基因表达特征),然后通过反卷积算法推算出这个整体样本中究竟有哪些免疫细胞。

    7.9K43发布于 2020-08-12
  • 来自专栏Python

    5、Python流程控制

    5、Python流程控制条件判断条件判断是通过一条 或多条判断语句的执行结果(True或者False) 来决定执行的代码块。 5)在Python中没有switch - case语句。 age > 18: print("你已经成年了")elif age == 18: print("你刚成年")else: print("未成年")while 循环while循环语句的控制结构图 Python代码在执行过程中,遵循下面的基本原则: 1)普通语句,直接执行; 2)碰到函数,将函数体载入内存,并不直接执行 3)碰到类,执行类内部的普通语句,但是类的方法只载入,不执行 4)碰到if、for等控制语句 ,按相应控制流程执行 5)碰到@,break, continue等, 按规定语法执行 6)碰到函数、方法调用等,转而执行函数内部代码,执行完毕继续执行原有顺序 代码.

    49820编辑于 2023-11-05
  • 来自专栏生信技能树

    技巧第5课-人必须安装的软件

    长期更新列表: 视频讲解-R爬取软件列表到思维导图 技巧第二课-使用markdown记录和分享笔记 技巧第3课-请你务必学好R语言 broad官网出品的 必须神器 IGV 资料大全,含视频 不知不觉就第5讲了,本次视频没有干货,只是为了保证入门系列视频的完整性而录制的,没啥事就不用看了,反正你需要安装一些软件就可以了。 软件安装及使用 (官网,例子,conda) 多版本软件发布:NCBI的 blast以及sratoolkit 等等 二进制软件(预编译版本):下载即可使用 C源码软件:官网,readme,安装,解决配置文件及报错 系统软件中心:ubuntu的用apt-get,centos的用yum,macOS的App Store或者brew 成熟的软件管理中心:conda 保证一个纯粹的新手,生物学的本科,经过3个小时的折腾

    2K30发布于 2018-07-27
  • 5学习笔记-微公众号星球

    拿小本本记下来(1)R的规范赋值符号是<-,也可以用=代替(2)在Console 控制台输入命令,相当于Linux的命令行 (3)R的代码都是带括号的,括号必须是英文的。 (4)显示工作路径 getwd()(5)向量是由元素组成的,元素可以是数字或者字符串。(6)表格在R语言中称为数据框^_^(7)别只复制代码,要理解其中的命令、函数的意思。 这里的x是你刚才赋值的变量名,根据自己的情况来修改x[4] #x第4个元素x[-4]#排除法,除了第4个元素之外剩余的元素x[2:4]#第2到4个元素x[-(2:4)]#除了第2-4个元素x[c(1,5) ] #第1个和第5个元素(2)根据值x[x==10]#等于10的元素x[x<0]x[x %in% c(1,2,5)]#存在于向量c(1,2,5)中的元素Part2:数据框将示例数据放在你的工作目录下(! "bioinfoplanet.RData")#保存当前所有变量save(a,file="test.RData")#保存其中一个变量load("test.RData")#再次使用RData时的加载命令(5

    71010编辑于 2024-02-24
  • 来自专栏生信技能树

    每月一流程之rnaseqGene

    每月一流程栏目灵感来自于《铁汉1991》博客的《每日一》,他那个时候介绍的主要是基础知识,包括数据结构,数据格式,数据库资源,计算机基础等等,所以每天都可以进步,每天都有成果。 这些基础知识已经被分享的七七八八了,所以我这里推陈出新,来一个每月一流程,陪技能树的粉丝们一起进步! image.png 不同数据变换公式的差异 学习这样的流程是需要一定背景知识的 首先是LINUX学习 我在《分析人员如何系统入门Linux(2019更新版)》把Linux的学习过程分成6个阶段 , 视频必须强推技能树近30万学习量的基础合辑: image.png 技能树关于RNA-seq上下游数据分析的教程的确不少了 因为做目录确实很浪费时间,差不多就下面这些,大家先学习吧: 转录组经典表达量矩阵下游分析大全 小白的RNA-seq实战历程 RNA-seq数据分析指南 后记 听说隔壁openbiox团队在组织翻译这个bioconductor流程系列,而且还是由我们技能树元老-思考问题的熊领头,希望他们的翻译成果早日出版

    1.1K20发布于 2020-04-14
  • 来自专栏生信小驿站

    单基因分析流程(2)一文解决差异分析、基因相关分析问题

    单基因分析流程(1)一文解决TCGA数据下载整理问题 单基因分析流程(2)一文解决差异分析和基因相关分析问题 本文目的 学会如何使用差异分析 学会绘制火山图和热图 学会如何求取相关基因 第一招: 差异分析 差异分析步骤总结 (1)读取基因表达矩阵 (2)根据基因表达量设置样本分组 (3)设置差异倍数、生成差异分析结果 (4)绘制火山图和热图 加载所必须的包 # ============== ======================= 设置分组,我们根据ERBB2基因的表达中位值,将样本分为ERBB2高表达组和ERBB2低表达组,通过求两组样本的差异基因,来对ERBB2的生物学功能进行分析

    4.4K62发布于 2019-05-15
  • 来自专栏生信菜鸟团

    Singularity — 流程搭建好帮手

    github.com/sylabs/singularity 2发表文章 题目:Singularity: Scientific containers for mobility of compute 日期:2017年5月 (唯一不足是Conda安装的singularity不是最新版本) conda create -n singularity singularity=3.8.6 -y 4分析中为什么使用Singularity Singularity 容器可以将软件及其依赖项打包在一起,确保分析环境的一致性,无论是在本地机器、服务器还是云平台上。 5基本使用 运行测试 singularity run library://library/tutorial101/wttr:latest 与Singularity容器进行交互 shell 允许用户以交互的方式进入到一个特定的容器环境中 singularity build --fakeroot test.sif test.def ## 运行 singularity run test.sif 示例演示 运行输出 6来看一个实例 刚好前段时间技能树有发一个推文介绍了中国人群的肝癌多组学队列研究

    2.3K10编辑于 2024-04-11
领券