首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏GIS与遥感开发平台

    数据下载 | MODIS数据另类下载方式

    MODIS是一种我们常用的遥感数据。由于MODIS的重访周期比较短(1-2天),所以就可以利用MODIS合成多天无云的产品。 我们今天介绍的这个网址就可以直接下载我们自己研究区域的MODIS数据。 01 这个是USGS的一个下载网址,首先我们需要有一个USGS的账号,没有的同学申请一个就可以。 数据下载网址: https://lpdaac.usgs.gov/tools/appeears/ 登上网址: 我们点击中间的,‘Launch AppEEARS‘,跳转如下的如下的界面。 我们点击左上角的‘Extract', 选择‘Area Sample',也可以选择'Point Sample‘(提取点数据),我们这里以提取面数据为例。 选择‘Start a new request‘ 下面就是我们筛选数据的界面 我们需要在这个界面填入本次下载任务的名称、范围、日期,MODIS产品名称和下载格式和投影。

    1.1K20编辑于 2022-04-29
  • 来自专栏MeteoAI

    数据下载 | NCEP再分析数据自动批量下载

    NCEP再分析资料 NCEP/NCAR再分析数据集是由美国气象环境预报中心(NCEP)和美国国家大气研究中心(NCAR)联合制作的,他们采用了当今最先进的全球资料同化系统和完善的数据库。 数据介绍 数据下载自NCAR:https://rda.ucar.edu/ 需要自行注册账户,最好是edu结尾的邮箱。 NCEP的FNL资料:http://rda.ucar.edu/data/ds083.2 空间分辨率:1°×1° 时间分辨率:逐6小时 批量下载数据 import requests import datetime s = builtSession() for i in range(2): #共下载多少个时次 startdt = datetime.datetime(2021, 1, 1 读取示例数据 import xarray as xr ds = xr.open_dataset('.

    3.6K41发布于 2021-07-01
  • 来自专栏气象杂货铺

    数据下载 | CMIP6数据自动批量下载

    CMIP6数据命名规则 总结来自于happy科研 CMIP6数据批量下载 总算到了今天的重头戏了,就是如何使用python高效便捷的下载数据。 : acccmip6 -o S -m MIROC6 -v vas -f mon -r atmos 下载数据 下载数据的命令都以acccmip6 -o D开头,后面添加参数,具体如下: 具体使用示例如下 其他数据批量下载 网络上有很多开放的数据,比如再分析数据,台风路径数据,AQI数据,遥感影像数据,探空数据,各城市历年的温压湿风等数据。 手动下载这些数据非常繁琐耗时,幸好大部分数据可以直接通过api,ftp还有爬虫等方式进行下载。 大家可以参与讨论,说说你有什么高效获取数据的方式,也可以说说你想下载哪些数据,后面也会根据留言内容继续推出一些数据自动下载的文章。

    4.7K61发布于 2020-11-09
  • 来自专栏气象学家

    数据下载 | CMIP6数据自动批量下载

    CMIP6数据命名规则 总结来自于happy科研 CMIP6数据批量下载 总算到了今天的重头戏了,就是如何使用python高效便捷的下载数据。 : acccmip6 -o S -m MIROC6 -v vas -f mon -r atmos 下载数据 下载数据的命令都以acccmip6 -o D开头,后面添加参数,具体如下: 具体使用示例如下 其他数据批量下载 网络上有很多开放的数据,比如再分析数据,台风路径数据,AQI数据,遥感影像数据,探空数据,各城市历年的温压湿风等数据。 手动下载这些数据非常繁琐耗时,幸好大部分数据可以直接通过api,ftp还有爬虫等方式进行下载。 大家可以参与讨论,说说你有什么高效获取数据的方式,也可以说说你想下载哪些数据,后面也会根据留言内容继续推出一些数据自动下载的文章。 ---- 目前已有210+位成员, 快快加入吧!

    9.9K63发布于 2020-11-06
  • 来自专栏好奇心Log

    数据下载 | NCEP再分析数据自动批量下载

    NCEP再分析资料 NCEP/NCAR再分析数据集是由美国气象环境预报中心(NCEP)和美国国家大气研究中心(NCAR)联合制作的,他们采用了当今最先进的全球资料同化系统和完善的数据库。 数据介绍 数据下载自NCAR:https://rda.ucar.edu/ 需要自行注册账户,最好是edu结尾的邮箱。 NCEP的FNL资料:http://rda.ucar.edu/data/ds083.2 空间分辨率:1°×1° 时间分辨率:逐6小时 批量下载数据 import requests import datetime s = builtSession() for i in range(2): #共下载多少个时次 startdt = datetime.datetime(2021, 1, 1 读取示例数据 import xarray as xr ds = xr.open_dataset('.

    6.3K20发布于 2021-05-28
  • 来自专栏全栈程序员必看

    MODIS数据下载

    MODIS数据的网站发生了变化,相对于原来的网站来说,丰富了一些。 MODIS数据网址:https://modis.gsfc.nasa.gov/ 打开网址后,可以看到网站上的一些内容。 内容包括数据(Data),新闻(News),科研团队活动(Science Team Meeting) 这篇博文主要说数据下载,点击Data中的链接: 打开链接后,可以看到Data的介绍: 拖到页面的最下面找到需要下载数据 ,当然也可以在原来选择Sensor的位置添加其余的数据。 ,点击4后,数据会加载出来 加载出来的图片如图所示,可以直接点击右侧的download直接进行下载(无需账号),点击下载之后,所有的下载过程就都完成啦。 附,通过Order的方式下载,还需要点击数字5,点击数字5之前,需要先选择需要下载的文件,点击文件即可,在数字4下面会有文件的个数(红色箭头标识) 然后点击数字5: 接着点击Submit Order

    1.1K10编辑于 2022-08-23
  • 来自专栏sci666

    TCGAbiolinks数据下载

    TCGAbiolinks数据下载TCGA数据 下载TCGA数据的方法有很多,但比较好用的包我认为就是TCGAbiolinks,TCGAbiolinks是一个可用于检索,下载,并准备TCGA数据用于下游分析的 TCGAbiolinks的优点在于具备一体化的下载整合,无需再使用复杂的方法对下载的单个数据重新进行整合,新手及临床医生尤其适合,我们的目的就是分析数据,没有必要去做些非必须的事。 harmonized数据库包括转录谱数据,甲基化数据,miRNA数据,但缺少芯片数据 数据检索 1query.met <- GDCquery(project = "TCGA-COAD", 2                       download data 12GDCdownload(query,  13            method = "api",  14            files.per.chunk = 20)# 减少下载失败风险 19dim(mir_exp) 20mir_exp[1:5,1:5] 21 22## save data 23#save(mir_exp,file="BRCA_miRNA_raw.Rdata") 总结 除了下载功能以外

    1.5K20发布于 2019-10-30
  • 来自专栏微光点亮星辰

    FTP下载数据

    就个人理解,先来说数据放在工程里的问题,当系统扩大后,会出现高并发压力等一系列问题,有人会用添加服务器做成初步集群以减轻服务器的压力。这时就需要考虑到数据的问题了。 问题出来了,当他访问的时候nginx是根据服务器压力来转发服务器的,而图片数据只在A服务器。那么当请求被转发到B服务器的时候,B服务器没有数据,那用户就查不到数据了。 可想而知,只要工程共享同一个存放数据的地方就可以了。 那么便可以使用FTP服务器了,FTP服务器,是在互联网上提供存储空间的计算机,具体介绍可百度了解。把它当做存放数据的地方就可以了。 因时间问题,自己本地没有安装FTP服务器,用的是公司的,所以没法做上传数据,只能演示个下载数据。不过道理相同,主要有这个思想。手打了这么多文字该上代码了。 ? ? ? ? ? 这里我下载了三个文件,前提是FTP服务器上要有这些数据! 说了这么多,其实就想说明一下上面提出的问题以及解决,分享一下。 好了,吃饭去。。。

    1.9K41发布于 2020-04-10
  • 来自专栏好奇心Log

    数据下载 | 探空数据自动下载&可视化基础

    探空数据在天气预报有着重要的指示作用,可以分析出高空引导气流的位置、强度,及到达本地的时间和对当地天气的影响情况。 file=/pic/static/doc/B/B.0011.0001C/UPAR_CHN_MUL_STATION.pdf 批量下载数据 在之前的一些文章里使用过siphon,他除了可以下载到预报数据、再分析数据以外还可以下载到怀俄明的探空数据 下面为简单的示例,时间段和下载的站点可以自行设置。 pass 读取示例数据 数据包含气压、高度、气温、露点、风向、风速、经向风速、纬向风速,还包含探空站观测时刻、经纬度和高程信息。 通过大气垂直探空数据绘制T-lnP图,在天气学中经常用这种方式来判断对流发展与否。

    6.2K24发布于 2020-12-08
  • 来自专栏全栈程序员必看

    MODIS数据wget下载

    粘贴到cmd窗口,即可下载

    1.2K30编辑于 2022-09-02
  • 来自专栏好奇心Log

    数据分享| OSM矢量数据下载

    今天小编就向大家介绍一款可以下载世界范围内,多款矢量数据的开源世界地图--Open Street Map(简称为OSM) 预计阅读时间:8min。 ? ? 而且其数据的更新是非常频繁的,在一定程度上保证了数据的时效性。 网址链接为:https://www.openstreetmap.org/ 下面小编来介绍一个下载数据的方法。 黄色区域是各个大洲的选项,点击进去后我们可以找到该大洲包含的各个国家;蓝色区域是我们可以选择的数据下载格式。下面我们以我们国家为例介绍一下下载方法。 点击Asia-China,进入到如下界面: ? 可以看到,黄色区域是其数据的更新时间,红色区域我们可以选择我们想要下载数据格式,这里我选择下载了shp格式的文件。下载完成后,我们在Arcmap中打开: ? 2 当研究内容涉及到国家边界及领土问题时,不要使用osm提供的数据,因为osm在这些问题上是存在争议的。 3 这是最为关键的一点!!!不要将在osm上下载的我国数据用于学术研究!!!

    2.1K30发布于 2020-12-22
  • 来自专栏EpiHub

    NASA环境数据下载

    LP DAAC & LP(如:温度) 数据搜索链接 这里 可以根据需要,搜索数据类别,如温度,范围5*5km等;modis数据存储在这里 1.1 LP数据下载 地表温度LST 搜索数据 通过对上述网站对搜索功能 选择下载数据源 点击ACCESS DATA,会显示下载的方式及数据源;这里我们选中NASA Earthdata Search 后面的下载按钮 选择时间范围,出现12幅hdf图 或者直接点击下载按钮, 2.GRS DISC(如:降雨) 在网站搜索需要的数据,然后点击 Browse Data By Category > Rain 2.1 GES 数据下载 降雨 搜索数据 我们直接在搜素框输入GPM ; 可以看到,Monthly,需要下载数据的参数,分辨率及时间跨度。 Subset/Get Data 指定条件 选择2018年度的全球降雨数据,也可以选定指定范围的地方,及所需要的文件格式,这里我们直接用Raw data HDF5文件 导出下载链接-批量下载

    1.6K20编辑于 2022-10-25
  • 来自专栏生信菜鸟团

    GSA受控数据下载

    虽然是公共数据库,但其数据有完全公开的数据,也有受控数据,因此下载起来会有区别。 完全公开数据 公开数据示例 完全公开的数据下载起来相对多样,你可以选择FTP链接、Aspera命令行或者EdgeTurbo,之前我们也介绍过 使用aspera加速从中国的GSA数据下载测序文件。 受控数据 而对于受控数据,通常就没有这些公开链接可以下载。 受控数据示例 对于受控数据需要使用者先申请,获得授权后,下载下来的数据集信息(xlsx文件)也不包含FTP链接。 但下载说明显示可以使用FileZilla登录账号来下载。 但这种方法,下载起来无疑是费时费力的(因为要下载到本地,再上传到自己的远程服务器,如果数据量很大,这么一折腾,耗时将会超级加倍)。 前面也介绍过使用wget命令下载FTP链接的数据 CNGBdb — 国家基因库生命大数据平台之数据下载 screen -R wget ##单文件下载 wget -c -nH --cut-dirs=2 -

    1.2K00编辑于 2025-02-18
  • 来自专栏气python风雨

    python下载fnl数据

    这些NCEP FNL(最终)作战全球分析数据位于每六小时作战准备的1度乘1度网格上。 该产品来自全球数据同化系统(GDAS),该系统持续收集来自全球电信系统(GTS)和其他来源的观测数据,用于许多分析。 FNL被延迟,以便可以使用更多的观测数据。GFS运行较早,以支持时间关键型预测需求,并使用前6小时周期的FNL作为其初始化的一部分。 总之fnl数据是我们能接触到的较好的气象分析数据之一。也可以用作WRF运行的初始场。 最近发现下载FNL数据不用账号了 只需要点点点就能下载 懒得点,于是乎改了下官方的脚本 测试是可以用的 import sys import os import datetime from urllib.request

    60710编辑于 2024-06-20
  • 来自专栏自学气象人

    CMORPH降水数据下载

    结合官方网站和下面代码,可自由定制符合自己需求的下载任务。 ") # 重试下载失败的文件 retry_count = 0 while failed_files and retry_count < 10: retry_count , day, time) if download_file(url, file_path): print(f"文件 {filename} 已成功下载 failed_files.remove(file_path) else: print(f"文件 {filename} 下载失败 ,成功下载 {success_count} 个文件,失败 {fail_count} 个文件.')

    69410编辑于 2023-09-27
  • 来自专栏生物信息学、python、R、linux

    SRA toolkit下载数据

    PATH=$PATH:/yourpath/sratoolkit.2.10.8-ubuntu64/bin' >> ~/.bashrc 2.查看prefetch是否成功安装 prefetch -h 3.数据下载 #单个数据 prefetch SRR000001 #多个数据:Run in the list of Runs: prefetch --option-file SraAccList.txt SraAccList.txt format to fastq fasterq-dump --split-files SRR11180057.sra fasterq-dump --split-files SRR11180057 #直接下载原始的

    1.4K20发布于 2020-09-16
  • 来自专栏气python风雨

    gpm卫星数据下载

    其中Level-1数据是卫星上观测仪器得到的基数据,Level-2的数据是以Level-1为基础在相同的分辨率和位置上处理导出的地球物理变量,Level-3的数据是在Level-2的基础上对固定时间和空间尺度进行插值 怎么下载 第一步先去官网注册账号:https://disc.gsfc.nasa.gov/ 第二步,筛选自己需要的产品,例如潜热产品 第三步,查看数据说明,选择下载范围及种类 第四步,下载网站给的导出链接文档 ,把文档放到安装了wget的电脑进行下载 文档就是图中的Download Links List,把下载的txt文件名改为myfile.dat。 (气象家园学的,不晓得原因) 楼主用的是Cygwin的wget,不知道Cygwin的小伙伴可以去气象家园了解和下载安装,类似内置WRF和一堆有用的数据处理工具的虚拟机。 ps:1.网络情况各异,可能下载非常慢 2.怎么利用卫星数据绘图还在看,不知道站内有没卫星的教程 3.参考气象家园 与知乎

    76410编辑于 2024-06-20
  • 来自专栏GIS与遥感开发平台

    数据分享| OSM矢量数据下载

    image.png 今天小编就向大家介绍一款可以下载世界范围内,多款矢量数据的开源世界地图--Open Street Map(简称为OSM) Open Street Map(简称为OSM)是一款开源世界地图数据库 而且其数据的更新是非常频繁的,在一定程度上保证了数据的时效性。 网址链接为:https://www.openstreetmap.org/ 下面小编来介绍一个下载数据的方法。 ;蓝色区域是我们可以选择的数据下载格式。 点击Asia-China,进入到如下界面: 可以看到,黄色区域是其数据的更新时间,红色区域我们可以选择我们想要下载数据格式,这里我选择下载了shp格式的文件。 2 当研究内容涉及到国家边界及领土问题时,不要使用osm提供的数据,因为osm在这些问题上是存在争议的。 3 这是最为关键的一点!!!不要将在osm上下载的我国数据用于学术研究!!!

    3K10编辑于 2022-04-29
  • 来自专栏生信补给站

    TCGA数据挖掘 | Xena - TCGA数据下载

    TCGA数据下载方式有很多种,本次简单介绍自己喜欢用的方式-使用UCSC xena 网站进行下载。 2,选择GDC,然后进入TCGA数据队列列表 ? 其他数据集可根据需要自行常看。 3,选择数据集 下拉选择需要的队列,此处以BRCA为例 ? 4,查看数据 点击 GDC TCGA Breast Cancer (BRCA) ,进入BRCA数据集,查看有哪些数据 ? 5,下载所需数据 选择对应的文件链接,点击即可。 注意 此数据为count数是log转化后的,需要的时候可以自行转为count数。 记得下载probeMap,探针注释文件。 涉及预后及生存相关分析,记得下载 survival data 。 完成以上,数据就准备好了 。 后面基于此数据会有一些简单的处理技巧以及生信挖掘中常见的分析思(TAO)路(LU)。

    3.6K40发布于 2020-09-02
  • 来自专栏诡途的python路

    Selenium自动下载qbt数据

    Selenium模拟浏览器自动下载数据 一开始固定休眠时,下载几个文件就会被踢下线, 随机休眠后基本无问题了 from selenium import webdriver import time,os chrome_options.add_extension(extension_path) ''' download.default_directory:设置下载路径 profile.default_content_settings.popups:设置为 0 禁止弹出窗口 ''' #添加下载路径 prefs ,即将开始下载下一个店铺------"%shop) except Exception as e: print("出现问题",e) tmp_path="" #临时下载路径 data_path =""#重命名后数据存储路径 date_xl=pd.read_excel("需要爬取得时间序列.xlsx") bitalk_log(username,password,date_xl,tmp_path,

    44410编辑于 2022-05-09
领券