Linux下载GEO数据,教你3种方法下载NCBI GEO数据
1.常规下载方式:prefetch
对于常规下载sra数据来说,NCBI提供了它自己的一套工具(SRA-Toolkit),其中用prefetch来下载数据,用fastq-dump来解压数据。
1.1 首先需要获取数据信息
一般来说,我们需要下载的数据都是来自于文献已经发表的,在文献中都会给一个GEO号,它长这个样子GSE106826。 然后我们就可以直接到GEO DataSets中去搜索该数据集中的数据了。如下图所示,直接点击Search:
然后我们就可以转到这个有文章title的界面,如下所示:
点击进去就可以进入该GEO号对应的数据集了:
那么我们的sra文件在哪里呢?可以看到下边有一个SRA SRP124852,没错,就是它了!点进去:
然后选择任意一个连接点进去,进入到一个像这样的界面:
点击里边的All run, 最终,终于找到了我们所有sra信息所在的位置:
在这个页面里,我们需要下载两个table,就是Download下边的两个:RunInfo Table 和 Accession List. 其中RunInfo Table会告诉你sample的信息,比如是什么细胞类型,来自什么组织;而Accession List则是储存里我们sra文件的获取序列号:
$ cat SRR_Acc_List.txt
SRR6283792
SRR6283793
1.2 然后用prefetch下载数据
有了以上的sra Accession number,就可以直接用脚本命令下载数据了。
# 切换到SRR_Acc_List.txt所在的文件夹
$ ls
SRR_Acc_List.txt
# 然后用以下命令下载
$ prefetch `less SRR_Acc_List.txt`
#如果想要后台运行可以使用nohup加&
#这样即使退出终端也不会断掉的
$ nohup prefetch `less SRR_Acc_List.txt` &
2. sacp ,飞一般的下载速度
2.1 安装ascp
wget http://download.asperasoft.com/download/sw/connect/3.7.4/aspera-connect-3.7.4.147727-linux-64.tar.gz
tar zxvf aspera-connect-3.7.4.147727-linux-64.tar.gz
# install
bash aspera-connect-3.7.4.147727-linux-64.sh
# check the .aspera directory
cd # go to root directory
ls -a # if you could see .aspera, the installation is OK
# add environment variable
echo 'export PATH=~/.aspera/connect/bin:$PATH' >> ~/.bashrc
source ~/.bashrc
# check help file
ascp --help
2.2 了解数据储存结构
注意!最近突然发现以下这个路径找不到文件了,可能NCBI储存结构已经改变,请看后边ENA部分!
NCBI的ftp网站上可以找到我们想要的sra文件,如果你比较一下就会发现,这些储存的连接是有规律可循的,如下两个文件:
ftp://ftp.ncbi.nlm.nih.gov/sra/sra-instant/reads/ByRun/sra/SRR/SRR690/SRR6904179/SRR6904179.sra
ftp://ftp.ncbi.nlm.nih.gov/sra/sra-instant/reads/ByRun/sra/SRR/SRR690/SRR6904180/SRR6904180.sra
你会发现它们前半部分都是一样的,都以ftp://ftp.ncbi.nlm.nih.gov/sra/sra-instant/reads/ByRun/sra/SRR/开头,而后边紧跟的是SRR 序列号SRR6904179的前6位SRR690,然后就是序列号SRR6904179,再后边就是序列号加一个后缀.sraSRR6904179.sra.
由于最近NCBI的sra数据找不到具体储存路径了,所以就从ENA数据库下载吧,ENA和NCBI存储的数据是一样的,所以不用担心数据问题,而且ENA储存的是fastq格式,更是省去了下载后从sra到fastq转化这一步骤,简直完美!
ENA 的数据结构是这样的:
http://ftp.sra.ebi.ac.uk/vol1/fastq/SRR121/SRR121621/SRR121621_1.fastq.gz
http://ftp.sra.ebi.ac.uk/vol1/fastq/SRR121/SRR121621/SRR121621_2.fastq.gz
基本是和ncbi之前的存储类似的,这里不再赘述。以下是下载一个文件的示例:
ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh era-fasp@fasp.sra.ebi.ac.uk:/vol1/fastq/SRR121/SRR121621/SRR121621_1.fastq.gz path/to/download_dir
需要注意,下载时文件地址前统一用era-fasp@fasp.sra.ebi.ac.uk:开头,后边跟随文件地址/vol1/fastq/SRR121/SRR121621/SRR121621_1.fastq.gz,中间是:连接,不是/,一定要注意!!
如果是下载多个文件的话,首先像用prefetch那样拿到GEO序列号,然后用一个循环脚本就可以搞定了:
ftp='era-fasp@fasp.sra.ebi.ac.uk:/vol1/fastq'
mkdir sra # make a output directory
cat SRR_Acc_List.txt | while read i
do
SRR=$(echo ${i:0:6})
# ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh ${ftp}/${SRR}/${i}/{i}.fastq.gz ./sra 单端测序的话只有这一个文件
ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh ${ftp}/${SRR}/${i}/${i}_1.fastq.gz ./sra
ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh ${ftp}/${SRR}/${i}/${i}_2.fastq.gz ./sra
done
实测ascp下载速度可达150M/s,如果你的网络给力还可以更快!
3. wget 下载sra文件
之前经常使用prefetch下载sra文件,而且量比较大,但是经常会出现time-out这种情况,会导致很多文件下载不下来,所以就考虑用wget试一下。但是这个真的不建议,除非你没有办法的情况下。wget很容易断点导致数据不完整!
数据来源的话依然参考上边ENA部分,脚本也基本相同,如下:
注意这次网址直接使用的是:http://ftp.sra.ebi.ac.uk/vol1/fastq
ftp='http://ftp.sra.ebi.ac.uk/vol1/fastq'
mkdir sra # make a output directory
cat SRR_Acc_List.txt | while read i
do
SRR=$(echo ${i:0:6})
# wget -c -t 0 -P ./sra ${ftp}/${SRR}/${i}/${i}.fastq.gz 单端只有一个文件
wget -c -t 0 -P ./sra ${ftp}/${SRR}/${i}/${i}_1.fastq.gz
wget -c -t 0 -P ./sra ${ftp}/${SRR}/${i}/${i}_2.fastq.gz
done
参数说明:
-c 自动断点续传,一定要加!否则数据会有不完整的情况
-t 配合-c参数,设置为0表示连接失败后无限次重新尝试,直到成功为止
-P 表示把数据下载到指定文件夹下
三种方法比较下,首先推荐ascp,速度是真的快啊;其次是prefetch,速度一般般,很容易下载失败,需要多次尝试重新下载;最不推荐的是wget,但是如果以上两种方式你都不适用,那就试试这个吧。
Linux下载GEO数据,教你3种方法下载NCBI GEO数据相关推荐
- 教你两种方法,轻松锁定数据不被修改
又到年底了,大家在忙着收集数据的同时还在忙着共享一些数据.那么问题来了,当有些数据我们只想让大家查看而不想让大家修改里面的内容时,我们该如何进行操作来保护表格中的数据不被修改呢? 接下来小编就给大家分 ...
- linux终端下载notepad,在Linux系统上安装NotePad++的三种方法介绍
本文介绍在Linux操作系统上安装NotePad++的三种方法,使用Snap.Wine和NotePadQQ.这里要说的是:由于像Wine和Snap软件包这样的工具,在Linux上运行的Notepad+ ...
- 在Linux中查找文件系统类型的7种方法(ext2,ext3或ext4)
文件系统是在存储磁盘或分区上命名,存储,检索和更新文件的方式.文件在磁盘上的组织方式. 文件系统分为两个部分:用户数据和元数据(文件名,创建时间,修改时间,大小和在目录层次结构中的位置等). 在本指南 ...
- linux下限制CPU使用率的3种方法 (转)
在租的云服务器上架了一个获取BTCC实时交易数据的服务器程序,因为用了一个while死循环处理数据信息,所以云服务器上的处理器占用率一直在90%多,这两天邮箱里一直收到服务器CPU占用率过高的邮件,在 ...
- 进Linux系统单用户模式,Linux进入单用户模式的两种方法
单用户模式的作用 在使用Linux系统中,维护人员经常会碰到一个问题,就是在拥有root账号权限和密码的用户中,总是会出现忘记root密码的情况. 遇到这种情况,一般情况下,维护人员就会通过最常用的方 ...
- python与excel做数据可视化-用Python进行数据可视化的10种方法
原标题:用Python进行数据可视化的10种方法 2015-11-19 关于转载授权 大数据文摘作品,欢迎个人转发朋友圈,自媒体.媒体.机构转载务必申请授权,后台留言"机构名称+转载&quo ...
- linux如何创建共享内存,linux实现共享内存同步的四种方法
https://blog.csdn.net/sunxiaopengsun/article/details/79869115 本文主要对实现共享内存同步的四种方法进行了介绍. 共享内存是一种最为高效的进 ...
- centos 卸载软件_一篇看懂!详解-Linux系统中安装软件的三种方法
Linux系统中安装软件的三种方法 注:本文主要以CentOS为例介绍常用的安装方式,其他版本linux在文章底部 Linux系统中怎么安装软件,首先说一下应用程序与系统命令的区别: 1.文件位置 系 ...
- python实时监控文件目录_教你三种方法,用 Python实时监控文件
原标题:教你三种方法,用 Python实时监控文件 在业务稳定性要求比较高的情况下,运维为能及时发现问题,有时需要对应用程序的日志进行实时分析,当符合某个条件时就立刻报警,而不是被动等待出问题后去解决 ...
- python a股行情_使用Python下载A股行情的几种方法
使用Python下载A股行情的几种方法 1. tushare Tushare是一个免费.开源的python财经数据接口包.主要实现对股票等金融数据从数据采集.清洗加工 到 数据存储的过程,能够为金融分 ...
最新文章
- Intent携带额外的数据的方法
- java window.onload_从HTML中的window.onload调用webpacked代码
- windows7系统内存占用过高的解决方法
- alsa的动态库安装在哪里_Linux链接库一(动态库,静态库,库放在什么路径下)...
- 爬虫python是干什么的_爬虫是什么?能自学嘛
- SpringBoot 服务监控机制,你了解多少?
- ubuntu11.04 --- 没有了上边的导航 和左边的导航 怎么办?
- 查找某个数据,找到后把符合条件数据的一行复制到另外一个地方
- mysql 视图没主键,mysql创建视图后打开提示没有主键,mysql视图
- 总结接口和抽象类的异同
- linux安装tftp服务器
- 视频教程-三天掌握三菱FX系列PLC视频教程-单片机/工控
- python 实现将网页转化成pdf文档
- python中的snip用法_Python sniprd包_程序模块 - PyPI - Python中文网
- 离线检查未安装的Windows更新
- 动态规划——详细入门讲解
- 标准盒模型和怪异盒模型的区别
- 模拟人生畅玩版无线连接服务器超时,打开模拟人生™:畅玩版提示网络异常或者连接不上...
- 内外兼修 高阶游戏鼠标达尔优A970黑武士评测
- 90后凤凰男:寒门难出贵子