1.常规下载方式:prefetch

对于常规下载sra数据来说,NCBI提供了它自己的一套工具(SRA-Toolkit),其中用prefetch来下载数据,用fastq-dump来解压数据。

1.1 首先需要获取数据信息

一般来说,我们需要下载的数据都是来自于文献已经发表的,在文献中都会给一个GEO号,它长这个样子GSE106826。 然后我们就可以直接到GEO DataSets中去搜索该数据集中的数据了。如下图所示,直接点击Search:

然后我们就可以转到这个有文章title的界面,如下所示:

点击进去就可以进入该GEO号对应的数据集了:

那么我们的sra文件在哪里呢?可以看到下边有一个SRA SRP124852,没错,就是它了!点进去:

然后选择任意一个连接点进去,进入到一个像这样的界面:

点击里边的All run, 最终,终于找到了我们所有sra信息所在的位置:

在这个页面里,我们需要下载两个table,就是Download下边的两个:RunInfo Table 和 Accession List. 其中RunInfo Table会告诉你sample的信息,比如是什么细胞类型,来自什么组织;而Accession List则是储存里我们sra文件的获取序列号:

$ cat SRR_Acc_List.txt

SRR6283792

SRR6283793

1.2 然后用prefetch下载数据

有了以上的sra Accession number,就可以直接用脚本命令下载数据了。

# 切换到SRR_Acc_List.txt所在的文件夹

$ ls

SRR_Acc_List.txt

# 然后用以下命令下载

$ prefetch `less SRR_Acc_List.txt`

#如果想要后台运行可以使用nohup加&

#这样即使退出终端也不会断掉的

$ nohup prefetch `less SRR_Acc_List.txt` &

2. sacp ,飞一般的下载速度

2.1 安装ascp

wget http://download.asperasoft.com/download/sw/connect/3.7.4/aspera-connect-3.7.4.147727-linux-64.tar.gz

tar zxvf aspera-connect-3.7.4.147727-linux-64.tar.gz

# install

bash aspera-connect-3.7.4.147727-linux-64.sh

# check the .aspera directory

cd # go to root directory

ls -a # if you could see .aspera, the installation is OK

# add environment variable

echo 'export PATH=~/.aspera/connect/bin:$PATH' >> ~/.bashrc

source ~/.bashrc

# check help file

ascp --help

2.2 了解数据储存结构

注意!最近突然发现以下这个路径找不到文件了,可能NCBI储存结构已经改变,请看后边ENA部分!

NCBI的ftp网站上可以找到我们想要的sra文件,如果你比较一下就会发现,这些储存的连接是有规律可循的,如下两个文件:

ftp://ftp.ncbi.nlm.nih.gov/sra/sra-instant/reads/ByRun/sra/SRR/SRR690/SRR6904179/SRR6904179.sra

ftp://ftp.ncbi.nlm.nih.gov/sra/sra-instant/reads/ByRun/sra/SRR/SRR690/SRR6904180/SRR6904180.sra

你会发现它们前半部分都是一样的,都以ftp://ftp.ncbi.nlm.nih.gov/sra/sra-instant/reads/ByRun/sra/SRR/开头,而后边紧跟的是SRR 序列号SRR6904179的前6位SRR690,然后就是序列号SRR6904179,再后边就是序列号加一个后缀.sraSRR6904179.sra.

由于最近NCBI的sra数据找不到具体储存路径了,所以就从ENA数据库下载吧,ENA和NCBI存储的数据是一样的,所以不用担心数据问题,而且ENA储存的是fastq格式,更是省去了下载后从sra到fastq转化这一步骤,简直完美!

ENA 的数据结构是这样的:

http://ftp.sra.ebi.ac.uk/vol1/fastq/SRR121/SRR121621/SRR121621_1.fastq.gz

http://ftp.sra.ebi.ac.uk/vol1/fastq/SRR121/SRR121621/SRR121621_2.fastq.gz

基本是和ncbi之前的存储类似的,这里不再赘述。以下是下载一个文件的示例:

ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh era-fasp@fasp.sra.ebi.ac.uk:/vol1/fastq/SRR121/SRR121621/SRR121621_1.fastq.gz path/to/download_dir

需要注意,下载时文件地址前统一用era-fasp@fasp.sra.ebi.ac.uk:开头,后边跟随文件地址/vol1/fastq/SRR121/SRR121621/SRR121621_1.fastq.gz,中间是:连接,不是/,一定要注意!!

如果是下载多个文件的话,首先像用prefetch那样拿到GEO序列号,然后用一个循环脚本就可以搞定了:

ftp='era-fasp@fasp.sra.ebi.ac.uk:/vol1/fastq'

mkdir sra # make a output directory

cat SRR_Acc_List.txt | while read i

do

SRR=$(echo ${i:0:6})

# ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh ${ftp}/${SRR}/${i}/{i}.fastq.gz ./sra 单端测序的话只有这一个文件

ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh ${ftp}/${SRR}/${i}/${i}_1.fastq.gz ./sra

ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh ${ftp}/${SRR}/${i}/${i}_2.fastq.gz ./sra

done

实测ascp下载速度可达150M/s,如果你的网络给力还可以更快!

3. wget 下载sra文件

之前经常使用prefetch下载sra文件,而且量比较大,但是经常会出现time-out这种情况,会导致很多文件下载不下来,所以就考虑用wget试一下。但是这个真的不建议,除非你没有办法的情况下。wget很容易断点导致数据不完整!

数据来源的话依然参考上边ENA部分,脚本也基本相同,如下:

注意这次网址直接使用的是:http://ftp.sra.ebi.ac.uk/vol1/fastq

ftp='http://ftp.sra.ebi.ac.uk/vol1/fastq'

mkdir sra # make a output directory

cat SRR_Acc_List.txt | while read i

do

SRR=$(echo ${i:0:6})

# wget -c -t 0 -P ./sra ${ftp}/${SRR}/${i}/${i}.fastq.gz 单端只有一个文件

wget -c -t 0 -P ./sra ${ftp}/${SRR}/${i}/${i}_1.fastq.gz

wget -c -t 0 -P ./sra ${ftp}/${SRR}/${i}/${i}_2.fastq.gz

done

参数说明:

-c 自动断点续传,一定要加!否则数据会有不完整的情况

-t 配合-c参数,设置为0表示连接失败后无限次重新尝试,直到成功为止

-P 表示把数据下载到指定文件夹下

三种方法比较下,首先推荐ascp,速度是真的快啊;其次是prefetch,速度一般般,很容易下载失败,需要多次尝试重新下载;最不推荐的是wget,但是如果以上两种方式你都不适用,那就试试这个吧。

Linux下载GEO数据,教你3种方法下载NCBI GEO数据相关推荐

  1. 教你两种方法,轻松锁定数据不被修改

    又到年底了,大家在忙着收集数据的同时还在忙着共享一些数据.那么问题来了,当有些数据我们只想让大家查看而不想让大家修改里面的内容时,我们该如何进行操作来保护表格中的数据不被修改呢? 接下来小编就给大家分 ...

  2. linux终端下载notepad,在Linux系统上安装NotePad++的三种方法介绍

    本文介绍在Linux操作系统上安装NotePad++的三种方法,使用Snap.Wine和NotePadQQ.这里要说的是:由于像Wine和Snap软件包这样的工具,在Linux上运行的Notepad+ ...

  3. 在Linux中查找文件系统类型的7种方法(ext2,ext3或ext4)

    文件系统是在存储磁盘或分区上命名,存储,检索和更新文件的方式.文件在磁盘上的组织方式. 文件系统分为两个部分:用户数据和元数据(文件名,创建时间,修改时间,大小和在目录层次结构中的位置等). 在本指南 ...

  4. linux下限制CPU使用率的3种方法 (转)

    在租的云服务器上架了一个获取BTCC实时交易数据的服务器程序,因为用了一个while死循环处理数据信息,所以云服务器上的处理器占用率一直在90%多,这两天邮箱里一直收到服务器CPU占用率过高的邮件,在 ...

  5. 进Linux系统单用户模式,Linux进入单用户模式的两种方法

    单用户模式的作用 在使用Linux系统中,维护人员经常会碰到一个问题,就是在拥有root账号权限和密码的用户中,总是会出现忘记root密码的情况. 遇到这种情况,一般情况下,维护人员就会通过最常用的方 ...

  6. python与excel做数据可视化-用Python进行数据可视化的10种方法

    原标题:用Python进行数据可视化的10种方法 2015-11-19 关于转载授权 大数据文摘作品,欢迎个人转发朋友圈,自媒体.媒体.机构转载务必申请授权,后台留言"机构名称+转载&quo ...

  7. linux如何创建共享内存,linux实现共享内存同步的四种方法

    https://blog.csdn.net/sunxiaopengsun/article/details/79869115 本文主要对实现共享内存同步的四种方法进行了介绍. 共享内存是一种最为高效的进 ...

  8. centos 卸载软件_一篇看懂!详解-Linux系统中安装软件的三种方法

    Linux系统中安装软件的三种方法 注:本文主要以CentOS为例介绍常用的安装方式,其他版本linux在文章底部 Linux系统中怎么安装软件,首先说一下应用程序与系统命令的区别: 1.文件位置 系 ...

  9. python实时监控文件目录_教你三种方法,用 Python实时监控文件

    原标题:教你三种方法,用 Python实时监控文件 在业务稳定性要求比较高的情况下,运维为能及时发现问题,有时需要对应用程序的日志进行实时分析,当符合某个条件时就立刻报警,而不是被动等待出问题后去解决 ...

  10. python a股行情_使用Python下载A股行情的几种方法

    使用Python下载A股行情的几种方法 1. tushare Tushare是一个免费.开源的python财经数据接口包.主要实现对股票等金融数据从数据采集.清洗加工 到 数据存储的过程,能够为金融分 ...

最新文章

  1. Intent携带额外的数据的方法
  2. java window.onload_从HTML中的window.onload调用webpacked代码
  3. windows7系统内存占用过高的解决方法
  4. alsa的动态库安装在哪里_Linux链接库一(动态库,静态库,库放在什么路径下)...
  5. 爬虫python是干什么的_爬虫是什么?能自学嘛
  6. SpringBoot 服务监控机制,你了解多少?
  7. ubuntu11.04 --- 没有了上边的导航 和左边的导航 怎么办?
  8. 查找某个数据,找到后把符合条件数据的一行复制到另外一个地方
  9. mysql 视图没主键,mysql创建视图后打开提示没有主键,mysql视图
  10. 总结接口和抽象类的异同
  11. linux安装tftp服务器
  12. 视频教程-三天掌握三菱FX系列PLC视频教程-单片机/工控
  13. python 实现将网页转化成pdf文档
  14. python中的snip用法_Python sniprd包_程序模块 - PyPI - Python中文网
  15. 离线检查未安装的Windows更新
  16. 动态规划——详细入门讲解
  17. 标准盒模型和怪异盒模型的区别
  18. 模拟人生畅玩版无线连接服务器超时,打开模拟人生™:畅玩版提示网络异常或者连接不上...
  19. 内外兼修 高阶游戏鼠标达尔优A970黑武士评测
  20. 90后凤凰男:寒门难出贵子

热门文章

  1. 如何建立自己的【渲染农场】终极指南(2)
  2. 传统数据与大数据处理方式对比
  3. html中怎么去除多余的代码,去除HTML代码中所有标签的两种方法
  4. 社区说|Flutter 主流状态管理框架 provider get 分析
  5. 李白最经典的20首诗排行榜
  6. HDU - 5773 - The All-purpose Zero 【必做题目之LIS+++贪贪贪贪心】
  7. 一些在线图片处理工具收集
  8. python.exe无法找到入口 无法定位程序输入点
  9. 【UU主机加速】PC无线热点直接加速switch(无需路由器)
  10. 谷歌翻译不能用,解决方案