搜索
查看: 3197|回复: 2

[Other] Biostar:课程3、4-NCBI的Entrez Direct和SRA toolkit的安装及使用

[复制链接]

33

主题

46

帖子

230

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
230
发表于 2017-3-23 20:39:32 | 显示全部楼层 |阅读模式
注:本文是生信媛微信公众号原创文章
作者:István Albert
原文链接 https://mp.weixin.qq.com/s/0vKvSkn_Yjj6GZIjt_IVPA


#为作者的注释
#*为译者的注释

Lecture 3 - 安装和使用Entrez Direct

# 安装和使用Entrez Direct软件套件
# 到home目录下。
cd

# 等同于用~/ ,~/ 表示你的home目录。
cd ~/

# 创建src目录来存放这个课程里需要安装的程序。
#*你也可以创建为其他名字。如果自己修改了,那么下边的命令中记得对应修改。
mkdir ~/src

# 进入src目录
cd ~/src

# 获取entrez direct 工具包,大写 -O 是使得curl 命令去识别url上的文件名(作为下载后的文件名字)。
# 上一条命令等同于:

# 解压这个工具包.
unzip edirect.zip

# 查看新工具。
cd edirect
ls

# 为了使你的系统知道这些新工具在哪里,你需要把路径加到你的环境中,有多种方法可以实现。现在来把所有工具一次性加入到PATH变量里。
#*下面这个命令只能是目前可以用,一旦退出系统,再重新进入,系统就不识别了。如何使得每次开机都可以使用?下面会有讲。
export PATH=$PATH:~/src/edirect
#*可能是由于版本缘故,按照作者这个(2014年可行)的方法做,会出错。建议大家根据我的方法来做。

#*从这里开始是译者的方法
./setup.sh

#* 稍等一会后,会出现很多提示,其中有:Entrez Direct has been successfully downloaded and installed,以及类似这样的一行:
echo "export PATH=\$PATH:\$HOME/src/edirect" >> $HOME/.bashrc
#* 你可以直接复制这句话,然后粘贴到命令提示符后,回车运行。(如果是mac,建议把上句末尾的.bashrc改成.profile)
esearch -help

都会跳出对应的帮助文档。
这个软件具体的功能项可以查看[url=]https://www.ncbi.nlm.nih.gov/books/NBK179288/[/url]下的Entrez Direct Functions。


#*.bashrc 这个文件主要保存个人的一些个性化设置,如命令别名、路径等。
#*译者的安装方法,结束。

# 为这节课创建一个文件夹
mkdir -p ~/edu/lec3
cd  ~/edu/lec3
pwd

# 运行 einfo
einfo -help

# 抓取描述信息,然后查看它们。
einfo -dbs > einfo-dbs.txt
more einfo-dbs.txt
einfo -db sra > einfo-sra.txt
more einfo-sra.txt

# 运行esearch。
esearch -help
esearch -db nucleotide -query PRJNA257197
esearch -db sra -query PRJNA257197
esearch -db protein -query PRJNA257197

#*译者注:-db是指定数据库类型,而query是跟着你要搜索的关键词。esearch -db nucleotide -query PRJNA257197这条命令的意思就是,在nucleotide这个数据库(database,简称db)里用关键词PRJNA257197搜索。以此类推。
#*不知什么原因,这个出来的结果不是很好看。
#*我来给大家解释一下这个运行结果。
#*以 esearch -db nucleotide -query PRJNA257197 这条命令为例
1:数据库类型为nucleotide,我们esearch的时候就指明了,我们要在nucleotide这个数据库=里搜索
2:搜索关键词数量:1(因为我们只输入了一个关键词,就是PRJNA257197)
3:搜索得到的条目有249个。
#*这么解释一下有没有感觉好点?

#*这一步相当于你到NCBI的首页,做了下图的操作:
#*并点了Search
#*看!果然是249条检索结果。

# 抓取nucleotides数据。
#*译者注:前面只是做了搜索,但是要把数据弄下来,我们需要进一步用别的方式获取并存储下来。这里是用efetch把这249个搜索结果的fasta(也就是碱基序列)给存到了ebola.fasta里面。-format是指定格式,这里指定为fasta
esearch -db nucleotide -query PRJNA257197 | efetch -format fasta > ebola.fasta

# 来看一下这个文件里有多少条序列
#*fasta格式的一个特点就是以>开头,后面跟着序列的相关信息(没有也无妨)。下一行才是序列。fasta有时候也简称为fa。
cat ebola.fasta | grep ">" | wc -l

# 以GenBank格式获取数据
esearch -db nucleotide -query PRJNA257197 | efetch -format gb > ebola.gb


Lecture 4 - 安装和使用SRA toolkit

# 进入你的source目录。
#*原文为cd ~/srrc,应是笔误,这里更正为:
cd ~/src
# 下载 SRA toolkit (确保你的下载链接对应的软件版本是跟你的系统一致的。)
#*建议安装最新版本:

#Mac
curl -O [url=]https://ftp-trace.ncbi.nlm.nih.gov/sra/sdk/2.8.2/sratoolkit.2.8.2-mac64.tar.gz[/url]
# Linux.
curl -O [url=]https://ftp-trace.ncbi.nlm.nih.gov/sra/sdk/2.8.2/sratoolkit.2.8.2-ubuntu64.tar.gz[/url]
#*以下命令,译者皆将旧版本改为新版本名称,如想继续安装旧版本,可以按着原英文版本安装。
#*原文版本是:
# Mac OSX.
# Linux.

# 解压。(译者注:这是mac上的)
tar xzvf [url=]sratoolkit.2.8.2-mac64.tar.gz[/url]
#*方便起见,译者也给出Linux的:
tar xzvf sratoolkit.2.8.2-ubuntu64.tar.gz

# 转到这个目录下,并查看里面的文件。
cd sratoolkit.2.8.2-ubuntu64/
#*mac上
#*cd sratoolkit.2.8.2-mac64/

# 程序都在这个bin目录下
cd bin
# 来看看有什么。
ls

# 我们来把这些路径永久加到我们的PATH下。
#*前面提到export PATH=$PATH:~/src/edirect
#*这个命令只能是目前可以用,一旦退出系统,再重新进入,系统就不识别了。这里作者开始介绍如何使之变成每次进入这个终端都可以使用。
# 有一个特殊的文件在shell开启时会被系统自动读入。它为你开启的任一终端都提供好这些设置。这个文件在Mac上叫~/.profile,在linux上叫 ~/.bashrc 。 “ >> ”符号是指,把内容追加到一个文件后面,而非直接覆盖这个文件的原内容。你也可以通过text编辑器来编辑这个文件。
# Mac上:
echo export PATH=$PATH:~/src/edirect:~/src/sratoolkit.2.8.2-mac64/bin >> ~/.profile
# Linux上:
echo export PATH=$PATH:~/src/edirect:~/src/sratoolkit.2.8.2-ubuntu64/bin >> ~/.bashrc

# 你需要重新开启一个新的终端来使得上面的设置生效,或者你也可以:
source ~/.profile
#*译者温馨提醒:如果是Linux的话:source ~/.bashrc

# 转到 lecture 文件夹下。 -p 是用来做什么的?请看手册。
#* 可以用man mkdir查看mkdir的使用手册。
mkdir -p ~/edu/lec4
cd ~/edu/lec4

# 命令prefetch在哪里?
which prefetch

# 命令prefetch 可以从远程站点下载文件。
#来看一下帮助文档。
prefetch -h

# 来获取文件。
prefetch SRR1553610

# 这些文件去哪里了?存在了你home目录下的一个默认文件夹里。
ls ~/ncbi

# 里面添加了什么?可以用工具find来查看。
find ~/ncbi

# 我们用程序fastq-dump来把文件拆包
#*从NCBI下下来的数据,双端测序数据是放在一个文件里的,所以需要把它们重新拆解为两个文件。
fastq-dump -h
# 拆包文件
fastq-dump --split-files SRR1553610
# FASTQ格式的原始数据文件已经在当前文件夹了。
#*FASTQ格式在之前《小白生信学习记3》中有较为详细的介绍。但NCBI上下的fastq可能会跟测序得到的略为不同。

ls

# shell下的模式匹配。* (星号)表示可以匹配任何东西。
wc -l *.fastq

# 查看文件。
head SRR1553610_1.fastq
cat *.fastq | grep @SRR | wc -l

# 如何下载多个文件?创建一个含有SRR runs的文件。
echo SRR1553608 > sra.ids
echo SRR1553605 >> sra.ids

# 用这个文件去prefetch对应的runs.
prefetch --option-file sra.ids

# 拆包下载好的所有文件。请注意下边的做法不是特别妥当,因为(文件夹里)除了我们用sra.ids下载的,可能还有别的prefetch下来的文件。
fastq-dump --split-files ~/ncbi/public/sra/SRR15536*

# 正确的解法是,我们只拆包sra.ids里指定的文件。哎,但是fastq-dump不能直接实现。无语!
# 正确的解决这个问题,需要使用命令行作一些字符串处理
# 这会用到sed (字符流编辑器) 工具来提取文件并替换其中的模式“SRR”
cat sra.ids | sed 's/SRR/fastq-dump --split-files SRR/'

# 现在,把输出传到bash
cat sra.ids | sed 's/SRR/fastq-dump --split-files SRR/' | bash

# 我们还要做的更好。 为什么要去一一复制这些SRR ID ?我们其实可以完全通过命令行来获取它们。
# 然而efetch程序有一个bug。它获取到数据,但在结尾还会有一个error,为啥?很可能就是有个bug!无语! x 2
esearch -db sra -query PRJNA257197  | efetch -format runinfo

# 这个命令是把所有的结果放到一个文件里。
esearch -db sra -query PRJNA257197  | efetch -format runinfo > runinfo.txt

# 并且,由于这是一个逗号分隔符的文件,我们需要把分隔符(用以区别不同列的符号)指明给cut程序。
cat runinfo.txt | cut -f 1 -d ","

# 似乎所有的文件都在这了。这次搜索获得了195个文件(译者注:其实今天这个搜索结果已经到了891个了,下边我会直接使用891这个数据而不再提示)。
# 问: 我们相信这个结果吗?我们可以通过网站BioProject来获取文件,但你需要在正确的位置来实现这个功能。(文末译者会给出网站上如何获取这个list的方法。)
cat runinfo.txt | cut -f 1 -d ',' | grep SRR | wc -l

# 我们相信这个结果。但是可能你会有种不安,感觉自己可能犯错了。欢迎加入组织!
#*在我给出的网页版下载listd的方法的截图里,你也可以看到,最终结果确实是891个,跟命令行获取的是一样的。
cat runinfo.txt | cut -f 1 -d ',' | grep SRR > sra.ids

# 警告! 这会下载很多文件 (精确来说是891个).
# 目测这网速估计需要好几个小时。(译者注:这是作者基于195个结果作的判断)
prefetch --option-file sra.ids
#*如果你也想尝试一下下载,但又不想下载这么多。你可以这么做:
#*head sra.ids > sra_test.ids
#*prefetch --option-file sra_test.ids

# 检查一下下载结果的总大小
du -hs ~/ncbi

# 来把它们都转换了
cat sra_test.ids | sed 's/SRR/fastq-dump --split-files SRR/' | bash

# 这所有的文件一共有多少行?
wc -l *.fastq
# 通过这种方式,我们得到了PRJNA257197这个项目下所有的测序数据。
#*获取一个project里的所有SRR ID
#*首先进入[url=]https://www.ncbi.nlm.nih.gov/sra/[/url]
#*输入你要找的这个编号:PRJNA257197
#*点击search
#*会看到很多检索结果。
#*点击右上角的send to
#*选定File,并把Format改为RunInfo
#*点击Create File就生成了一个SraRunInfo.csv文件了。
#*有没有发现,你其实只是把这种网页版的操作变成了几乎一一对应的命令行操作而已。

好了,今天先到这里。谢谢大家!

翻译:生物女博士
注:本系列课程翻译已获得原作者授权。


欢迎到微信公众号订阅我们
生信媛
bio_sxy



本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x



上一篇:aws实例设置用户密码登录
下一篇:绘图时稀释SNP的策略分享
回复

使用道具 举报

2

主题

9

帖子

123

积分

注册会员

Rank: 2

积分
123
QQ
发表于 2017-3-23 23:43:41 | 显示全部楼层
太赞啦,之前看过原作者似懂非懂,现在看你的更加懂的
回复 支持 反对

使用道具 举报

33

主题

46

帖子

230

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
230
 楼主| 发表于 2017-3-24 13:56:24 | 显示全部楼层
CHAOYNG 发表于 2017-3-23 23:43
太赞啦,之前看过原作者似懂非懂,现在看你的更加懂的

我相信像你这么诚实的人一定会很有出息!
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|手机版|小黑屋|生信技能树 ( 粤ICP备15016384号  

GMT+8, 2019-8-23 07:20 , Processed in 0.038624 second(s), 31 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.