woodcorpse的个人博客分享 http://blog.sciencenet.cn/u/woodcorpse

博文

Microbiome:宏基因组分箱流程MetaWRAP安装和数据库布置

已有 7249 次阅读 2018-10-13 19:48 |个人分类:软件|系统分类:科研笔记

简介

MetaWRAP这是一套强大的宏基因组分析流程,专注于宏基因组Binning。文章于2018年9月15日发表于《Microbiome》。文章简介见参考文献链接。

image

软件开源,代码和教程如下:

https://github.com/bxlab/metaWRAP

image

工作原理

image

metaWRAP工作流程

图中红色代表分析模块,绿色代表宏基因组数据,橙色代表中间文件,蓝色代表结果图表。

实现原始序列的质控、物种注释和可视化、宏基因组拼接、三种主流Bin方法分析和结果筛选与可视化、Bin的重新组装、Bin的物种和功能注释等。轻松实现Bin相关分析和可视化的绝大部分需求。

优势

image
图2. 基于CAMI人工数据集高、中、低数据量下,对6款Bin软件结果的完整度和污染率进行评估。结果表明metaWRAP在各种情况下在完整度和污染率方面都表现更优秀。

功能模块

宏基因组数据预处理模块

1) 质控Read_QC: read质控剪切和移除人类宿主
2) 组装Assembly: 质控、使用megahit或metaSPAdes拼接
3) 物种注释Kraken: 对reads和contigs层面进行可视化

分箱Bin处理模块

1) 分箱Binning: 利用MaxBin2, metaBAT2, 和CONCOCT三个软件分别分箱;
2) 提纯Bin_refinement:对多种Bin结果评估和综合分析,获得更好的结果;
3) 重组装Reassemble_bins:利用原始序列和评估软件二次组装,改善Bin的N50、完整度4) 定量Quant_bins: 估计样品中每个bin的丰度并热图展示
5) 气泡图Blobology: blobplots可视化群体的contigs的物种和Bin分布
6) 物种注释Classify_bins: 对Bin物种注释
7) 基因注释Annotate_bins: 预测Bin中的基因

软件安装

系统要求

系统要求是由处理的数据量决定的。其中一些软件,如KRAKEN、metaSPAdes对内存需求较高,推荐服务器至少8+核,64+GB内存,仅支持64位Linux系统。对于300 GB以上数据用户,推荐配置48核,512内存或更高。

软件原作者的教程中参数使用了96线程和900G内存,可以推断软件开发和测试所用服务器至少为96线程和1TB内存。

安装conda

(安过请跳过,详见- Nature Method:Bioconda解决生物软件安装的烦恼)

wget https://repo.continuum.io/miniconda/Miniconda2-latest-Linux-x86_64.sh
bash Miniconda2-latest-Linux-x86_64.sh

直接安装——我没成功,不推荐

此法使用方便,但可能安装不成功、环境不满足要求,或影响其它己安装程序。

# ORDER IS IMPORTANT!!!
conda config --add channels defaults
conda config --add channels conda-forge
conda config --add channels bioconda
conda config --add channels ursky

conda install -c ursky metawrap-mg

虚拟环境安装——推荐

metaWRAP依赖超过140个软件作为依赖关系,容易引起与已经安装的软件冲突。因此强烈推荐使用conda虚拟环境安装。

每次使用要进入虚拟环境,结果要退出,多两行代码;但更安全。

conda create -n metawrap python=2.7
source activate metawrap

# ORDER IS IMPORTANT!!!
conda config --add channels defaults
conda config --add channels conda-forge
conda config --add channels bioconda
conda config --add channels ursky

conda install -c ursky metawrap-mg

手动安装——不推荐

当然,如果你不喜欢conda,软件也可以手动安装,这样可以更好的控制你的环境变量。依赖关系列表见 https://github.com/bxlab/metaWRAP/blob/master/installation/dependancies.md

不推荐,高手可能需要3-7天,对Linux不熟悉人简直是不可完成的任务。

数据库配置

conda安装软件并不带数据库,需要手动下载数据库,并设置数据库的位置。

关于数据库的下载,详见 https://github.com/bxlab/metaWRAP/blob/master/installation/database_installation.md

主要大小和依赖模块如下:

DatabaseSizeUsed in module
Checkm1.4GBbinning, bin_refinement, reassemble_bins
KRAKEN192GBkraken
NCBI_nt99GBblobology, classify_bins
NCBI_tax283MBblobology, classify_bins
Indexed hg3834GBread_qc

这里我们安装数据库到~/db目录,保证你有权限,但要保证至少有500GB的空间。请根据你的情况修改为自己有权限且空间足够的位置。

mkdir -p ~/db

CheckM数据库

下载文件276MB,解压后1.4GB

cd ~/db
mkdir checkm
checkm data setRoot
# CheckM will prompt to to chose your storage location...

# Now manually download the database:
cd checkm
wget https://data.ace.uq.edu.au/public/CheckM_databases/checkm_data_2015_01_16.tar.gz
tar -xvf *.tar.gz
rm *.gz

KRAKEN数据库

下载建索引需要 > 300GB以上空间,完成后占用192GB空间

cd ~/db
mkdir kraken
kraken-build --standard --threads 24 --db kraken
kraken-build --db kraken --clean

NCBI_nt

41GB,我下载大约12h;解压后99GB

cd ~/db
mkdir NCBI_nt && cd NCBI_nt
wget -c "ftp://ftp.ncbi.nlm.nih.gov/blast/db/nt.*.tar.gz"
for a in nt.*.tar.gz; do tar xzf $a; done

NCBI物种信息

压缩文件45M,解压后351M

cd ~/db
mkdir NCBI_tax
cd NCBI_tax
wget ftp://ftp.ncbi.nlm.nih.gov/pub/taxonomy/taxdump.tar.gz
tar -xvf taxdump.tar.gz

人类基因组bmt索引

下载人类基因组942M,解压后合并3.2G,并建索引34GB

mkdir BMTAGGER_INDEX
cd BMTAGGER_INDEX
wget ftp://hgdownload.soe.ucsc.edu/goldenPath/hg38/chromosomes/*fa.gz
gunzip *fa.gz
cat *fa > hg38.fa
rm chr*.fa

bmtool -d hg38.fa -o hg38.bitmask
srprism mkindex -i hg38.fa -o hg38.srprism -M 100000

设置数据库位置

配置文件为config-metawrap,使用如下命令查找配置文件位置:

which config-metawrap

查使用vi/vim/gedit等文本编辑器来修改数据库的位置吧

image

参数简介

metaWRAP程序整理了所有的功能模块,可以独立运行。运行metaWRAP -h显示模块名称

Usage: metawrap [module] --help
Options:

read_qc        质控Raw read QC module
assembly    组装Assembly module
binning        分箱Binning module
bin_refinement    分箱提纯Refinement of bins from binning module
reassemble_bins 重装分箱Reassemble bins using metagenomic reads
quant_bins    定量Quantify the abundance of each bin across samples
blobology    可视化Blobology module
kraken        物种注释KRAKEN module

想查看每个模块的具体参数,如组装metawrap assembly -h

Usage: metawrap assembly [options] -1 reads_1.fastq -2 reads_2.fastq -o output_dir
Options:

-1 STR          正向序列forward fastq reads
-2 STR          反向序列reverse fastq reads
-o STR          输出目录output directory
-m INT          内存大小memory in GB (default=10)
-t INT          线程number of threads (defualt=1)
--use-megahit        assemble with megahit (default)
--use-metaspades    assemble with metaspades instead of megahit

详细使用:见明天使用实战

Reference

Micribome https://microbiomejournal.biomedcentral.com/articles/10.1186/s40168-018-0541-1

热心肠日报 https://www.mr-gut.cn/papers/read/1059939857?kf=xread_daily

Microbiome:宏基因组分箱流程MetaWRAP简介 https://blog.csdn.net/woodcorpse/article/details/83040987

主页和软件安装教程:https://github.com/bxlab/metaWRAP

数据库布署:https://github.com/bxlab/metaWRAP/blob/master/installation/database_installation.md

使用教程:https://github.com/bxlab/metaWRAP/blob/master/Usage_tutorial.md

猜你喜欢

写在后面

为鼓励读者交流、快速解决科研困难,我们建立了“宏基因组”专业讨论群,目前己有国内外2300+ 一线科研人员加入。参与讨论,获得专业解答,欢迎分享此文至朋友圈,并扫码加主编好友带你入群,务必备注“姓名-单位-研究方向-职称/年级”。技术问题寻求帮助,首先阅读《如何优雅的提问》学习解决问题思路,仍末解决群内讨论,问题不私聊,帮助同行。
image

学习扩增子、宏基因组科研思路和分析实战,关注“宏基因组”
image

点击阅读原文,跳转最新文章目录阅读
https://mp.weixin.qq.com/s/5jQspEvH5_4Xmart22gjMA



https://blog.sciencenet.cn/blog-3334560-1140665.html

上一篇:Microbiome:宏基因组分箱流程MetaWRAP简介
下一篇:南方科技大学环境学院夏雨教授诚聘博士后一名(环境微生物方向)
收藏 IP: 1.180.210.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-17 04:37

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部