Fastq-dump: 一個神奇的軟件

現(xiàn)在可以用fasterq-dump, 速度更快,請閱讀都8102年了,還用fastq-dump,快換fasterq-dump吧

做生信的基本上都跟NCBI-SRA打過交道,尤其是fastq-dump大家肯定不陌生.NCBI的fastq-dump軟件一直被大家歸為目前網(wǎng)上文檔做的最差的軟件之一",而我用默認參數(shù)到現(xiàn)在基本也沒有出現(xiàn)過什么問題,感覺好像也沒有啥問題, 直到今天看到如下內(nèi)容, 并且用谷歌搜索的時候,才覺得大家對fastq-dump的評價非常很到位.

過濾

我們一般使用fastq-dump的方式為

fastq-dump /path/to/xxx.sra 

但是這個默認使用方法得到結(jié)果往往很糟, 比如說他默認會把雙端測序結(jié)果保存到一個文件里, 但是如果你加上--split-3之后, 他會把原來雙端拆分成兩個文件,但是原來單端并不會保存成兩個文件. 還有你用--gzip就能輸出gz格式, 能夠節(jié)省空間的同時也不會給后續(xù)比對軟件造成壓力, 比對軟件都支持,就是時間要多一點。

--gzip時間
沒有gzip時間

但是很不幸運,這些東西在官方文檔并沒有特別說明,你只有通過不斷的踩坑才能學到這些小知識。

我建議盡量去EMBL-EBI去下載原始數(shù)據(jù),而不是這種神奇的sra格式,盡管有一些下載的數(shù)據(jù)其實就是從SRA解壓而來。

不過要用fastq-dump,那就介紹幾個比較重要的參數(shù)吧。我會按照不懂也加,不懂別加,有點意思,沒啥意義這三個級別來闡述不同參數(shù)的重要級.

太長不看版

如果你不想了解一些細節(jié)性內(nèi)容,用下面的參數(shù)就行了

fastq-dump --gzip --split-3 --defline-qual '+' --defline-seq '@\$ac-\$si/\$ri'   SRR_ID
# 建議加別名
alias fd='fastq-dump --split-3 --defline-qual '+' --defline-seq '@\\\$ac-\\\$si/\\\$ri' '

數(shù)據(jù)格式

不懂也加: reads拆分

默認情況下fastq-dump不對reads進行拆分, 對于很早之前的單端測序沒有出現(xiàn)問題.但是對于雙端測序而言,就會把原本的兩條reads合并成一個,后續(xù)分析必然會出錯.

常見的參數(shù)有三類:

  • --split-spot: 將雙端測序分為兩份,但是都放在同一個文件中
  • --split-files: 將雙端測序分為兩份,放在不同的文件,但是對于一方有而一方?jīng)]有的reads直接丟棄
  • --split-3 : 將雙端測序分為兩份,放在不同的文件,但是對于一方有而一方?jīng)]有的reads會單獨放在一個文件夾里

關于遇到的Rejected 35403447 READS because of filtering out non-biological READS就是因為原來是SE數(shù)據(jù),但是用--split-3當作PE數(shù)據(jù)處理,出現(xiàn)的問題. 看起來好像有問題,但是對后續(xù)結(jié)果分析沒有太多影響.

因此,對于一個你不知道到底是單端還是雙端的SRA文件,一律用--split-3.

沒事別加: read ID

默認雙端測序數(shù)據(jù)拆分后得到兩個文件中同一個reads的名字是一樣的,但是加上-I | --readids之后同一個reads的ID就會加上.1和.2進行區(qū)分.舉個例子

是否有-I參數(shù) ID 1 ID 2
@SRR5829230.1 1 length=36 @SRR5829230.1 1 length=36
@SRR5829230.1.1 1 length=36 @SRR5829230.1.2 1 length=36

問題來了, 明明已經(jīng)可以通過ID后面的"1"和"2"來區(qū)分ID, 加這個參數(shù)干嘛. 加完之后還會讓后續(xù)的BWA報錯.所以,沒事千萬別加

有點意義: 原始格式

默認情況下輸出的文件的ID都是SRR開頭,但其實原始數(shù)據(jù)名字不是這樣子,比如說@ST-E00600:143:H3LJWALXX:1:1101:5746:1016 2:N:0:CCTCCTGA,@HWI-ST620:248:HB11HADXX:2:1101:1241:2082#0/1這種. 如果你想看到那種格式,而不是SRR,你需要怎么做呢?

可以通過如下三個選項進行修改

  • F|--origfmt: 僅保留數(shù)據(jù)名字
  • --defline-seq <fmt>: 定義readsID的顯示方式
  • --defline-qual <fmt>: 定義質(zhì)量的顯示方式

其中fmt按照如下要求定義

fmt的寫法

雖然看起來有點意思,但是對最后的分析其實沒啥幫助.

沒啥意義: fasta輸出

如果下游分析只需要用到fasta文件,那么用--fasta就行. 當然了也有很多方法能夠把fastq轉(zhuǎn)換成fasta,比如說samtools.

過濾

我覺得這部分的參數(shù)都沒有意義, 畢竟完全可以用專門的質(zhì)控軟件處理reads,不過--skip-technical,是唯一比較重要.

  • 根據(jù)ID: -N -X
  • 根據(jù)長度: -M
  • 多標簽序列: --skip-technical, 這個是唯一有點意思的,就是說如果你原來建庫測序使用了多個標簽來區(qū)分序列, 默認不會輸出這個標簽. 但是如果不輸出標簽,我們怎么區(qū)分呢? 所以一定要顯示聲明

有點意思: 輸出方式

這部分參數(shù)也很重要, 選擇是否壓縮,還是直接輸出到標準輸出

  • --gzip, --bzip2: 壓縮方式
  • -Z | --stdout : 輸出到標準輸出
  • -O|--outdir : 輸出到指定文件夾
最后編輯于
?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,030評論 6 531
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 98,310評論 3 415
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 175,951評論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,796評論 1 309
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,566評論 6 407
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,055評論 1 322
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,142評論 3 440
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 42,303評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 48,799評論 1 333
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 40,683評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,899評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,409評論 5 358
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 44,135評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,520評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,757評論 1 282
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,528評論 3 390
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,844評論 2 372

推薦閱讀更多精彩內(nèi)容