bioinformaticsでは、たくさんのファイルを使うことが多いので、ファイル処理は効率的に行いたいですね。このようなときfind コマンドや xargs コマンドが役に立ちます。
例えば、fastqファイルの拡張子を、fq.gz から fastq.gzへまとめて変更なども、簡単にできます。
find の結果を xargs で利用する
find の結果1つずつを %% として、echo(以降のコマンド)に渡してみます。
$ find . -name "*.txt" | xargs -I %% echo %% "is found"
実際に実行してみると、findの結果を1つずつ取り出して、コマンドを実行できることがわかります。
$ ll *.txt ./aaa.txt ./bbb.txt $ find . -name "*.txt" | xargs -I %% echo %% "is found" ./aaa.txt is found ./bbb.txt is found
xargs でスクリプト風にコマンドを実行する
find の結果1つずつを %% として、スクリプト風の処理(bash -c ‘…’)に渡してみます。
find . -name "*.fq.gz" | xargs -I %% bash -c 'f=basename %%
; echo $f "--->" ${f/.fq.gz/.fastq.gz}' %%
実際に実行してみると、findの結果を1つずつ取り出して、スクリプトで使うような文字列処理が実行できることがわかります。
$ ll *.fq.gz
./aaa.fq.gz
./bbb.fq.gz
$ find . -name "*.txt" | xargs -I %% bash -c 'f=basename %%
; echo $f "--->" ${f/.fq.gz/.fastq.gz}' %%
aaa.fq.gz ---> aaa.fastq.gz
bbb.fq.gz ---> bbb.fastq.gz
リネームするには、echoコマンドをmvコマンドなどに変更して使います。
参考図書など
こちらの本、わかりやすいと人気みたいですね。
関連記事1
パス名からファイル名を取得する方法
パス名からファイル名を抽出する場合は、basenameコマンドを使うと簡単です。 $ find . -name "test.txt" /aaa/bbb/ccc/test.txt $ find . -name "test.txt" | xar...
不要なファイルを探す ファイル名・ファイルサイズ・ファイル更新日時
バイオインフォマティクスの解析では大きなファイルを扱うことが多いので、ストレージの管理には気を使います。ストレージの容量を確保するために、不要なファイルはこまめに削除(または他の場所へ移動・圧縮など)することが、もっとも簡単で確実な方法だと...
ファイル名を一括変更 Windowsエクスプローラーとシェルスクリプト
バイオインフォマティクスでは、データファイルが大量になることがあります。いつも頭を悩ませるのがデータの管理です。たまにファイル名を一括で変更したいときがありますが、便利な方法があるので紹介したいと思います。 Windows エクスプローラー...
シェルスクリプト 引数の与え方とチェック方法
シェルスクリプトに引数を与える場合、引数が少ない場合はエラーにするなどの対策が必要です。一方、引数を10個以上うけとる場合、受け取り側で引数をずらしながら1つずつ取得する必要があります。 シェルスクリプトの引数をチェックする方法 シェルスク...
シェルスクリプト | ファイル存在チェック・空ファイルチェック
bashでスクリプトを作成するときに、よく使うのがファイルの存在チェックです。 if文と組合せると、ファイルの有無によって処理を分けることができます。エラー処理も記述できて使いやすいスクリプトになります。 様々な処理で活用できるので、是非参...
シェルスクリプト 関数 スクリプトの書き方
今回は、プログラムの基本構成となる「関数」を作ってみます。シェルで関数を作成すると、普段シェルを使って行っている作業を色々と自動化できて便利なことがあります。少しずつ、使えるようになると良いですね。 関数を利用したプログラム メッセージを1...
シェルスクリプト select メニューを作る スクリプトの書き方
select文を使うと、簡単にメニューを作成することができます。但し、Bシェルでは使えず bash を使います。リストでメニュー項目を準備します。select内の変数で、選ばれた項目や入力値を取得することができます。メニュープロンプトは、P...
シェルスクリプト Hello World スクリプトの書き方
シェルプログラミングをはじめましょう。使うシェルは「Bシェル」です。 Bシェルは機能が少ないのですが、どんなUNIXシステムでも動作するという利点があります。ログインシェルはbashやzshを使っている人が多いと思いますが、これらはBシェル...
関連記事2
bash 算術計算 書き方
シェルスクリプトを書いているとき、計算式が使えると便利なことがあります。 ファイルの残りの行数を表示したいな行毎に項目を足して合計を表示したいな入力したデータを計算して処理に使いたいな いろいろな状況があると思いますが、bashでも算術計算...
bash リダイレクションによる上書き禁止
何かコマンドからの出力を簡単にファイルに残しておけるので、リダイレクトは良く使います。しかし、たまに大事な既存ファイルに上書きしてしまって失敗することがあります。そんな「よくあるリダイレクトミス」を防ぎましょう! リダイレクトで上書き禁止す...
bash 配列の使い方|サンプルでわかる最低限の知識
bash 配列の使い方について、初期化・参照・削除のやり方〜配列を使った繰り返し処理まで、最低限の知識を短いサンプルで理解できます!bash の配列を理解すると、シェルスクリプトの応用の幅が広がります。 bash 配列の使い方 bash 配...
シェルスクリプト bash 最新版の利用
シェルスクリプト bash 最新バージョン シェルスクリプト bash バージョン確認 bashのバージョン確認を行います。現在、最新版はバージョン4.4(2017年1月)です。 $ bash --version bash --versio...
bash 部分文字列・置換・長さ・連結・分割の文字列処理
bashのよく使う文字列処理、部分文字列・置換・連結・長さ・分割について、サンプルを交えながらまとめます。 とにかく早く問題解決したい人はこちら>>直接、データ解析相談 部分文字列 文字列から部分文字列を取り出すときは、位置を指定した抽出方...
bash パイプ 複数コマンド 組み合わせ
複数のコマンドを連続で処理すると、解析作業が効率的に進むときがあります。コマンドの出力結果をソートしたり、さらに絞り込みを行ったりするだけで、分り易い結果になることは良くあることかもしれません。そんなちょっとしたテクニックでは、パイプ(|)...
linux コマンド プロセス置換 無駄な一時ファイルを作らない
bashでは、複数のコマンドをパイプでつなぐことができます。しかし、入力をファイルからしか受け取らない一部のコマンドでは、わざわざ一時ファイルを準備する必要があって意外と面倒です。そんなときは、プロセス置換を活用しましょう。無駄な中間ファイ...
バックグラウンド実行とフォアグラウンド実行 -プログラムの色んな実行方法-
解析プログラムは長い時間を必要とするものもあります。プログラムの実行や管理方法を理解して、作業効率を効率的に行いましょう。 バックグラウンド実行とフォアグラウンド実行 バックグラウンド実行をうまく活用しよう プログラムの実行には、起動後その...