バイオインフォマティクスの解析では大きなファイルを扱うことが多いので、ストレージの管理には気を使います。ストレージの容量を確保するために、不要なファイルはこまめに削除(または他の場所へ移動・圧縮など)することが、もっとも簡単で確実な方法だと思います。
このようなファイル管理に必要な、「不要なファイルの検索」を簡単に行う方法を検討してみましょう。
どんなファイルを探すか?
不要なファイルの条件をいくつか考えてみます。
- 「.bak」などの拡張子がついているもの
- サイズがとても大きいファイル(削除しなくても、場所移動や圧縮が必要)
- 古いファイル
ファイル検索で条件を指定できるのが、find
コマンドです。find
コマンドでは、ファイル名やサイズ・作成/更新日時などを指定して、ファイルやディレクトリを検索することができます。
ファイル名をキーワードにして探す
ファイル名をキーワードにして、指定したフォルダ(省略時は現在のフォルダ)以下を再帰的に検索します。ファイル名を指定する場合は、-name
オプションを指定します。
拡張子で検索
$ find -name "*.bak"
./work3/ccc.bak
./aaa.bak
拡張子で検索(検索フォルダを指定)
$ find work3/ -name "*.bak"
work3/ccc.bak
ファイル名で検索 先頭やキーワードを含む場合
$ find -name "test*" ./work3/test.bak $ find -name "*test*" ./work3/mytest.txt ./work3/test.bak
大きなファイルを指定して探す
ファイルサイズを条件に、指定したフォルダ以下を再帰的に検索します。ファイルサイズを指定する場合は、-size
オプションを指定します。指定する条件に+
をつけると「指定サイズ以上」、-
を指定すると「指定サイズ以下」を検索します。
$ls -l -h
973K a.vcf
86M b.zip
ファイルサイズが指定サイズ以上 50M
$find -size +50M
./b.zip
ファイルサイズが指定サイズ以下 3M
$find -size -3M
./a.vcf
作成/更新日を指定して探す
ファイルやディレクトリの更新日時を条件に、指定したフォルダ以下を再帰的に検索します。更新日時を指定する場合は、-mtime
オプションを指定します。作成日時を指定する場合は、-ctime
オプションを指定します。指定する条件に+
をつけると「日数以上」、-
を指定すると「日数以下」を検索します。
$ ls -ml #更新日を確認
1月 4 18:30 a.vcf
1月 15 15:17 b.zip
更新日が3日より前のファイル
ファイルだけを探す場合は、-type
オプションでf
を指定します。
$find -mtime +3
./a.vcf
作成日が約1年以内のディレクトリ
フォルダだけを検索したい場合は、-type
オプションでd
を指定します。
$ find -ctime -400 -type d
.
./fastx_bin
./bowtie2-2.0.2
./gffread
./gffread/.... #直下のフォルダ群 省略
関連記事1
xargs 引数を上手に使う | find と xargs でファイルのリネームやコピーをひと工夫
bioinformaticsでは、たくさんのファイルを使うことが多いので、ファイル処理は効率的に行いたいですね。このようなときfind コマンドや xargs コマンドが役に立ちます。 例えば、fastqファイルの拡張子を、fq.gz から...
パス名からファイル名を取得する方法
パス名からファイル名を抽出する場合は、basenameコマンドを使うと簡単です。 $ find . -name "test.txt" /aaa/bbb/ccc/test.txt $ find . -name "test.txt" | xar...
ファイル名を一括変更 Windowsエクスプローラーとシェルスクリプト
バイオインフォマティクスでは、データファイルが大量になることがあります。いつも頭を悩ませるのがデータの管理です。たまにファイル名を一括で変更したいときがありますが、便利な方法があるので紹介したいと思います。 Windows エクスプローラー...
シェルスクリプト 引数の与え方とチェック方法
シェルスクリプトに引数を与える場合、引数が少ない場合はエラーにするなどの対策が必要です。一方、引数を10個以上うけとる場合、受け取り側で引数をずらしながら1つずつ取得する必要があります。 シェルスクリプトの引数をチェックする方法 シェルスク...
シェルスクリプト | ファイル存在チェック・空ファイルチェック
bashでスクリプトを作成するときに、よく使うのがファイルの存在チェックです。 if文と組合せると、ファイルの有無によって処理を分けることができます。エラー処理も記述できて使いやすいスクリプトになります。 様々な処理で活用できるので、是非参...
シェルスクリプト 関数 スクリプトの書き方
今回は、プログラムの基本構成となる「関数」を作ってみます。シェルで関数を作成すると、普段シェルを使って行っている作業を色々と自動化できて便利なことがあります。少しずつ、使えるようになると良いですね。 関数を利用したプログラム メッセージを1...
シェルスクリプト select メニューを作る スクリプトの書き方
select文を使うと、簡単にメニューを作成することができます。但し、Bシェルでは使えず bash を使います。リストでメニュー項目を準備します。select内の変数で、選ばれた項目や入力値を取得することができます。メニュープロンプトは、P...
シェルスクリプト Hello World スクリプトの書き方
シェルプログラミングをはじめましょう。使うシェルは「Bシェル」です。 Bシェルは機能が少ないのですが、どんなUNIXシステムでも動作するという利点があります。ログインシェルはbashやzshを使っている人が多いと思いますが、これらはBシェル...
関連記事2
bash 算術計算 書き方
シェルスクリプトを書いているとき、計算式が使えると便利なことがあります。 ファイルの残りの行数を表示したいな行毎に項目を足して合計を表示したいな入力したデータを計算して処理に使いたいな いろいろな状況があると思いますが、bashでも算術計算...
bash リダイレクションによる上書き禁止
何かコマンドからの出力を簡単にファイルに残しておけるので、リダイレクトは良く使います。しかし、たまに大事な既存ファイルに上書きしてしまって失敗することがあります。そんな「よくあるリダイレクトミス」を防ぎましょう! リダイレクトで上書き禁止す...
bash 配列の使い方|サンプルでわかる最低限の知識
bash 配列の使い方について、初期化・参照・削除のやり方〜配列を使った繰り返し処理まで、最低限の知識を短いサンプルで理解できます!bash の配列を理解すると、シェルスクリプトの応用の幅が広がります。 bash 配列の使い方 bash 配...
シェルスクリプト bash 最新版の利用
シェルスクリプト bash 最新バージョン シェルスクリプト bash バージョン確認 bashのバージョン確認を行います。現在、最新版はバージョン4.4(2017年1月)です。 $ bash --version bash --versio...
bash 部分文字列・置換・長さ・連結・分割の文字列処理
bashのよく使う文字列処理、部分文字列・置換・連結・長さ・分割について、サンプルを交えながらまとめます。 とにかく早く問題解決したい人はこちら>>直接、データ解析相談 部分文字列 文字列から部分文字列を取り出すときは、位置を指定した抽出方...
bash パイプ 複数コマンド 組み合わせ
複数のコマンドを連続で処理すると、解析作業が効率的に進むときがあります。コマンドの出力結果をソートしたり、さらに絞り込みを行ったりするだけで、分り易い結果になることは良くあることかもしれません。そんなちょっとしたテクニックでは、パイプ(|)...
linux コマンド プロセス置換 無駄な一時ファイルを作らない
bashでは、複数のコマンドをパイプでつなぐことができます。しかし、入力をファイルからしか受け取らない一部のコマンドでは、わざわざ一時ファイルを準備する必要があって意外と面倒です。そんなときは、プロセス置換を活用しましょう。無駄な中間ファイ...
バックグラウンド実行とフォアグラウンド実行 -プログラムの色んな実行方法-
解析プログラムは長い時間を必要とするものもあります。プログラムの実行や管理方法を理解して、作業効率を効率的に行いましょう。 バックグラウンド実行とフォアグラウンド実行 バックグラウンド実行をうまく活用しよう プログラムの実行には、起動後その...