awk 複数行の処理

スポンサーリンク

ファイルには様々な形式があります。1行単位で記述されたCSV(カンマ区切り)ファイルやTSV(タブ区切り)ファイルは、awkやsed、その他のbashコマンドなどを使っても比較的処理がしやすい。しかし、複数行でレコードが構成される場合(1行目が名前、2行目が住所、3行目が電話番号・・・など)は少し厄介です。awkで複数行のレコードを処理する方法を考えてみます。

とにかく早く問題解決したい人はこちら>>直接、データ解析相談

awk レコードが複数行で構成される場合

レコード区切り(改行文字)・フィールド区切り(空白文字)の設定を任意の文字に変更することで、複数行にわたるデータを1レコード・1行毎のデータをレコード内のフィールドとして扱うことができます。

awk レコードは行単位がデフォルト

awkのデフォルトの処理単位は1行単位です。改行を目印に1行分1レコード読み取り、空白文字の区切り文字でフィールドに分割します。これらは、システム変数RSFSで設定されています。

BEGEIN {FS="[ \t\n]+"; RS="\n"}

awk レコードの区切り文字を変更する

レコードが複数行で構成される場合、システム変数RSを空白行(””)や任意の文字へ、システム変数FSを改行(”\n”)へ変更します。これで、任意の区切り文字までの行ブロックが1つのレコードとなり、1行ずつの情報がレコード内のフィールドとして管理することができます。

BEGEIN {FS="\n"; RS=""}

awk 複数行の処理

awk 複数行を処理する(空白行が区切り)

システム変数RSFSの設定を変更して、複数行でレコードが構成されるファイルを処理してみましょう。まずは、空白行が区切りの場合です。

awk lines1.dat

空白行が区切りとなるデータを準備します。

$ cat awk_lines1.dat
name_1
address_1
tel_1
work_1

name_2
address_2
tel_2
work_2

awk lines1.awk

空白行を区切りとして、レコード処理します。各行がフィールドです。先頭と最後のフィールドを表示します。

BEGIN {FS="\n"; RS=""}
{print $1, $NF}

実行と結果

$ awk -f awk_lines1.awk awk_lines1.dat 
name_1 work_1
name_2 work_2

awk 複数行を処理する(その他の文字が区切り)

システム変数RSFSの設定を変更して、複数行でレコードが構成されるファイルを処理してみましょう。レコードの区切り文字が#(任意の文字)の場合です。

awk lines2.dat

#が区切りとなるデータを準備します。

$ cat awk_lines2.dat
name_11
address_12
tel_13
work_14
#
name_21
address_22
tel_23
work_24
#

awk lines2.awk

#を区切りとして、レコード処理します。各行がフィールドです。先頭と最後のフィールドを表示します。RSを”#”としてもうまくいきませんでした。RSを”#\n*”と設定すると想定したとおりレコードを認識します。最後のフィールドはシステム変数NFを使って$NFで表示できるかと思いましたが、(NF-1)番目と指定するとうまく表示できました。

BEGIN {FS="\n"; RS="#\n*"}
{print $1, $(NF-1)}

実行と結果

$ awk -f awk_lines2.awk awk_lines2.dat 
name_11 work_14
name_21 work_24

実験データの解析や論文用グラフ作成のヒントになりそうな、プログラミング・統計処理の参考になる書籍をまとめて紹介しています。是非、参考にしてみて下さいね。

とにかく早く問題解決したい人はこちら>>直接、論文相談

関連記事

awk 行の表示 先頭行 最終行 指定行
awkは、テキスト処理に欠かせません。よく使う「行を指定した処理」に使える定型スクリプトをまとめました。簡単に書けるように、省略できる部分は極力省きました。awk と 行awkで行を指定して「何かの処理」を実行するときは、「いま何行目?」を...
awk 置換や部分文字列などの文字列処理 gsub sub match index split 等
awkの文字列関数について、置換や部分文字列処理など、よく使う代表的なものを簡単なサンプルを使って紹介します。awk 置換文字列置換 gsub subgsub・subは、対象となる文字列tについて正規表現rにマッチした部分を置換文字列sで置...
awk split | サンプルでわかる列の分割とセパレータ指定方法
awkのsplit関数は、セパレータを指定して文字列を分割することができます。セパレータには文字や正規表現で指定できて、指定しない場合はフィールドセパレータがデリミタとして使われます。分割後の単語は、配列に格納されて1〜分割数nまでのインデ...
awk while・do 繰り返し処理
awkの繰り返し処理(for・while・do)についてまとめます。今回は、while・doについて。とにかく早く問題解決したい人はこちら>>直接、データ解析相談awk while 繰り返し処理条件を満たせば「ずっと」繰り返しを行います。繰...
404 NOT FOUND | バイオインフォ 道場 [bioinfo-Dojo]
バイオインフォ 道場
404 NOT FOUND | バイオインフォ 道場 [bioinfo-Dojo]
バイオインフォ 道場
awk 配列 使い方
awkでは、他のプログラミング言語のように配列を使うことができます。配列の簡単な使い方のまとめです。とにかく早く問題解決したい人はこちら>>直接、データ解析相談awk 連想配列awkの配列では、インデックスには文字列でも数字でも使うことがで...
awk よく使うシステム変数と使い方
awkのスクリプトでは、参照や設定が可能な「特殊な変数(システム変数)」を使うことができます。とにかく早く問題解決したい人はこちら>>直接、データ解析相談よく使うシステム変数awkのスクリプトでシステム変数を使うと、より簡潔にスクリプトを表...
awk パターンとアクション
awkは、入力行に対してフィルタリングなどの処理を行う際によく用いられます。入力行に対して「どの行に処理を行うか」を指定するのがパターン、「どんな処理を行うか」を指定するのが「アクション」です。とにかく早く問題解決したい人はこちら>>直接、...
awk 区切り文字とフィールド
awkは、入力の各行を区切り文字でフィールドに分割して、それぞれを個別に取り出すことができます。とにかく早く問題解決したい人はこちら>>直接、データ解析相談awk 区切り文字の変更入力行をフィールドに分割するのは区切り文字です。デフォルトは...
awk コマンドラインでの実行とスクリプトファイルでの実行
awkを実行する場合、コマンドラインで指定する方法と、スクリプトファイルを指定する方法があります。とにかく早く問題解決したい人はこちら>>直接、データ解析相談awk コマンドラインで指定するpatternとactionは、シングルクォートで...
awk 使い方 フィールド取り出し スクリプトの書き方
awkで簡単なフィールドデータの取り出しを行います。awk は入力された行について、空白やタブで区切られたデータをフィールドと解釈します。・…を指定することで、各行のフィールドを取り出すことができます。尚、https://bioinfo-dojo.net/2016/02/18/awk_easy_field_filter/は入力行全体です。se...
awk 使い方 フィールド取り出し スクリプトの書き方
awkで簡単なフィールドデータの取り出しを行います。awk は入力された行について、空白やタブで区切られたデータをフィールドと解釈します。・…を指定することで、各行のフィールドを取り出すことができます。尚、https://bioinfo-dojo.net/2016/02/18/awk_easy_field_filter/は入力行全体です。se...
正規表現 メタキャラクタ 検索・置換 後編
sed や awk、grep、その他のプログラム処理で文字列を扱うときに、よく用いられる「正規表現」についてまとめます。とにかく早く問題解決したい人はこちら>>直接、データ解析相談正規表現とは正規表現とは、文字列集合を特殊文字(メタキャラク...
タイトルとURLをコピーしました