当前位置:首页 > 开发 > 操作系统 > 正文

【Linux命令二】文本处理命令awk

发表于: 2014-09-23   作者:bit1129   来源:转载   浏览:
摘要: awk是Linux用来进行文本处理的命令,在日常工作中,广泛应用于日志分析。awk是一门解释型编程语言,包含变量,数组,循环控制结构,条件控制结构等。它的语法采用类C语言的语法。   awk命令用来做什么? 1.awk适用于具有一定结构的文本行,对其中的列进行提取信息 2.awk可以把当前正在处理的文本行提交给Linux的其它命令处理,然后把直接结构返回给awk 3.awk实际工

awk是Linux用来进行文本处理的命令,在日常工作中,广泛应用于日志分析。awk是一门解释型编程语言,包含变量,数组,循环控制结构,条件控制结构等。它的语法采用类C语言的语法。

 

awk命令用来做什么?

1.awk适用于具有一定结构的文本行,对其中的列进行提取信息

2.awk可以把当前正在处理的文本行提交给Linux的其它命令处理,然后把直接结构返回给awk

3.awk实际工作中,广泛应用与日志分析

 

样例数据

ID     Name  Salary Bonus
A000   Tom   9900   3212
A001   Jack   9999   2801
A002   Alex   8221   2003

针对这个数据,基本的需求可能是

1.查看某个人的BaseSalary,Bonus

2.列出所有人的BaseSalary和Bonus之和

3.列出所有人的Bonus(只显示Name和Bonus)

 

通过awk,可以很容易的实现这些需求

 

awk命令格式

awk命令包括三部分:pattern,action,input-file(可以是文件,可以是其它命令的管道)

 

  • input-file文本文件,提供awk文本处理的数据源,awk每次一行的循环处理
  • pattern 用于匹配input-file中的正在处理的行是否满足条件,它可以是普通字符串,也可以是正则表达式。对于不匹配的行,awk不会调用action以执行响应的操作。如果匹配,则执行相应的操作
  • action 当当前处理的文本行满足条件时,将执行action操作,操作的结果作为命令结果的一部分

 FS,RS,$0,$1,..,$n

 awk对输入的文本,逐行进行处理以提取每行中各个字段值,为了达到这个目的,awk需要知道如下信息:

  • 每行的结尾符是什么,即awk如何判定一定读取完某一个
  • 每行文本以什么样的字符串来进行文本行切割以得到各个字段
  • 分割得到的这些字段(可能有多个),如何读取,比如用户只希望得到示例数据中每行的Name列,忽略其它

1. 行结尾符

awk使用内置变量RS(Record )来设置行结尾符,默认是文本结束符\n,可以通过为RS赋值来设置结尾符(这适用于没有整个文本只有一行)。比如RS=end,表示使用end来把文本切割为多行

 

2. 字段分割符

awk使用内置变量FS(Field)来设置字段分隔符,默认是一个空格或者一个制表符\t。可以通过FS赋值来设置字段分隔符,例如FS="  ",使用两个空格作为分隔符。awk可以使用-F参数来设置字段分割符

 

3.$0, $1..$n

使用awk对一行文本按照给定的字段分割符进行处理后,如何引用各个字段的值。比如在示例数据中分割为多列后,如何取出每一列的值,这就是用到了$0..$n。其中$0表示当前处理的全文本行,$1表示第一列,$2表示第二列,。。$n表示第n列

 

 示例:

 

1.打印四行完整数据

awk '{print}' data.txt

awk -F "   " '{print $0}'

awk  'FS="   "    {print}'

awk 'BEGIN{FS="   "}    {print}'

输出结果:四行完整的数据

 

2.打印用户名

awk 'BEGIN{FS="   " ; print "用户名"}  /^A/   {print $2}' data.txt

注意:

  • 使用;分割FS赋值和print输出命令
  • /^A/正则表达式表示以A开头的行被选中

输出结果:

用户名
Tom
Jack
Alex

 

3.计算每个人的总工资

 

awk 'BEGIN{FS="   " ; print "用户名\t月收入"}  /^A/   {total = $3 + $4; print $2 ,  total}' data.txt

 

输出结果:

用户名    月收入
Tom 13112
Jack 9999
Alex 8221

 

4.输出Salary在9000以上的用户名和工资

 

awk 'BEGIN{FS="   " ; print "用户名\t月收入"} /^A/ {if ($3 >= 9000) print $2,$3} ' data.txt

输出结果

用户名    月收入
Tom 9900
Jack 9999

 

5.END使用

awk 'BEGIN{FS="   " ; print "用户名\t月收入"} END{print "统计结束"} /^A/ {if ($3 >= 9000) print $2,$3} ' data.txt

 

执行结果:

用户名    月收入
Tom 9900
Jack 9999
统计结束

 

6.只显示Bonus的总和

awk 'BEGIN{total=0} END{print total} /^A/  {total += $4}' data.txt

 

7.显示以A开头的记录有几条

awk 'BEGIN{total=0} END{print total} /^A/  {total++}' data.txt

 

输出3

 

8.do/while循环

awk 'BEGIN{total=0} END{print total} /^A/  {do {print i } while(i++<3)}' data.txt

 

输出:

0

1

2

3

4

5

0

 

 总结

1.  action应该用{}括起来,当有多条命令放在action的语句块中时,用分号分割

2. action语句块有其它语句块时,使用{}括起来,即{}是可以嵌套的

3.  pattern可以包含BEGIN和END,BEGIN中的代码块(用大括号括起来)表示在开始处理文本前执行,END中的代码块(用大括号括起来)表示在处理文本结果后执行。

4.  大括号之间不用逗号风格,比如示例5

 

 

awk编程语言基本元素

 awk编程语言的语言元素与C语言类似,

1.算术运算符

 +, -,*,/,%,+=,-=

2. 比较运算符

< <= == >= >=

3.逻辑运算符

&& || !

4.++,--

 

5. for(variable in array) {

   }

6. do {} while ()7. while(){}

 

【Linux命令二】文本处理命令awk

  • 0

    开心

    开心

  • 0

    板砖

    板砖

  • 0

    感动

    感动

  • 0

    有用

    有用

  • 0

    疑问

    疑问

  • 0

    难过

    难过

  • 0

    无聊

    无聊

  • 0

    震惊

    震惊

编辑推荐
cut命令可以从一个文本文件或者文本流中提取文本列。 命令用法: cut -b list [-n] [file ...] cut
sample文件如下, 便于测试: Heigh-ho! sing, heigh-ho! unto the green holly: Most friendship is
fiind 目录 -name 文件名: 在目录下查找名称一致的文件 fiind 目录 -name ’*关键词*‘:在目录下
这是我打算总结的关于服务器编程实际工作中用到的一些重要工具和技术的第二篇, 内容共10页word文档
二.Linux常用搜索命令 本笔记提纲: 1.文件搜索命令locate 2.命令搜索命令whereis和which 3.文件搜
1、格式 if (condition) statement1 或者 if (condition) statement1 2、if 和 if…else [root@auc-
1、格式 if (condition) statement1 或者 if (condition) statement1 2、if 和 if…else [root@auc-
1、格式 if (condition) statement1 或者 if (condition) statement1 2、if 和 if…else [root@auc-
1、格式 if (condition) statement1 或者 if (condition) statement1 2、if 和 if…else [root@auc-
awk是以三位发明这个工具的人的名字的首字母组合而成的,这个工具用来进行文本处理非常强大,可以进
版权所有 IT知识库 CopyRight © 2009-2015 IT知识库 IT610.com , All Rights Reserved. 京ICP备09083238号