• 设为首页
  • 点击收藏
  • 手机版
    手机扫一扫访问
    迪恩网络手机版
  • 关注官方公众号
    微信扫一扫关注
    公众号

awk及perl学习笔记

原作者: [db:作者] 来自: [db:来源] 收藏 邀请

注:AWK的正则表达式竟然不支持零宽断言!perl是支持零宽断言的,但是perl中的程序要达到awk的效率需要考虑的问题太多。于是笔者用两次匹配(第一次匹配后再过滤一次)的方法代替零宽断言:

 awk /$key/'{if($0~/\/\/.*$key|\/\*.*$key|$key.*\*\//) ; else printf("%s:%d: %s\n",FILENAME, FNR, $0)}' `find -type f -name "$fname"` | tee log_findinfiles
但是上句并不能奏效,因为awk语句内部是不能识别shell中定义的变量的,所以{}内不能出现$val这样引用变量的方法,而只能是val这样引用。但是用awk -v xxx=$val是可以把shell的变量引入awk的。我最终是在awk -v 处定义正则表达式的,并在正则表达式中引用shell里的变量$key。注意,在这里,正则表达式中每使用一个右斜杆,需要在此右斜杆前再加2个右斜杆以供解释器转义!

最后可以运行的语句

awk -v reg="\\\/\\\/.*$key|\\\/\\\*.*$key|$key.*\\\*\\\/" /$key/'{if($0 ~ reg ) ; else printf("%s:%d: %s\n",FILENAME, FNR, $0)}' `find -type f -name "$fname"` | tee log_findinfiles

这个语句我用了几天后发现还有一个小小的问题:它总是先执行``中的find命令,find完全结束后在执行AWK。这带来一个buffer的毛病,在文件量很大、层数很多的工程中,搜索时不能即时看到结果。而find和awk都是无buffer的,这种通过``组合起来的命令却造成了buffer。我尝试用|管道来写这个语句,但是当把find的输出输入awk时,awk并不能把它们解析成一个个的文件名,而是把find的每一行输出认为是一行待处理的文本来处理。

经过半个上午+一个下午的努力,我用perl解决了这个问题,第一次接触perl语言,遇到了一些障碍,所幸在一天内攻克了,下面这个脚本在查找效率和输入便捷上都很可观:

findme.pl源文件

 

#!/usr/bin/env perl
# program: find specific text in files with specific names
# Made by:  Daiyyr
# date:  2013/03/14
use 5.10.1;
use strict;
use warnings;
use POSIX qw(strftime);


my $key;
my $fname;

sub find{
    my @dirs = <$_[0]/*>;
    my $count = @dirs;
    my $len = length($_[0]);
    if($count == 0){
        return 1;
    }
    my $i=0;
    while($i<$count){
        if(-d $dirs[$i]){
                &find("$dirs[$i]", $_[1]);
            }
            else{
                if(substr($dirs[$i],$len+1) =~ m/$_[1]/){
                    if( substr($dirs[$i],$len+1) eq "log_finding_${key}_in_${fname}"){
                    $i++;
                        next;
                    }
                open(FILE, $dirs[$i]) || die("open file failed: $dirs[$i]\n");
                while(my $line=<FILE>){
                    if($line =~ m/$key/ && $line !~ m/\/\/.*$key|\/\*.*$key|$key.*\*\//){
                        print("$dirs[$i] : $. : $line");
                        print LOG ("$dirs[$i] : $. : $line");
                    }
                }
                close(FILE) || die("close file failed: $dirs[$i]\n");#猜测若不显式地关闭,一样要自动地隐式关闭,并不能节省时间
            }
            }
            $i++;
    }#end of while
}

print "input your files' name(could be regex):\n";
$fname = <STDIN>;
chomp($fname);
print "input your key word(could be regex):\n";
$key = <STDIN>;
chomp($key);
open(LOG, ">log_finding_${key}_in_${fname}") || die("open file failed: log_finding_${key}_in_${fname}\n");

print LOG ("search time: ".strftime("%Y-%m-%d %H:%M:%S\n", localtime(time))."key words:${key},  file name:${fname},  path:$ENV{'PWD'}\n\n");
&find(".", $fname);
close(LOG) || die("close file failed: log_finding_${key}_in_${fname}\n");


 

 

 

壹、参考:

维基百科AWK条目:http://zh.wikipedia.org/zh-cn/AWK

某人AWK学习笔记:http://man.lupaworld.com/content/manage/ringkee/awk.htm#id2808925

 

贰、总结

 

0.   ``这个符号用于标记命令语句。比如需要在shell执行一个语句,而输出结果并不显示在屏幕,而是把输出结果传送到某个地方,作为另一个命令或表达式地一部分, 此时用``将这个命令语句标记起来,例子:

awk /$key/'{printf("%s:%d: %s\n",FILENAME, FNR, $0)}' `find -type f -name "$fname"` | tee log_findinfiles

 

0.5   tee,在保留原先保准输出的途径的情况下,再将标准输出导入到其它地方。

 

1。若不使用文件定义script的话,单引号是必须的,标记模式和操作。若把模式和操作放在一个单引号内,模式如果是正则表达式且表达式中含变量的话,这个正则表达式可能失效;如果只把操作放在单引号内,则模式必须紧挨着单引号,几乎只有此方法是正确的;不能用2个单引号分别标记模式和操作。举例如下:

awk '/f/ {print "good job"}' a 此时正则表达式中没变量,正确;但是:

awk '/$key/ {printf("%s:%d: %s\n",FILENAME, FNR, $0)}' `find -type f -name "$fname"` 错误!正则表达式失效

awk /f/'{print "good job"}' a 正确,都使用这种方法就好了。

awk /f/ '{print "aa"}' a 错误

awk '/f/' '{print "aa"}' a 错误

 

2.   ORS(输出记录分隔符)只改变print的行为。而printf相当于外部函数,它的行为不受AWK变量限制,所以:

awk -v ORS="\n\n" /f/'{printf("%d\n", NR)}' a  输出依然是一个换行符间隔

awk -v ORS="\n\n" /f/'{print NR}' a  输出是两个换行符间隔

awk  /f/'{ORS="\n\n"; print NR}' a  这条命令与上条作用完全相同

 

3.   据上面最后一行提示,可知,变量的定义可以在script部分,也可以在选项部分

 

4.    AWK允许运算符~,用来测试正则表达式是否可以与一字符串匹配,用法举例:  $0 ~ /regexp/

 

叁、部分我使用过的命令:

 

多文件搜索:

awk /$key/'{printf("%s:%d: %s\n",FILENAME, FNR, $0)}' `find -type f -name "$fname"` | tee log_findinfiles

BEGIN用法: 

awk 'BEGIN { print "Hello, world!" }' a

 

文件内部排序:

grep -oP 'http:.*\.jpg' > a

awk -vFS="/" '{printf("mv %s %d.jpg\n", $NF, NR);}' a|sh

上面2条命令实际用法详见http://blog.chinaunix.net/uid-24245847-id-3192460.html

 

把以\结尾的行与下一行作为一条记录。尝试没有成功。在网页测试中,[^(\\)]\n 这个是可以排除以右斜杠结尾的行的,但在AKW中无法排除

awk '{RS="[^(\\)]\n"; ORS="END\n"; print $0}' a

 


鲜花

握手

雷人

路过

鸡蛋
该文章已有0人参与评论

请发表评论

全部评论

专题导读
上一篇:
Perl,Python,Ruby,Javascript四种脚本语言比较发布时间:2022-07-22
下一篇:
perl入门知识(2)发布时间:2022-07-22
热门推荐
热门话题
阅读排行榜

扫描微信二维码

查看手机版网站

随时了解更新最新资讯

139-2527-9053

在线客服(服务时间 9:00~18:00)

在线QQ客服
地址:深圳市南山区西丽大学城创智工业园
电邮:jeky_zhao#qq.com
移动电话:139-2527-9053

Powered by 互联科技 X3.4© 2001-2213 极客世界.|Sitemap