linux日志过滤命令 linux日志筛选命令

Linux日志截取利器——sed命令(亲测可用) 在生产环境中 , 往往没有条件给我们去debug排查,更多时候我们是通过日志来看具体的报错日期 。
但是日志往往是一直在实时更新 , 而且记录条数庞大,很难直接定位到错误信息 。这个时候,就可以利用sed命令来截取指定时间段内的日志(也是网上大多数博主的做法) 。
具体命令如下:
这条命令可以查询2020.10.13号当天9点到9点十分中间的所有的日志信息 。
但是这条命令的使用有两个前提(很多网上的博主都没有提到)
第一,日志输出的日期格式是要满足命令中的格式 ,如果不是的话就跟着实际的格式改
第二,输入的日期必须要真实存在?。。?,比如说9点整刚好没有日志输出,那么这条命令就会失效
更加通配的命令可以是这样 , 使用号*
这样无论九点整的时候是否有日志产生 , 就都可以获取到9点整到现在的所有日志了
使用,将截取到的内容输出到指定的文件中,方便进一步查看
ps:在实际操作中,我们一般会在后面加grep命令做进一步的关键字过滤
linux日志清理由于ubuntu日志文件syslog 和 kern.log 时刻在增长linux日志过滤命令,一会儿就使得根目录文件夹不够用了linux日志过滤命令 , 需使用如下命令清理
sudo -i
然后输入密码linux日志过滤命令,执行:
echo/var/log/syslog
echo/var/log/kern.log
就可以了.
打开日志文件夹:cd /var/loglinux日志过滤命令,
输入du -sh可以查看占用linux日志过滤命令的磁盘空间(du -h --max-depth=1 /var/log/*)
输入du -sm查看文件总数
使用sudo find /var/log/ -type f -mtime30 -exec rm -f {} \;删除30天之前的旧文件(P.S:这里的天数30可以修改为其它值):
ubuntu系统日志查看器
在系统日志里,可以查看系统相关事件记录,出错信息等;
1、系统日志查看器
1)点菜单“系统 - 系统管理 - 系统日志查看器”,打开系统日志查看器窗口;
2)窗口左侧是项目 , 右边是详细记录;
3)其中 Xorg 是显示服务,auth是安全验证,boot是启动,daemon是进程,kern是内核,messages是消息,syslog是系统,user是用户;
4)有新消息的项目会以粗体显示 , 查看以后恢复正常;
ubuntu日志管理方法
ubuntu下var-log下各个日志文件的作用说明
/var/log/alternatives.log-更新替代信息都记录在这个文件中
/var/log/apport.log -应用程序崩溃记录
/var/log/apt/-用apt-get安装卸载软件的信息
/var/log/auth.log-登录认证log
/var/log/boot.log-包含系统启动时的日志 。
/var/log/btmp-记录所有失败启动信息
/var/log/Consolekit- 记录控制台信息
/var/log/cpus- 涉及所有打印信息的日志
/var/log/dist-upgrade- dist-upgrade这种更新方式的信息
/var/log/dmesg-包含内核缓冲信息(kernel ringbuffer) 。在系统启动时,显示屏幕上的与硬件有关的信息
/var/log/dpkg.log- 包括安装或dpkg命令清除软件包的日志 。
/var/log/faillog- 包含用户登录失败信息 。此外,错误登录命令也会记录在本文件中 。
/var/log/fontconfig.log -与字体配置有关的log 。
/var/log/fsck- 文件系统日志
/var/log/faillog-包含用户登录失败信息 。此外,错误登录命令也会记录在本文件中 。
/var/log/hp/
/var/log/install/
/var/log/jokey.log
/var/log/kern.log –包含内核产生的日志,有助于在定制内核时解决问题 。
/var/log/lastlog —记录所有用户的最近信息 。这不是一个ASCII文件 , 因此需要用lastlog命令查看内容 。
/var/log/faillog –包含用户登录失败信息 。此外 , 错误登录命令也会记录在本文件中 。
/var/log/lightdm/
/var/log/mail/ – 这个子目录包含邮件服务器的额外日志 。
/var/log/mail.err-类似于上面的
/var/log/news/
/var/log/pm-powersave.log
/var/log/samba/ –包含由samba存储的信息 。
/var/log/syss.log
/var/log/speech-dispacher/
/var/log/udev
/var/log/ufw.log
【linux日志过滤命令 linux日志筛选命令】/var/log/upstart/
/var/log/uattended-upgrades/
/var/log/wtmp —包含登录信息 。使用wtmp可以找出谁正在登陆进入系统,谁使用命令显示这个文件或信息等 。
/var/log/xorg.*.log— 来自X的日志信息 。
linux查看日志的命令是?具体怎么用tail -f 日志文件路径主要用于查看实时的日志记录 , 属于动态记录查看 。
cat日志路径主要用于查看静态的历史日志记录 , 一般跟路径名称,常见的这周类型的日志记录一般用管道符进行过滤筛选自己所需的记录 。
dmesg主要用于调试脚本或者命令,出现异常中断来排查错误原因显示的 。
tail-n10test.log,查询日志尾部最后10行的日志 。
tail -n10 test.log,查询10行之后的所有日志 。
head -n 10test.log,查询日志文件中的头10行日志 。
head -n -10test.log,查询日志文件除了最后10行的其他所有日志 。
操作命令
首先介绍一个名词“控制台(console)” , 它就是我们通常见到的使用字符操作界面的人机接口,例如dos 。我们说控制台命令,就是指通过字符界面输入的可以操作系统的命令 。
例如dos命令就是控制台命令 。要了解的是基于Linux操作系统的基本控制台命令 。有一点一定要注意,和dos命令不同的是,Linux的命令(也包括文件名等等)对大小写是敏感的 , 也就是说,如果你输入的命令大小写不对的话,系统是不会做出你期望的响应的 。
Linux常用指令---grep(搜索过滤)(转)Linux常用指令---grep(搜索过滤) (转)
Linux系统中grep命令是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹 配的行打印出来 。grep全称是Global Regular Expression Print , 表示全局正则表达式版本,它的使用权限是所有用户 。
grep的工作方式是这样的,它在一个或多个文件中搜索字符串模板 。如果模板包括空格,则必须被引用,模板后的所有字符串被看作文件名 。搜索的结果被送到标准输出,不影响原文件内容 。
grep可用于shell脚本,因为grep通过返回一个状态值来说明搜索的状态,如果模板搜索成功,则返回0,如果搜索不成功,则返回1,如果搜索的文件不存在,则返回2 。我们利用这些返回值就可进行一些自动化的文本处理工作 。
1.命令格式:
grep [option] pattern file
2.命令功能:
用于过滤/搜索的特定字符 。可使用正则表达式能多种命令配合使用,使用上十分灵活 。
3.命令参数:
-a--text#不要忽略二进制的数据 。
-A显示行数--after-context=显示行数#除了显示符合范本样式的那一列之外,并显示该行之后的内容 。
-b--byte-offset#在显示符合样式的那一行之前 , 标示出该行第一个字符的编号 。
-B显示行数--before-context=显示行数#除了显示符合样式的那一行之外,并显示该行之前的内容 。
-c--count#计算符合样式的列数 。
-C显示行数--context=显示行数或-显示行数#除了显示符合样式的那一行之外,并显示该行之前后的内容 。
-d 动作--directories=动作#当指定要查找的是目录而非文件时,必须使用这项参数 , 否则grep指令将回报信息并停止动作 。
-e范本样式--regexp=范本样式#指定字符串做为查找文件内容的样式 。
-E--extended-regexp#将样式为延伸的普通表示法来使用 。
-f规则文件--file=规则文件#指定规则文件,其内容含有一个或多个规则样式,让grep查找符合规则条件的文件内容,格式为每行一个规则样式 。
-F--fixed-regexp#将样式视为固定字符串的列表 。
-G--basic-regexp#将样式视为普通的表示法来使用 。
-h--no-filename#在显示符合样式的那一行之前,不标示该行所属的文件名称 。
-H--with-filename#在显示符合样式的那一行之前,表示该行所属的文件名称 。
-i--ignore-case#忽略字符大小写的差别 。
-l--file-with-matches#列出文件内容符合指定的样式的文件名称 。
-L--files-without-match#列出文件内容不符合指定的样式的文件名称 。
-n--line-number#在显示符合样式的那一行之前,标示出该行的列数编号 。
-q--quiet或--silent#不显示任何信息 。
-r--recursive#此参数的效果和指定“-d recurse”参数相同 。
-s--no-messages#不显示错误信息 。
-v--revert-match#显示不包含匹配文本的所有行 。
-V--version#显示版本信息 。
-w--word-regexp#只显示全字符合的列 。
-x--line-regexp#只显示全列符合的列 。
-y#此参数的效果和指定“-i”参数相同 。
4.规则表达式:
grep的规则表达式:
^#锚定行的开始 如:'^grep'匹配所有以grep开头的行 。
$#锚定行的结束 如:'grep$'匹配所有以grep结尾的行 。
.#匹配一个非换行符的字符 如:'gr.p'匹配gr后接一个任意字符,然后是p 。
*#匹配零个或多个先前字符 如:'*grep'匹配所有一个或多个空格后紧跟grep的行 。
.*#一起用代表任意字符 。
[]#匹配一个指定范围内的字符,如'[Gg]rep'匹配Grep和grep 。
[^]#匹配一个不在指定范围内的字符 , 如:'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一个字母开头,紧跟rep的行 。
\(..\)#标记匹配字符,如'\(love\)',love被标记为1 。
\#锚定单词的开始,如:'\
\#锚定单词的结束,如'grep\'匹配包含以grep结尾的单词的行 。
x\{m\}#重复字符x,m次,如:'0\{5\}'匹配包含5个o的行 。
x\{m,\}#重复字符x,至少m次,如:'o\{5,\}'匹配至少有5个o的行 。
x\{m,n\}#重复字符x,至少m次,不多于n次 , 如:'o\{5,10\}'匹配5--10个o的行 。
\w#匹配文字和数字字符,也就是[A-Za-z0-9],如:'G\w*p'匹配以G后跟零个或多个文字或数字字符,然后是p 。
\W#\w的反置形式 , 匹配一个或多个非单词字符,如点号句号等 。
\b#单词锁定符,如: '\bgrep\b'只匹配grep 。
POSIX字符:
为了在不同国家的字符编码中保持一至 , POSIX(The Portable Operating System Interface)增加了特殊的字符类,如[:alnum:]是[A-Za-z0-9]的另一个写法 。要把它们放到[]号内才能成为正则表达式,如[A- Za-z0-9]或[[:alnum:]] 。在linux下的grep除fgrep外,都支持POSIX的字符类 。
[:alnum:]#文字数字字符
[:alpha:]#文字字符
[:digit:]#数字字符
[:graph:]#非空字符(非空格、控制字符)
[:lower:]#小写字符
[:cntrl:]#控制字符
[:print:]#非空字符(包括空格)
[:punct:]#标点符号
[:space:]#所有空白字符(新行 , 空格,制表符)
[:upper:]#大写字符
[:xdigit:]#十六进制数字(0-9,a-f,A-F)
5.使用实例:
实例1:查找指定进程
命令:
ps -ef|grep svn
输出:
[root@localhost ~]# ps -ef|grep svn
root 494310Dec05 ?00:00:00 svnserve -d -r /opt/svndata/grape/
root 16867 168380 19:53 pts/000:00:00 grep svn
[root@localhost ~]#
说明:
第一条记录是查找出的进程;第二条结果是grep进程本身,并非真正要找的进程 。
实例2:查找指定进程个数
命令:
ps -ef|grep svn -c
ps -ef|grep -c svn
输出:
[root@localhost ~]# ps -ef|grep svn -c
2
[root@localhost ~]# ps -ef|grep -c svn
2
[root@localhost ~]#
说明:
实例3:从文件中读取关键词进行搜索
命令:
cat test.txt | grep -f test2.txt
输出:
[root@localhost test]# cat test.txt
hnlinux
peida.cnblogs.com
ubuntu
ubuntu linux
redhat
Redhat
linuxmint
[root@localhost test]# cat test2.txt
linux
Redhat
[root@localhost test]# cat test.txt | grep -f test2.txt
hnlinux
ubuntu linux
Redhat
linuxmint
[root@localhost test]#
说明:
输出test.txt文件中含有从test2.txt文件中读取出的关键词的内容行
实例3:从文件中读取关键词进行搜索 且显示行号
命令:
cat test.txt | grep -nf test2.txt
输出:
[root@localhost test]# cat test.txt
hnlinux
peida.cnblogs.com
ubuntu
ubuntu linux
redhat
Redhat
linuxmint
[root@localhost test]# cat test2.txt
linux
Redhat
[root@localhost test]# cat test.txt | grep -nf test2.txt
1:hnlinux
4:ubuntu linux
6:Redhat
7:linuxmint
[root@localhost test]#
说明:
输出test.txt文件中含有从test2.txt文件中读取出的关键词的内容行 , 并显示每一行的行号
实例5:从文件中查找关键词
命令:
grep 'linux' test.txt
输出:
[root@localhost test]# grep 'linux' test.txt
hnlinux
ubuntu linux
linuxmint
[root@localhost test]# grep -n 'linux' test.txt
1:hnlinux
4:ubuntu linux
7:linuxmint
[root@localhost test]#
说明:
实例6:从多个文件中查找关键词
命令:
grep 'linux' test.txt test2.txt
输出:
[root@localhost test]# grep -n 'linux' test.txt test2.txt
test.txt:1:hnlinux
test.txt:4:ubuntu linux
test.txt:7:linuxmint
test2.txt:1:linux
[root@localhost test]# grep 'linux' test.txt test2.txt
test.txt:hnlinux
test.txt:ubuntu linux
test.txt:linuxmint
test2.txt:linux
[root@localhost test]#
说明:
多文件时,输出查询到的信息内容行时,会把文件的命名在行最前面输出并且加上":"作为标示符
实例7:grep不显示本身进程
命令:
ps aux|grep \[s]sh
ps aux | grep ssh | grep -v "grep"
输出:
[root@localhost test]# ps aux|grep ssh
root27200.00.0626561212 ?SsNov020:00 /usr/sbin/sshd
root168340.00.0880883288 ?Ss19:530:00 sshd: root@pts/0
root169010.00.061180764 pts/0S20:310:00 grep ssh
[root@localhost test]# ps aux|grep \[s]sh]
[root@localhost test]# ps aux|grep \[s]sh
root27200.00.0626561212 ?SsNov020:00 /usr/sbin/sshd
root168340.00.0880883288 ?Ss19:530:00 sshd: root@pts/0
[root@localhost test]# ps aux | grep ssh | grep -v "grep"
root27200.00.0626561212 ?SsNov020:00 /usr/sbin/sshd
root168340.00.0880883288 ?Ss19:530:00 sshd: root@pts/0
说明:
实例8:找出已u开头的行内容
命令:
cat test.txt |grep ^u
输出:
[root@localhost test]# cat test.txt |grep ^u
ubuntu
ubuntu linux
[root@localhost test]#
说明:
实例9:输出非u开头的行内容
命令:
cat test.txt |grep ^[^u]
输出:
[root@localhost test]# cat test.txt |grep ^[^u]
hnlinux
peida.cnblogs.com
redhat
Redhat
linuxmint
[root@localhost test]#
说明:
实例10:输出以hat结尾的行内容
命令:
cat test.txt |grep hat$
输出:
[root@localhost test]# cat test.txt |grep hat$
redhat
Redhat
[root@localhost test]#
说明:
实例11:输出ip地址
命令:
ifconfig eth0|grep -E "([0-9]{1,3}\.){3}[0-9]"
输出:
[root@localhost test]# ifconfig eth0|grep "[0-9]\{1,3\}\.[0-9]\{1,3\}\.[0-9]\{1,3\}\.[0-9]\{1,3\}"
inet addr:192.168.120.204Bcast:192.168.120.255Mask:255.255.255.0
[root@localhost test]# ifconfig eth0|grep -E "([0-9]{1,3}\.){3}[0-9]"
inet addr:192.168.120.204Bcast:192.168.120.255Mask:255.255.255.0
[root@localhost test]#
说明:
实例12:显示包含ed或者at字符的内容行
命令:
cat test.txt |grep -E "ed|at"
输出:
[root@localhost test]# cat test.txt |grep -E "peida|com"
peida.cnblogs.com
[root@localhost test]# cat test.txt |grep -E "ed|at"
redhat
Redhat
[root@localhost test]#
说明:
实例13:显示当前目录下面以.txt 结尾的文件中的所有包含每个字符串至少有7个连续小写字符的字符串的行
命令:
grep '[a-z]\{7\}' *.txt
输出:
[root@localhost test]# grep '[a-z]\{7\}' *.txt
test.txt:hnlinux
test.txt:peida.cnblogs.com
test.txt:linuxmint
[root@localhost test]#
实例14:日志文件过大,不好查看 , 我们要从中查看自己想要的内容,或者得到同一类数据,比如说没有404日志信息的
命令:
grep '.' access1.log|grep -Ev '404'access2.log
grep '.' access1.log|grep -Ev '(404|/photo/|/css/)'access2.log
grep '.' access1.log|grep -E '404'access2.log
输出:
[root@localhost test]# grep “.”access1.log|grep -Ev “404”access2.log
说明:上面3句命令前面两句是在当前目录下对access1.log文件进行查找,找到那些不包含404的行 , 把它们放到access2.log中,后面去掉’v’,即是把有404的行放入access2.log
关于linux日志过滤命令和linux日志筛选命令的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站 。

    推荐阅读