欧美亚洲中文,在线国自产视频,欧洲一区在线观看视频,亚洲综合中文字幕在线观看

      1. <dfn id="rfwes"></dfn>
          <object id="rfwes"></object>
        1. 站長資訊網(wǎng)
          最全最豐富的資訊網(wǎng)站

          sort命令詳解及Nginx統(tǒng)計運用

          sort命令是幫我們依據(jù)不同的數(shù)據(jù)類型進(jìn)行排序,其語法及常用參數(shù)格式:
            sort [-bcfMnrtk][源文件][-o 輸出文件] 
          補充說明:sort可針對文本文件的內(nèi)容,以行為單位來排序。

          參  數(shù):
            -b   忽略每行前面開始出的空格字符。
            -c   檢查文件是否已經(jīng)按照順序排序。
            -f   排序時,忽略大小寫字母。
            -M   將前面3個字母依照月份的縮寫進(jìn)行排序。
            -n   依照數(shù)值的大小排序。
            -o<輸出文件>   將排序后的結(jié)果存入指定的文件。
            -r   以相反的順序來排序。
            -t<分隔字符>   指定排序時所用的欄位分隔字符。
            -k  選擇以哪個區(qū)間進(jìn)行排序。

          例子:

          1. 根據(jù)訪問IP統(tǒng)計UV

          awk ‘{print $1}’  access.log|sort | uniq -c |wc -l

          sort命令詳解及Nginx統(tǒng)計運用

          注意{print $1}部分必須使用單引號引起來。不能使用雙引號。

          2.統(tǒng)計訪問URL統(tǒng)計PV

          awk ‘{print $7}’ access.log|wc -l

          3.查詢訪問最頻繁的URL

          awk ‘{print $7}’ access.log|sort | uniq -c |sort -n -k 1 -r|more

          sort命令詳解及Nginx統(tǒng)計運用

          4.查詢訪問最頻繁的IP

          awk ‘{print $1}’ access.log|sort | uniq -c |sort -n -k 1 -r|more

          sort命令詳解及Nginx統(tǒng)計運用

          5.根據(jù)時間段統(tǒng)計查看日志

           cat  access.log| sed -n ‘/14/Mar/2015:21/,/14/Mar/2015:22/p’|more

          sort命令詳解及Nginx統(tǒng)計運用

          注意:時間的斜線要用反斜線“”轉(zhuǎn)義

           如是Tomcat

          sed -n '/2018-02-23 23:31.*/,/2018-02-23 23:32.*/p' catalina.out|more                              ##后面加more的好處是可以分批顯示,不會一直刷屏

           擴展:

          # 查詢關(guān)鍵字  sed -n '/2019-06-27 09:55.*/,/2019-06-27 13:59.*/p' laravel.log-20190628| egrep 'request_body":"{\"mobile'    # 查詢關(guān)鍵字上下3行    sed -n '/2019-06-27 09:55.*/,/2019-06-27 13:59.*/p' laravel.log-20190628| egrep -C 3 'request_body":"{\"mobile'

          1 sort的工作原理

          sort將文件的每一行作為一個單位,相互比較,比較原則是從首字符向后,依次按ASCII碼值進(jìn)行比較,最后將他們按升序輸出。

          [rocrocket@rocrocket programming]$ cat seq.txt
          banana
          apple
          pear
          orange
          [rocrocket@rocrocket programming]$ sort seq.txt
          apple
          banana
          orange
          pear

          2 sort的-u選項

          它的作用很簡單,就是在輸出行中去除重復(fù)行。

          [rocrocket@rocrocket programming]$ cat seq.txt
          banana
          apple
          pear
          orange
          pear
          [rocrocket@rocrocket programming]$ sort seq.txt
          apple
          banana
          orange
          pear
          pear
          [rocrocket@rocrocket programming]$ sort -u seq.txt
          apple
          banana
          orange
          pear

          pear由于重復(fù)被-u選項無情的刪除了。

          3 sort的-r選項

          sort默認(rèn)的排序方式是升序,如果想改成降序,就加個-r就搞定了。

          [rocrocket@rocrocket programming]$ cat number.txt
          1
          3
          5
          2
          4
          [rocrocket@rocrocket programming]$ sort number.txt
          1
          2
          3
          4
          5
          [rocrocket@rocrocket programming]$ sort -r number.txt
          5
          4
          3
          2
          1

          4 sort的-o選項

          由于sort默認(rèn)是把結(jié)果輸出到標(biāo)準(zhǔn)輸出,所以需要用重定向才能將結(jié)果寫入文件,形如sort filename > newfile。

          但是,如果你想把排序結(jié)果輸出到原文件中,用重定向可就不行了。

          [rocrocket@rocrocket programming]$ sort -r number.txt > number.txt
          [rocrocket@rocrocket programming]$ cat number.txt
          [rocrocket@rocrocket programming]$
          看,竟然將number清空了。

          就在這個時候,-o選項出現(xiàn)了,它成功的解決了這個問題,讓你放心的將結(jié)果寫入原文件。這或許也是-o比重定向的唯一優(yōu)勢所在。

          [rocrocket@rocrocket programming]$ cat number.txt
          1
          3
          5
          2
          4
          [rocrocket@rocrocket programming]$ sort -r number.txt -o number.txt
          [rocrocket@rocrocket programming]$ cat number.txt
          5
          4
          3
          2
          1

          5 sort的-n選項

          你有沒有遇到過10比2小的情況。我反正遇到過。出現(xiàn)這種情況是由于排序程序?qū)⑦@些數(shù)字按字符來排序了,排序程序會先比較1和2,顯然1小,所以就將10放在2前面嘍。這也是sort的一貫作風(fēng)。

          我們?nèi)绻敫淖冞@種現(xiàn)狀,就要使用-n選項,來告訴sort,“要以數(shù)值來排序”!

          [rocrocket@rocrocket programming]$ cat number.txt
          1
          10
          19
          11
          2
          5
          [rocrocket@rocrocket programming]$ sort number.txt
          1
          10
          11
          19
          2
          5
          [rocrocket@rocrocket programming]$ sort -n number.txt
          1
          2
          5
          10
          11
          19

          6 sort的-t選項和-k選項

          如果有一個文件的內(nèi)容是這樣:

          [rocrocket@rocrocket programming]$ cat facebook.txt
          banana:30:5.5
          apple:10:2.5
          pear:90:2.3
          orange:20:3.4

          這個文件有三列,列與列之間用冒號隔開了,第一列表示水果類型,第二列表示水果數(shù)量,第三列表示水果價格。

          那么我想以水果數(shù)量來排序,也就是以第二列來排序,如何利用sort實現(xiàn)?

          幸好,sort提供了-t選項,后面可以設(shè)定間隔符。(是不是想起了cut和paste的-d選項,共鳴~~)

          指定了間隔符之后,就可以用-k來指定列數(shù)了。

          [rocrocket@rocrocket programming]$ sort -n -k 2 -t : facebook.txt
          apple:10:2.5
          orange:20:3.4
          banana:30:5.5
          pear:90:2.3

          我們使用冒號作為間隔符,并針對第二列來進(jìn)行數(shù)值升序排序,結(jié)果很令人滿意。

          7 其他的sort常用選項

          -f會將小寫字母都轉(zhuǎn)換為大寫字母來進(jìn)行比較,亦即忽略大小寫

          -c會檢查文件是否已排好序,如果亂序,則輸出第一個亂序的行的相關(guān)信息,最后返回1

          -C會檢查文件是否已排好序,如果亂序,不輸出內(nèi)容,僅返回1

          -M會以月份來排序,比如JAN小于FEB等等

          -b會忽略每一行前面的所有空白部分,從第一個可見字符開始比較。

          有時候?qū)W習(xí)腳本,你會發(fā)現(xiàn)sort命令后面跟了一堆類似-k1,2,或者-k1.2 -k3.4的東東,有些匪夷所思。今天,我們就來搞定它—-k選項!

           

          1 準(zhǔn)備素材

          $ cat facebook.txt
          google 110 5000
          baidu 100 5000
          guge 50 3000
          sohu 100 4500

          第一個域是公司名稱,第二個域是公司人數(shù),第三個域是員工平均工資。

          2 我想讓這個文件按公司的字母順序排序,也就是按第一個域進(jìn)行排序:(這個facebook.txt文件有三個域)

          $ sort -t ‘ ‘ -k 1 facebook.txt
          baidu 100 5000
          google 110 5000
          guge 50 3000
          sohu 100 4500

          看到了吧,就直接用-k 1設(shè)定就可以了。(其實此處并不嚴(yán)格,稍后你就會知道)

          3 我想讓facebook.txt按照公司人數(shù)排序

          $ sort -n -t ‘ ‘ -k 2 facebook.txt
          guge 50 3000
          baidu 100 5000
          sohu 100 4500
          google 110 5000

          不用解釋,我相信你能懂。

          但是,此處出現(xiàn)了問題,那就是baidu和sohu的公司人數(shù)相同,都是100人,這個時候怎么辦呢?按照默認(rèn)規(guī)矩,是從第一個域開始進(jìn)行升序排序,因此baidu排在了sohu前面。

          4  我想讓facebook.txt按照公司人數(shù)排序 ,人數(shù)相同的按照員工平均工資升序排序:

          $ sort -n -t ‘ ‘ -k 2 -k 3 facebook.txt
          guge 50 3000
          sohu 100 4500
          baidu 100 5000
          google 110 5000

          看,我們加了一個-k2 -k3就解決了問題。對滴,sort支持這種設(shè)定,就是說設(shè)定域排序的優(yōu)先級,先以第2個域進(jìn)行排序,如果相同,再以第3個域進(jìn)行排序。(如果你愿意,可以一直這么寫下去,設(shè)定很多個排序優(yōu)先級)

          5 我想讓facebook.txt按照員工工資降序排序,如果員工人數(shù)相同的,則按照公司人數(shù)升序排序:(這個有點難度嘍)

          $ sort -n -t ‘ ‘ -k 3r -k 2 facebook.txt
          baidu 100 5000
          google 110 5000
          sohu 100 4500
          guge 50 3000

          此處有使用了一些小技巧,你仔細(xì)看看,在-k 3后面偷偷加上了一個小寫字母r。你想想,再結(jié)合我們上一篇文章,能得到答案么?揭曉:r和-r選項的作用是一樣的,就是表示逆序。因為sort默認(rèn)是按照升序排序的,所以此處需要加上r表示第三個域(員工平均工資)是按照降序排序。此處你還可以加上n,就表示對這個域進(jìn)行排序時,要按照數(shù)值大小進(jìn)行排序,舉個例子吧:

          $ sort -t ‘ ‘ -k 3nr -k 2n facebook.txt
          baidu 100 5000
          google 110 5000
          sohu 100 4500
          guge 50 3000

          看,我們?nèi)サ袅俗钋懊娴?n選項,而是將它加入到了每一個-k選項中了。

          6 -k選項的具體語法格式

          要繼續(xù)往下深入的話,就不得不來點理論知識。你需要了解-k選項的語法格式,如下:

          [ FStart [ .CStart ] ] [ Modifier ] [ , [ FEnd [ .CEnd ] ][ Modifier ] ]

          這個語法格式可以被其中的逗號(“,”)分為兩大部分,Start部分和End部分。

          先給你灌輸一個思想,那就是“如果不設(shè)定End部分,那么就認(rèn)為End被設(shè)定為行尾”。這個概念很重要的,但往往你不會重視它。

          Start部分也由三部分組成,其中的Modifier部分就是我們之前說過的類似n和r的選項部分。我們重點說說Start部分的FStart和C.Start。

          C.Start也是可以省略的,省略的話就表示從本域的開頭部分開始。之前例子中的-k 2和-k 3就是省略了C.Start的例子嘍。

          FStart.CStart,其中FStart就是表示使用的域,而CStart則表示在FStart域中從第幾個字符開始算“排序首字符”。

          同理,在End部分中,你可以設(shè)定FEnd.CEnd,如果你省略.CEnd,則表示結(jié)尾到“域尾”,即本域的最后一個字符?;蛘?,如果你將CEnd設(shè)定為0(零),也是表示結(jié)尾到“域尾”。

          7 突發(fā)奇想,從公司英文名稱的第二個字母開始進(jìn)行排序:

          $ sort -t ‘ ‘ -k 1.2 facebook.txt
          baidu 100 5000
          sohu 100 4500
          google 110 5000
          guge 50 3000

          看,我們使用了-k 1.2,這就表示對第一個域的第二個字符開始到本域的最后一個字符為止的字符串進(jìn)行排序。你會發(fā)現(xiàn)baidu因為第二個字母是a而名列榜首。sohu和 google第二個字符都是o,但sohu的h在google的o前面,所以兩者分別排在第二和第三。guge只能屈居第四了。

          8 又突發(fā)奇想,,只針對公司英文名稱的第二個字母進(jìn)行排序,如果相同的按照員工工資進(jìn)行降序排序:

          $ sort -t ‘ ‘ -k 1.2,1.2 -k 3,3nr facebook.txt
          baidu 100 5000
          google 110 5000
          sohu 100 4500
          guge 50 3000

          由于只對第二個字母進(jìn)行排序,所以我們使用了-k 1.2,1.2的表示方式,表示我們“只”對第二個字母進(jìn)行排序。(如果你問“我使用-k 1.2怎么不行?”,當(dāng)然不行,因為你省略了End部分,這就意味著你將對從第二個字母起到本域最后一個字符為止的字符串進(jìn)行排序)。對于員工工資進(jìn)行排 序,我們也使用了-k 3,3,這是最準(zhǔn)確的表述,表示我們“只”對本域進(jìn)行排序,因為如果你省略了后面的3,就變成了我們“對第3個域開始到最后一個域位置的內(nèi)容進(jìn)行排序” 了。

          9 在modifier部分還可以用到哪些選項?

          可以用到b、d、f、i、n 或 r。

          其中n和r你肯定已經(jīng)很熟悉了。

          b表示忽略本域的簽到空白符號。

          d表示對本域按照字典順序排序(即,只考慮空白和字母)。

          f表示對本域忽略大小寫進(jìn)行排序。

          i表示忽略“不可打印字符”,只針對可打印字符進(jìn)行排序。(有些ASCII就是不可打印字符,比如a是報警,b是退格,n是換行,r是回車等等)

          10 思考思考關(guān)于-k和-u聯(lián)合使用的例子:

          $ cat facebook.txt
          google 110 5000
          baidu 100 5000
          guge 50 3000
          sohu 100 4500

          這是最原始的facebook.txt文件。

          $ sort -n -k 2 facebook.txt
          guge 50 3000
          baidu 100 5000
          sohu 100 4500
          google 110 5000

          $ sort -n -k 2 -u facebook.txt
          guge 50 3000
          baidu 100 5000
          google 110 5000

          當(dāng)設(shè)定以公司員工域進(jìn)行數(shù)值排序,然后加-u后,sohu一行就被刪除了!原來-u只識別用-k設(shè)定的域,發(fā)現(xiàn)相同,就將后續(xù)相同的行都刪除。

          $ sort  -k 1 -u facebook.txt
          baidu 100 5000
          google 110 5000
          guge 50 3000
          sohu 100 4500

          $ sort  -k 1.1,1.1 -u facebook.txt
          baidu 100 5000
          google 110 5000
          sohu 100 4500

          這個例子也同理,開頭字符是g的guge就沒有幸免于難。

          $ sort -n -k 2 -k 3 -u facebook.txt
          guge 50 3000
          sohu 100 4500
          baidu 100 5000
          google 110 5000

          咦!這里設(shè)置了兩層排序優(yōu)先級的情況下,使用-u就沒有刪除任何行。原來-u是會權(quán)衡所有-k選項,將都相同的才會刪除,只要其中有一級不同都不會輕易刪除的:)(不信,你可以自己加一行sina 100 4500試試看)

          11 最詭異的排序:

          $ sort -n -k 2.2,3.1 facebook.txt
          guge 50 3000
          baidu 100 5000
          sohu 100 4500
          google 110 5000

          以第二個域的第二個字符開始到第三個域的第一個字符結(jié)束的部分進(jìn)行排序。

          第一行,會提取0 3,第二行提取00 5,第三行提取00 4,第四行提取10 5。

          又因為sort認(rèn)為0小于00小于000小于0000….

          因此0 3肯定是在第一個。10 5肯定是在最后一個。但為什么00 5卻在00 4前面呢?(你可以自己做實驗思考一下。)

          答案揭曉:原來“跨域的設(shè)定是個假象”,sort只會比較第二個域的第二個字符到第二個域的最后一個字符的部分,而不會把第三個域的開頭字符納入比較范圍。當(dāng)發(fā)現(xiàn)00和00相同時,sort就會自動比較第一個域去了。當(dāng)然baidu在sohu前面了。用一個范例即可證實:

          $ sort -n -k 2.2,3.1 -k 1,1r facebook.txt
          guge 50 3000
          sohu 100 4500
          baidu 100 5000
          google 110 5000

          12 有時候在sort命令后會看到+1 -2這些符號,這是什么東東?

          關(guān)于這種語法,最新的sort是這么進(jìn)行解釋的:

          On older systems, `sort’ supports an obsolete origin-zero syntax `+POS1 [-POS2]‘ for specifying sort keys.  POSIX 1003.1-2001 (*note Standards conformance::) does not allow this; use `-k’ instead.

          原來,這種古老的表示方式已經(jīng)被淘汰了,以后可以理直氣壯的鄙視使用這種表示方法的腳本嘍!

          (為了防止古老腳本的存在,在這再說一下這種表示方法,加號表示Start部分,減號表示End部分。最最重要的一點是,這種方式方法是從0開始計數(shù)的,以前所說的第一個域,在此被表示為第0個域。以前的第2個字符,在此表示為第1個字符。明白?)

          贊(0)
          分享到: 更多 (0)
          網(wǎng)站地圖   滬ICP備18035694號-2    滬公網(wǎng)安備31011702889846號