練習(xí)使用 Linux 的 grep 命令
來(lái)學(xué)習(xí)下搜索文件中內(nèi)容的基本操作,然后下載我們的備忘錄作為 grep 和正則表達(dá)式的快速參考指南。
grep
(全局正則表達(dá)式打印)是由 Ken Thompson 早在 1974 年開(kāi)發(fā)的基本 Unix 命令之一。在計(jì)算領(lǐng)域,它無(wú)處不在,通常被用作為動(dòng)詞(“搜索一個(gè)文件中的內(nèi)容”)。如果你的談話對(duì)象有極客精神,那么它也能在真實(shí)生活場(chǎng)景中使用。(例如,“我會(huì) grep
我的內(nèi)存條來(lái)回想起那些信息。”)簡(jiǎn)而言之,grep
是一種用特定的字符模式來(lái)搜索文件中內(nèi)容的方式。如果你感覺(jué)這聽(tīng)起來(lái)像是文字處理器或文本編輯器的現(xiàn)代 Find 功能,那么你就已經(jīng)在計(jì)算行業(yè)感受到了 grep
的影響。
grep
絕不是被現(xiàn)代技術(shù)拋棄的遠(yuǎn)古命令,它的強(qiáng)大體現(xiàn)在兩個(gè)方面:
grep
可以在終端操作數(shù)據(jù)流,因此你可以把它嵌入到復(fù)雜的處理中。你不僅可以在一個(gè)文本文件中查找文字,還可以提取文字后把它發(fā)給另一個(gè)命令。grep
使用正則表達(dá)式來(lái)提供靈活的搜索能力。
雖然需要一些練習(xí),但學(xué)習(xí) grep
命令還是很容易的。本文會(huì)介紹一些我認(rèn)為 grep
最有用的功能。
- 下載我們免費(fèi)的 grep 備忘錄
安裝 grep
Linux 默認(rèn)安裝了 grep
。
MacOS 默認(rèn)安裝了 BSD 版的 grep
。BSD 版的 grep
跟 GNU 版有一點(diǎn)不一樣,因此如果你想完全參照本文,那么請(qǐng)使用 Homebrew 或 MacPorts 安裝 GNU 版的 grep
。
基礎(chǔ)的 grep
所有版本的 grep
基礎(chǔ)語(yǔ)法都一樣。入?yún)⑹瞧ヅ淠J胶湍阈枰阉鞯奈募K鼤?huì)把匹配到的每一行輸出到你的終端。
$ grep gnu gpl-3.0.txt
along with this program. If not, see <http://www.gnu.org/licenses/>.
<http://www.gnu.org/licenses/>.
<http://www.gnu.org/philosophy/why-not-lgpl.html>.
grep
命令默認(rèn)大小寫敏感,因此 “gnu”、“GNU”、“Gnu” 是三個(gè)不同的值。你可以使用 --ignore-case
選項(xiàng)來(lái)忽略大小寫。
$ grep --ignore-case gnu gpl-3.0.txt
GNU GENERAL PUBLIC LICENSE
The GNU General Public License is a free, copyleft license for
the GNU General Public License is intended to guarantee your freedom to
GNU General Public License for most of our software; it applies also to
[...16 more results...]
<http://www.gnu.org/licenses/>.
<http://www.gnu.org/philosophy/why-not-lgpl.html>.
你也可以通過(guò) --invert-match
選項(xiàng)來(lái)輸出所有沒(méi)有匹配到的行:
$ grep --invert-match \
--ignore-case gnu gpl-3.0.txt
Version 3, 29 June 2007
Copyright (C) 2007 Free Software Foundation, Inc. <http://fsf.org/>
[...648 lines...]
Public License instead of this License. But first, please read
管道
能搜索文件中的文本內(nèi)容是很有用的,但是 POSIX 的真正強(qiáng)大之處是可以通過(guò)“管道”來(lái)連接多條命令。我發(fā)現(xiàn)我使用 grep
最好的方式是把它與其他工具如 cut
、tr
或 curl 聯(lián)合使用。
假如現(xiàn)在有一個(gè)文件,文件中每一行是我想要下載的技術(shù)論文。我可以打開(kāi)文件手動(dòng)點(diǎn)擊每一個(gè)鏈接,然后點(diǎn)擊火狐瀏覽器的選項(xiàng)把每一個(gè)文件保存到我的硬盤,但是需要點(diǎn)擊多次且耗費(fèi)很長(zhǎng)時(shí)間。而我還可以搜索文件中的鏈接,用 --only-matching
選項(xiàng)只打印出匹配到的字符串。
$ grep --only-matching http\:\/\/.*pdf example.html
http://example.com/linux_whitepaper.pdf
http://example.com/bsd_whitepaper.pdf
http://example.com/important_security_topic.pdf
輸出是一系列的 URL,每行一個(gè)。而這與 Bash 處理數(shù)據(jù)的方式完美契合,因此我不再把 URL 打印到終端,而是把它們通過(guò)管道傳給 curl
:
$ grep --only-matching http\:\/\/.*pdf \
example.html | curl --remote-name
這條命令可以下載每一個(gè)文件,然后以各自的遠(yuǎn)程文件名命名保存在我的硬盤上。
這個(gè)例子中我的搜索模式可能很晦澀。那是因?yàn)樗玫氖钦齽t表達(dá)式,一種在大量文本中進(jìn)行模糊搜索時(shí)非常有用的”通配符“語(yǔ)言。
正則表達(dá)式
沒(méi)有人會(huì)覺(jué)得正則表達(dá)式(簡(jiǎn)稱 “regex”)很簡(jiǎn)單。然而,我發(fā)現(xiàn)它的名聲往往比它應(yīng)得的要差。誠(chéng)然,很多人在使用正則表達(dá)式時(shí)“過(guò)于炫耀聰明”,直到它變得難以閱讀,大而全,以至于復(fù)雜得換行才好理解,但是你不必過(guò)度使用正則。這里簡(jiǎn)單介紹一下我使用正則表達(dá)式的方式。
首先,創(chuàng)建一個(gè)名為 example.txt
的文件,輸入以下內(nèi)容:
Albania
Algeria
Canada
0
1
3
11
最基礎(chǔ)的元素是不起眼的 .
字符。它表示一個(gè)字符。
$ grep Can.da example.txt
Canada
模式 Can.da
能成功匹配到 Canada
是因?yàn)?nbsp;.
字符表示任意一個(gè)字符。
可以使用下面這些符號(hào)來(lái)使 .
通配符表示多個(gè)字符:
?
匹配前面的模式零次或一次*
匹配前面的模式零次或多次+
匹配前面的模式一次或多次{4}
匹配前面的模式 4 次(或是你在括號(hào)中寫的其他次數(shù))
了解了這些知識(shí)后,你可以用你認(rèn)為有意思的所有模式來(lái)在 example.txt
中做練習(xí)。可能有些會(huì)成功,有些不會(huì)成功。重要的是你要去分析結(jié)果,這樣你才會(huì)知道原因。
例如,下面的命令匹配不到任何國(guó)家:
$ grep A.a example.txt
因?yàn)?nbsp;.
字符只能匹配一個(gè)字符,除非你增加匹配次數(shù)。使用 *
字符,告訴 grep
匹配一個(gè)字符零次或者必要的任意多次直到單詞末尾。因?yàn)槟阒滥阋幚淼膬?nèi)容,因此在本例中零次是沒(méi)有必要的。在這個(gè)列表中一定沒(méi)有單個(gè)字母的國(guó)家。因此,你可以用 +
來(lái)匹配一個(gè)字符至少一次且任意多次直到單詞末尾:
$ grep A.+a example.txt
Albania
Algeria
你可以使用方括號(hào)來(lái)提供一系列的字母:
$ grep [A,C].+a example.txt
Albania
Algeria
Canada
也可以用來(lái)匹配數(shù)字。結(jié)果可能會(huì)震驚你:
$ grep [1-9] example.txt
1
3
11
看到 11 出現(xiàn)在搜索數(shù)字 1 到 9 的結(jié)果中,你驚訝嗎?
如果把 13 加到搜索列表中,會(huì)出現(xiàn)什么結(jié)果呢?
這些數(shù)字之所以會(huì)被匹配到,是因?yàn)樗鼈儼?1,而 1 在要匹配的數(shù)字中。
你可以發(fā)現(xiàn),正則表達(dá)式有時(shí)會(huì)令人費(fèi)解,但是通過(guò)體驗(yàn)和練習(xí),你可以熟練掌握它,用它來(lái)提高你搜索數(shù)據(jù)的能力。
下載備忘錄
grep
命令還有很多文章中沒(méi)有列出的選項(xiàng)。有用來(lái)更好地展示匹配結(jié)果、列出文件、列出匹配到的行號(hào)、通過(guò)打印匹配到的行周圍的內(nèi)容來(lái)顯示上下文的選項(xiàng),等等。如果你在學(xué)習(xí) grep
,或者你經(jīng)常使用它并且通過(guò)查閱它的幫助
頁(yè)面來(lái)查看選項(xiàng),那么你可以下載我們的備忘錄。這個(gè)備忘錄使用短選項(xiàng)(例如,使用 -v
,而不是 --invert-matching
)來(lái)幫助你更好地熟悉 grep
。它還有一部分正則表達(dá)式可以幫你記住用途最廣的正則表達(dá)式代碼。 現(xiàn)在就下載 grep 備忘錄!