《算法》筆記 16 - 正則表達式

  • 使用正則表達式描述模式
  • 非確定有限狀態自動機NFA
  • 模擬NFA的運行
    • NFA的表示
    • 構造與正則表達式相對應的NFA
    • NFA的模擬與可達性

除了查找子字符串,在很多時候并不知道被查找模式的完整信息,這時就需要用到正則表達式了。正則表達式在子字符串查找、合法性校驗、網絡爬蟲等方面有著非常廣泛的應用。

使用正則表達式描述模式

正則表達式對模式的描述,基于幾個基本操作。

  • 連接操作,比如AB,表示由A和B連接而成的模式。
  • 或操作,或操作可以在模式中指定多種可能的匹配,用"|"表示。
  • 閉包操作,閉包操作可以把模式部分重復任意次數,用"*"表示。
  • 括號,括號可以改變默認優先級的順序。
  • 在編程語言中使用的正則表達式還有很多其它語法,但都是基于這幾種基本操作的。

非確定有限狀態自動機

如何根據正則表達式所描述的模式來匹配文本呢?子字符串查找中使用的有序狀態自動機DFA會根據文本中的字符改變自身的狀態,但正則表達式匹配比子字符串查找更復雜。因為或操作的存在,自動機無法僅根據一個字符就判斷出模式是否出現;再加上閉包的存在,自動機甚至無法知道需要檢查多少字符才會匹配失敗。為了克服這些困難,需要非確定有限狀態自動機NFA。

根據Kleene定理,任意正則表達式都存在一個與之對應的非確定有限狀態自動機,反之亦然。所以任意正則表達式都可以轉換為一個非確定有限狀態自動機,然后就可以模式NFA的運行軌跡來進行匹配了。

正則表達式((A*B|AC)D)所對應的NFA如下圖:


16 nfa.jpg

NFA具有以下特點:

  • 長度為M的正則表達式中的每個字符在所對應的NFA中都有且只有一個對應的狀態。NFA的起始狀態為0并含有一個虛擬的接受狀態M;
  • 字符表中的字符所對應的狀態都有一條從它指出的邊,這條邊指向模式中的下一個字符所對應的狀態(這種邊為黑色);
  • 元字符"(" ")" "|" "*"所對應的狀態至少含有一條指出的邊(這種邊為紅色),這些邊可能指向其它的任意狀態;
  • 有些狀態有多條指出的邊,但一個狀態只能有一條指出的黑色邊。

這里約定將所有的模式都包含在括號中,一次NFA中的第一個狀態和最后一個狀態都對應的是括號。

在檢查文本與模式是否匹配時,NFA需要不斷讀取文本,直到NFA變為接受狀態,或到達文本末尾。由于或操作和閉包操作的存在,NFA從一個狀態轉換到了一個狀態的規則與DFA有所不同,在NFA中有兩種轉換方式:

  • 匹配轉換,即文本中的某個字符與模式中的一個字符相對應,此時NFA可以掃過這個字符,并經過黑色的邊轉換到下一狀態;
  • ε轉換,是指NFA經由紅色邊轉換到了一個狀態而不掃描文本中的任何字符。

比如在上圖的NFA中,由2->3, 1->6等都是ε轉換,ε轉換說明很多時候,NFA從一個狀態轉換到的下一個狀態是不確定的,比如從狀態3即可以到狀態4,也可以回到狀態2。正是由于這種不確定性的存在,NFA運行時,需要系統地嘗試過所有的可能性后,才能得知是否匹配成功。

模擬NFA的運行

使用NFA進行正則表達式匹配的過程與使用DFA進行子字符串查找的整體過程大致相同,也是先根據給定的正則表達式構造NFA,然后模擬NFA在給定文本上的運行軌跡。

NFA的表示

首先考慮的是該如何表示NFA。正則表達式本身已經給出了所有的狀態名,如果正則表達式的長度為M,那么0到M之間的整數就是所有的狀態名,于是用char數組re保存正則表達式的每個字符,對于匹配轉換,如果re[i]存在于字母表中,那么就存在一個從i到i+1的匹配轉換。
對于ε轉換,用有向圖表示,它們都是連接0到M之間各個頂點的有向邊。

構造與正則表達式相對應的NFA

在表示NFA的時候會使用一個char數組,一個有向圖,另外還有一個棧來記錄所有左括號和或操作符的位置。

  • 連接操作
    連接操作的實現很容易,狀態的匹配之后和字母表中字符的對應關系就是連接操作的實現。

  • 括號
    遇到正則表達式中的左括號時,將它的索引壓入棧中,在遇到右括號時,再從棧中彈出。

  • 閉包操作
    閉包運算符'*'如果出現在單個字符之后,就在這個字符和'*'之間添加相互指向的兩條ε轉換;如果出現在右括號之后,就在對應的左括號和'*'之間添加相互指向的兩條ε轉換。

  • 或操作
    遇到或操作也會添加兩條ε轉換,比如(A|B),一條從左括號所對應的狀態指向或操作后面第一個字符B所對應的狀態,另一條從或操作符的狀態指向右括號對于的狀態。將"|"運算符的索引壓入棧中,這樣在到達右括號時從棧的頂部就可以拿到這個索引了。

public class Regular {
    private char[] re;
    private Digraph G;
    private int M;

    public Regular(String regexp) {
        Stack<Integer> ops = new Stack<Integer>();
        re = regexp.toCharArray();
        M = re.length;
        G = new Digraph(M + 1);

        for (int i = 0; i < M; i++) {
            int lp = i;
            if (re[i] == '(' || re[i] == '|')
                ops.push(i);
            else if (re[i] == ')') {
                int or = ops.pop();
                if (re[or] == '|') {
                    lp = ops.pop();
                    G.addEdge(lp, or + 1);
                    G.addEdge(or, i);
                } else
                    lp = or;
            }

            if (i < M - 1 && re[i + 1] == '*') {
                G.addEdge(lp, i + 1);
                G.addEdge(i + 1, lp);
            }

            if (re[i] == '(' || re[i] == '*' || re[i] == ')')
                G.addEdge(i, i + 1);
        }
    }
}

NFA的模擬與可達性

為了模擬NFA的運行,會記錄NFA在檢查當前輸入字符時可能遇到的所有狀態的集合。這里關鍵的計算是有向圖的多點可達性問題,用深度優先搜索實現。
首先利用有向圖查找所有從狀態0通過ε轉換可達的所有狀態,記入一個集合中,這個集合用Bag數據結構來表示。對于集合中的每個狀態,檢查它是否可以與第一個輸入的字符相匹配,如果匹配,在用這些匹配的狀態集合繼續在有向圖中進行查找,就得到了NFA在匹配第一個字符后可達的所有狀態的集合。重復這個過程直到可達的狀態集合中含有接受狀態(匹配成功)或者文本結束(匹配失敗)。

public boolean recognize(String txt) {
    Bag<Integer> pc = new Bag<Integer>();
    DirectedDFS dfs = new DirectedDFS(G, 0);
    for (int v = 0; v < G.V(); v++) {
        if (dfs.marked(v))
            pc.add(v);
    }

    for (int i = 0; i < txt.length(); i++) {
        Bag<Integer> match = new Bag<Integer>();
        for (int v : pc)
            if (v < M)
                if (re[v] == txt.charAt(i) || re[v] == '.')
                    match.add(v + 1);
        pc = new Bag<Integer>();
        dfs = new DirectedDFS(G, match);
        for (int v = 0; v < G.V(); v++)
            if (dfs.marked(v))
                pc.add(v);
    }

    for (int v : pc)
        if (v == M)
            return true;
    return false;
}
?著作權歸作者所有,轉載或內容合作請聯系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 227,488評論 6 531
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,034評論 3 414
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 175,327評論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,554評論 1 307
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,337評論 6 404
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 54,883評論 1 321
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 42,975評論 3 439
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,114評論 0 286
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,625評論 1 332
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,555評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,737評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,244評論 5 355
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 43,973評論 3 345
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,362評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,615評論 1 280
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,343評論 3 390
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,699評論 2 370

推薦閱讀更多精彩內容

  • 正則表達式,又稱正規表示式、正規表示法、正規表達式、規則表達式、常規表示法(英語:Regular Expressi...
    Zhang21閱讀 942評論 0 0
  • 正則表達式到底是什么東西?字符是計算機軟件處理文字時最基本的單位,可能是字母,數字,標點符號,空格,換行符,漢字等...
    獅子挽歌閱讀 2,159評論 0 9
  • 9.19--9.23 第7章 正則表達式 正則表達式是一個拆分字符串并查詢相關信息的過程。 推薦練習網站: js ...
    如201608閱讀 1,045評論 0 4
  • 原文參考自: http://www.lxweimin.com/p/681d3e07fb0f 一、原理概論 1、正則...
    Rui哥閱讀 569評論 0 2
  • 本文譯自 制作正則引擎的作者 Jan Goyvaerts 為工具 RegexBuddy 寫的教程版權歸原作者所有注...
    極客圈閱讀 3,299評論 0 25