MITIE 實現(xiàn)底層算法和原理:
MITIE在chatbot 框架rasa中被廣泛應(yīng)用,但是rasa和原始的mitie均沒有介紹mitie的底層原理是什么。我也是找了很多資料才看到了一片介紹mitie底層算法。看到的求大家點個贊,哈哈哈。
1.NER
實體提取
ner使用dlib庫,這個庫是c++的機(jī)器學(xué)習(xí)庫,由于ner是seq to seq model。mitie中ner使用structural_sequence_labeling_trainer.
實現(xiàn)的細(xì)節(jié)見[1]。這種方法結(jié)合和HMM 和SVM。相比單純的HMM,這種方法基于最大margin 標(biāo)準(zhǔn)。相比于CRF或者最大熵的HMM,這種方法有很多優(yōu)勢:
1.可以通過核函數(shù)學(xué)習(xí)非線性的判斷關(guān)系
2.可以處理overlapping features.
Reference :
Hidden Markov Support Vector Machines by Y. Altun, I. Tsochantaridis, T. Hofmann https://www.aaai.org/Papers/ICML/2003/ICML03-004.pdf
[Name Entity Recognition and Binary Relation Detection for News Query]https://pdfs.semanticscholar.org/071c/66450d977f8f5d6feb73b09b3be7b64db333.pdf