自然語言處理的發展趨勢如何?

NLP首先是會在資訊準備的充分的,並且服務方式本身就是知識和資訊的領域產生突破。還比如司法領域,它的服務本身也有資訊,它就會首先使用NLP。NLP最主要將會用在以下四個領域,醫療、金融、教育和司法。

自然語言處理的發展趨勢如何?

趨勢1:語義表示——從符號表示到分佈表示

長期以來,自然語言處理是一種相對抽象的語言,它直接透過詞彙和符號表達概念。但使用符號有一個問題,就是兩個單詞的詞性相似,卻又不相配,計算機內部就會把它們看成兩個單詞。舉例來說,荷蘭和蘇格蘭這兩個國家的名稱,如果是在語義空間中,用詞彙表和詞彙表結合的方式,表示為連續的、低維的、稠密的向量,那麼不同層次的語言單元之間的相似度就可以計算出來。該方法也可直接由神經網路應用,是該領域的一大變革。

由片語、片語、句型到篇章組成,如今已有許多人在做這件事,這與之前的想法大相徑庭。

掌握這個方法後,再進行深度學習,就會帶來巨大的轉變。本來我們認為自然語言處理應該分為幾個層次,但就句法分析而言,這是一個人為定義的層次,這是否是必然的呢?這應該是個問號。

在實際工作中,我們面臨一個課題:資訊提取。以前我和一個單位合作,最初的目的是做句法分析,然後他們在我的基礎上做資訊提取,互相合作,後來他們發表了一篇與原意相矛盾的論文,證明了不需要句法分析,也可以直接進行端到端的實體關係提取,這很震撼,不是說句法分析就沒用了,而是我們認為句法分析是人為定義的層次,在資訊抽取的時候,不用句法分析,也可以達到相似的效果。只有在端到端資料不足的情況下,才需要人為地劃分級別。

趨勢2:學習模式——從淺層學習到深度學習

在從淺到深的學習模式中,淺的層次是分步走的,可能每一步都採用了深度學習的方法,實際上每一步都是串聯在一起的。直截了當的深度學習是端到端的一步一步來,在這個過程中,我們的確可以看到一些人的知識貢獻,包括層次的劃分,每一層的表示方式,一些規則等等,但是我們所說的知識在深度學習中所佔的比例確實有所下降,主要表現在深度學習網路結構的調整。

趨勢3:NLP平臺化——從封閉走向開放

之前我們搞研究的時候,沒有一個人願意分享自己的成果,像程式或資料,現在這些資料完全開放了,不管是學校還是大企業,都提供了更多的平臺。NLP領域所提供的開放平臺越來越多,其門檻越來越低。

聲音與語言實際上是有很大區別的,我認識的幾位國內外的學者都認為NLP比較複雜,因為僅有有限的問題,如語音識別和語音合成,且定義十分清楚。但是在自然語言中,需要處理的問題是複雜而複雜的,特別是NLP和其他方面也會結合在一起,所以問題十分瑣碎。

頂部