編者按：從2018年開始，預訓練（pre-train） 毫無疑問成為NLP領域最熱的研究方向。藉助於BERT和GPT等預訓練模型，人類在多個自然語言理解任務中取得了重大突破。然而，在序列到序列的

以下是機器之心對獲獎論文的摘要介紹，其中最佳可解釋 NLP 論文還未公開。 最佳專題論文（Best Thematic Paper） What's in a Name? Reducing

參加 2019 Python開發者日，請掃碼諮詢 ↑ ↑↑ 責編 | Jane 出品 | AI科技大本營（公眾號id：rgznai100） 【導語】上週，李沐老師公佈 GluonNL

作者丨張浩宇 學校丨國防科技大學計算機學院 研究方向丨自然語言生成、知識圖譜問答 本文解讀的是一篇由 國防科技大學 與 微軟亞洲研究院 共同完成的工作，文中提出一種基於預

2018年標誌著自然語言處理領域的轉折點，一系列深度學習模型在NLP任務中實現了最先進的結果，從問答到情感分類。最近，谷歌的BERT演算法已經成為一種“統治所有人的一種模式”，基於其在各種任務中的卓

NLP 問題被證明同影象一樣，可以通過 finetune 在垂直領域取得效果的提升。Bert 模型本身極其依賴計算資源，從 0 訓練對大多數開發者都是難以想象的事。在節省資源避免重頭開始訓練的同時，為更好的擬合

總第337篇 2019年 第15篇 美美導讀：美團團隊在剛剛結束的WSDM Cup 2019比賽“真假新聞甄別任務”中獲得了第二名的好成績。本文將詳細介紹他們本次獲獎的解決方案，

過去的一年，深度神經網路的應用開啟了自然語言處理的新時代。預訓練模型在研究領域的應用已經令許多NLP專案的最新成果產生了巨大的飛躍，例如文字分類，自然語言推理和問答。 ELMo，ULMFiT 和OpenAI

在擊敗 11 個 NLP 任務的 State-of-the-art 結果之後，BERT 成為了 NLP 界新的里程碑， 同時打開了新的思路： 在未標註的資料上深入挖掘，可以極大地改善各種任務的效果。資料標註是昂

在通用語言理解評估（GLUE）基準中，自BERT打破所有 11 項 NLP 的記錄後，可應用於廣泛任務的 NLP 預訓練模型得到了大量關注。2018 年底，機器之心介紹了微軟提交的綜合性多工 NLU