《MOSS:End-to-End Dialog System Framework with Modular Supervision》是小i機(jī)器人研究院團(tuán)隊(duì)與加州大學(xué)戴維斯分校聯(lián)合發(fā)表的一篇關(guān)于面向任務(wù)型對(duì)話的論文。MOSS（模塊化監(jiān)督網(wǎng)絡(luò)）是一個(gè)End-to-End的Encoder-Decoder訓(xùn)練框架，整合了來自中間對(duì)話系統(tǒng)中的各種有監(jiān)督模塊，包括自然語言理解、對(duì)話狀態(tài)跟蹤、對(duì)話策略學(xué)習(xí)和自然語言生成。由于缺乏數(shù)據(jù)是訓(xùn)練端到端面向任務(wù)的對(duì)話系統(tǒng)的主要瓶頸，MOSS更有效地利用有限的培訓(xùn)數(shù)據(jù)，在只有60%的訓(xùn)練數(shù)據(jù)條件下，讓CamRest676任務(wù)達(dá)到了最先進(jìn)的水平。在只有40%的訓(xùn)練數(shù)據(jù)條件下，讓復(fù)雜的筆記本電腦網(wǎng)絡(luò)故障排除數(shù)據(jù)集（LaptopNetwork）任務(wù)達(dá)到了最先進(jìn)的水平。此外，MOSS也是一個(gè)靈活的框架，可以去掉一些模塊的監(jiān)督學(xué)習(xí)，是一個(gè)可插拔使用的模型。

　　論文提出了遵循模塊化系統(tǒng)的思路，在一個(gè)端到端的可訓(xùn)練框架中，為每個(gè)對(duì)話模塊注入豐富的監(jiān)督。在MOSS框架下，諸如自然語言理解、對(duì)話狀態(tài)跟蹤、對(duì)話策略學(xué)習(xí)和自然語言生成等對(duì)話模塊共享一個(gè)編碼器，但分別有各自的解碼器。不同模塊的解碼器通過隱藏狀態(tài)連接，而不是通過符號(hào)輸出。然后對(duì)各模塊進(jìn)行聯(lián)合優(yōu)化，避免誤差傳播和模型失配。此外，由于MOSS在測試過程中會(huì)產(chǎn)生單個(gè)模塊的輸出，所以可以通過檢查模塊輸出來輕松定位錯(cuò)誤。

　　值得一提的是，該入選論文中還首次發(fā)表了LaptopNetwork——由小i機(jī)器人研究院團(tuán)隊(duì)與加州大學(xué)戴維斯分校共同收集整理的一個(gè)真實(shí)的筆記本電腦網(wǎng)絡(luò)故障排除的中文任務(wù)。LaptopNetwork數(shù)據(jù)集收集來自于一個(gè)在線打字的售后服務(wù)平臺(tái)，它涉及到有技術(shù)問題的真實(shí)客戶和專業(yè)的電腦維護(hù)工程師，因此更加真實(shí)。在LaptopNetwork中，工程師可能會(huì)根據(jù)客戶的反饋給出不同的解決方案。LaptopNetwork有來自97名工程師的618個(gè)對(duì)話，每個(gè)對(duì)話平均14.76個(gè)回合，每個(gè)話語平均有51.67個(gè)漢字，每個(gè)對(duì)話平均耗時(shí)985.82秒。為LaptopNetwork開發(fā)一個(gè)注釋方案是很有挑戰(zhàn)性的，因?yàn)閷?duì)話框中充滿了諸如“網(wǎng)絡(luò)適配器”和“網(wǎng)絡(luò)編程接口”之類的計(jì)算機(jī)維護(hù)術(shù)語，這些術(shù)語對(duì)于初學(xué)者來說很難理解。論文最后確定了60種不同的對(duì)話行為，其中12種是與網(wǎng)絡(luò)解決方案相關(guān)的對(duì)話行為。與CamRest676這類只有請(qǐng)求和提供信息兩種對(duì)話行為的信息查詢?nèi)蝿?wù)相比，論文提出的網(wǎng)絡(luò)故障排除任務(wù)要復(fù)雜得多。

　　通過論文的實(shí)驗(yàn)結(jié)果表明，當(dāng)對(duì)話任務(wù)具有更復(fù)雜的對(duì)話狀態(tài)和操作空間時(shí)，引入模塊化監(jiān)控會(huì)帶來更大的好處。如圖所示，在只有40%的訓(xùn)練數(shù)據(jù)的情況下，MOSS-all在所有指標(biāo)上都優(yōu)于TSCP。