Chatbot-retrieval说基于tensorflow的检索机器人,原版的代码路径是 https://github.com/dennybritz/chatbot-retrieval, 但是在tensorflow 1.x上可能会出现因API变化导致的执行异常。笔者使用的tensorflow-gpu 1.8.0,使用中需要修改models/dual_encoder.py以下几个地方:
你也可以直接拉取笔者的分支:https://github.com/sumatrae/chatbot-retrieval
英文原文见 http://www.wildml.com/2016/07/deep-learning-for-chatbots-2-retrieval-based-model-tensorflow/
在这篇文章中,我们将实现一个基于检索的机器人。基于检索的模型使用预定义存储语料库,不像传统的生成模型可以生成以前从未出现过的回复。基于检索的模型的输入是一个上下文c和一个潜在的回复r。模型输出某一响应的得分。为了找到一个好的回答,需要将分别计算多个回答各自的得分,并选择得分最高一个预料作为最终的回答。
既然已经可以构建一个基于生成模型的检索系统了,为什么还要构建基于检索的模型呢?生成模型似乎更灵活,因为它们不需要预定义响应的存储库,对吧?
问题是生成模型在实践中工作效果并不理想, 至少当前的发展现状是这样。因为他们拥有很大的*度去决定如何回复,生成模型往往会产生语法错误、不相关的回答、通用的回答或者前后矛盾的回答。生成模型往往还需要大量的培训数据,而且很难去优化。今天生产环境中绝大多数问答系统都是基于检索的,或者是基于检索和生成模型的组合的。谷歌的智能回复就是一个很好的例子。生成模型是一个活跃的研究领域,但我们尚未完全实现。如果你想今天建立一个会话代理,你最好的选择很可能是一个基于检索的模型。
未完待续。