关于rnn神经网络的loss函数的一些思考
---做了这么长时间的基于深度学习的NLP，愈发可以感受到bayesian的意思，语言模型里面一切皆是分布，问题答案都是分布，一个问题模拟出来的是一个答案的分布；我觉得我做的最好的一个聊天模型，就是先将问题表示成一个100维的高斯分布，然后计算各个答案跟这个分布的契合概率，当然这个模型肯定不能放出来，但是这种思想可以延伸出去，也希望有兴趣的朋友跟我探讨探讨，jy2641@columbia...
