基于深度玻尔兹曼机的文本特征提取研究

作者： 张立民 ; 刘凯

摘要： 鉴于深度学习模型在进行知识推理相关研究时提取抽象概念的优势,在目前对文本特征提取性能较好的浅层结构RSM的基础上构建以RSM为特征抽取器的深度玻尔兹曼机模型.通过新模型的能量函数和网络连接关系,对模型组成单元的后验概率进行推导,并结合新的交叉熵稀疏惩罚因子,给出模型的详细学习算法.经20-newgroups文档集上测试证明,经过交叉熵稀疏惩罚因子影响后的新模型提取出的特征在对文本表征上性能较好,相比于浅层模型RSM,其分类准确度更高,概念更加抽象,在处理大规模文本分析上具有良好的可行性.

关键字： 文本特征 多重softmax模型 深度学习 深度玻尔兹曼机 稀疏表示

---

上一篇：基于消息复用的位置服务隐私保护算法
下一篇：基于结点电压增量的模拟电路多故障诊断方法研究