所有文章 > 正文

微软开发出能像人类一样引用上下文的人工智能

作者: Jansfer

时间: 2019-10-24 11:55

微软公司的研究人员最近开发了一个机器学习系统CRN(Context Rewriting Network,上下文重写网络)。该系统通过参考上下文,将对话中的最后一句话重新编排,目的是生成一个既没有关联又不依赖于之前其他话语的独立话语。

上下文建模针对上下文数据进行结构化并维护,在开放式对话中发挥着关键作用。微软公司的研究人员最近开发了一个机器学习系统CRN(Context Rewriting Network,上下文重写网络)。该系统通过参考上下文,将对话中的最后一句话重新编排,目的是生成一个既没有关联又不依赖于之前其他话语的独立话语。重写的上下文类似于人类的引用。例如,将“我讨厌喝咖啡。为什么?它很好喝“变成”为什么讨厌喝咖啡?它很好喝。“

该团队首先使用从上下文中提取的关键字插入到原始的最后一句话中生成的伪数据来训练模型。然后,他们采用强化学习,利用奖励机制来推动系统朝着目标前进。强化学习后,他们的模型偶尔会变得不稳定,因为常常会从上下文中提取更多的单词,不过通常也能使得句子内容更加丰富。他们的工作朝着更易于解释和控制的上下文建模迈出了一步。实践结果表明,CRN机器学习系统在重写质量和多回合响应方面都达到了先进水准。

图|上下文重写的例子(来源:KYLE WIGGERS)

参考:

https://venturebehttps://venturebeat.com/2019/10/21/microsofts-ai-rewrites-sentences-based-on-context/at.com/2019/10/21/microsofts-ai-rewrites-sentences-based-on-context/

[关于转载]:本文为“AMiner”官网文章。转载本文请联系原作者获取授权,转载仅限全文转载并保留文章标题及内容,不得删改、添加内容绕开原创保护,且文章开头必须注明:转自“AMiner”官网。谢谢您的合作。

二维码 扫码微信阅读
推荐阅读 更多