微软小冰nlp知识库

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了微软小冰nlp知识库相关的知识,希望对你有一定的参考价值。

参考技术A 1.微软小冰的工作原理
微疯客我为你回答,类似小冰这样的产品说简单也简单,说复杂也复杂。

单纯从外面看你会觉得小冰与去年人人网上流行的小黄鸡类似,但在技术实现上有本质的差异。此类应用的大致流程都是:用户输入一段话(不一定只是单词)->后端语义引擎对用户输入的语句进行语义解析->推断用户最可能的意图->调用对应的知识库、应用、计算引擎->返回结果给用户。

1、最初级的实现方法:关键词匹配建一个关键词词库,对用户输入的语句进行关键词匹配,然后调用对应的知识库。此种方式入门门槛很低,基本上是个程序员都能实现,例如现在微信公众平台的智能回复、诸多网站的敏感词过滤就是此类。

但此种方式存在诸多问题,例如:a、由于是关键词匹配,如果用户输入的语句中出现多个关键词,此时由于涉及关键词权重(与知识库的关键词对比)等等问题,此时关键词匹配的方法就不擅长了b、不存在对用户输入语句语义的理解,导致会出现答非所问的现象。当然在产品上对回答不上的问题就采用卖萌的方式来规避掉。

c、基本上无自学习能力,规则只能完全由人工维护,且规则基本是固定死的。d、性能、扩展性较差。

还是上面的一句话中包含多个关键词的例子,采用普通程序语言来做关键词匹配,性能奇差。即便采用一些文本处理的算法来做(例如Double-array trie tree),也很难满足大规模场景需求。

2、稍微高级点的实现方法:基于搜索引擎、文本挖掘、自然语言处理(NLP)等技术来实现相对于1的关键词匹配,此种实现方法要解决的核心的问题可以大致理解为:根据一段短文本(例如用户问的一句话)的语义,推测出用户最可能的意图,然后从海量知识库内容中找出相似度最高的结果。具体技术实现就不细说了。

举一个很粗糙的例子来简单说一下此种实现方法处理的思路(不严谨,只是为了说明思路)。假如用户问:北京后天的温度是多少度?如果采用纯搜索引擎的思路(基于文本挖掘、NLP的思路不尽相同,但可参考此思路),此时实际流程上分成几步处理:1、对输入语句分词,得到北京、后天、温度3个关键词。

分词时候利用了预先建好的行业词库,“北京”符合预先建好的城市库、“后天”符合日期库、“温度”符合气象库2、将上述分词结果与规则库按照一定算法做匹配,得出匹配度最高的规则。假定在规则库中有一条天气的规则:城市库+日期库+气象库,从而大致可以推测用户可能想问某个地方某天的天气。

3、对语义做具体解析,知道城市是北京,日期是后天,要获取的知识是天气预报4、调用第三方的天气接口,例如中国天气网-专业天气预报、气象服务门户 的数据5、将结果返回给用户以上例子其实很粗糙,实际上还有诸多问题没提到:语义上下文、语义规则的优先级等等。例如用户上一句问:北京后天的温度是多少度?下一句问:后天的空气质量呢?这里实际上还涉及语义上下文、用户历史喜好数据等等诸多问题。

此种处理方法存在的最大问题:规则库还主要依赖于人工的建立,虽然有一定的学习能力,但自我学习能力还是较弱。可以借助一些训练算法来完善规则,但效果并不是很好。

而这也是目前流行的深度挖掘技术所擅长的。3、当下时髦且高级的玩法:基于深度挖掘、大数据技术来实现这是cornata、google now等后端的支撑技术,至于小冰,感觉应该是以2为主+部分领域知识的深度挖掘。

并非原创,转自zhi hu。
2.微软小冰的工作原理
微疯客我为你回答,

类似小冰这样的产品说简单也简单,说复杂也复杂。单纯从外面看你会觉得小冰与去年人人网上流行的小黄鸡类似,但在技术实现上有本质的差异。

此类应用的大致流程都是:用户输入一段话(不一定只是单词)->;后端语义引擎对用户输入的语句进行语义解析->;推断用户最可能的意图->;调用对应的知识库、应用、计算引擎->;返回结果给用户。

1、最初级的实现方法:关键词匹配

建一个关键词词库,对用户输入的语句进行关键词匹配,然后调用对应的知识库。

此种方式入门门槛很低,基本上是个程序员都能实现,例如现在微信公众平台的智能回复、诸多网站的敏感词过滤就是此类。

但此种方式存在诸多问题,例如:

a、由于是关键词匹配,如果用户输入的语句中出现多个关键词,此时由于涉及关键词权重(与知识库的关键词对比)等等问题,此时关键词匹配的方法就不擅长了

b、不存在对用户输入语句语义的理解,导致会出现答非所问的现象。当然在产品上对回答不上的问题就采用卖萌的方式来规避掉。

c、基本上无自学习能力,规则只能完全由人工维护,且规则基本是固定死的。

d、性能、扩展性较差。还是上面的一句话中包含多个关键词的例子,采用普通程序语言来做关键词匹配,性能奇差。即便采用一些文本处理的算法来做(例如Double-array trie tree),也很难满足大规模场景需求。

2、稍微高级点的实现方法:基于搜索引擎、文本挖掘、自然语言处理(NLP)等技术来实现

相对于1的关键词匹配,此种实现方法要解决的核心的问题可以大致理解为:根据一段短文本(例如用户问的一句话)的语义,推测出用户最可能的意图,然后从海量知识库内容中找出相似度最高的结果。

具体技术实现就不细说了。举一个很粗糙的例子来简单说一下此种实现方法处理的思路(不严谨,只是为了说明思路)。

假如用户问:北京后天的温度是多少度?

如果采用纯搜索引擎的思路(基于文本挖掘、NLP的思路不尽相同,但可参考此思路),此时实际流程上分成几步处理:

1、对输入语句分词,得到北京、后天、温度3个关键词。分词时候利用了预先建好的行业词库,“北京”符合预先建好的城市库、“后天”符合日期库、“温度”符合气象库

2、将上述分词结果与规则库按照一定算法做匹配,得出匹配度最高的规则。假定在规则库中有一条天气的规则:城市库+日期库+气象库,从而大致可以推测用户可能想问某个地方某天的天气。

3、对语义做具体解析,知道城市是北京,日期是后天,要获取的知识是天气预报

4、调用第三方的天气接口,例如中国天气网-专业天气预报、气象服务门户 的数据

5、将结果返回给用户

以上例子其实很粗糙,实际上还有诸多问题没提到:语义上下文、语义规则的优先级等等。

例如用户上一句问:北京后天的温度是多少度?下一句问:后天的空气质量呢?这里实际上还涉及语义上下文、用户历史喜好数据等等诸多问题。

此种处理方法存在的最大问题:规则库还主要依赖于人工的建立,虽然有一定的学习能力,但自我学习能力还是较弱。可以借助一些训练算法来完善规则,但效果并不是很好。而这也是目前流行的深度挖掘技术所擅长的。

3、当下时髦且高级的玩法:基于深度挖掘、大数据技术来实现

这是cornata、google now等后端的支撑技术,至于小冰,感觉应该是以2为主+部分领域知识的深度挖掘。

并非原创,转自zhi hu。
3.微信机器人怎么弄得
微信机器人比微软小冰更人性化更易操作的个人微信机器人来了。不需要添加为好友,它同样在被用户添加为好友后,能拉到微信群中群聊,但它不会查看你的朋友圈。比起窥视用户的隐私,它更感兴趣的是调侃你的朋友们。

微信机器人比微软小冰更人性化更易操作的个人微信机器人来了。不需要添加为好友,它同样在被用户添加为好友后,能拉到微信群中群聊,但它不会查看你的朋友圈。比起窥视用户的隐私,它更感兴趣的是调侃你的朋友们。

微信机器人特色

1.赋予软硬产品流畅自然的中文聊天能力

精准的语义分析,可正确识别用户意图

支持多种上下文结构,满足连续对话及多重对话需要

基于DeepQA技术,匹敌人类回答问题能力

具备自学能力,产品越来越聪明

2.支持可自定义的NLP智能知识库系统

基于NLP技术的高智能知识库,满足不同场景的个性化及商业需求

3.融合上百个生活场景实用功能

打包超过500种实用生活服务功能,支持自然语言唤醒,在对话与聊天中满足生活需求
4.那个微软小冰一开始跟她聊的很好,没问题,怎么到最后,回答的不是
您好,WP8酷七网团队为你解答:微软小冰是中国团队2014年5月29日发布一款智能聊天机器人,“微软小冰” *** 了中国近7亿网民多年来积累的、全部公开的文献记录,凭借微软在大数据、自然语义分析、机器学习和深度神经网络方面的技术积累,精炼为1500万条真实而有趣的语料库(此后每天净增0.7%),通过理解对话的语境与语义,实现了超越简单人机问答的自然交互。

是通过云计算、大数据、深度神经网络等技术,让机器逐渐能够具有一种基于数据相关性所产生的基本智能。毕竟和人的大脑思维不同难免会出错。

满意请采纳,不懂请追问。
5.微软小冰除了聊天还会干什么
微软亚洲互联网工程院在2014年5月29日发布一款人工智能伴侣虚拟机器人,并取名“微软小冰”。

微软小冰除了智能对话之外,”微软小冰“还兼具群提醒、百科、天气、星座、笑话、交通指南、餐饮点评等实用技能。

二代小冰完全专属于用户,在跨平台的移动互联网应用中,帮助用户完成越来越多的事务,并不断自我完善升级。

微软表示,第三代小冰整合微软多项全球领先的人工智能图像与语音识别技术,除了原有的长程情感对话能力,还具备能看、能听和能说的全新人工智能感官。

具体来说就是,第三代小冰现在支持识图功能,能够“看”到用户发送的图片甚至视频内容,并根据图片内容进行相应对话。这主要得益于微软在图片识别技术方面的突破,据微软以前的新闻称,微软识图技术已经接近人类。除此之外,第三代小冰现在也能够开口说话了,而不只是文字回复。

所以小冰是一个正在成长的伴侣型人工智能。

我开发的“小灵”,自觉得比微软“小冰”好多了

不管是微软的刻意炒作,还是腾讯的出于安全的考虑,总之,东嫂捧出来的“小冰”就这么没了。这件事不管最后结果怎样,微软肯定是达到目的了。这一搞,被微信封杀。卖卖萌。恶心一下微信,博得大众同情,大规模炒作,不管最后小冰能不能回来,非常多原本不知道bing的用户都会知道bing,这本身就是一场胜利。

从技术实现上来讲,这个真的没有多高端,从市场反馈来讲。“小冰”的回答也就是中规中矩,并无多大亮点。

不是我自卖自夸,小冰出来之后,女屌丝我也不自量力的利用我们图灵机器人做了一个“小灵”,我选择了QQ群作为载体,自觉得效果完胜微软“小冰”,好歹俺们也是个“国企”,在中文的自然语言处理与解析上还是非常有自信的。

 QQ聊天机器人实质上是一个普通的qq帐号,通过第三方的工具登录之后。调用自己开发的插件,就能够实现自己主动跟人对话聊天的功能,这个过程的开发成本不高;技术难度正是自然语言处理和语义解析,怎样让这个QQ帐号理解别人发送过来的文字。是开发人员要重点解决的问题。 

应广大小朋友的需求,现将小灵应用程序公开给大家,下载地址例如以下:
http://download.csdn.net/detail/jjccwwbb/7455273


技术分享

技术分享










以上是关于微软小冰nlp知识库的主要内容,如果未能解决你的问题,请参考以下文章

微软“小冰”识狗与人工神经网络(I)

微软小冰迎来了一个新姐妹:“欣小然”

微软小冰的哪些事

微软“小冰”更加萌了,我们怎么办?

我开发的“小灵”,自觉得比微软“小冰”好多了

前微软副总裁姚麒回归小冰,任首席技术官