使用自然语言处理从推文中提取地址

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了使用自然语言处理从推文中提取地址相关的知识,希望对你有一定的参考价值。

我正在构建一个Twitter机器人,它将收听如下推文:

Hey @twitterbot, I'm looking for restaurants around 123 Main Street, New York

或者,另一个例子:

@twitterbot, what's near Yonge & Dundas, Toronto? I'm hungry!

然后,它将回复您希望这些问题返回的数据类型。我已经解决了大部分问题,但我仍然坚持不应该那么难的事情;从推文中提取地址。

我将转发地址到地理编码服务以获取lat / lng,因此我不需要以任何方式格式化或准备地址;我只需要将它与不相关的文字隔离开来,比如“我正在寻找周围的餐馆”或“我很饿!”。

是否有任何NLP工具可以在一个文本块中执行此地址识别?有关于另一种方式的建议吗?因为谷歌的地理编码器处理如此广泛的地址格式(甚至像'伊顿中心,多伦多'作为一个地址),我不能使用正则表达式来解决这个问题。

换句话说,我只想删除任何不属于地址的文本。

我正在寻找的地址需要在美国/加拿大工作。

StackOverflow上有一些类似的问题,但没有一个能解决我能找到的这个问题。因为谷歌的地理编码器是如此宽容,解决方案不一定是完美的,它只需要摆脱足够的模糊,以便谷歌知道我想说什么。

我对NLP很新,所以我很欣赏有关这个主题的任何指导。

答案

How to parse freeform street/postal address out of text, and into components回答了这样的问题:“有没有办法将地址与周围的文本隔离开来并将其分解成碎片?” - 这与你的问题基本相同(除了你不关心将它分成碎片 - 只是将它与文本的其余部分隔离)。

SmartyStreets在https://smartystreets.com/demo?mode=extract也有一个很好的演示,但遗憾的是它不是一个免费的解决方案。

另一个快速思考 - 由于Twitter帖子限制为140个字符,并且往往包含很少的单词(你的两个例子分别有9个和12个单词),你可以想象只是暴力强制它。例如,要获得位于“@twitterbot,多伦多Yonge&Dundas附近有什么?我很饿!”,您可以将以下所有内容发送到谷歌地理编码器 -

多伦多Yonge&Dundas附近有什么?我饿了!

多伦多Yonge&Dundas附近有什么?我

多伦多Yonge&Dundas附近有什么?

Yonge&Dundas附近有什么,

对于由完整单词组成的所有可能的子串。

另一答案

你去:http://geocoder.ca/?locate=Hey+%40twitterbot%2C+I%27m+looking+for+restaurants+around+123+Main+Street%2C+New+York&geoit=xml&parse=1

<geodata>
<latt>40.5119365</latt>
<longt>-74.2493562</longt>
<AreaCode>347,718</AreaCode>
<TimeZone>America/New_York</TimeZone>
<standard>
     <stnumber>123</stnumber>
     <staddress>Main ST</staddress>
     <city>STATEN ISLAND</city>
     <prov>NY</prov>
     <postal>11385</postal>
     <confidence>0.9</confidence>
  </standard>
</geodata>

或者http://geocoder.ca/?locate=Hey+%40twitterbot%2C+I%27m+looking+for+restaurants+around+123+Main+Street%2C+New+York

以上是关于使用自然语言处理从推文中提取地址的主要内容,如果未能解决你的问题,请参考以下文章

sh 从推文中为URL生成适当的标签

文本分类

文本分类

基于正则表达式的词行词法分析|自然语言处理

从 PHP 函数中的推文中检索所有主题标签

Android课程---Android Studio使用小技巧:提取方法代码片段