在 Tweepy Streaming API 中包含过滤条件

Posted

技术标签:

【中文标题】在 Tweepy Streaming API 中包含过滤条件【英文标题】:Including filtering-criteria in Tweepy Streaming API 【发布时间】:2019-03-07 16:00:54 【问题描述】:

我想收集所有包含以下词语的推文: 比特币、以太坊、莱特币或丹那留斯

但是,我想排除可以归类为转发和包含链接的推文的推文。我从以下网站 (https://www.followthehashtag.com/help/hidden-twitter-search-operators-extra-power-followthehashtag) 知道我可以添加 -filter:links 以排除包含链接的推文。通过比较以下搜索词可以清楚地看到这一点;

https://twitter.com/search?f=tweets&vertical=news&q=Bitcoin&src=typd

https://twitter.com/search?f=tweets&q=Bitcoin%20-filter%3Alinks&src=typd

这同样适用于转推,我可以使用 -filter:retweets(请参阅https://twitter.com/search?f=tweets&q=Bitcoin%20-filter%3Aretweets&src=typd)

我想添加这些标准以确保我减少“噪音”并且不太可能违反任何 API 限制。 我编写了以下 Python 脚本:

import sys
import time
import json
import pandas as pd
from tweepy import OAuthHandler
from tweepy import Stream
from tweepy.streaming import StreamListener

USER_KEY = ''
USER_SECRET = ''
ACCESS_TOKEN = ''
ACCESS_SECRET = ''

crypto_tickers = ['bitcoin', 'ethereum', 'litecoin', 'denarius', '-filter:links', '-filter:retweets']

class StdOutListener(StreamListener):

def on_data(self, data):
    tweet = json.loads(data)
    print(tweet)


def on_error(self, status):
    if status == 420:
        sys.stderr.write('Enhance Your Calm; The App Is Being Rate Limited For Making Too Many Requests')
        return True
    else:
        sys.stderr.write('Error n'.format(status))
        return True

if __name__ == "__main__":
listener =  StdOutListener()
auth = OAuthHandler(USER_KEY, USER_SECRET)
auth.set_access_token(ACCESS_TOKEN, ACCESS_SECRET)

stream = Stream(auth, listener)
stream.filter(languages=['en'], track=crypto_tickers)

但是,输出清楚地显示了转发并包含链接的推文。

Q1:如何在我的脚本中正确包含搜索条件并获得正确的输出?

Q2:根据官方文档,Streaming API 最多允许 400 个音轨关键字 (https://developer.twitter.com/en/docs/tweets/filter-realtime/overview/statuses-filter.html)。我的两个过滤条件是否归类为 2 个跟踪关键字?

提前致谢,

【问题讨论】:

【参考方案1】:

A1。您不能在 Streaming API 上使用 -filter: 语法。可用选项的完整列表是here in the documentation。您尝试使用的语法特定于 REST 搜索 API,而不是标准的实时过滤器 API(请注意,在企业实时 PowerTrack API 中,您可以实现您的要求,但这商业 API)。

A2。您的代码中有 6 个跟踪关键字,包括 -filter: 元素,但它们永远不会匹配。

【讨论】:

以上是关于在 Tweepy Streaming API 中包含过滤条件的主要内容,如果未能解决你的问题,请参考以下文章

尝试使用 Tweepy/Twitters Streaming API 和 psycopg2 来填充 PostgreSQL 数据库。很近,一条线

Tweepy Streaming API 为启用地理的推文上的坐标返回“无”

检查JSON var是否具有可为空的密钥(Twitter Streaming API)

Python,tweepy流

twitter bot 和 python 的 Tweepy 问题

如何在 Tweepy 中为 API.search 的地理编码参数指定多个坐标