Pandas 到 GBQ 方法返回 GenericGBQException:原因 404 POST

Posted

技术标签:

【中文标题】Pandas 到 GBQ 方法返回 GenericGBQException:原因 404 POST【英文标题】:Pandas to GBQ method returning GenericGBQException: Reason 404 POST 【发布时间】:2018-12-04 17:54:34 【问题描述】:

这个错误刚刚开始在我们的管道中弹出。 我正在使用 pandas.to_gbq 方法移动一个大约 150 万行的数据框。

任何帮助将不胜感激!

代码:

output.to_gbq('table_name', 
'project-id',
chunksize=50000, 
private_key='ga_auth.json',
if_exists='replace'
)

错误:

   Traceback (most recent call last):
  File ".\rfm_bigquery.py", line 175, in <module>
    send_rfm_to_gbq()
  File ".\rfm_bigquery.py", line 152, in send_rfm_to_gbq
    if_exists='replace',
  File "C:\Users\yyu\Desktop\env\rfm_bigquery\lib\site-packages\pandas\core\frame.py", line 1187, in to_gbq
    table_schema=table_schema)
  File "C:\Users\yyu\Desktop\env\rfm_bigquery\lib\site-packages\pandas\io\gbq.py", line 119, in to_gbq
    table_schema=table_schema)
  File "C:\Users\yyu\Desktop\env\rfm_bigquery\lib\site-packages\pandas_gbq\gbq.py", line 1036, in to_gbq
    progress_bar=progress_bar,
  File "C:\Users\yyu\Desktop\env\rfm_bigquery\lib\site-packages\pandas_gbq\gbq.py", line 513, in load_data
    self.process_http_error(ex)
  File "C:\Users\yyu\Desktop\env\rfm_bigquery\lib\site-packages\pandas_gbq\gbq.py", line 376, in process_http_error
    raise GenericGBQException("Reason: 0".format(ex))
pandas_gbq.gbq.GenericGBQException: Reason: 404 POST https://www.googleapis.com/upload/bigquery/v2/projects/hidden-moon-164616/jobs?uploadType=resumable: Not Found

【问题讨论】:

这只是说找不到您给定的项目ID。您是否正确设置了身份验证和内容? 是的,我实际上是从脚本前面的项目中读取的,并且身份验证正在工作。这看起来是某种“可恢复”部分无法正常工作 【参考方案1】:

我在使用最新版本时遇到了同样的问题,我移回了 pandas==0.23.3 和 pandas-gbq==0.5.0,它终于可以工作了......

【讨论】:

以上是关于Pandas 到 GBQ 方法返回 GenericGBQException:原因 404 POST的主要内容,如果未能解决你的问题,请参考以下文章

从 cron 作业运行 pandas.io.gbq

如何将 dryRun 参数发送到 pandas.read_gbq 函数

尝试使用 pandas.read_gbq() 函数时,pandas-gbq 抛出错误“找不到字段 google.protobuf.FileOptions.php_metadata_namespace”

Pandas gbq 加载 - to_gbq 超时异常

pandas gbq - DistributionNotFound 错误

pandas read_gbq 不工作并显示错误