首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Google Trend Crawler代码429错误

Google Trend Crawler代码429错误
EN

Stack Overflow用户
提问于 2017-11-27 02:50:48
回答 1查看 10K关注 0票数 6

我是新的python和使用 API爬行谷歌趋势。我有2000+关键字作为DNA列表,并尝试抓取数据。当我运行这段代码时,尽管我添加了time.sleep(1),但它显示为"Google返回了代码429的响应“。有人能帮我解决这个问题吗?

下面是我的代码

代码语言:javascript
复制
#DNA has 2000+ lists
from pytrends.request import TrendReq
import pandas as pd
import xlsxwriter
import time

pytrends = TrendReq(hl='en-US,tz=360')
Data = pd.DataFrame()

#Google Trend Crawler
for i in range(DNA[i]):
    time.sleep(1)
    kw_list = [DNA[i]]
    pytrends.build_payload(kw_list, cat=0, timeframe='today 5-y', geo='', gprop='')
    df = pd.DataFrame(pytrends.interest_over_time())

    #Setting a Google Trend Dates
    if(i==0):
        Googledate = pd.DataFrame(pytrends.interest_over_time())
        Data['Date'] = Googledate.index
        Data.set_index('Date', inplace=True)

    #results
    if(df.empty == True):
        Data[DNA[i]] = ""  
    else:
        df.index.name = 'Date'
        df.reset_index(inplace=True)
        Data[DNA[i]] = df.loc[:, DNA[i]]
Data
EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2017-11-27 10:19:24

HTTP/1.1 429太多请求内容-Type: text/html重试-后: 3600 太多的RequestsToo请求

谷歌趋势没有官方的API。谷歌可能已经限制了来自同一个IP的请求数量。

  1. 慢慢来直到你弄明白极限。
  2. 在多个服务器上运行它,使您看起来来自不同的IP地址。
  3. 不要再试图在Google上搜索他们不想分享的数据。
票数 6
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/47503300

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档