跳转到主要内容

eBay Scraper - 从eBay提取产品标题、描述、价格、规格、客户评论和评分

项目描述

Craigslist Scraper

Oxylabs promo code

Craigslist Scraper 是一种爬取工具,可以克服高级反爬虫系统,并帮助您以所需的任何规模从Craigslist收集公共数据。本指南将向您展示如何使用Oxylabs的 Scraper API 爬取Craigslist。

工作原理

您可以通过向我们的API发送请求来获取Craigslist数据,请求中包含您想要访问和爬取的URL。API将返回任何公共Craigslist页面的HTML。

Python代码示例

以下代码示例向我们的服务发送请求,使用无头浏览器执行JavaScript并返回Craigslist页面的HTML。

import requests
from pprint import pprint

# Structure payload.
payload = {
   'source': 'universal',
   'url': 'https://berlin.craigslist.org/search/ela#search=1~gallery~0~0',
   'geo_location': 'Germany',
   'render': 'html'
}

# Get a response.
response = requests.request(
    'POST',
    'https://realtime.oxylabs.io/v1/queries',
    auth=('USERNAME', 'PASSWORD'), #Your credentials go here
    json=payload
)

# Instead of response with job status and results URL, this will return the
# JSON response with results.
pprint(response.json())

访问 文档 以查找更多有效负载参数和其他详细信息。

输出示例

{
  "results": [
    {
      "content": "<!doctype html>
<html lang="en">
<head>
      ...
      </script></body>
</html>
",
      "created_at": "2023-09-21 14:26:52",
      "updated_at": "2023-09-21 14:27:10",
      "page": 1,
      "url": "https://berlin.craigslist.org/search/ela#search=1~gallery~0~0",
      "job_id": "7110630468831163393",
      "status_code": 200
    }
  ]
}

Oxylabs Craigslist Scraper API将显著简化您的爬取过程。使用它来收集公共数据,例如工作、物品、服务和广告。如果您有任何问题,请随时通过 在线聊天电子邮件 与我们联系。

项目详情


下载文件

下载适用于您平台的文件。如果您不确定该选择哪个,请了解有关安装包的更多信息。

源代码分发

craiglist-scraper-api-1.0.0.tar.gz (2.5 kB 查看哈希值)

上传时间: 源代码

构建版本

craiglist_scraper_api-1.0.0-py3-none-any.whl (2.5 kB 查看哈希值)

上传时间: Python 3