注意:此文档使用的是 Firecrawl API 的 v0 版本,该版本已被弃用。我们建议切换到 v1。
安装
要安装 Firecrawl Go SDK,您可以使用 go get:使用
- 从 firecrawl.dev 获取一个 API key
- 将 API key 设置为环境变量
FIRECRAWL_API_KEY
或将其作为参数传递给FirecrawlApp
结构体。
抓取一个 URL
使用ScrapeURL
方法抓取单个 URL 并处理错误。它接受 URL 作为参数并返回抓取的数据作为字典。
爬取一个网站
使用CrawlUrl
方法爬取一个网站。它接受起始 URL 和可选参数。params
参数允许您指定额外的选项,如最大页面数量、允许的域和输出格式。
检查爬取状态
使用CheckCrawlStatus
方法检查爬取作业的状态。它接受作业 ID 作为参数并返回当前爬取作业的状态。
取消爬取作业
使用CancelCrawlJob
方法取消爬取作业。它接受作业 ID 作为参数并返回取消状态。
从 URL 提取结构化数据
使用 LLM 提取,可以轻松地从任何 URL 提取结构化数据。以下是如何使用它的示例:搜索查询
要搜索网络,获取最相关的结果,抓取每个页面并返回 markdown,请使用Search
方法。该方法接受查询作为参数并返回搜索结果。