安装
要安装 Firecrawl Go SDK,您可以使用 go get:Go
使用方法
- 从 firecrawl.dev 获取一个 API key
- 将
API key
作为参数设置到FirecrawlApp
结构体中。 - 设置
API URL
和/或将其作为参数传递到FirecrawlApp
结构体中。默认为https://api.firecrawl.dev
。 - 设置
version
和/或将其作为参数传递到FirecrawlApp
结构体中。默认为v1
。
Go
抓取一个 URL
要抓取单个 URL 并处理错误,请使用ScrapeURL
方法。它接受 URL 作为参数,并返回抓取的数据作为一个字典。
Go
爬取一个网站
要爬取一个网站,请使用CrawlUrl
方法。它接受起始 URL 和可选参数作为参数。params
参数允许您指定额外的选项,例如要爬取的最大页面数、允许的域名和输出格式。
Go
检查爬取状态
要检查爬取任务的状态,请使用CheckCrawlStatus
方法。它接受任务 ID 作为参数,并返回爬取任务的当前状态。
Go
映射一个网站
使用MapUrl
来生成网站的 URL 列表。params
参数让您可以自定义映射过程,包括排除子域或利用站点地图的选项。
Go