Firecrawl Go SDK 是 Firecrawl API 的一个包装器,帮助您轻松将网站转换为 Markdown。
API key
作为参数设置到 FirecrawlApp
结构体中。API URL
和/或将其作为参数传递到 FirecrawlApp
结构体中。默认为 https://api.firecrawl.dev
。version
和/或将其作为参数传递到 FirecrawlApp
结构体中。默认为 v1
。ScrapeURL
方法。它接受 URL 作为参数,并返回抓取的数据作为一个字典。
CrawlUrl
方法。它接受起始 URL 和可选参数作为参数。params
参数允许您指定额外的选项,例如要爬取的最大页面数、允许的域名和输出格式。
CheckCrawlStatus
方法。它接受任务 ID 作为参数,并返回爬取任务的当前状态。
MapUrl
来生成网站的 URL 列表。params
参数让您可以自定义映射过程,包括排除子域或利用站点地图的选项。