Firecrawl Rust SDK 是一个库,可以帮助您轻松抓取和爬取网站,并将数据以适用于语言模型(LLMs)的格式输出。
Cargo.toml
中添加以下内容:
FirecrawlApp
。从这里,您可以访问像 FirecrawlApp::scrape_url
这样的函数,让您使用我们的 API。
以下是如何在 Rust 中使用 SDK 的示例:
scrape_url
方法。它接受 URL 作为参数并返回抓取的数据作为 Document
。
serde_json::json!
宏。
crawl_url
方法。这将等待抓取完成,这可能需要很长时间,具体取决于您的起始 URL 和您的选项。
crawl_url_async
方法。它接受相同的参数,但它返回一个 CrawlAsyncRespone
结构体,包含抓取的 ID。您可以使用该 ID 与 check_crawl_status
方法随时检查状态。请注意,完成的抓取将在 24 小时后删除。
FirecrawlError
枚举中,实现 Error
、Debug
和 Display
。我们的所有方法都返回一个 Result<T, FirecrawlError>
。