Skip to main content

LLMs.txt生成器端点介绍(Alpha)📃

/llmstxt端点允许您将任何网站转换为干净的LLM准备就绪的文本文件。只需提供网址,Firecrawl就会爬取该网站并生成可用于与任何LLM进行训练或分析的llms.txtllms-full.txt文件。

工作原理

LLMs.txt生成器:
  1. 爬取提供的网址及其链接页面
  2. 提取干净、有意义的文本内容
  3. 生成两种格式:
    • llms.txt: 简洁总结和关键信息
    • llms-full.txt: 更详细的完整文本内容

示例用法

关键参数:
  • url: 要生成LLMs.txt文件的网站URL
  • maxUrls (可选): 要爬取的最大页面数(1-100,默认值:10)
  • showFullText (可选): 除了llms.txt外,还生成llms-full.txt(默认值:false)
有关更多详细信息,请参见API参考

检查生成状态

LLMs.txt生成是异步进行的。进行异步调用并监控状态:

状态示例

进行中

已完成

已知限制(Alpha)

  1. 访问限制
    只能处理公开可访问的页面。登录保护或付费墙内容不受支持。
  2. 站点大小
    在alpha阶段,我们只允许处理最多5000个URL。
  3. Alpha状态
    作为一个Alpha功能,输出格式和处理可能会根据反馈而演变。

计费和使用

计费基于处理的URL数量:
  • 基础费用:每个处理的URL收费1个积分
  • 使用maxUrls参数控制URL成本
有反馈或需要帮助吗?发送邮件至 help@firecrawl.dev