·incremental-fetch
</>

incremental-fetch

shipshitdev/library

从 API 构建弹性数据摄取管道。在创建从外部 API(Twitter、交易所、任何 REST API)获取分页数据的脚本并需要跟踪进度、避免重复、处理速率限制以及支持增量更新和历史回填时使用。触发器:“从 API 获取数据”、“拉推文”、“获取历史数据”、“从 X 同步”、“构建数据管道”、“获取而不重新下载”、“恢复下载”、“回填旧数据”。不适用于:简单的一次性 API 调用、Websocket/流连接、文件下载或没有分页的 API。

34安装·0热度·@shipshitdev

安装

$npx skills add https://github.com/shipshitdev/library --skill incremental-fetch

SKILL.md

Build data pipelines that never lose progress and never re-fetch existing data.

Track TWO cursors to support both forward and backward fetching:

| newestid | Fetch new data since last run | sinceid | | oldestid | Backfill older data | untilid |

从 API 构建弹性数据摄取管道。在创建从外部 API(Twitter、交易所、任何 REST API)获取分页数据的脚本并需要跟踪进度、避免重复、处理速率限制以及支持增量更新和历史回填时使用。触发器:“从 API 获取数据”、“拉推文”、“获取历史数据”、“从 X 同步”、“构建数据管道”、“获取而不重新下载”、“恢复下载”、“回填旧数据”。不适用于:简单的一次性 API 调用、Websocket/流连接、文件下载或没有分页的 API。 来源:shipshitdev/library。

查看原文

可引用信息

为搜索与 AI 引用准备的稳定字段与命令。

安装命令
npx skills add https://github.com/shipshitdev/library --skill incremental-fetch
分类
</>开发工具
认证
收录时间
2026-02-01
更新时间
2026-02-18

快速解答

什么是 incremental-fetch?

从 API 构建弹性数据摄取管道。在创建从外部 API(Twitter、交易所、任何 REST API)获取分页数据的脚本并需要跟踪进度、避免重复、处理速率限制以及支持增量更新和历史回填时使用。触发器:“从 API 获取数据”、“拉推文”、“获取历史数据”、“从 X 同步”、“构建数据管道”、“获取而不重新下载”、“恢复下载”、“回填旧数据”。不适用于:简单的一次性 API 调用、Websocket/流连接、文件下载或没有分页的 API。 来源:shipshitdev/library。

如何安装 incremental-fetch?

打开你的终端或命令行工具(如 Terminal、iTerm、Windows Terminal 等) 复制并运行以下命令:npx skills add https://github.com/shipshitdev/library --skill incremental-fetch 安装完成后,技能将自动配置到你的 AI 编程环境中,可以在 Claude Code 或 Cursor 中使用

这个 Skill 的源码在哪?

https://github.com/shipshitdev/library