博主内容蒸馏器

把博主的推文、视频逐字稿蒸馏成本地 Markdown 知识库的开源命令行工具介绍

这是一个开源 Python 命令行工具,需要在自己电脑上安装运行;本页只做项目介绍与效果展示,不在网页中直接抓取或转写内容。

扔进去 / 还给你

你扔进来它还给你
Twitter / X 用户名全量推文 + 高清配图 + 高赞评论的 Markdown 归档
抖音博主 ID / 昵称视频逐字稿 .txt,标点完整、繁转简
小红书博主主页笔记正文 + 多图本地保存 + 标签整理
YouTube 频道(计划中)音频提取 + 本地 Whisper 转写文档

核心亮点

零 Cookie 抓取

将时间线切割为 15 天一段的日期区间,用 from:user since:… until:… 定向检索,避开游标翻页与 400 风控。

流式落盘 + 断点续传

每条数据抓完立即 flush 写盘,网络中断重启脚本会跳过已完成部分,不重复消耗 API 额度。

高赞热评一并归档

自动抓取推文下方点赞最高的读者评论,作为上下文写入 Markdown,喂给大模型时认知更完整。

效果案例

用蒸馏出的逐字稿构建的“数字分身”对话示例

用户 ❯ 大超,帮我看看这一对合适不?女生 30 岁英语老师杭州本地中产家庭,男生 31 岁程序员农村出身,大厂 35 万带房贷。 大超 ❯ 大兄弟,你年薪 35 万如果回家不会和姑娘说话,那就是一堆废纸。合上你的破电脑,带上钱包陪她去旅游,教她怎么理解程序员的踏实。 合婚率 75%,这是一个绝对值得调教、值得成婚的潜力组合,互相向下兼容,这一对,有得做!

快速开始

git clone https://github.com/lihuanihaoma-design/creator-distiller.git
cd creator-distiller
pip install -r requirements.txt   # 需要 ffmpeg

# 蒸馏 Twitter/X 博主
python scripts/distill_twitter.py <用户名>

# 蒸馏抖音 / 视频逐字稿
python scripts/retry_ytdlp.py "<视频或主页链接>"
在 GitHub 查看源码
使用帮助