🦀 ClawHub
clean-web-fetch
by @jllyzzd2023
获取干净、可读的现代网页正文内容,支持微信公众号文章抓取与尾部噪音清洗,减少无用信息与 token 消耗;适合新闻、博客、公告及许多普通 fetch 不稳定、存在反爬或动态渲染干扰的网页。Clean readable web fetch for modern pages, with WeChat cleanup,...
TERMINAL
clawhub install clean-web-fetch📖 About This Skill
name: clean-web-fetch description: 获取干净、可读的现代网页正文内容,支持微信公众号文章抓取与尾部噪音清洗,减少无用信息与 token 消耗;适合新闻、博客、公告及许多普通 fetch 不稳定、存在反爬或动态渲染干扰的网页。Clean readable web fetch for modern pages, with WeChat cleanup, markdown output, batch fetch, selector overrides, and support for many hard-to-fetch pages.
Scrapling Web Fetch
当用户要获取网页内容、正文提取、把网页转成 markdown/text、抓取文章主体时,优先使用此技能。
默认流程
1. 使用python3 scripts/scrapling_fetch.py
2. 默认正文选择器优先级:
- article
- main
- .post-content
- [class*="body"]
3. 命中正文后,使用 html2text 转 Markdown
4. 若都未命中,回退到 body
5. 最终按 max_chars 截断输出用法
python3 /Users/zzd/.openclaw/workspace/skills/scrapling-web-fetch/scripts/scrapling_fetch.py 30000
依赖
优先检查:scraplinghtml2text若缺失,可安装:
python3 -m pip install scrapling html2text
输出约定
脚本默认输出 Markdown 正文内容。 如需结构化输出,可追加--json。
如需调试提取命中了哪个 selector,可查看 stderr 输出。附加资源
/Users/zzd/.openclaw/workspace/skills/scrapling-web-fetch/references/usage.md/Users/zzd/.openclaw/workspace/skills/scrapling-web-fetch/references/selectors.md/Users/zzd/.openclaw/workspace/skills/scrapling-web-fetch/scripts/fetch-web-content