挖掘有趣 Github 的猫。


有事联系:https://t.me/qumaobot
🍭 #网络爬虫 #数据抓取 #自动化


🏵 Scrapling - 响应式网络爬虫平台


🍥 简介:
Scrapling是一款响应式网络爬虫平台,旨在处理从单次请求到大规模扫描的各类数据抓取任务。该解析器能够监测网站内容变化,并在页面更新时自动调整元素定位。其内置了对Cloudflare Turnstile等反机器人保护机制的规避功能。平台提供了一个可扩展的爬虫框架,支持并行多会话扫描、暂停与恢复操作,并实现代理自动轮换,所有功能均可通过少量Python代码实现,提供高效且灵活的数据采集方案。


🎈 【进入项目】


🗣 活动线报 | 掘金项目
🗣 每日羊毛线报 👈


🏵 Defuddle - 网页内容提取器

🍥 简介:
Defuddle 是一款网页内容提取工具,旨在移除网页中不必要的元素,例如评论、侧边栏、页眉和页脚等,从而提取出主要内容,使其更易于阅读。Defuddle 的目标是输出干净且一致的 HTML 文档,更宽容地处理不确定元素,并提供对脚注、代码块等的一致输出。它还利用移动端样式来识别不必要元素,并提取更多元数据。

🍭 #网页内容提取 #HTML #内容清理


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿
🗣 每日羊毛线报 👈


🏵 Hyperbrowser MCP Server - 网页数据提取与爬取

🍥 简介:
Hyperbrowser MCP Server是Hyperbrowser的MCP服务器实现,提供网页抓取、结构化数据提取和网页爬取等工具。它集成了多种通用浏览器代理,如OpenAI的CUA和Anthropic的Claude Computer Use,方便用户进行自动化操作。主要功能包括:网页内容抓取、多页爬取、HTML到JSON的转换、Bing搜索以及各种浏览器自动化代理。Hyperbrowser API提供更丰富的功能。

🍭 #网页爬虫 #数据提取


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿
 
 
Back to Top