webpeel/webpeel

webpeel/webpeel

от webpeel
MCP сервер для AI-агентов, выполняющий веб-загрузку, поиск, краулинг, извлечение данных и скриншоты единым API. Содержит 55+ доменных экстракторов для Reddit, GitHub, YouTube и других. Идеален для ...

WebPeel — Web data API for AI agents

npm version npm downloads GitHub stars CI License

The web data layer for AI agents.
Fetch, search, crawl, extract, screenshot — one call, zero boilerplate.

Quick Start · Agent Integrations · Docs · Playground · Get API Key

WebPeel demo showing agent-friendly web fetch input, automatic engine selection, and clean JSON output


The Problem

Every AI agent that touches the web rebuilds the same brittle stack: HTTP fetch → headless browser → anti-bot bypass → HTML cleanup → markdown conversion → token budgeting. Each layer fails differently. Sites change. Cloudflare rotates challenges. Your agent gets empty strings at 2 AM and your pipeline breaks.

WebPeel replaces that entire stack with one function call. It handles engine selection, anti-bot escalation, domain-specific extraction, and token optimization so your agent gets clean, structured data every time — without managing browsers, proxies, or parsing logic.


Quick Start

# Zero-install — just run it
npx webpeel "https://example.com"

# Search the web
npx webpeel search "latest AI agent frameworks"

# Crawl an entire site
npx webpeel crawl docs.example.com --max-pages 50

# Screenshot any page
npx webpeel screenshot "https://stripe.com/pricing" --full-page

# Ask a question about any page
npx webpeel ask "https://arxiv.org/abs/2401.00001" "What is the main contribution?"

Часто задаваемые вопросы

Инструменты были проиндексированы:
webpeelтолько чтениеидемпотентныйвнешний мир

Ваш полный набор веб-инструментов: получайте, ищите, делайте скриншоты, извлекайте, отслеживайте и взаимодействуйте с любым сайтом. Автоматически обрабатывает JS-рендеринг, Cloudflare, CAPTCHA и более 55 экстракторов доменов. Экономия токенов 65-98%. Опишите, что вам нужно, простым английским. Примеры: 'read https://stripe.com/pricing', 'screenshot bbc.com on mobile', 'search for best AI frameworks 2024', 'extract product prices from amazon.com/dp/...', 'watch stripe.com/pricing for price changes', 'get YouTube transcript from youtu.be/...'. Для SPA с интенсивным использованием JavaScript (React, Vue, Next.js, Polymarket, Airbnb и т.д.) укажите 'render' или 'use browser' в своей задаче. Для бесконечной прокрутки или контента с ленивой загрузкой скажите 'scroll to bottom'. Для сайтов, защищённых от ботов (Cloudflare), скажите 'stealth mode'. Если вы получаете скудный или пустой контент, повторите попытку и укажите 'render': сайт, скорее всего, требует JavaScript.

Параметры
  • llmApiKeystring

    Ваш API-ключ LLM (BYOK). Передавайте его при запросе структурированного извлечения данных с помощью llmProvider.

  • llmBaseUrlstring

    Нестандартный URL-адрес API, совместимый с OpenAI. Используйте для OpenRouter, Glama или локальных моделей.

  • llmModelstring

    Название модели LLM (необязательно). По умолчанию: gpt-4o-mini (OpenAI), claude-haiku-4-5 (Anthropic), gemini-2.0-flash (Google).

  • llmProviderenum

    LLM-провайдер для извлечения схемы (BYOK). Передавайте его при запросе извлечения структурированных данных.

  • taskstringобязательный

    Описание на простом английском языке того, что вы хотите сделать в вебе.

webpeel_actвнешний мир

Автоматизирует взаимодействие с любой веб-страницей с помощью настоящего браузера. Нажимает кнопки, заполняет формы, выбирает из выпадающих списков, прокручивает, ждет появления элементов и нажимает клавиши. Возвращает извлечённое содержимое и, опционально, скриншот после завершения всех действий. Используется для: входа на сайты, отправки форм, навигации по многошаговым сценариям, взаимодействия с динамическим контентом, который требует ввода данных. Действия: click, type, fill, scroll, wait, press, hover, select.

Параметры
  • actionsobject[]обязательный

    Действия для выполнения, например [{type:"click",selector:".btn"}, {type:"type",selector:"#q",value:"hello"}]

  • extract_afterboolean

    Извлекает содержимое после завершения действий.

  • screenshot_afterboolean

    Сделайте скриншот после завершения действий.

  • urlstringобязательный

    URL для взаимодействия

webpeel_extractтолько чтениеидемпотентныйвнешний мир

Извлекает структурированные данные JSON из любого URL. Не нужен LLM для встроенных схем. Передайте fields=['price','title','description'], чтобы извлечь конкретные именованные поля. Передайте schema={...} с полной JSON-схемой для произвольного структурированного вывода. Встроенные схемы: product, article, recipe, job, event, contact, business, review, listing. Работает на Amazon, Yelp, LinkedIn, досках вакансий, сайтах электронной коммерции и любых веб-страницах.

Параметры
  • fieldsstring[]

    Конкретные поля для извлечения, например ['price', 'title', 'description']

  • formatenum

    Формат вывода (по умолчанию: json)

  • llmApiKeystring

    Ваш ключ API для LLM (BYOK). Требуется при использовании пользовательской схемы с llmProvider.

  • llmBaseUrlstring

    Нестандартный URL-адрес API, совместимый с OpenAI. Используйте для OpenRouter, Glama или локальных моделей.

  • llmModelstring

    Название модели LLM (необязательно). По умолчанию: gpt-4o-mini (OpenAI), claude-haiku-4-5 (Anthropic), gemini-2.0-flash (Google).

  • llmProviderenum

    Провайдер LLM для извлечения схемы (BYOK). Требуется при использовании пользовательской схемы.

  • schemaobject

    JSON-схема, описывающая желаемую структуру вывода.

  • urlstringобязательный

    URL для извлечения

webpeel_findтолько чтениеидемпотентныйвнешний мир

Выполняет поиск в интернете или находит все страницы на сайте. Передайте query= для поиска в интернете и получения ранжированных результатов с заголовками, URL и сниппетами. Передайте url= для сканирования/обхода домена и обнаружения всех его страниц. Используйте depth='deep' для многоисточникового исследования, которое собирает ответы с нескольких страниц. Умный поиск распознаёт намерения для ресторанов, товаров, авиабилетов, отелей и многого другого.

Параметры
  • depthenum

    Глубина поиска: 'быстрый' = одиночный поиск, 'глубокий' = многоисточниковое исследование

  • limitnumber

    Максимум результатов для возврата (1–20, по умолчанию 10)

  • querystring

    Поисковый запрос

  • urlstring

    URL домена для поиска/обнаружения всех страниц

webpeel_monitorвнешний мир

Отслеживает изменения содержимого веб-страницы с течением времени. Вызовите один раз, чтобы сделать снимок, вызовите снова, чтобы получить разницу. Используйте selector= для отслеживания конкретного CSS-элемента (например, цены, значка статуса). Используйте webhook= для постоянного мониторинга с автоматическими уведомлениями при изменении содержимого. Используйте interval= для установки частоты проверок ('1h', '30m', '1d'). Идеально подходит для: отслеживания цен, изменений в списках вакансий, мониторинга релизов, обновлений конкурентов.

Параметры
  • intervalstring

    Интервал проверки, например '1h', '30m', '1d'

  • selectorstring

    CSS-селектор для отслеживания конкретной части страницы

  • urlstringобязательный

    URL для мониторинга

  • webhookstring

    URL вебхука для уведомления об изменениях контента

webpeel_readтолько чтениеидемпотентныйвнешний мир

Загружает любой URL и возвращает чистый Markdown, оптимизированный для LLM. На 65–98% меньше токенов, чем сырой HTML. Автоматически обрабатывает: веб-страницы, расшифровки YouTube (с таймстемпами), PDF, SPA с рендерингом JS, сайты под Cloudflare и более 55 домен-специфичных извлекателей (Amazon, Reddit, GitHub и др.). ВАЖНО: Используйте render=true для любого сайта с большим количеством JavaScript (React, Vue, Angular, Svelte, Next.js, SPA). Известные SPA, требующие render=true: Polymarket, Airbnb, Booking.com, Expedia, Indeed, Zillow, Google и другие. Если контент пустой или скудный, ВСЕГДА повторяйте с render=true, прежде чем делать вывод, что на странице нет содержимого. Используйте actions= для взаимодействия со страницей перед извлечением (скролл, клик, ввод текста, ожидание). Используйте stealth=true для сайтов под Cloudflare или блокирующих ботов (автоматически включает render). Используйте question= для мгновенного вопроса и ответа (LLM не требуется). Используйте summary=true для короткого саммари. Используйте budget=N, чтобы сократить вывод до N токенов.

Параметры
  • actionsstring[]

    Действия браузера, которые нужно выполнить перед извлечением контента. Требуется render=true (включается автоматически). Каждое действие - строка: "scroll:bottom" (бесконечный скролл), "wait:2000" (подождать 2 секунды), "click:.selector" (кликнуть элемент), "type:#input:text" (ввести текст в поле), "waitFor:.selector" (дождаться элемента), "hover:.element" (навести курсор), "scroll:down:500" (прокрутить на 500 пикселей вниз), "scroll:0,1500" (прокрутить к координатам). Можно объединять несколько действий в цепочку: ["scroll:bottom", "wait:2000"], чтобы дождаться загрузки ленивого контента.

  • budgetnumber

    Умный бюджет токенов — сжимает контент до N токенов.

  • formatenum

    Формат вывода (по умолчанию: markdown)

  • questionstring

    Задайте вопрос о содержимом страницы (BM25, LLM не требуется)

  • readableboolean

    Режим чтения — извлекает только содержимое статьи.

  • renderboolean

    Принудительный рендеринг в браузере для сайтов с тяжёлым JavaScript

  • stealthboolean

    Скрытый режим для сайтов с защитой от ботов (Cloudflare, fingerprinting, rate limiting). Используйте, когда render=true всё ещё возвращает страницу с проверкой или отказ в доступе. Автоматически включает render.

  • summaryboolean

    Верни краткое содержание вместо полного текста.

  • urlstringобязательный

    URL для получения

webpeel_seeтолько чтениеидемпотентныйвнешний мир

Захватывает снимок экрана любой веб-страницы. Возвращает страницу в виде изображения для визуального просмотра. Поддерживает мобильные, планшетные и настольные области просмотра. Используйте mode='design' для анализа дизайна и предложений на основе ИИ. Используйте mode='compare' с compare_url для визуального сравнения двух страниц. Используйте full_page=true для захвата всей прокручиваемой страницы.

Параметры
  • compare_urlstring

    Второй URL для сравнения (для mode='compare')

  • full_pageboolean

    Захватить всю прокручиваемую страницу

  • modeenum

    Режим: 'screenshot' (по умолчанию), 'design' (анализ), 'compare' (визуальное сравнение)

  • urlstringобязательный

    Скриншот по URL

  • viewportenum | object

    Размер вьюпорта: 'mobile' | 'tablet' | {width, height}

0.22.0основная
0.21.89
0.21.88
0.21.87
0.21.86
0.21.85
0.21.84
0.21.83
0.21.82
0.21.81
0.21.80
0.21.79
0.21.78
0.21.77
0.21.76
0.21.75
0.21.74
0.21.73
0.21.72
0.21.71
0.21.70
0.21.69
0.21.68
0.21.67
0.21.66
0.21.65
0.21.64
0.21.63
0.21.62
0.21.61
0.21.60
0.21.59
0.21.58
0.21.57
0.21.56
0.21.53
0.21.52
0.21.48
0.21.47
0.21.46
0.21.45
0.21.44
0.21.43
0.21.42
0.21.41
0.21.40
0.21.39
0.21.38
0.21.37
0.21.36
0.21.35
0.21.34
0.21.33
0.21.32
0.21.31
0.21.30
0.21.29
0.21.28
0.21.27
0.21.26
0.21.25
0.21.24
0.21.23
0.21.22
0.21.21
0.21.20
0.21.19
0.21.18
0.21.17
0.21.16
0.21.15
0.21.14
0.21.13
0.21.12
0.21.11
0.21.10
0.21.9
0.21.8
0.21.7
0.21.6
0.21.5
0.21.3
0.21.2
0.21.1
0.21.0
0.20.21
0.20.20
0.20.19
0.20.18
0.20.17
0.20.14
0.20.13
0.20.12
0.20.11
0.20.10
0.20.9
0.20.8
0.20.7
0.20.6
0.20.5
0.20.4
0.20.3
0.20.2
0.20.1
0.20.0
0.19.5
0.19.4
0.19.3
0.19.2
0.19.1
0.19.0
0.18.7
0.18.6
0.18.5
0.18.4
0.18.3
0.18.2
0.18.1
0.18.0
0.17.30
0.17.29
0.17.28
0.17.27
0.17.26
0.17.25
0.17.24
0.17.23
0.17.22
0.17.21
0.17.20
0.17.19
0.17.18
0.17.17
0.17.16
0.17.15
0.17.14
0.17.13
0.17.12
0.17.11
0.17.10
0.17.9
0.17.8
0.17.7
0.17.6
0.17.5
0.17.4
0.17.3
0.17.2
0.17.1
0.17.0
0.16.1
0.16.0
0.15.2
0.15.1
0.14.6
0.14.5
0.14.4
0.14.3
0.14.2
0.14.1
0.14.0
0.13.5
0.13.4
0.13.3
0.13.2
0.13.1
0.13.0
0.12.3
0.12.2
0.12.1
0.12.0
0.11.0
0.10.0
0.9.0
0.8.1
0.8.0
0.7.1
0.7.0
0.6.1
0.6.0
0.5.1
0.5.0
0.4.1
0.4.0
0.3.6
0.3.5
0.3.4
0.3.3
0.3.2
0.3.1
0.3.0
0.2.0
0.1.2
0.1.1
0.1.0

Выберите клиент, чтобы установить webpeel/webpeel:

Любой клиент

Конфиг добавления MCP сервера стандартный, обычно он не меняется вообще, поэтому подходит практически к любому ИИ клиенту, поддерживающему MCP.

{
  "mcpServers": {
    "webpeel-webpeel-meivm0o8fi": {
      "command": "npx",
      "args": [
        "-y",
        "webpeel",
        "mcp"
      ],
      "env": {
        "WEBPEEL_API_KEY": "wp_your_key_here"
      }
    }
  }
}
CursorCursor

Перейдите по ссылке и сервер автоматически будет добавлен в Cursor. Либо откройте/создайте файл ~/.cursor/mcp.json(%USERPROFILE%\.cursor\mcp.json на Windows) и добавьте конфиг сервера:

{
  "mcpServers": {
    "webpeel-webpeel-meivm0o8fi": {
      "command": "npx",
      "args": [
        "-y",
        "webpeel",
        "mcp"
      ],
      "env": {
        "WEBPEEL_API_KEY": "wp_your_key_here"
      }
    }
  }
}
VS Code

Создайте .vscode/mcp.json в проекте (ключ верхнего уровня — servers):

{
  "servers": {
    "webpeel-webpeel-meivm0o8fi": {
      "type": "stdio",
      "command": "npx",
      "args": [
        "-y",
        "webpeel",
        "mcp"
      ],
      "env": {
        "WEBPEEL_API_KEY": "wp_your_key_here"
      }
    }
  }
}

Либо добавьте сервер через терминал:

code --add-mcp "{\"name\":\"webpeel-webpeel-meivm0o8fi\",\"type\":\"stdio\",\"command\":\"npx\",\"args\":[\"-y\",\"webpeel\",\"mcp\"],\"env\":{\"WEBPEEL_API_KEY\":\"wp_your_key_here\"}}"
ClaudeClaude Desktop

Откройте Settings → Developer → Edit Config — это откроет файл claude_desktop_config.json:

  • macOS: ~/Library/Application Support/Claude/claude_desktop_config.json
  • Windows: %APPDATA%\Claude\claude_desktop_config.json

Впишите сервер и полностью перезапустите Claude Desktop:

{
  "mcpServers": {
    "webpeel-webpeel-meivm0o8fi": {
      "command": "npx",
      "args": [
        "-y",
        "webpeel",
        "mcp"
      ],
      "env": {
        "WEBPEEL_API_KEY": "wp_your_key_here"
      }
    }
  }
}
Claude CodeClaude Code

Добавьте сервер одной командой в терминале:

claude mcp add webpeel-webpeel-meivm0o8fi --env WEBPEEL_API_KEY=wp_your_key_here -- npx -y webpeel mcp

Либо через JSON-конфиг:

claude mcp add-json webpeel-webpeel-meivm0o8fi "{\"command\":\"npx\",\"args\":[\"-y\",\"webpeel\",\"mcp\"],\"env\":{\"WEBPEEL_API_KEY\":\"wp_your_key_here\"}}"
CodexCodex

Добавьте сервер командой в терминале:

codex mcp add webpeel-webpeel-meivm0o8fi --env WEBPEEL_API_KEY=wp_your_key_here -- npx -y webpeel mcp

Либо вручную в ~/.codex/config.toml(%USERPROFILE%\.codex\config.toml на Windows):

[mcp_servers.webpeel-webpeel-meivm0o8fi]
command = "npx"
args = ["-y", "webpeel", "mcp"]

[mcp_servers.webpeel-webpeel-meivm0o8fi.env]
WEBPEEL_API_KEY = "wp_your_key_here"
PerplexityPerplexity

MCP доступен подписчикам Perplexity Pro / Max / Enterprise. Локальные серверы — только в приложении для macOS.

  1. Откройте Настройки аккаунта → Connectors.
  2. Установите вспомогательное приложение PerplexityXPC (один раз).
  3. Нажмите Add Connector → вкладка Simple.
  4. В поле Server Name укажите webpeel/webpeel, а в поле команды запуска — строку ниже:
npx -y webpeel mcp

Нажмите Save и дождитесь статуса Running.

WindsurfWindsurf

Откройте Windsurf Settings → Cascade → MCP Servers или отредактируйте файл ~/.codeium/windsurf/mcp_config.json:

{
  "mcpServers": {
    "webpeel-webpeel-meivm0o8fi": {
      "command": "npx",
      "args": [
        "-y",
        "webpeel",
        "mcp"
      ],
      "env": {
        "WEBPEEL_API_KEY": "wp_your_key_here"
      }
    }
  }
}
ClineCline

В панели Cline нажмите иконку MCP Servers → Configure → Configure MCP Servers (или отредактируйте ~/.cline/mcp.json) и добавьте сервер:

{
  "mcpServers": {
    "webpeel-webpeel-meivm0o8fi": {
      "command": "npx",
      "args": [
        "-y",
        "webpeel",
        "mcp"
      ],
      "env": {
        "WEBPEEL_API_KEY": "wp_your_key_here"
      },
      "disabled": false,
      "autoApprove": []
    }
  }
}
Continue

Создайте файл в .continue/mcpServers/ (например webpeel-webpeel-meivm0o8fi.yaml) или добавьте блок в config.yaml. MCP работает только в режиме agent:

mcpServers:
  - name: webpeel-webpeel-meivm0o8fi
    command: npx
    args:
      - "-y"
      - "webpeel"
      - "mcp"
    env:
      WEBPEEL_API_KEY: wp_your_key_here
Zed

Выполните agent: add context server или откройте настройки (zed: open settings file) и добавьте сервер в объект context_servers:

{
  "context_servers": {
    "webpeel-webpeel-meivm0o8fi": {
      "command": "npx",
      "args": [
        "-y",
        "webpeel",
        "mcp"
      ],
      "env": {
        "WEBPEEL_API_KEY": "wp_your_key_here"
      }
    }
  }
}

Похожие MCP-сервера

zcaceres/fetch-mcp

zcaceres/fetch-mcp

от zcaceres

MCP сервер для загрузки веб-контента и преобразования его в HTML, Markdown, JSON, читаемый текст или транскрипты YouTube. Полезен разработчикам для извлечения статей, данных и субтитров без лишнего...

TypeScript⭐ 828
oxylabs/oxylabs-mcp

oxylabs/oxylabs-mcp

от oxylabs

MCP инструмент для веб-скрапинга: связывает AI-модели с реальными данными, предлагая универсальный скрапер, парсинг Google/Amazon, AI-извлечение, краулинг и браузерный агент с обходом CAPTCHA и geo-доступом.

Python⭐ 104
bighippoman/intercept-mcp

bighippoman/intercept-mcp

от bighippoman

intercept-mcp — MCP-сервер, дающий AI возможность читать веб-страницы: извлекает чистый markdown из любых URL, обрабатывает Twitter, YouTube, arXiv, PDF, GitHub и другие источники. Использует много...

TypeScript⭐ 9
scavio-ai/scavio-mcp

scavio-ai/scavio-mcp

от scavio-ai

Scavio MCP — единый API и MCP-сервер с 33 инструментами для поиска в Google, YouTube, Amazon, Walmart, TikTok, Instagram и Reddit. Подключает AI-агентов к веб-поиску, товарам, видео и соцсетям чере...

TypeScript⭐ 8
supadata-ai/mcp

supadata-ai/mcp

от supadata-ai

MCP сервер для извлечения транскриптов видео с YouTube, TikTok, Instagram и Twitter, а также веб-скрапинга, краулинга и AI-извлечения структурированных данных. Помогает разработчикам парсить контент и собирать метаданные с медиаплатформ.

TypeScript⭐ 63
just-every/mcp-read-website-fast

just-every/mcp-read-website-fast

от just-every

MCP-сервер для быстрого извлечения веб-контента и преобразования в чистый Markdown. Минимизирует расход токенов, использует Mozilla Readability и кэширование. Идеален для Claude Code, IDE и AI-пайп...

TypeScript⭐ 163
© Каталог MCP, 2026. Все права защищены.
Проект не аффилирован с Anthropic и любыми упомянутыми продуктами.
Все названия и торговые марки принадлежат их владельцам.
Контакты для связи: hi@mcp-katalog.ru

Лука Никитин