ScraperFlyAPI веб-данных для AI

use cases

Сценарии использования Web Scraping API для реальных бизнес-процессов

Изучите рабочие процессы с публичными данными веба, которые ScraperFly помогает командам реализовать: мониторинг цен, отслеживание результатов поиска, сбор страниц продуктов, поддержка AI/RAG, отслеживание рыночных сигналов и захват списков с правильным профилем запроса.

Сценарии использования ScraperFly начинаются с практического вопроса: какое решение, функция продукта, отчет или рабочий процесс нуждаются в публичных веб-данных? Как только это становится ясным, запрос может оставаться простым. Получите целевую страницу, проверьте ответ, выберите самый маленький полезный формат вывода и добавьте рендеринг, сессии, заголовки, маршрутизацию по странам, премиум-доставку, скриншоты или PDF только тогда, когда цель докажет, что они улучшают результат.

Это позволяет быстро и недорого проводить раннюю валидацию. Задача мониторинга цен, рабочий процесс отслеживания SERP, конвейер контента AI, лента объявлений о недвижимости и набор данных для рыночных исследований могут использовать один и тот же API, но не должны все использовать одинаковый вес запроса.

Выберите сценарий использования по поддерживаемому решению

Сильный рабочий процесс скрапинга — это не просто получение URL. У него есть бизнес-причина, целевой источник, формат ответа и повторяемый способ решения, когда запросу нужны дополнительные контролы. Вот почему страницы сценариев использования должны группироваться по намерению рабочего процесса, а не по изолированным функциям.

Команды электронной коммерции обычно заботятся о страницах продуктов, ценах, доступности, отзывах и изменениях категорий. Команды поиска заботятся о позиции SERP, видимости, локальных пакетах и движении конкурентов. Команды AI и RAG нуждаются в читаемом контенте с достаточным контекстом источника, чтобы доверять ответу. Исследовательские команды нуждаются в чистых образцах, последовательных метаданных и способе сравнения источников без необходимости перестраивать инфраструктуру для каждого сайта.

Семейство сценариев использования Типичный источник Лучший начальный вывод Контроли, которые нужно добавлять только при необходимости
Электронная коммерция и цены Страницы продуктов, страницы категорий, объявления на рынках HTML или структурированные метаданные для парсинга фактов о продукте Рендеринг, сессии, маршрутизация по странам, скриншоты для доказательства
Отслеживание SERP и видимости Страницы результатов поиска и локальные представления результатов HTML или скриншот в зависимости от требуемых доказательств Маршрутизация по странам, заголовки, ожидания, осторожные правила повторных попыток
AI, RAG и рабочие процессы контента Статьи, документация, страницы помощи, публичные ресурсы Текст, Markdown или HTML в зависимости от потребностей парсера Рендеринг, когда контент создается в браузере, метаданные для доверия
Объявления и рыночные исследования Каталоги, страницы недвижимости, доски объявлений о работе, страницы местного бизнеса HTML для извлечения, текст или Markdown для обзора Сессии, языковые заголовки, маршрутизация по странам, захват PDF или скриншотов

Используйте один путь API, но не используйте один профиль запроса повсюду

Преимущество API для веб-скрапинга не в том, что каждый рабочий процесс становится идентичным. Преимущество в том, что каждый рабочий процесс можно протестировать через один и тот же контролируемый путь. Команда может начать с самого легкого запроса, проверить статус, конечный URL, размер ответа, тип контента и захваченный вывод, а затем решить, нужен ли следующему запросу рендеринг браузера, более сильная маршрутизация, постоянное состояние или другой формат.

Это имеет значение с коммерческой точки зрения. Небольшая исследовательская задача не должна быть принуждена к тому же набору, что и система мониторинга в производстве. Одноразовой исследовательской спринт не должна требовать долгого решения по подписке, прежде чем цель будет даже проверена. ScraperFly создан для этой средней позиции: начните бесплатно, покупайте кредиты, когда появляется проектная работа, и переходите к ежемесячным кредитам, когда рабочий процесс становится предсказуемым.

Практическое резюме: сначала выберите сценарий использования, затем выберите профиль запроса. Правильный рабочий процесс — это тот, который возвращает полезные доказательства с наименьшей дополнительной инфраструктурой и наименьшим количеством ненужных контролей.

АТЛАС СЦЕНАРИЕВ ИСПОЛЬЗОВАНИЯ

Сопоставьте рабочий процесс с публичными данными, которые действительно нужны вашей команде

Планировать сценарии использования становится проще, когда команда называет источник, поля, формат вывода и решение, которое будут поддерживать данные. ScraperFly предоставляет каждому рабочему процессу одну и ту же основу API, оставляя место для того, чтобы держать простые цели легкими и эскалировать только тогда, когда поведение страницы это докажет.

Коммерция

Преобразуйте публичные страницы коммерции в аналитику цен и запасов.

Отслеживайте цены конкурентов, изменения запасов, продавцов, предложения на рынке, тарифы на поездки и изменения в каталогах до того, как они повлияют на доход.

Ноутбук с аналитическими графиками для мониторинга цен.
Коммерция

Мониторинг цен в электронной коммерции

Следите за ценами конкурентов, скидками, статусом запасов, условиями доставки и движением продавцов, чтобы команды по ценообразованию могли реагировать до того, как изменения на рынке станут невидимыми.

Useful fields: цена, скидка, запас, продавец, доставка

Человек просматривает продукты на смартфоне.
Коммерция

Обогащение каталога продуктов

Заполните недостающие заголовки, описания, характеристики, изображения, варианты и идентификаторы из публичных страниц продуктов и каталогов производителей.

Useful fields: заголовок, описание, характеристики, изображения, SKU

Широкий проход склада, представляющий операции на рынке
Коммерция

Интеллект продавцов на рынке

Сравните присутствие продавцов, модели выполнения, глубину ассортимента, рейтинги и изменения предложений на различных рынках.

Useful fields: продавец, рейтинг, предложение, выполнение, ассортимент

Работник склада, организующий полки с инвентарем
Коммерция

Отслеживание инвентаря и доступности

Обнаруживайте нехватку товаров, доступность самовывоза, региональный инвентарь, обещания доставки и пробелы в доступности продуктов до того, как это сделают клиенты.

Useful fields: запас, регион, самовывоз, доставка, метка времени

Человек с покупательскими сумками проверяет смартфон
Коммерция

Защита бренда

Находите несанкционированных продавцов, подозрительные цены, сигналы подделки, неверные товарные утверждения и рискованные объявления на публичных рынках.

Useful fields: продавец, цена, утверждения, изображения, рынок

Занятая уличная ресторанная и гостиничная сцена
Коммерция

Мониторинг путешествий и гостиничного бизнеса

Собирайте информацию о доступности номеров, ценах, удобствах, условиях отмены, местных сигналах спроса и контексте отзывов на различных платформах бронирования.

Useful fields: цена, доступность, удобства, политика, рейтинг

Телефон, показывающий интерфейс онлайн-шопинга
Коммерция

Объявления и отслеживание товаров с рук

Мониторьте новые объявления, запрашиваемые цены, активность продавцов, состояние товара, местоположение и возраст публикации на рынках перепродажи.

Useful fields: список, цена, состояние, продавец, местоположение

Ноутбук с финансовыми графиками и аналитикой
Коммерция

Сравнение цен и пересмотр цен

Преобразуйте снимки цен конкурентов в данные для пересмотра цен, пробелы в ассортименте, уведомления о марже и отчеты о рыночной позиции.

Useful fields: конкурент, цена, ранг, доступность, изменение

Рост

Находите сигналы спроса до того, как они появятся в вашей собственной аналитике

Мониторьте результаты поиска, рекламу, страницы конкурентов, бизнес-каталоги, активность по найму и сигналы о потенциальных клиентах, чтобы увидеть, куда движется внимание.

Ноутбук с аналитической панелью для мониторинга SEO
Рост

Мониторинг SERP и SEO

Отслеживайте позиции, сниппеты, рекламу, локальные пакеты, язык, устройство и географические различия, чтобы увидеть, как меняется видимость в реальной поисковой выдаче.

Useful fields: ранг, URL, сниппет, реклама, гео

Ноутбук, открытый на странице новостей или контента
Рост

Мониторинг контента конкурентов

Следите за изменениями на странице, заголовками, CTA, схемами, внутренними ссылками и инвентаризацией контента, не дожидаясь ручных проверок.

Useful fields: заголовок, CTA, схема, ссылки, обновленный текст

Руки, держащие телефон с контентом в социальных сетях
Рост

Интеллект рекламы

Собирайте публичные рекламные тексты, креативные шаблоны, целевые страницы, регионы, время и активность рекламодателей для исследования кампаний.

Useful fields: текст, креатив, лендинг пейдж, регион, дата

Бизнесмены обмениваются документами в офисе
Рост

Генерация лидов и обогащение компаний

Создавайте списки аккаунтов и обогащайте записи компаний доменами, местоположениями, отраслями, публичными контактами, сигналами о найме и подсказками по технологиям.

Useful fields: компания, домен, отрасль, местоположение, сигналы

Небольшой местный кофейный магазин
Рост

Данные местного бизнес-каталога

Собирайте имена, категории, адреса, часы работы, веб-сайты, рейтинги и количество отзывов с публичных страниц каталогов.

Useful fields: имя, категория, адрес, часы работы, рейтинг

Сотрудники офиса, просматривающие профессиональные документы
Рост

Интеллект рынка труда

Отслеживайте должности, навыки, диапазоны зарплат, уровень должности, удаленные политики и скорость найма на карьерных страницах и сайтах вакансий.

Useful fields: заголовок, зарплата, навыки, местоположение, уровень должности

Голос

Преобразуйте публичные обсуждения в сигналы о продукте и репутации

Собирайте отзывы, упоминания в СМИ, обсуждения в сообществе, публичные посты и сигналы создателей, чтобы понять, что говорят клиенты и рынки.

Человек читает газету, работая на ноутбуке
Голос

Мониторинг новостей и СМИ

Собирайте статьи, авторов, даты, темы, сущности, ссылки и метаданные источников для работы с репутацией, исследованиями и оповещениями.

Useful fields: заголовок, автор, дата, источник, сущности

Люди, которые вместе делают покупки и проверяют смартфон
Голос

Отслеживание отзывов и настроений

Собирайте тенденции оценок, темы жалоб, паттерны похвалы, ответы бизнеса и контекст продукта и местоположения из публичных отзывов.

Useful fields: рейтинг, отзыв, тема, ответ, дата

Человек, просматривающий приложение социальной сети на смартфоне
Голос

Мониторинг социальных и публичных веб-ресурсов

Мониторьте публичные посты, вовлеченность, хэштеги, временные метки и контекст профиля, где это позволяет политика и доступ к источнику.

Useful fields: пост, вовлеченность, хэштег, профиль, время

Человек читает новостные статьи в комнате
Голос

Интеллект сообществ и форумов

Находите повторяющиеся вопросы, жалобы, запросы на функции и проблемный язык из общественных сообществ и форумов поддержки.

Useful fields: вопрос, тема, жалоба, количество ответов, дата

Рабочее пространство с ноутбуком, кофе и газетой
Голос

Открытие создателей и влиятельных лиц

Создавайте списки для открытия на основе публичных профилей, тем контента, сигналов аудитории, частоты публикаций и сигналов сотрудничества.

Useful fields: профиль, тема, сигнал аудитории, частота, ссылка

Записи

Упрощайте мониторинг публичных записей и списков в большом масштабе

Извлекайте тендеры, юридические уведомления, документы, финансовые данные и списки недвижимости в источники данных, которые команды могут искать, сравнивать и просматривать.

Профессионалы обмениваются бизнес-документами
Записи

Государственные закупки и тендеры

Отслеживайте покупателей, бюджеты, сроки, требования, вложения, награды и изменения на тендерных порталах и в публичных уведомлениях.

Useful fields: покупатель, бюджет, срок, требования, награда

Профессионалы обсуждают юридические документы в офисе
Записи

Регуляторный и юридический мониторинг

Мониторьте уведомления, публичные реестры, даты вступления в силу, версии документов, затронутые организации и изменения, имеющие значение для соблюдения.

Useful fields: уведомление, организация, дата, документ, статус

Профессионалы просматривают финансовые документы
Записи

Финансовые и публичные рыночные исследования

Собирайте отчеты, раскрытия информации, таблицы, новости, метаданные инструментов и публичный финансовый контекст для исследовательских процессов.

Useful fields: отчет, таблица, эмитент, дата, метрика

Ключи от домов и наличные для данных о рынке недвижимости
Записи

Листинги недвижимости и данные о рынке

Отслеживайте цены на листинги, адреса, характеристики недвижимости, данные агентов, статус, историю и контекст района.

Useful fields: цена, адрес, спальни, агент, статус

Продукты данных

Создавайте продукты данных из собранных страниц, а не из дампов страниц

Очищайте, нормализуйте, проверяйте, обогащайте, сравнивайте и передавайте публичные веб-данные в базы данных, панели управления, уведомления и LLM-процессы.

Экран ноутбука с кодом программирования
Продукты данных

Готовые к LLM веб-данные потоки

Преобразуйте публичные страницы в чистый текст, Markdown, фрагменты, метаданные, цитаты и сигналы свежести для извлечения или рабочих процессов модели.

Useful fields: чистый текст, Markdown, фрагмент, URL источника, метка времени

Серверные стойки в дата-центре для рабочих процессов баз данных
Продукты данных

Структурированное извлечение в базу данных

Преобразуйте HTML, PDF, таблицы и текст страниц в типизированные записи, которые можно хранить, запрашивать, объединять и проверять позже.

Useful fields: JSON, тип, источник, схема, ID записи

Ноутбук с интерфейсом кодирования и анализа данных
Продукты данных

Обнаружение изменений и уведомления

Сравнивайте снимки и уведомляйте команды, когда цены, запасы, рейтинг, контент, статус или регуляторный язык изменяются.

Useful fields: предыдущее значение, новое значение, дельта, порог, уведомление

Экран компьютера с цветным кодом и данными
Продукты данных

Обогащение и нормализация сущностей

Нормализуйте идентификаторы продуктов, названия компаний, местоположения, людей, категории, единицы измерения, валюты и таксономические сопоставления.

Useful fields: организация, канонический идентификатор, категория, единица, уверенность

Крупный план серверного шкафа с синими индикаторами
Продукты данных

Валидация качества данных

Проверьте обязательные поля, типы данных, диапазоны, дубликаты, доказательства источника и подозрительные записи перед использованием в дальнейшем.

Useful fields: обязательное поле, тип, диапазон, доказательства, уверенность

Ноутбук с редактором кода для отчетов по данным
Продукты данных

Отчеты и панели мониторинга

Заполняйте BI панели, рыночные отчеты, операционные сводные таблицы и регулярные анализы веб-данными, которые обновляются по расписанию.

Useful fields: метрика, измерение, период, источник, обновление

Зачем скрейпинг

Зачем вообще использовать веб-скрейпинг?

Публичные веб-данные ценны, потому что они отражают то, что клиенты, конкуренты, рынки и учреждения на самом деле публикуют. Скрейпинг превращает эти страницы в повторяемый поток, когда публичный API отсутствует, неполный, задерживается или слишком узок для рабочего процесса.

  • Заполняйте пробелы, оставленные APIМногие источники предоставляют полезные публичные страницы, но нет полного API для точных полей, гео, фильтров или историй, которые нужны команде.
  • Мониторинг изменений с течением времениРегулярные скрапинги создают историю цен, контента, доступности, рангов, отзывов, уведомлений и рыночных изменений.
  • Сравните по источникамСкрапинг делает возможным сравнение между сайтами, когда маркетплейсы, каталоги, порталы и издатели структурируют данные по-разному.
  • Создавайте используемые записиПолезный вывод — это не дамп страницы; это источник, временная метка и нормализованная запись, которой могут доверять downstream-системы.
Подход ScraperFly

Почему ScraperFly подходит

Один уровень API для доставки, рендеринга, маршрутизации, доказательств и выбора выходных данных из различных публичных веб-источников.

Одно API для различных источников

Используйте один и тот же паттерн интеграции для магазинов, страниц поиска, каталогов, документов, публичных списков и конвейеров данных.

Контроль доставки по мере необходимости

Рендеринг, сессии, заголовки, гео и маршрутизация прокси могут быть добавлены для целей, которым это необходимо, без перестройки рабочего процесса.

Вывод, который поддерживает постобработку

HTML, скриншоты, чистый текст, Markdown и структурированные пути извлечения помогают командам перейти от получения страниц к используемым записям.

Меньше инфраструктуры для скрейпинга, которой нужно владеть

Команды могут сосредоточиться на полях, валидации, актуальности и бизнес-логике, а не на браузерных флотах, маршрутизации крайних случаев и повторных попытках.

СООТВЕТСТВИЕ ЦЕЛИ

Картируйте поведение страницы перед выбором контролей скрапинга

Сценарий использования надежен только тогда, когда требования к цели ясны. Проверьте, находятся ли данные в исходном HTML, изменяет ли JavaScript результат, влияет ли местоположение или язык на ответ, и нужно ли рабочему процессу визуальное доказательство или машинно-читаемый вывод.

Сырой HTML-ответ, сопоставленный с видимыми данными страницы
01

Доступность сырого HTML

Проверьте, присутствуют ли необходимые вам поля уже в первом HTML-ответе.

Лучший первый тест для простых страниц, статей, документов, списков и деталей продуктов.

Сравнение до и после рендеринга JavaScript
02

Зависимость от JavaScript

Сравните сырой HTML с отрендеренным DOM или скриншотом перед включением рендеринга браузера.

Используйте рендеринг, когда сырой HTML является лишь оболочкой, а скрипты создают полезный контент.

Cookies, согласие, контекст сессии и доступа для скрапинга
03

Состояние и контекст доступа

Определите, влияют ли cookies, согласие, границы входа, пагинация или состояние одного и того же посетителя на ответ.

Используйте сессии и заголовки, когда непрерывность изменяет данные, которые вы получаете.

Региональные вариации контента по странам и маршрутам
04

Гео/вариация контента

Проверьте, изменяет ли страна, язык, валюта, запасы, SERP, реклама или репутация маршрута результат.

Используйте гео- или премиум-маршрутизацию только тогда, когда цель подтверждает, что ответ варьируется в зависимости от маршрута.

Вопросы, на которые нужно ответить перед началом скрапинга

Где находится целевое поле?

Узнайте, существует ли поле в сыром HTML, отрендеренном DOM, вызове API, структурированных данных, файле или состоянии взаимодействия позже.

Что изменяет ответ?

Выберите несколько URL-адресов и сравните статус, конечный URL, длину контента, перенаправления, пустые состояния и различия в видимых результатах.

Какой контекст необходим?

Отметьте любую зависимость от согласия, локали, файлов cookie, заголовков, границ аутентификации, пагинации, фильтров или предыдущих запросов.

Как выглядит неудача?

Определите сигналы для заблокированных, частичных, устаревших, перенаправленных, пустых, истекших или несоответствующих регионам ответов перед масштабированием.

Что это изменяет в настройке запроса

Режим получения

Доступность сырого HTML определяет, может ли первый запрос оставаться простым или требует рендеринга, ожиданий, скриншотов или извлечения.

Контекст запроса

Требования состояния определяют, нужно ли добавлять заголовки, файлы cookie, сессии, обработку согласия или стабильный профиль посетителя.

Выбор маршрута

Гео и репутационные данные определяют, достаточно ли стандартного маршрута или оправдан ли маршрут по стране/премиум.

Правила валидации

Известные состояния неудачи становятся проверками для повторных попыток, эскалации, проверки качества и решения о том, когда более легкий профиль все еще полный.

НАСТРОЙКА ЗАПРОСА

Создайте тестовый запрос перед тем, как превратить сценарий использования в конвейер

Самый быстрый способ проверить рабочий процесс публичных веб-данных — протестировать точную форму запроса: целевой URL, формат ответа, выбор рендеринга, заголовки, сессии, маршрутизация, загрузки и диагностика. Как только ответ будет подтвержден, та же форма может перейти в код, Postman или запланированную задачу.

HTML
Сырой ответ

Сырой HTML для парсеров и краулеров

Используйте самый быстрый путь для статических страниц, списков, документов и страниц продуктов. Сначала получите оригинальный исходный HTML, затем включите рендеринг браузера, когда JavaScript создаст разметку, необходимую вашему скрейперу.

format=htmlrender=falserender=true
TXT
Чистые данные

Текст, Markdown и JSON

Пропустите слой очистки после доступа к странице. Верните читаемый текст для агентов, Markdown для подсказок и RAG, или структурированный JSON с метаданными, ссылками, заголовками, чистым текстом и Markdown, готовым для вашего конвейера.

format=textformat=markdownformat=json
PDF
Визуальные файлы

Скриншоты и PDF

Запечатлейте то, что видит настоящий браузер, когда вам нужны доказательства QA, архивные доказательства, проверки визуальной регрессии, загружаемые отчеты или общие записи страниц для клиентов и внутренних команд.

format=screenshotformat=pdfскачать

Управления, которые делают запросы предсказуемыми

url

Целевая страница для получения, рендеринга, очистки или захвата.

format

Выберите ответ, который нужен вашему продукту: html, text, markdown, json, скриншот или pdf.

premium

Эскалируйте на более сильные маршруты для блокировок, нестабильных целей или контента, чувствительного к геолокации.

render

Запустите Chromium для SPA, JS-вставленного разметки, скриншотов, PDF и страниц только для браузера.

country

Запросите маршрут, специфичный для страны, когда контент меняется в зависимости от местоположения.

keep_headers

Перенаправьте выбранный контекст запроса, такой как user-agent, cookie, язык и referer.

render_wait

Дайте динамическому контенту контролируемую дополнительную задержку перед извлечением или захватом.

download

Возвращайте визуальные артефакты в виде загружаемых файлов, когда вывод - это скриншот или PDF.

пример cURL

Генерируйте Markdown с той же формой запроса, которую вы можете использовать в производстве

curl "https://scraperfly.com/api/v1?url=https%3A%2F%2Fexample.com&format=markdown" \
  -H "apikey: YOUR_API_KEY"

ЭКОНОМИКА СЦЕНАРИЕВ ИСПОЛЬЗОВАНИЯ

Сохраняйте валидацию гибкой, пока рабочий процесс не докажет объем

Разные сценарии использования имеют разный вес запроса. Проверка сырого HTML должна оставаться легковесной, в то время как рендеринг в браузере, премиум маршрутизация, скриншоты и PDF должны быть зарезервированы для рабочих процессов, которые в них нуждаются. Это делает бесплатное тестирование, кредиты по мере использования и ежемесячные кредиты подходящими для разных этапов одного и того же проекта.

Легкий HTML-запрос, возвращающий простой ответ
01

Базовый запрос

Используйте базовый запрос, когда публичный HTML уже содержит необходимые вам поля.

Самый легкий профиль запроса; сохраняйте его, когда ответ завершен.

Рендеринг JavaScript, создающий полный DOM
02

Рендеринг

Используйте рендеринг, когда сырой HTML является оболочкой, а JavaScript завершает страницу.

Более тяжелый профиль; используйте его только когда вывод браузера изменяет результат.

Несколько запросов с сохранением cookies и состояния посетителя
03

Состояние сессии

Используйте сессии, когда cookies, согласие, локализация или пагинация изменяют ответ.

Более тяжелый профиль состояния; сохраняйте его только когда важна непрерывность.

Маршрутизация запросов через гео и более качественные маршруты
04

Премиум маршрутизация и гео

Используйте премиум маршрутизацию или гео только когда источник, страна, репутация или региональный контент изменяют результат.

Самый тяжелый профиль маршрутизации; применяйте его только к целям, которые доказывают, что они в этом нуждаются.

Что делает запрос более тяжелым

Больше инфраструктурной работы

Рендеринг в браузере, выбор маршрутов и более длительное ожидание означают, что платформе нужно делать больше, чем просто возвращать простой ответ.

Больше неопределенности цели

Перенаправления, пустые состояния, ограничения по скорости и страницы с вызовами часто требуют более сильных вариантов доставки или повторных попыток.

Больше состояния для сохранения

Cookies, сессии, согласие и многостраничные потоки добавляют движущиеся части, которых нет у простого безстатусного запроса.

Больше доказательств для возврата

Скриншоты, PDF-файлы, отрендеренный вывод и более богатые артефакты ответа полезны, но они тяжелее, чем простой HTML.

Как сохранить предсказуемый вес запроса

Протестируйте перед масштабированием

Сначала протестируйте небольшой набор URL и группируйте цели по самому легкому профилю, который возвращает полные данные.

Не рендерить по умолчанию

Проверьте сырой HTML перед включением рендеринга. Многие публичные страницы уже содержат необходимые вам данные.

Эскалируйте по фактам

Переходите на более высокий уровень только когда ответ показывает отсутствие контента, зависимость состояния, гео-вариации или проблемы с маршрутизацией.

Измеряйте полезные результаты

Оптимизируйте на основе действительных записей, а не объема сырых запросов. Более легкий профиль лучше всего, только когда он остается полным.

ЧАСТО ЗАДАВАЕМЫЕ ВОПРОСЫ ПО СЦЕНАРИЯМ ИСПОЛЬЗОВАНИЯ

Распространенные вопросы о сценариях использования веб-скрапинга

Практические ответы для команд, выбирающих, что скрапить, как тестировать источник, когда добавлять более тяжелые контролы и как поддерживать рабочие процессы публичных веб-данных полезными, не перегружая запрос.

Ответы на сценарии использования
Запросы

Создание API-запросов

Для разработчиков, интегрирующих ScraperFly в агенты, задания, бэкенд-сервисы или быстрые тесты.

Что я должен отправить в ScraperFly?

Отправьте целевой URL и формат вывода, который вам нужен. API может вернуть HTML, чистый текст, Markdown, JSON, скриншоты или PDF в зависимости от параметров запроса.

Должен ли я использовать GET или POST?

Оба могут производить одинаковый результат скрапинга. GET удобен для простых параметров запроса; POST лучше, когда вам нужен четкий JSON-тело или более длинные параметры запроса.

Могу ли я протестировать запрос перед кодированием?

Да. API Builder генерирует конечную точку, JSON-тело, параметры запроса и примеры кода, а затем позволяет вам отправить живой запрос из панели управления.

Вывод

HTML, текст, Markdown и JSON

Выберите самый маленький вывод, который на самом деле нужен вашему продукту.

Когда мне следует использовать чистый текст?

Используйте чистый текст, когда вам нужно читаемое содержимое страницы для резюме, классификации, индексирования поиска или подсказок LLM без разметки.

Для чего нужен вывод JSON?

JSON полезен, когда вам нужны структурированные метаданные, заголовки, ссылки, текст и Markdown в одном ответе, который легче проверять программно.

Отличается ли Markdown от чистого текста?

Markdown сохраняет больше структуры контента, такой как заголовки и списки. Чистый текст более плоский и лучше, когда форматирование менее важно.

Рендеринг

Страницы JavaScript

Используйте рендеринг браузера только тогда, когда это необходимо для целевой страницы.

Когда мне включить render=true?

Включите рендеринг для SPA, страниц продуктов с внедренным JavaScript, контента с ленивой загрузкой или страниц, где исходный HTML не содержит нужные вам данные.

Рендеринг всегда стоит дороже?

Да, работа браузера тяжелее, чем простой запрос HTML. Начните без рендеринга, затем включайте его только для целей, которые действительно требуют выполнения JavaScript.

Могу ли я контролировать размеры области просмотра и время ожидания?

Да. Запросы на скриншоты и PDF могут использовать размеры области просмотра и параметры ожидания рендеринга, чтобы захваченная страница имела время на стабилизацию.

Маршрутизация

Прокси и местоположение

Маршрутные запросы через стандартные или премиум пулы, когда поведение цели меняется.

Когда мне нужна премиум маршрутизация прокси?

Используйте премиум маршрутизацию для более строгих целей, более высоких уровней блокировки, нестабильных ответов или страниц, которые ведут себя иначе при обычном трафике дата-центра.

Могу ли я запросить страну?

Да. Добавьте опцию страны, когда целевое содержимое зависит от местоположения, валюты, языка, доступности или региональных перенаправлений.

Поддерживаются ли сессии?

Рабочие процессы в стиле сессий могут повторно использовать контекст между связанными запросами, когда важна непрерывность для пагинации, изменения локали или многошагового скрапинга.

Файлы

Скриншоты и PDF

Захватывайте отрендеренные страницы, когда визуальный артефакт является необходимым результатом.

Может ли ScraperFly вернуть скриншот?

Да. Вывод скриншота захватывает отрендеренную страницу в виде изображения, включая контент, отрендеренный с помощью JavaScript, когда рендеринг включен.

Может ли ScraperFly генерировать PDF?

Да. Вывод в формате PDF полезен для квитанций, отчетов, архивов, снимков для соблюдения норм и страниц, которые необходимо сохранить в виде документа.

Где появляются сгенерированные файлы?

Зарегистрированные пользователи панели управления могут сохранять и загружать сгенерированные артефакты из журналов запросов, когда запрос производит загружаемый файл.

Кредиты

Стоимость и кредиты

Кредиты отслеживают работу по доставке, а не простаивающую инфраструктуру.

Сколько кредитов использует запрос?

Обычный запрос HTML, текста, Markdown или JSON обычно использует меньше кредитов. Рендеринг, премиум маршрутизация, скриншоты и PDF требуют больше, так как они требуют более тяжелой работы по доставке.

Кредиты по принципу «плати по мере использования» истекают?

Кредиты по принципу «плати по мере использования» остаются доступными, пока вы их используете. Они хорошо подходят для нерегулярных нагрузок или проектов, которым не нужен ежемесячный план.

Кредиты подписки переносятся?

Да. Кредиты ежемесячного плана обновляются каждый месяц, и неиспользованные кредиты переносятся. Если платеж не проходит после повторной попытки Stripe, аккаунт возвращается к модели «плати по мере использования».

Безопасность

Ключи, заголовки и безопасность

Храните учетные данные на своем сервере и пересылайте только заголовки, которые вы собираетесь использовать.

Где мне хранить мой API-ключ?

Храните API-ключ на стороне сервера или в доверенной среде. Избегайте раскрытия производственных ключей в публичных фронтенд-пакетах или статических страницах.

Могу ли я переслать заголовки запроса?

Да, выбранные заголовки, такие как user-agent, accept-language, cookie и referer, могут быть пересланы, когда целевой ресурс ожидает реалистичный контекст запроса.

ScraperFly обходит частные контрольные механизмы доступа?

Нет. Он предназначен для получения публичных веб-страниц и страниц, к которым вам разрешен доступ, а не для обхода аутентификации или частных систем.

Биллинг

Планы, журналы и счета

Используйте панель управления, чтобы понять, что произошло и почему изменились кредиты.

Где я могу проверить использование?

Панель управления записывает журналы запросов, изменения баланса кредитов, форматы вывода, маршрутизацию прокси, продолжительность и события выставления счетов, чтобы вы могли проводить аудит использования.

Могу ли я скачать счета?

Платные транзакции включают данные счета, когда Stripe их предоставляет, поэтому PDF-файлы счетов можно открыть из финансового журнала.

Как мне управлять подпиской?

Подписанные пользователи могут открыть портал клиента, чтобы изменить платежные данные, просмотреть счета или отменить подписку. Пользователи с бесплатным доступом и по модели "Оплата по мере использования" могут перейти к разделу Цены.