
Собственный сервис: API поисковой выдачи Google и Яндекса и загрузки страниц настоящим браузером.
Задача
Отдают органику и молчат о рекламе, товарных карточках, картах и обзоре от ИИ. Ровно то, ради чего выдачу и смотрят, в них не приезжает.
Начинается с «пара дней» и превращается в постоянную работу: вёрстка меняется, адреса блокируются, Chrome обновляется.
Видны сайтам по следам webdriver. Дальше начинается гонка с антиботом, которую ведёт не тот, кому нужны данные.
Пул браузеров, прокси, снятие капчи, журналы и учёт — месяцы работы до первой полезной строки в отчёте.
Решение
Запрос
GET https://api.parreq.com/v1/search
?q=кофемашина+купить
&engine=google
&gl=ru&hl=ru
&include=ads,people_also_ask,related_searches
Authorization: Bearer pr_ВАШКЛЮЧОтвет
{
"query": { "q": "кофемашина купить", "engine": "google", "gl": "ru", "hl": "ru" },
"organic": [
{ "position": 1, "title": "…", "url": "https://…", "snippet": "…", "domain": "…" }
],
"ads": [ { "position": 1, "title": "…", "url": "https://…", "advertiser": "…" } ],
"people_also_ask": [ { "question": "…", "answer": "…" } ],
"related_searches": [ "…" ],
"credits": 3
}По умолчанию приезжает только органика. Всё остальное запрашивается явно — чтобы запрос не тащил того, за что не просили:
Промо-ролик, минута
Сколько это занимает
Выдача Google с рекламой и «люди спрашивают»
медиана 4,7 с · разделы запрошены явно · ответ 9,4 КБ
Выдача Google, только органика
медиана 3,5 с · регион US, язык EN · ответ 5,3 КБ
Выдача Google по-русски
медиана 1,8 с · регион RU, язык RU · ответ 7,4 КБ
Страница браузером, со скриптами
медиана 1,4 с · разметка после отработки скриптов · 43 КБ
Простая страница браузером
медиана 0,85 с · ответ 3,2 КБ
Полоса — разброс по трём повторам: сплошная часть до меньшего времени, приглушённая до большего. Медиана подписана у названия. Замер снят по петле самой машины — это время работы движка, без канала до клиента.
Fetch отдаёт разметку после отработки скриптов, по заказу — тела скриптов и стилей, список сетевых запросов, скриншот и копию для вставки в iframe. Crawler обходит сайт целиком и вытаскивает поля по вашим селекторам. Browser API держит живую вкладку: нажать, заполнить, отправить форму.





Выдача в JSON, инструменты, Crawler и прайс по позициям
Что внутри
Search, Fetch, Browser API и Crawler — каждая сама по себе. Отказ одной не уносит остальные, и каждая выкладывается своим кругом.
Профили и прокси раздаёт отдельная служба. Браузер принадлежит службе, а не общему складу, из которого его берут наугад.
Один конверт ошибки, машиночитаемый код и Retry-After там, где повтор имеет смысл. Лимиты — в минуту, в сутки, в месяц и по одновременным запросам.
Коробка
Меняется ровно один адрес — вместо api.parreq.com вы указываете свой. Тела запросов, ответы и коды ошибок те же, код правки не требует. Разметка страниц и извлечённые поля не покидают вашу машину: разбор идёт на месте. Наружу уходит только снятие капчи — ключ решателя обязан оставаться у нас. Вкладка живёт, пока вы её не закроете: ни простоя в минуту, ни потолка в две.


Где посмотреть