Fazer crawl a um site inteiro à mão significa perder páginas, sobrecarregar o servidor ou perder o fio ao que já foi recolhido. Este crawler gere a varredura toda.
sonnet4 diasPlaywrightPythonRedisPostgres
Claude
63ROI
73Scale
$1.4k90Saved
ROI for
README.md
Porquê este subagente
Fazer crawl a um site inteiro à mão significa perder páginas, sobrecarregar o servidor ou perder o fio ao que já foi recolhido. Este crawler gere a varredura toda.
A partir de um URL semente, descobre links, mantém-se dentro do domínio e ritma os pedidos para que o site se mantenha saudável. As falhas são repetidas com backoff, os URLs visitados são registados para evitar ciclos, e cada página é guardada com os seus metadados. Quando a fila esvazia, recebes um relatório de cobertura.
Como funciona
Used at step 01 to kick off the pipeline.
Write
Used at step 01 to kick off the pipeline.
WebFetch
Used at step 01 to kick off the pipeline.
WebSearch
Used at step 01 to kick off the pipeline.
Controlar o ritmo dos pedidos com atrasos e respeitar as regras robots para manter uma navegação educada.
pending
Tentar novamente as páginas com falhas usando backoff e registar quais URLs já foram processadas para evitar revisitas.
pending
Armazenar o conteúdo e metadados de cada página obtida e reportar a cobertura quando a fila se esvaziar.
pending
Saída de exemplo
json
// Sample output
// (generated when the pipeline finishes)
Crawl a single domain from a seed URL with rate limiting, retries, and dedup, storing each page and reporting coverage.
Unlock the rest
The full agent definition, install snippet, and starter task are gated for community members.
Members get the full `.md` agent file, the npm / pnpm install one-liners, a starter prompt that we've tuned against real runs, and the open-source repo when this automation ships there. One email, magic link, done.