Scansionare a mano un intero sito significa saltare pagine, martellare il server o perdere il filo di ciò che hai già recuperato. Questo crawler gestisce l'intera scansione.
sonnet4 giorniPlaywrightPythonRedisPostgres
Claude
63ROI
73Scale
$1.4k90Saved
ROI for
README.md
Perché questo subagent
Scansionare a mano un intero sito significa saltare pagine, martellare il server o perdere il filo di ciò che hai già recuperato. Questo crawler gestisce l'intera scansione.
Da un URL seed scopre i link, resta dentro al dominio e cadenza le richieste così il sito resta tranquillo. I fallimenti vengono ritentati con backoff, gli URL visitati sono tracciati per evitare i loop e ogni pagina viene salvata con i suoi metadati. Quando la coda si svuota, ottieni un report di copertura.
Come gira
Used at step 01 to kick off the pipeline.
Write
Used at step 01 to kick off the pipeline.
WebFetch
Used at step 01 to kick off the pipeline.
WebSearch
Used at step 01 to kick off the pipeline.
Cadenza le richieste con un ritardo e rispetta le regole di robots, così la scansione resta cortese.
pending
Riprova le pagine fallite con backoff e tiene traccia degli URL completati per evitare di rivisitarli.
pending
Salva contenuto e metadati di ogni pagina recuperata, poi riporta la copertura quando la coda si svuota.
pending
Esempio di output
json
// Sample output
// (generated when the pipeline finishes)
Crawl a single domain from a seed URL with rate limiting, retries, and dedup, storing each page and reporting coverage.
Unlock the rest
The full agent definition, install snippet, and starter task are gated for community members.
Members get the full `.md` agent file, the npm / pnpm install one-liners, a starter prompt that we've tuned against real runs, and the open-source repo when this automation ships there. One email, magic link, done.