Tüm bir siteyi elle crawl etmek; sayfaları atlamak, sunucuyu yormak veya neyi zaten çektiğinizin takibini kaybetmek demektir. Bu crawler tüm taramayı kendisi yönetir.
sonnet4 günPlaywrightPythonRedisPostgres
Claude
63ROI
73Scale
$1.4k90Saved
ROI for
README.md
Bu otomasyon neden işinize yarar
Tüm bir siteyi elle crawl etmek; sayfaları atlamak, sunucuyu yormak veya neyi zaten çektiğinizin takibini kaybetmek demektir. Bu crawler tüm taramayı kendisi yönetir.
Bir seed URL'den link'leri keşfeder, domain içinde kalır ve istekleri sitenin keyfi kaçmayacak şekilde hızlandırır. Hatalar backoff ile yeniden denenir, ziyaret edilen URL'ler döngüleri önlemek için takip edilir ve her sayfa metadata'sıyla depolanır. Kuyruk boşaldığında bir kapsam raporu alırsınız.
Nasıl çalışır
Used at step 01 to kick off the pipeline.
Write
Used at step 01 to kick off the pipeline.
WebFetch
Used at step 01 to kick off the pipeline.
WebSearch
Used at step 01 to kick off the pipeline.
İstekleri bir gecikmeyle hızlandırır ve robots kurallarına uyar; böylece crawl nazik kalır.
pending
Başarısız sayfaları backoff ile yeniden dener ve tamamlanan URL'leri takip ederek tekrar ziyareti önler.
pending
Çekilen her sayfanın içeriğini ve metadata'sını depolar, ardından kuyruk boşaldığında kapsamı raporlar.
pending
Örnek çıktı
json
// Sample output
// (generated when the pipeline finishes)
Crawl a single domain from a seed URL with rate limiting, retries, and dedup, storing each page and reporting coverage.
Unlock the rest
The full agent definition, install snippet, and starter task are gated for community members.
Members get the full `.md` agent file, the npm / pnpm install one-liners, a starter prompt that we've tuned against real runs, and the open-source repo when this automation ships there. One email, magic link, done.