Situs modern dirender dengan JavaScript, sehingga permintaan HTTP biasa hanya mengembalikan cangkang kosong. Scraper ini mengendalikan browser sungguhan untuk mengambil data yang benar-benar termuat.
Situs modern dirender dengan JavaScript, sehingga permintaan HTTP biasa hanya mengembalikan cangkang kosong. Scraper ini mengendalikan browser sungguhan untuk mengambil data yang benar-benar termuat.
Scraper ini menunggu single-page app selesai dirender, mengekstrak field menjadi JSON berjenis, lalu memvalidasi setiap record sebelum disimpan. Baris yang bersih masuk ke Postgres untuk di-query, sedangkan JSON mentahnya disimpan di S3 sebagai cadangan. Dengan begitu, perubahan layout bisa langsung terdeteksi, bukan diam-diam merusak dataset Anda.
Cara kerjanya
Used at step 01 to kick off the pipeline.
Write
Used at step 01 to kick off the pipeline.
WebFetch
Used at step 01 to kick off the pipeline.
WebSearch
Used at step 01 to kick off the pipeline.
Ekstrak bidang yang tercantum ke dalam rekaman JSON bertipe menggunakan struktur halaman, bukan offset teks rapuh.
pending
Validasi setiap rekaman terhadap bentuk yang diharapkan dan buang atau tandai apa pun yang tidak sesuai format.
pending
Tulis JSON ke S3 dan baris hasil parsing ke Postgres untuk keperluan query.
pending
Contoh output
json
// Sample output
// (generated when the pipeline finishes)
Render a single-page app, extract fields into validated JSON, and write to S3 and Postgres, flagging malformed records.
Unlock the rest
The full agent definition, install snippet, and starter task are gated for community members.
Members get the full `.md` agent file, the npm / pnpm install one-liners, a starter prompt that we've tuned against real runs, and the open-source repo when this automation ships there. One email, magic link, done.