Büyük sohbet grupları hızla zehirlenir ve insan moderatörler sabahın ikisinde her mesajı okuyamaz. Bu algılayıcı her paylaşımı düştüğü an taciz, nefret ve tehdit açısından puanlar, sonra sınırınızı aşanları işaretler.
Büyük sohbet grupları hızla zehirlenir ve insan moderatörler sabahın ikisinde her mesajı okuyamaz. Bu algılayıcı her paylaşımı düştüğü an taciz, nefret ve tehdit açısından puanlar, sonra sınırınızı aşanları işaretler.
Moderatörler ham bir bilgi seli yerine mesaj bağlamı ve önerilen bir eylemle uyarı alır. Tekrarlayan ihlalciler kaydedilir; böylece sınırda gezen mesajların oluşturduğu örüntü, tek tek sıyrılıp geçmek yerine görünür hale gelir.
Nasıl çalışır
Used at step 01 to kick off the pipeline.
Write
Used at step 01 to kick off the pipeline.
WebFetch
Used at step 01 to kick off the pipeline.
WebSearch
Used at step 01 to kick off the pipeline.
Her mesajı, eşiklerinize karşı zehirlilik, taciz ve tehdit açısından puanlar.
pending
Sınırı aşan mesajları işaretler ve moderatörleri bağlam ve önerilen bir eylemle uyarır.
pending
Moderatörlerin tekrarlayan sorunlu hesapları görebilmesi için ihlalcileri ve örüntüleri kaydeder.
pending
Örnek çıktı
json
// Sample output
// (generated when the pipeline finishes)
Score this message for toxicity from 0 to 1 across harassment, hate, and threats; return JSON with reasons.
Unlock the rest
The full agent definition, install snippet, and starter task are gated for community members.
Members get the full `.md` agent file, the npm / pnpm install one-liners, a starter prompt that we've tuned against real runs, and the open-source repo when this automation ships there. One email, magic link, done.