community-automations/telegram-toxicity

営業＆CRM

PublicClaude サブエージェント

Telegram 毒性コンテンツ検出器

大規模なチャットグループはあっという間に荒れます。人間のモデレーターが深夜2時にすべてのメッセージを読むことはできません。この検出機能は、投稿が届いた瞬間にハラスメント、ヘイト、脅迫のスコアを算出し、設定した基準を超えたものをフラグします。

sonnet4日以内に出荷Telegram Bot APIClaudePerspective APIPostgreSQL
ClaudeClaude
ROI for
README.md

このサブエージェントを選ぶ理由

大規模なチャットグループはあっという間に荒れます。人間のモデレーターが深夜2時にすべてのメッセージを読むことはできません。この検出機能は、投稿が届いた瞬間にハラスメント、ヘイト、脅迫のスコアを算出し、設定した基準を超えたものをフラグします。

モデレーターには、メッセージの文脈と推奨アクションがアラートとして届きます。大量の生ログをそのまま処理する必要はありません。常習者は記録されるため、際どいメッセージのパターンが一件ずつ見逃されることなく、可視化されます。

動作の流れ

    • Read

      Used at step 01 to kick off the pipeline.

    • Write

      Used at step 01 to kick off the pipeline.

    • WebFetch

      Used at step 01 to kick off the pipeline.

    • WebSearch

      Used at step 01 to kick off the pipeline.

出力サンプル

json
// Sample output
// (generated when the pipeline finishes)

Score this message for toxicity from 0 to 1 across harassment, hate, and threats; return JSON with reasons.

Unlock the rest

The full agent definition, install snippet, and starter task are gated for community members.

Members get the full `.md` agent file, the npm / pnpm install one-liners, a starter prompt that we've tuned against real runs, and the open-source repo when this automation ships there. One email, magic link, done.