本文へ移動
cccskills
無料GitHub で公開

content-moderation-api

Content moderation API integration using OpenAI Moderation, Perspective API, and others

a5c-ai/babysitter
インストール方法を見る

含まれるファイル（2）

  • SKILL.md1.5 KB
  • README.md501 B

SKILL.md（原文）

インストールする前に、エージェントに与えられる指示の中身を確認できます。

Content Moderation API Skill

Capabilities

  • Integrate OpenAI Moderation API
  • Set up Perspective API for toxicity detection
  • Configure moderation thresholds
  • Implement content filtering pipelines
  • Design moderation response handling
  • Create moderation logging and reporting

Target Processes

  • content-moderation-safety
  • system-prompt-guardrails

Implementation Details

Moderation APIs

  1. OpenAI Moderation: Hate, violence, self-harm, sexual content
  2. Perspective API: Toxicity, insult, profanity, threat
  3. Azure Content Safety: Text and image moderation
  4. LlamaGuard: Open-source safety classifier

Configuration Options

  • API credentials and endpoints
  • Category thresholds
  • Action policies (block, warn, flag)
  • Logging configuration
  • Fallback behavior

Best Practices

  • Set appropriate thresholds
  • Handle edge cases gracefully
  • Log moderation decisions
  • Regular threshold review
  • Multi-layer moderation

Dependencies

  • openai
  • google-cloud-language (Perspective)
  • azure-ai-contentsafety

レビュー

まだレビューはありません。使ってみた感想をお寄せください。

ログインしてレビューを書く

同じリポジトリのスキル

概要と使いどころ

advanced-ds-library

無料

Provide implementations of advanced data structures

日本語の概要は準備中です。原文の説明を表示しています。

a5c-ai/babysitter1,8412026年9月17日 更新

adversarial-review

無料

Fresh adversarial code review with binary PASS/FAIL verdicts, evidence citations, and anchoring bias prevention via fresh reviewer spawning.

日本語の概要は準備中です。原文の説明を表示しています。

a5c-ai/babysitter1,8412026年9月17日 更新

agent-booster

無料

WASM-based instant code transforms for simple tasks, achieving 352x speedup over LLM inference with zero cost.

日本語の概要は準備中です。原文の説明を表示しています。

a5c-ai/babysitter1,8412026年9月17日 更新

agent-coordination

無料

Coordinate Crew (persistent) and Polecat (transient) agents using Gas Town's hook-based work distribution and GUPP principle.

日本語の概要は準備中です。原文の説明を表示しています。

a5c-ai/babysitter1,8412026年9月17日 更新

algorithm-visualizer

無料

Generate visual representations of algorithm execution

日本語の概要は準備中です。原文の説明を表示しています。

a5c-ai/babysitter1,8412026年9月17日 更新

anti-drift

無料

Hierarchical coordination and drift detection with frequent checkpoints, shared memory coherence validation, role specialization enforcement, and short task cycles.

日本語の概要は準備中です。原文の説明を表示しています。

a5c-ai/babysitter1,8412026年9月17日 更新

a5c-ai のスキルをすべて見る

このスキルの問題を報告する