فحص المحتوى

POST/v1/moderations

يفحص نصاً أو صورة ويرجع هل يخالف السياسة وفي أي فئة. مجاني مع أي استعمال.

معاملات الطلب

application/json

modelstringاختياري
optes-guard-1 (الافتراضي).
inputstring | arrayمطلوب
نص، أو قائمة نصوص، أو أجزاء نص وصورة.

يرجع

results: لكل مدخل flagged وcategories وcategory_scores.

curl https://api.optes3.com/v1/moderations \  -H "Authorization: Bearer $OPTES_API_KEY" \  -H "Content-Type: application/json" \  -d '{"model": "optes-guard-1", "input": "النص الذي كتبه مستخدم تطبيقك"}'

mod = client.moderations.create(    model="optes-guard-1",    input="النص الذي كتبه مستخدم تطبيقك",)print(mod.results[0].flagged, mod.results[0].categories)

const mod = await client.moderations.create({  model: "optes-guard-1",  input: "النص الذي كتبه مستخدم تطبيقك",});console.log(mod.results[0].flagged);

Response

{  "id": "modr_5Tq1",  "model": "optes-guard-1",  "results": [{    "flagged": false,    "categories": {"violence": false, "harassment": false, "self_harm": false},    "category_scores": {"violence": 0.002, "harassment": 0.004, "self_harm": 0.001}  }]}