Moderationomni-moderation
omni-moderation ist ein Moderationsmodell von OpenAI. Es liefert Signale für die Prüfung von Inhalten. Welche Aktion daraus folgt, legst du in einer eigenen Regel mit manueller Prüfung von Grenzfällen fest.
Nutze den in den Quellen genannten Anbieterzugang für genau diese Version. Ein Produktabo enthält nicht automatisch API-Guthaben.
Aktuell im HerstellerkatalogQuellenstand 2026-10-13
OpenAI im Verzeichnis
Technische Daten
Identität, Funktionen und Betrieb getrennt lesen. Die Angaben beziehen sich auf diese konkrete Version.
„Nicht bestätigt“ kennzeichnet eine offene Angabe. Es bedeutet weder „nicht vorhanden“ noch „unbegrenzt“.
| Hersteller | OpenAI |
|---|---|
| Modellfamilie | GPT |
| Modell-/API-ID | omni-moderation-latest |
| Status | Aktuell im Herstellerkatalog |
| Modellart | Moderation |
|---|---|
| Eingabe | Text, Bild |
| Ausgabe | Klassifikation |
| Kontext | Nicht bestätigt |
|---|---|
| Maximaler Output / Horizont | Nicht bestätigt |
| Bereitstellung | Gehostete API |
|---|---|
| Gewichte | Gehosteter oder integrierter Zugang |
| Lizenz | Anbieterbedingungen |
Daten im Überblick
Die Grafik zeigt die ausgewiesenen Eingabe- und Ausgabearten. Sie beschreibt einen Arbeitsweg und enthält keine erfundenen Messwerte oder Leistungswerte.
- Eingabe
- Text, Bild
- Ausgabe
- Klassifikation
Datenbasis: Herstellerangaben im Quellenstand 2026-10-13. Quellen zu diesem Profil ↓
Einsatz und Grenzen
omni-moderation ist ein Moderation-Modell von OpenAI. Eingabe: Text, Bild. Ausgabe: Klassifikation.
Definiere eine nachvollziehbare Richtlinie und freigegebene Testfälle. Ein Moderationsmodell ersetzt keine abschließende Beurteilung für sensible Entscheidungen. Eine interne KI-Richtlinie hält Zuständigkeit, Prüfweg und den Umgang mit unklaren Ergebnissen fest.
Prüfe vor einem API-Aufruf, ob dein Konto Zugriff hat und welchen Endpunkt, Tarif und welche Region du verwenden musst. Notiere die genaue Modellversion. Ein Kurzname in der API kann später auf einen anderen Modellstand verweisen.
Leistung: Wir haben die Leistung dieses Modells hier nicht selbst gemessen. Nutze die Aufgabe unten, um es an deinen Anforderungen zu prüfen.
Was kostet omni-moderation?
Die Preisangabe gilt für die im Profil genannte Einheit. Text-, Bild-, Audio-, Sitzungs- und Werkzeugtarife sind nicht untereinander austauschbar; den konkreten Endpunkt prüfen.
Zugang: Gehostete API. Prüfe vor einer Integration die für dein Konto und deine Region verfügbaren Endpunkte. Ein Eintrag im öffentlichen Katalog ist keine Bestätigung eines freigeschalteten Kontos.
Praxis: Moderationssignale richtig verarbeiten
Praxisergänzung geprüft am 21. Oktober 2026 · eigene Aufgabe, kein Modellbenchmark
Moderation liefert Hinweise zu Inhalten, keine fertige Entscheidung über ein Konto oder eine Person. Für die Integration ist deshalb besonders wichtig, wie deine Anwendung Fehler und unvollständige Antworten behandelt. Die folgende vollständig fiktive Übung beschreibt eine konservative Prüfregel: Unklare Fälle gehen zur Sichtung; es wird weder automatisch gelöscht noch ein Konto gesperrt.
Vorbereitung
Die dokumentierte Schnittstelle für omni-moderation-latest liefert unter anderem flagged, categories und category_scores. Diese Felder erfüllen unterschiedliche Aufgaben. Ein Score ist keine allgemeine Prozentangabe für die Sicherheit eines Inhalts. Prüfe deine tatsächliche Richtlinie und geeignete freigegebene Testfälle, statt aus einem einzelnen Modellwert eine folgenreiche automatische Aktion abzuleiten.
Lege zuerst die Beispielregel fest. Die folgenden Flags sind erfundene Schnittstellenfälle, keine gemessenen Ergebnisse des Modells.
Ordne jeden Fall zu und behandle den technischen Fehler ausdrücklich gesondert.
Prüfe bei einer späteren Integration die echten Antwortfelder; eine fehlgeschlagene Moderation ist kein unauffälliger Inhalt.
Aufgabe zum Kopieren
Die Angaben sind fiktiv. Speichere den geforderten JSON-Teil der Antwort separat als antwort.json; zusätzliche Erklärungen gehören in eine andere Datei.
Fiktive Schnittstellenfälle, keine Modellantworten:
M1: status=ok, flagged=false
M2: status=ok, flagged=true
M3: status=error, flagged nicht vorhanden
Beispielregel: Nur status=ok und flagged=false ergibt weiter. Alle anderen Fälle ergeben sichten. Keine automatische Löschung, kein automatisches Sperren.
Übertrage die Regel in JSON: {"wege": [{"id": "M1", "aktion": ...}, ...]}. Reihenfolge M1, M2, M3. Nutze exakt weiter oder sichten.Vorlage herunterladenLokalen JSON-Prüfer herunterladen
Lösung und Prüfkriterien ansehen
- M3 geht zur Sichtung; aus fehlenden Daten wird kein false.
- M2 wird als prüfbedürftig behandelt, ohne eine Sanktion auszulösen.
- Die Regel ist ein erklärendes Beispiel und keine vollständige Moderationsrichtlinie für ein Produkt.
{
"wege": [
{
"id": "M1",
"aktion": "weiter"
},
{
"id": "M2",
"aktion": "sichten"
},
{
"id": "M3",
"aktion": "sichten"
}
]
}Das Soll ist redaktionell aus der Vorlage abgeleitet, keine aufgezeichnete Modellantwort. Der lokale Prüfer vergleicht die festgelegten Felder und führt keinen generierten Code oder API-Aufruf aus. Er bewertet keine freien Begründungen.
Speichere Prüfer und deine Antwort im selben Ordner. Mit installiertem Python: python pruefen.py antwort.json.
| Beobachtung | Was du prüfst |
|---|---|
| Ein Fehler wird wie flagged=false gelesen | Technischer Erfolg und Klassifikation müssen getrennt geprüft werden. |
| Ein Score wird als absolute Wahrheit dargestellt | Scores unterstützen eine geprüfte Richtlinie, ersetzen sie aber nicht. |
| Ein Flag löst unmittelbar eine Sperre aus | Das Beispiel sieht eine Sichtung und keine automatische Sanktion vor. |
Passende Anleitungen
Für den Übergang von einem Signal zu einer Handlung kannst du menschliche Freigaben im Workflow vorsehen und unklare Fälle bewusst aussteuern.
Bei einer Anwendung mit Werkzeugen solltest du zusätzlich Prompt Injection und Berechtigungsgrenzen verstehen; Inhaltsklassifikation ersetzt keine Zugriffskontrolle.
Gezielte Praxisergänzung auf Basis aktueller Herstellerunterlagen. Der Datenstand der bisherigen Modell-Faktentabellen bleibt separat ausgewiesen. Neue Beispiele und Grafiken sind eigene Erklärungen; es wurden keine Modellantworten oder Leistungswerte gemessen.
Herstellerunterlagen zur Ergänzung: omni-moderation Model | OpenAI API (Abruf 2026-10-21) · Moderation | OpenAI API (Abruf 2026-10-21).
Quellen und Prüfstand
Quellenstand: 2026-10-13. Spezifikationen, Tarife und Zugang können sich ändern. Die Illustration zeigt den dokumentierten Datenweg, keine gemessene Leistung.
Häufige Fragen
Was ist omni-moderation?
omni-moderation ist ein Moderation-Modell von OpenAI. Eingabe: Text, Bild. Ausgabe: Klassifikation. Hersteller: OpenAI. Dokumentierte ID: omni-moderation-latest.
Was verarbeitet omni-moderation?
Eingabe: Text, Bild. Ausgabe: Klassifikation. Maßgeblich sind die Funktionen des konkreten Endpunkts in der Herstellerquelle.
Kannst du omni-moderation lokal betreiben?
Der dokumentierte Zugang lautet: Gehostete API. Öffentlich verfügbare offene Gewichte werden damit nicht bestätigt. Ein integriertes On-Device-Modell kann besondere Hardware und Plattformvorgaben haben.
Was kostet omni-moderation?
Kostenlos laut Anbieter. Die Preisangabe gilt für die im Profil genannte Einheit. Text-, Bild-, Audio-, Sitzungs- und Werkzeugtarife sind nicht untereinander austauschbar; den konkreten Endpunkt prüfen. Bei selbst betriebenen Gewichten kommen Hardware- und Betriebskosten hinzu.
Ist das ein Leistungstest oder eine Rangliste?
Nein. Das Profil dokumentiert Herstellerangaben mit Quellenstand 2026-10-13. Die Testidee ist redaktionell formuliert und wurde hier nicht ausgeführt; sie ist keine Qualitätsgarantie.
Ist für omni-moderation ein Token-Kontextlimit bestätigt?
In diesem Profil ist kein allgemeines Token-Kontextlimit bestätigt. Maßgeblich sind die für diese Modellart dokumentierten Eingabegrenzen beim Hersteller. Aus einem fehlenden Wert folgt keine unbegrenzte Eingabe.
Wie prüfst du omni-moderation für deine Aufgabe?
Lege eine kleine Aufgabe mit bekanntem oder nachprüfbarem Ergebnis fest. Notiere Version, Eingabe und Einstellungen. Vergleiche die Ausgabe mit deinem Prüfkriterium und halte Fehler sowie tatsächliche Kosten getrennt fest. Die Testidee auf dieser Seite ist ein Vorschlag und wurde hier nicht als Modelltest ausgeführt.
Sind M1 bis M3 echte Moderationsergebnisse?
Nein. Die Fälle sind eigens entworfene Schnittstellenbeispiele. Es wurde kein Inhalt an die Moderation-API geschickt.
Was mache ich bei einem Fehler ohne flagged-Feld?
In dieser Beispielregel geht der Fall zur Sichtung. Ein fehlendes Ergebnis darf nicht stillschweigend als unauffälliger Inhalt behandelt werden.
Ist ein Moderationsscore eine Wahrscheinlichkeit für eine sichere Entscheidung?
Er ist ein Klassifikationssignal im dokumentierten Modellablauf. Daraus folgt keine universell gültige Sicherheit oder automatische Berechtigung für eine Sanktion.