OpenAI Moderation APIの使い方|無料の判定と結果の読み方

OpenAI Moderation APIの使い方|無料の判定と結果の読み方
📅 公開日: 2026年11月17日🔄 最終更新: 2026年11月18日

OpenAI Moderation APIは、テキストと画像が有害かどうかを判定するエンドポイントです(OpenAI公式 Moderationガイド、2026年11月16日確認)。

公式ガイドには、モデレーションのエンドポイントは無料で使えると書かれています(OpenAI公式 Moderationガイド)。

この記事では、公式ガイドに書かれている範囲だけで、使えるモデル、2つの使い方、結果の読み方、カテゴリ一覧、使う前の注意点を整理します。

目次

OpenAI Moderation APIとは|有害な内容を見つけて振り分ける仕組み

LINEでインスタ大学の受取案内を見る

LINEでインスタ大学の受取案内を見る

インスタ大学の受取案内をLINEで確認できます。

LINEでインスタ大学の受取案内を見る

Moderation APIの仕組みの図。外から届く入力をAPIで判定し、結果をフィルタや確認の振り分け、アカウントへの対応に使う。
Moderation APIの仕組み4段階

OpenAI Moderation APIは、テキストや画像に有害な内容が含まれていないかをモデルで判定し、結果をフィルタや確認作業に使うための仕組みです(OpenAI公式 Moderationガイド)。

公式ガイドでは、判定した結果を、内容のフィルタ、確認が必要な項目の振り分け、有害な内容を送ってくるアカウントへの対応に使えると説明されています(OpenAI公式 Moderationガイド)。

ChatGPTの画面で使う機能ではなく、自分のアプリやシステムにAPIとして組み込んで使う機能です。

お問い合わせフォームの入力欄や、サイトのコメント欄のように、外から文章や画像が入ってくる場所の最初の確認に使う、という考え方がしやすい機能です。

使えるモデルと条件|omni-moderation-latestは無料・画像20MBまで

公式ガイドに載っているモデルは omni-moderation-latest で、テキストと画像を受け付けますが、音声は判定しません。

モデル名、料金、画像サイズの条件を、公式ガイドの記載に沿って表にまとめます(OpenAI公式 Moderationガイド)。

項目公式の記載
モデルomni-moderation-latest
判定できる入力テキストと画像(音声は判定しない)
料金モデレーションのエンドポイントは無料
画像ファイルの大きさ20MBまで

料金については、公式ガイドに「The moderation endpoint is free to use」と書かれています(OpenAI公式 Moderationガイド)。

無料と書かれているのはモデレーションのエンドポイントです。

同じ画面のResponses APIやChat Completionsで文章を作る部分の料金は、別に確認が必要です。

2つの使い方|生成と同時に判定するか、単独の入力を判定するか

Moderation APIの使い方は、AIが作った文章を生成と同時に判定する方法と、手元の文章や画像を単独で判定する方法の2つです。

公式ガイドの2つの使い方を、向いている場面と一緒に表で比べます(OpenAI公式 Moderationガイド)。

使い方公式の記載向いている場面
生成物を判定するResponses APIまたはChat Completionsのリクエストに、modelを持つ moderation オブジェクトを足す。結果に入力と出力の判定が含まれ、別の呼び出しは要らないAIが返した文章を、そのまま画面に出す前に確認したいとき
単独の入力を判定するモデレーションのエンドポイントに、テキスト、またはテキストと画像のURL(Base64のデータURLを含む)を送るフォームの入力やコメントなど、AIが作っていない内容を確認したいとき

表の「向いている場面」は、公式の2つの使い方の記載から、使い分けの目安としてまとめた部分です。

公式がこの表のとおりに使い分けを定めているわけではありません。

生成と同時に判定する|Responses APIの結果の読み方

生成と同時に判定するときは、リクエストの一番上の階層に moderation オブジェクトを足し、その中に model を書きます(OpenAI公式 Moderationガイド)。

Responses APIの結果には、入力と出力それぞれの moderation_result というオブジェクトが入ります(OpenAI公式 Moderationガイド)。

公式ガイドには、判定の処理そのものが失敗することがあるため、スコアを読む前にエラーの種類があるかを先に確認するよう書かれています(OpenAI公式 Moderationガイド)。

生成と同時に判定するときの注意点は、公式ガイドに次のように並んでいます(OpenAI公式 Moderationガイド)。

  • AIが断った返答(拒否)でも、有害な内容を話題にしていればフラグが付くことがある
  • ツール呼び出しの引数とツールの出力は判定の対象で、ツール名・説明・スキーマは対象外
  • ストリーミングでは、出力がすべて生成されたあとにスコアが届く

ストリーミングで文章を少しずつ画面に出している場合、スコアが届く前に文章が表示される点には注意が必要です。

結果の4つの項目|flagged・categories・category_scores・applied_input_types

判定結果には、flagged、categories、category_scores、category_applied_input_types の4つの項目が入っています。

それぞれの意味を、公式ガイドの記載に沿って表にまとめます(OpenAI公式 Moderationガイド)。

項目公式の記載
flagged最初の判断(first-pass decision)
categoriesカテゴリごとの違反の有無(true / false)
category_scoresカテゴリごとの確信度で、0から1の値
category_applied_input_types各スコアがテキスト・画像のどちらの入力に当てはまるか

flaggedは「最初の判断」と書かれているため、これだけで公開や削除を決める作りにしないほうが安全です。

公式ガイドも、スコアは自分のアプリの方針に使う信号であり、自動でブロックするための判断ではないと明記しています(OpenAI公式 Moderationガイド)。

13のカテゴリ一覧|テキストだけのものと画像にも使えるもの

モデレーションのカテゴリは13個あり、画像にも使えるのは self-harm 系の3つ、sexual、violence、violence/graphic の6つです。

カテゴリごとの内容と対象の入力を、公式ガイドの記載から表にします(OpenAI公式 Moderationガイド)。

カテゴリ内容対象の入力
harassment相手を問わない、嫌がらせの言葉テキスト
harassment/threatening暴力や重い危害を含む嫌がらせテキスト
hate保護される属性にもとづく憎悪(保護対象でない集団への憎悪は harassment として扱う)テキスト
hate/threateningその集団への暴力や重い危害を含む憎悪テキスト
illicit違法行為の助言や手順テキスト
illicit/violent暴力や武器も関わる違法な内容テキスト
self-harm摂食障害を含む、自傷の助長や描写テキストと画像
self-harm/intent話し手が自傷の意図を示す内容テキストと画像
self-harm/instructions自傷の勧めや方法の説明テキストと画像
sexual性的興奮を狙う内容、または性的サービスの宣伝テキストと画像
sexual/minors18歳未満が関わる性的な内容テキスト
violence死、暴力、身体のけがテキストと画像
violence/graphic死、暴力、けがを詳しく描いた内容テキストと画像

画像だけを送り、テキストを付けなかった場合、テキスト専用のカテゴリのスコアは0になると公式ガイドに書かれています(OpenAI公式 Moderationガイド)。

スコアが0でも「そのカテゴリを調べて問題がなかった」のではなく、「画像だけなので判定の対象外だった」可能性があります。

実践用の「ChatGPT・Gemini・Claude 仕事別の使い分け実践キット」を無料で配布しています。LINE で「AIの使い分け」と送ると届きます。LINEで受け取る

手元で判定を試す手順|仮の例で確かめる流れ

判定を試す5つの手順の図。入力を用意し、テキストを送って結果を見て、画像つきを送り、スコアの目安を決める。
判定を試す手順5つ

判定を自分のアプリに入れる前に、短い文章を数件送って、flaggedとスコアの出方を確かめる手順が安全です。

次の手順は、公式ガイドの記載をもとにした、仮の例です。

  1. 確認したい入力を、テキストだけのものと、画像つきのものに分けて数件ずつ用意する。
  2. テキストだけの入力を、モデレーションのエンドポイントに送る。
  3. 返ってきた結果で、flaggedと、スコアが高いカテゴリを見る。
  4. 画像つきの入力を送り、category_applied_input_typesで、各スコアがテキストと画像のどちらに当てはまっているかを見る。
  5. 自分のアプリで「確認に回す」「そのまま通す」を分けるスコアの目安を、結果を見ながら決める。

仮の例として、お問い合わせフォームに届いた文章の一覧で、flaggedになったものだけを担当者の確認に回す運用が考えられます。

どのスコアから確認に回すかは、公式に決められた値がないため、自分の運用で決める必要があります。

使う前の注意点|スコアは信号であり、モデルは更新される

スコアはアプリの方針に使う信号で、自動ブロックの根拠にしないこと、モデルが更新されること、CSAMを送らないことが、公式ガイドの3つの注意点です。

公式ガイドの注意点を整理します(OpenAI公式 Moderationガイド)。

  • スコアは、自分のアプリの方針に使う信号として扱い、自動でブロックする判断にはしない
  • モデレーションのエンドポイントの元のモデルは、継続的に更新される予定で、スコアをもとにした独自の方針は、定期的に調整し直す必要が出ることがある
  • 児童性的虐待の素材(CSAM)の疑いがあるものは、Moderation APIに送らない

CSAMについては、公式ガイドが別の案内を用意しているため、該当しうる内容を扱うシステムでは、そちらを先に読んでください。

モデルが更新されると、同じ文章でもスコアが変わる可能性があるため、確認に回す目安は、決めたあとも見直す前提にしておくと安全です。

公式で確認できなかったこと

公式ガイドの範囲で確認できなかった項目は、断定せず、公式のAPIリファレンスや自分の環境で確かめる前提で扱います。

確認日の2026年11月16日時点で、次の項目は参照した公式ガイドの本文から読み取れませんでした(OpenAI公式 Moderationガイド)。

  • 日本語の文章に対する判定の精度や、対応言語の範囲
  • リクエスト回数の上限(レート制限)の具体的な数字
  • 確認に回す目安となるスコアの推奨値

該当する項目は、自分のデータで数件ずつ試し、結果を見て運用を決めてください。

関連する記事|OpenAI APIを使うときに読みたい公式ガイド整理

Moderation APIと同じく、OpenAI APIの機能を公式ガイドの範囲で整理した記事を、目的別に挙げます。

よくある質問

Q1. OpenAI Moderation APIは無料で使えますか。
公式ガイドには、モデレーションのエンドポイントは無料で使えると書かれています。画像ファイルは20MBまでです(OpenAI公式 Moderationガイド)。
Q2. 画像や音声も判定できますか。
omni-moderation-latestは、テキストと画像を受け付けます。音声は判定しません(OpenAI公式 Moderationガイド)。
Q3. flaggedがtrueなら、すぐにブロックしてよいですか。
公式ガイドは、スコアを自動ブロックの判断にせず、自分のアプリの方針に使う信号として扱うよう案内しています(OpenAI公式 Moderationガイド)。
Q4. AIが作った文章の判定は、別の呼び出しが必要ですか。
必要ありません。Responses APIまたはChat Completionsのリクエストに moderation オブジェクトを足すと、入力と出力の判定が結果に入ります(OpenAI公式 Moderationガイド)。
Q5. 画像だけを送ると、スコアはどうなりますか。
テキスト専用のカテゴリのスコアは0になります(OpenAI公式 Moderationガイド)。

読み終わったら、手元に残す

ChatGPT・Gemini・Claude 仕事別の使い分け実践キット

中身

  • ChatGPT・Gemini・Claude を仕事別に選ぶ表
  • 目的→機能→入力の許可→比較の順番
  • 有料プランを考える前の確認

LINE を友だち追加して「AIの使い分け」と送ると、無料で届きます。

LINEで「AIの使い分け」を受け取る

まとめ

OpenAI Moderation APIは、omni-moderation-latestでテキストと画像の有害な内容を判定する、無料のエンドポイントです。

生成と同時に判定する方法と、単独の入力を判定する方法があり、スコアは自動ブロックではなく自分のアプリの方針に使う信号として扱います。

まずは、短い文章と画像を数件送って、flaggedとスコアの出方を確かめるところから始めてください。

このサイトは株式会社S.Lineが運営しています。記事内の店舗予約・LINE登録・講座の案内には、当社または当社が集客を担当するサービスの広告(PR)が含まれます。
本記事は公式情報・専門メディアを参考に執筆しています。最新の正確な情報は引用元の公式ページをご確認ください。
よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

株式会社S.Line 代表取締役。偏差値39から起業し、AIとSNSの活用で「普通の人」が成果を出す方法を発信。

目次