完了した業務1件あたりのAIコストを測る方法

dagloチーム · 2026年11月4日

完了した業務1件あたりのAIコストを測る方法

AI機能を作るとき、最も安いモデルを選び、トークン単価の表だけで費用を比較していませんか?単価が低くても、同じ作業を何度もやり直せば、実際の費用はかえって増えることがあります。

dagloチームは、2026年10月27日のOpenAI Builder Bootcamp Seoulで、本番運用における費用の最適化について話を聞きました。ここでは、その考え方を紹介します。

AIの費用を、成功した業務1件あたりで測る

机の上でノートパソコンの横に置かれた電卓

業務1件を完了するまでにかかった費用には、試行や再試行も含まれます。発表では、総費用を成功した作業の件数で割ると、実際の負担が見えると説明していました。

構成1回あたりの費用成功までの平均試行回数成功1件あたりの費用
小さいモデル、推論設定は高め34回12
大きいモデル、推論設定は低め101回10

評価基準を決めてから、性能の高いモデルで試す

手帳の作業リストにチェックを入れる手元

最適化の最初の作業は、成功と失敗の条件を明記した評価データを作ることです。基準があれば、モデルを変えたときに品質が下がったかを判断できます。

成功と失敗の事例を用意したら、次の順で比較します。

  1. まず性能の高いモデルで作る:必要な品質が実際に出るかを確認します。
  2. 軽量なモデルでも試す:同じ評価データを使い、品質と費用を比較します。
  3. リクエストの種類で使い分ける:簡単な質問は小さいモデルに、複雑な調査は大きいモデルに振り分ける方法もあります。

出力形式を固定し、やり直しにかかる費用を抑える

AIの出力を次の処理に渡す場合は、出力形式をそろえます。形式が合わないと次の処理が止まり、再試行が必要になります。

金額を数値として受け取る処理に「約30,000」と文字列で返すと、次のプログラムが処理できないことがあります。Structured Outputsを使うと、対応するモデルで、指定した出力構造に沿った応答を生成できます。内容の正確さは別に確認します。

応答時間を工程ごとに測る

黒い背景に置かれたストップウォッチ

「AIが遅い」だけでは、どこを改善すればよいか分かりません。発表では、出力が始まるまでの時間と処理が完了するまでの時間を分け、モデルの処理時間とツールの実行時間も別々に記録すると説明していました。

  • 最初の出力までの時間(TTFT):利用者が返答を待つ時間です。
  • 完了までの時間:業務の処理が実際に終わるまでの時間です。
  • 分布:十分な期間にわたって測り、中央値(P50)と遅い側の目安(P99)を確認します。

急がない作業はまとめて処理する

データ表を表示したノートパソコンを操作する手元

即時の応答が不要な仕事は、まとめて処理できる方式を使うと、同じモデルでも費用を抑えられます。

方式特徴向いている作業
標準処理標準の速度と料金一般的な対話型サービス
高速処理(Fast)応答が速く、料金は高い応答速度が重要な顧客対応
Batch大量のリクエストをまとめて送信し、24時間以内に処理。公式資料では50%割引商品説明の補足、たまった資料の一括分類
Flex公式料金表ではBatchと同程度の料金。遅延や一時的なエラーが起こる場合がある完了を待てる社内業務

Batchは、即時の応答が不要な作業に向いています。やり取りが長くなる場合はコンパクション、共通の入力を繰り返す場合はプロンプトキャッシュも検討できます。

繰り返し使う指示は保存しておく

dagloのマイテンプレートに要約の指示を保存すると、録音が終わるたびに同じ形式で要約されます。ボードチャットで質問し、文字起こしと照らし合わせることもできます。

#AIコスト削減 #StructuredOutputs #BatchAPI #AI最適化 #OpenAI #議事録 #daglo

会議の文字起こしを無料で始める

← ブログに戻る

会話を、次の仕事へ

今すぐ無料で始めてみてください