AI APIの料金が下がったのに運用費はなぜ増えたのか

請求書から業務の完了までをつなぐ

配送の問い合わせを解決する場合、モデルの応答生成は途中の工程です。注文と配送状態が一致するか、未確認の日付を約束していないか、回答が届いたか、期限内に終えたかを確認します。一件の問い合わせで呼び出しが数回生じることもあります。

業務と財務の担当者は、対象・試行・成功・引き継ぎを定義します。対象は期間内に定めた条件で受け付ける業務です。試行は自動処理を一度でも始めた固有の件数です。成功は完了条件を満たした業務です。引き継ぎ後には成功も失敗もあり得ます。試行数と引き継ぎ数には重複があるため、経路と最終結果を別に記録します。Google PAIRの利用者の要望と成功定義^[1]

業務全体の成果には、担当者が期限内に終えた仕事を含められます。自動化を評価する際は、人の承認、確認、実行を挟まず完了した件数も別に数えます。名称と分母を明記し、同じ期間と引き継ぎ記録を使います。Anthropicのエージェント評価ガイド^[2]は、実行記録と実際に確認した結果を分けています。

分母に含める条件をそろえる

比較前に条件を記録し、難しさの違いが構成の成果に見える事態を減らします。除外項目は別に集計します。

一定期間内に同じ問題の連絡が来た場合、元の案件を再開する方式もあります。報告締め日に結果が出ていない案件と、期限に間に合わなかった案件を区別します。新システムで作業し旧システムで成功を記録した場合は、業務IDでつないで一件とします。失敗や不明に時刻を添え、次回の報告で件数が動いた理由を残します。

呼び出し・案件・運用期間ごとに費用を記録する

モデル費用には初回、代替モデル、再試行、失敗後の再生成を含めます。検索、外部ツール、保存の費用は業務IDにつなぎます。ログの長期保管、評価データ管理、セキュリティ確認、待機費用などは期間費用とし、配賦の根拠を記録します。FinOps Foundationは技術費用を成果の単位と結び付け、収益を直接帰属できないときは処理量、リスク低減、サービス水準などを指標として使えると説明しています。FinOps FoundationのUnit Economics^[3]

承認、担当者の引き継ぎ、訂正、障害調査の時間に同じ人件費基準を適用します。案件の事後確認と共通運用で同じ作業を二重に計上しないようにします。毎期必要な評価費を運用に含め、立ち上げの一時費用は別の行に置きます。試行段階では運用費と移行費も含めた総費用を併記できます。IXCのクラウド移行TCO

成功したものだけの費用を足すと、失敗が多い構成が安く見えます。費用には失敗、引き継ぎ、再試行も含め、分母を成功に絞ります。固定費の配賦は対象件数や実測した保存・計算資源など運用に合う根拠で決め、基準を変えたときは記録します。IXCのクラウド単位原価の設計

架空の二構成を計算する

両構成に月1,000件の類似した難しさの問い合わせが入り、正確な根拠で期限内に完了した仕事を成功とします。引き継ぎ後の完了も含めます。どちらも成功と未完了があり、価格と件数は計算用の仮定です。

Aの900件は自動600件と人による300件、Bの960件は自動820件と人による140件です。人の経路には、自動処理からの引き継ぎと直接受け付けた50件を含めます。試行数と人の経路を足しても、固有の問い合わせ数にはなりません。この例では自動完了以外はすべて人の経路に進んだと仮定します。

時間は一時間当たり30,000ウォンの内部基準で換算します。Aは14時間、Bは6時間40分、各費用の合計は568,000ウォンと378,000ウォンです。それぞれ900件、960件で割ると631.11ウォンと393.75ウォンです。試行一件の初回呼び出し費と期限内の成功一件の費用は別の指標です。

どの変数で結論が変わるか

Bが960件成功し、人の時間以外の費用178,000ウォンが変わらないと仮定します。Aと成功一件当たりが等しくなる人の費用は約427,867ウォンです。568,000ウォンを900で割り、960を掛けて178,000ウォンを引きます。一時間30,000ウォンでは約14.26時間です。確認時間を変えて成功件数も変われば、分母を計算し直します。

業務が減っても固定費配賦が同じかを確認します。月ごとのレビュー時間が同じなら、件数が少ないほど一件の負担は増えます。繁忙期には総量増加と単価上昇を区別します。請求期間をそろえ、使用量と契約単価の変化を記録します。

安価なモデルで十分な範囲

別の架空試験では単純な分類200件のうち196件が両構成で期限内に終わり、誤分類と人の確認時間が同じ条件を満たします。共通運用費60,000ウォンと、それぞれ12,000ウォン・22,000ウォンのモデル費を仮定すると、成功一件当たりは約367ウォンと418ウォンです。この分類では安価な構成が条件を満たします。長い例外相談や特別承認は別の試験対象です。

平均を解釈する前に、品質とリスクが同程度かを確認します。権限を超えた情報を返した場合、安価で完了件数が多くても公開条件を満たさないことがあります。証拠不足や自動と人の判定が異なる案件も別に記録します。同等のサービスとして計算する前に評価条件と標本をそろえます。

時間の削減と支出の削減を別に報告する

給与が変わらず、14時間から6時間40分になれば、7時間20分をほかの作業に使えます。換算額は人の余力を示します。支出の削減を確定するには、委託時間や外部確認の請求が減った証拠が必要です。年末だけ需要が減る場合には、その期間と契約条件を報告します。

構成の比較表を意思決定に使う前に、次をそろえます。

1. 期間、対象、除外理由、完了、引き継ぎ、再開条件を記録します。
2. 業務IDで呼び出し、再試行、最終結果を結びます。
3. 直接請求、配賦、時間換算を分け、各担当を示します。
4. 成功一件の費用と、成功率、判定不能、重大な失敗、人の時間を確認します。
5. 件数、やり直し、時間単価を変え、結論が動く条件を記録します。