インフラ

推論コストとは?

かんたんに言うと

AIを動かすたびにかかる費用のことです。AIサービスの採算を左右する最も重要な数字です。

もう一歩くわしく

通常は「入力100万トークンあたり何ドル」「出力100万トークンあたり何ドル」という形で示され、出力の方が数倍高いのが一般的です。技術の進歩と競争によって同性能あたりの単価は急速に下がり続けており、これがAIを組み込んだサービスが次々に成立するようになった背景です。

関連する用語
この用語が出てきたニュース

← 用語集の一覧にもどる