生成AIの企業導入が進むなか、急増する「トークン」の利用コストを抑制する動きが本格化している。
6月下旬、米調査会社ガートナーによる予測の公表や、米ウォール・ストリート・ジャーナル(WSJ)などの報道が相次いだ。
これらは、自律的に業務を遂行する「AIエージェント」の台頭に伴うコスト急増の現実を浮き彫りにした。企業はクラウド時代に培ったコスト最適化手法や、モデルの自動振り分けを導入し始めている。
手当たり次第に最先端モデルを導入する段階から、費用対効果を厳格に管理する局面への移行が鮮明となった。
従量課金移行とエージェント台頭で予算枯渇
背景にあるのは、定額制(アカウント課金)から従量課金制への移行と、AIエージェントの処理量増大である。

本記事は、日本ビジネスプレス社のサイト「JBpress(日本ビジネスプレス)」向けに弊社が執筆した記事「「AI利用料が人件費超え」の危機に直面、企業はコスト管理とモデル自動振り分けへ急旋回 従量課金への移行で予算枯渇を警戒 安価な中国製シフトやエージェント制御を本格化」の一部です。全文は、JBpress(日本ビジネスプレス)のサイトにてお読みください。
