グーグルAI半導体、「推論」重視へ転換　垂直統合モデルで挑む次世代インフラの可能性用途別設計で効率を向上、物理的制約に適応する最新アーキテクチャーの狙い

2026年4月下旬、米グーグルが発表した第8世代の独自AI半導体「TPU（テンソル・プロセッシング・ユニット）」は、AIインフラの主戦場が「推論」へと決定的に移ったことを物語る、象徴的な一手となった。

学習用の「TPU 8t」と推論用の「TPU 8i」への分離は、単なる性能向上にとどまらず、自律的に業務を遂行する「AIエージェント」の普及を見据えた戦略的な布石といえる。

発表から約1カ月が経過し、この用途別設計を通じた全体最適の追求は、次世代インフラの重要な指針として認識されつつある。

爆発する「推論」需要への処方箋

背景には、AIの利用実態の劇的な変化がある。

米ウォール・ストリート・ジャーナル（WSJ）によれば、自ら思考し多段階のタスクをこなす「AIエージェント」に対する1回の指示（クエリー）は、従来の対話型AIと比較して20倍から50倍もの推論処理を発生させる。