TPU(Tensor Processing Unit)は、GoogleがAIの計算のために自社で設計した半導体です。ニューラルネットワークで大量に発生する行列演算を、速く、少ない電力で処理することに的を絞って作られています。
なお、3Dプリンタのフィラメントやスマホケースで見かける「TPU」は熱可塑性ポリウレタンという樹脂の略で、この記事で扱う半導体とは別物です。
TPUとは:GPUとの違い
GPUはもともと画像処理用のチップで、AI以外の計算にも幅広く使えます。一方のTPUは、AIの学習(モデルを作る処理)と推論(できたモデルで答えを出す処理)に用途を絞った専用チップです。用途を狭くする代わりに、得意な計算では電力あたりの処理量を上げやすくする、という設計になっています。
Googleは自社のサービスにTPUを使い、外部の企業や開発者にはクラウドサービスとして貸し出しています。利用者が手に入れる経路は、主にGoogle Cloud経由です。
使い方:エンジニアは何から始めるか
Google Cloudの「Cloud TPU」で、TPUを割り当てた仮想マシンやKubernetes環境(GKE)を用意し、その上で学習や推論のプログラムを動かします。対応する主なフレームワークはJAX、TensorFlow、PyTorch(PyTorch/XLA経由)です。XLAというコンパイラが、書いたコードをTPU向けの命令に変換します。まず手軽に試すなら、Google ColabでTPUランタイムを選ぶ方法があります。
注意点として、NVIDIAのCUDAに依存して書いたGPU向けのコードは、そのままではTPUで動きません。既存資産がある場合は、移行の手間を先に見積もる必要があります。
料金:いくらかかるのか
Cloud TPUは、使った時間に応じて払う従量課金が基本です。単価はTPUの世代、チップの数、リージョン、長期利用の契約の有無によって変わります。価格は改定されるため、この記事では具体的な金額を載せていません。最新の金額はGoogle Cloudの公式料金ページで確認してください。
企画・DX担当者が知っておきたいのは、生成AIをAPI経由で使うだけならTPUを直接契約する必要はない点です。TPUを検討する場面は、自社でモデルを学習させる場合や、推論を大規模に回す場合に限られます。比較するときは、GPUインスタンスとの単価の差だけでなく、コードの移行にかかる工数も含めて判断するのが現実的です。
誰が作っていて、競合は何か
設計しているのはGoogleです。AI向け半導体で最大の競合はNVIDIAのGPUで、学習・推論の両方で広く使われています。AWSやMicrosoftといったほかのクラウド大手も自社製のAIチップを開発しています。TPUは、クラウド事業者が自前のチップでNVIDIAへの依存を減らそうとする流れの中にある製品です。
最新動向:宇宙でTPUを動かす実験
Googleは、宇宙空間にAIの計算基盤を築く研究プロジェクト「Project Suncatcher」を進めています。10月1日には、SpaceXの相乗りミッション「Transporter-18」で、TPUを載せた試験衛星を打ち上げる予定です。衛星画像企業Planetとの共同実験で、打ち上げ時の振動、宇宙放射線、真空中での冷却に実機が耐えられるか、宇宙で限られたAI処理を実行できるかを確かめます。
2027年には、さらに2機の衛星を打ち上げ、レーザーによる衛星間通信も試す計画です。これは宇宙データセンター構想の最初の段階にあたります。実用化の時期は、当サイトが確認できた情報には含まれていません。


