オンデバイスAIとは、スマートフォンやPCなどの端末の中でAIモデルを動かす仕組みです。入力をクラウドのサーバーに送らずに端末の中で処理するため、通信がなくても動き、データが端末の外に出ません。
オンデバイスAIとは：クラウドAIとの違い
ChatGPTのような一般的な生成AIは、入力をインターネット経由でデータセンターに送り、そこで計算した結果を受け取ります。オンデバイスAIでは、この計算を端末のプロセッサーとメモリが担います。
構造から、次のような特徴があります。
- 通信の待ち時間がない。機内モードでも動く - 入力内容が外部サーバーに送られない - 端末の計算能力・メモリ・発熱が性能の上限になる
3点目がオンデバイスAIに特有の課題です。当サイトが報じた「iPhone 18 Pro」（2026年9月18日発売）の分解記事では、AI処理を含む高負荷時にも性能を保てるよう、プロセッサー「A20 Pro」の熱を効率よく逃がす設計に内部が変わっていたと報告されています。端末でAIを動かすには、チップの設計だけでなく冷却の設計まで変える必要があるということです。
使い方：iPhoneで試す例
エンジニアでなくても試せる例がiPhoneです。iPhoneには、Apple製のモデル「Apple Foundation Models」が最初から入っています。AI実行アプリ「Locally AI」にこのモデルとチャットする機能が追加され、アプリから直接使えるようになりました。
GIGAZINEがiPhone 18 Proで試したところ、機内モードでも待ち時間ほぼゼロで明瞭な日本語の回答が返り、画像認識も使えました。モデルは端末に最初から入っているため、別途ダウンロードする必要はありません。
事業会社の企画担当の方向けの推測を書いておくと、「通信できない現場で使う」「社外に出せない情報を扱う」といった用途は、この特徴と相性がよいと考えられます。ただし、実際に業務で使えるかどうかは、モデルの精度や対応OSを個別に確認する必要があります。
料金：いくらかかるのか
上のiPhoneの例では、Locally AIは無料アプリで、モデルは端末に標準で入っています。そのため、試すだけなら追加費用はかかりません。クラウドAIのAPIのように、使った量に応じて課金される仕組みにはなっていません。
一方で、オンデバイスAIを快適に動かせるのは新しい高性能端末に限られるため、実質的なコストは端末代に含まれていると見るのが妥当です（これは筆者の見方です）。業務システムに組み込む場合の開発費やライセンス条件については、当サイトでは確かな情報を持っていないため、ここでは書きません。
誰が作っているのか：主要プレーヤーと技術の焦点
当サイトの報道で確認できる主なプレーヤーは次の2社です。
- **Apple**：自社チップ（A20 Pro）と自社モデル（Apple Foundation Models）をiPhoneに組み込み、ハードとモデルの両方を自社で持つ - **Qualcomm**：スマホ・PC向けチップ「Snapdragon」を提供。Snapdragon Summitで、データセンター向けに開発した「HBC（High Bandwidth Compute）」をスマホやPCにも入れる計画を明らかにした
HBCは、DRAMのパッケージの中に演算器を入れて、メモリ帯域の負担を下げる技術です。Qualcommは、エージェント型AIが端末で1日最大100万トークンを処理する時代を見込んでいます。オンデバイスAIの性能を決めるのは演算速度だけではありません。メモリとのデータのやり取りと発熱も制約になるため、各社はそこで競っています。
投資家の方向けに整理すると、競争は「モデル」「チップ」「メモリ」「冷却」という端末全体の設計に広がっています。クラウドAIとは異なるサプライチェーンが関わる分野です。
