AI inside、オンプレミスで動くAI推論専用ハードウェアを発売

AI insideが、オンプレミス環境で実行するAI推論専用のハードウェアを発売した。ZDNET Japanが報じた。

「推論」は、学習済みのAIモデルを使って実際に文章の生成や画像の読み取りなどの処理を行う段階を指す。モデルを作る「学習」に比べて必要な計算資源が小さく、専用の機器を社内に置いて運用しやすい。今回の製品は、この推論に絞った専用機として位置づけられている。

オンプレミスでAIを動かす利点は、機密性の高いデータを社外のクラウドに送らずに済む点にある。金融や医療、行政など、データの持ち出しに厳しい制約がある業種では、クラウド型の生成AIを使いにくい場面がある。こうした組織に向け、社内に置くだけでAIを使える環境を提供する狙いがあるとみられる。

処理性能、価格、どのAIモデルが動くのか、同社の既存サービスとどう組み合わせるのかは、見出しからは確認できない。詳細は出典を参照してほしい。