OpenAI、推論用自社ASIC「Jalapeno」は当面社内利用に

米Tom's Hardwareは、OpenAIの独自AI推論ASIC「Jalapeno」について、OpenAI社内での利用を目的としたものだと報じた。ただし同社は、外部への提供など、より広い展開の可能性も残しているという。記事の見出しによれば、OpenAIは「Jalapenoで当分のあいだ手一杯になる」と述べている。

入手できた材料は見出しのみで、チップの性能や消費電力、製造を担う企業、どのデータセンターにどれだけ導入するのか、稼働開始の時期は確認できていない。

ASICは特定の処理に絞って設計する半導体で、汎用のGPUに比べて対象の処理を効率よくこなせる一方、用途の柔軟性は下がる。ChatGPTのように推論の処理量が膨大なサービスでは、推論専用のチップを持つことで運用コストを抑えられる可能性がある。まず自社のサービス基盤で使い切るという方針は、外販より自社の計算需要への対応を優先している姿勢とみられる。