トヨタ、モデルの重みとOSを内蔵メモリーに収めるSoCを披露

トヨタが、AIモデルの重みとOSを、チップに統合したメモリーに格納するSoC（システム・オン・チップ）を披露した。The Registerが報じた。

今回確認できたのは見出しとURLの範囲である。チップの演算性能や消費電力、内蔵メモリーの種類と容量、どの程度の大きさのモデルを載せられるのか、トヨタ単独の開発か他社との共同開発か、搭載する車種や実用化の時期は、材料からは分からない。

技術的な背景として、AIの推論では、計算そのものよりも、モデルの重みをメモリーから演算装置へ運ぶ処理が速度と消費電力の制約になることが多い。重みをチップの中のメモリーに置けば、外部のメモリーとの間でデータを行き来させる量が減り、応答の速さや電力効率を改善しやすい。OSまで同じメモリーに収めるのは、部品点数を減らし、起動や動作を安定させる狙いがあるとみられる。

意味合いとしては、車載のAIを汎用の半導体に任せるのではなく、自動車メーカー自身が用途に合わせたチップの構成に踏み込んでいることを示す動きといえる。