TypeSafe、非LLMの新モデル「Jev」公開。言語を捨て確率を返す

ChatGPTの開発に関わり、人間のフィードバックによる強化学習（RLHF）の考案にも携わった元OpenAI研究者のDiogo Almeida氏が、2年前にTypeSafeを立ち上げた。同社が今週公開したTransformerベースの新モデル「Jev」は、大規模言語モデル（LLM）ではない。テキストを出力せず、代わりに確率、同社が「キャリブレーションされた判断」と呼ぶものを返す。

言語を捨てることにはいくつかの効果がある。まずモデルが非常に安価で高速になること、そして利用者が出力をあらかじめ定義するため幻覚を起こさないことだ。出力トークンは無料で、入力トークンは100万単位ではなく10億単位で課金される。Almeida氏は「私たちは手の中に稲妻を捕らえた（lightning in a bottle）が、それは有用ではなかった」「問題は人間の言語に最適化していることだ。コンピュータは別の言語を話す」と、LLMへの問題意識を語る。

開発者の関心は高く、需要の集中で一時APIから利用者に提供できなくなったほどだ。Jevはソフトウェアの自動化に最も向くとされる。エージェント基盤を手掛けるVercelでは、コマンドの安全性を判定する分類器にOpenAIのChatGPT Luna 5.6を使っていたが、Jevに置き換えたところ5〜18倍速く、精度も向上したという。Bryo AIのNikhil Mudholkar氏がビジネスメール分類でGeminiと比較した際は、Geminiがわずかに高精度だったもののJevは10〜20倍安価で、実際の確率を返す点を評価した。

JevはLLMを置き換えるだけでなく、エージェントの挙動を監視して脱獄（jailbreak）を防ぐチェック役や、どのモデルに処理を振り分けるかを判断するモデルルーティングにも使える。名前は「ジェヴォンズのパラドックス」で知られる19世紀の経済学者にちなむ。Almeida氏はアーキテクチャの詳細には口を閉ざすが、外部の観測筋はオープンウェイトのLLMの上に構築されているとみている。同社はJevを「システム1（直感）」型モデルと位置づけ、合成データのみで「キャリブレーションされた判断からの強化学習」という手法で訓練したとしている。