詳細を読む
TypeSafe AIは9月15日、文章を生成せず、選択肢や点数、二者択一の回答を確率付きで返すAI判断モデル「Jev」を早期公開しました。問い合わせの振り分けや文書の関連判定など、結論だけが必要な処理で生成AIの出力を再解析する手間を省きます。同社によると応答は70〜500ミリ秒、入力100万トークン当たり0.042ドルで、出力料金は無料です。
一般的な生成モデルで分類を行うと、文字列を順番に生成する費用に加え、出力の解析と検証、形式の逸脱や回答拒否への対処が必要です。Jevはラベルや点数を直接返し、正解頻度に合うよう調整した確率によって、人への引き継ぎ判断にも使える設計を掲げています。
背景には、大規模な事前学習によって、タスクごとに専用モデルを作らなくても依頼時に示した選択肢を分類しやすくなったことがあります。公開された類似実装では、凍結したQwen3.5やModernBERTを使い、文章を生成する方法より短時間で判断を返す例が出ていますが、追加学習なしでは精度が低い例もあります。
企業は既存のAI利用を、文章作成が必要な処理と、振り分け、承認、採点など結論だけが必要な処理に分けられます。記事の試算例では、月1万ドルのAI費用のうち6,000ドル分の判断処理を従来の5％の費用で置き換えると、月5,700ドルの削減になりますが、実額は移行可能な処理量と代替費用に左右されます。
Jevは早期提供段階で、入力はテキストのみ、提供拠点はアメリカ西海岸に限られ、価格を維持できるかも未確定です。TypeSafeが示す約194倍の速さと445分の1の費用は自社評価であり、実運用の改善幅としては上限寄りと同社も説明しています。入力文による誘導が判断を変える恐れもあるため、確定的な検査と併用し、精度、確率の妥当性、費用を自社データで評価する必要があります。