判断モデル

LLM開発・技術

Ollama の判断モデル nimble と tev1 を実測|速度・日本語の判定・確信度の低い回答を人が確認する使い方

Ollama 0.40.0 の判断モデル nimble:9b・tev1:4b・tev1:0.8b を RTX 5080・RTX 5060 Ti・CPU で実測。往復時間、質問のまとめ送りと同時送信、日本語の文の判定、確信度の低い回答だけを人が確認したときの件数を比べた。
LLM開発・技術

Jevとは|文章を書かない判断モデルの仕組み・料金と、日本語で使う前に見る制約

TypeSafe AI の Jev は文章を生成せず型付きの判断と確率だけを返す。三つの質問型・料金とレート制限・公式が挙げる苦手分野・日本語での扱いを一次ソースから整理する。