LLM開発・技術

LLM開発・技術

Ollama の判断モデル nimble と tev1 を実測｜速度・日本語の判定・確信度の低い回答を人が確認する使い方

Ollama 0.40.0 の判断モデル nimble:9b・tev1:4b・tev1:0.8b を RTX 5080・RTX 5060 Ti・CPU で実測。往復時間、質問のまとめ送りと同時送信、日本語の文の判定、確信度の低い回答だけを人が確認したときの件数を比べた。
2026.10.09 AIツール図鑑
LLM開発・技術
LLM開発・技術

Jevとは｜文章を書かない判断モデルの仕組み・料金と、日本語で使う前に見る制約

TypeSafe AI の Jev は文章を生成せず型付きの判断と確率だけを返す。三つの質問型・料金とレート制限・公式が挙げる苦手分野・日本語での扱いを一次ソースから整理する。
2026.09.18 AIツール図鑑
LLM開発・技術
LLM開発・技術

Ollama の Web 検索を使う｜APIキーとクラウド経由の仕組み、必要なコンテキスト長

Ollama の Web 検索の使い方。モデルはローカルのままでも検索クエリは ollama.com へ出るので API キーが要る。REST・公式ライブラリ・MCP の3経路の違いと、必要なコンテキスト長が公式の2ページで食い違う点、JavaScript 側の既知の不整合をまとめた。
2026.09.15 AIツール図鑑
LLM開発・技術
AI×コーディング

ローカルLLMをコーディングエージェントに繋ぐ｜OpenCode × Ollama の設定とモデル選び

OpenCode に Ollama のローカルLLMを繋ぐ設定と、繋いだのにツール呼び出しが動かないときに見るコンテキスト長、tools 対応・コンテキスト上限・サイズの3条件でモデルを絞る手順を、2026年9月時点の公式ドキュメントの記述で整理した。
2026.09.11 AIツール図鑑
AI×コーディングLLM開発・技術
AI×コーディング

LLMのトークンコストを抑えるモデルルーティング｜利用量の可視化と使い分けの基準

LLMのトークンコストをモデルルーティングで抑える手順を、利用量の可視化・単価差の確認・呼び出し削減・振り分けの4段で整理。Bedrock / Microsoft Foundry / OpenRouter / LiteLLM の4方式を、判定側の課金や日本語対応まで含めて比較します。
2026.08.31 AIツール図鑑
AI×コーディングAI開発・MLOpsLLM開発・技術
AIエージェント

OpenJarvisでローカルAIアシスタントを作る完全手順

OpenJarvisとは、ローカル環境で動く個人用AIエージェントを構築するためのフレームワークである。OpenJarvisはこの壁を逆向きに解く設計で、推論そのものを自分のPC上のモデルで回し、必要なときだけ外部に出る形を既定にしています。
2026.08.05 AIツール図鑑
AIエージェントLLM開発・技術
AI×自動化

LLMの構造化出力を安定させる実装

構造化出力とは、LLMの応答をJSONなど決まった形式に固定して受け取る仕組み。型崩れを構文崩れとスキーマ不一致に分け、OpenAI・Gemini・Claudeのネイティブ機能とInstructorによる検証・リトライの二層で安定させる実装を整理する。
2026.08.03 AIツール図鑑
AI×自動化AIエージェントLLM開発・技術
LLM開発・技術

LoRAとQLoRAでLLMをファインチューニングする実践手順｜PEFT・TRLで単一GPU学習

LoRAとQLoRAで公開モデルを単一GPUにファインチューニングする手順を、PEFT・TRLの現行APIで解説。メモリが減る仕組み、LoraConfigの選び方、QLoRA特有の落とし穴、学習後のデプロイまでを一気通貫でまとめます。
2026.08.01 AIツール図鑑
LLM開発・技術
AI×コーディング

LLM APIのプロンプトキャッシュでコストを削る｜割高になりやすい設定と最適化のコツ

プロンプトキャッシュはAnthropicやGPT-5.6以降のOpenAIでは書込が通常入力より割高になり、入れれば必ず安くなるとは限らない。可変データが先頭だと割引が効かず書込だけ増える。固定を前・可変を後ろに並べ、usageで読出／書込を実測し採算を確かめるコツを、現行の公式仕様で整理する。
2026.07.21 AIツール図鑑
AI×コーディングLLM開発・技術
LLM開発・技術

三値（BitNet系）に量子化したテキスト埋め込みモデルとは｜ローカルRAGの保存量と推論を同時に削る

Microsoftが公開したBitNet系の三値量子化テキスト埋め込みモデル「BITEMBED」を、論文の実測値とHugging Faceの配布物から整理。英語MMTEBでの精度、CPUでの処理速度、出力ビット幅による保存トレードオフ、ローカルRAGでの向き不向きと現時点の注意点までまとめた。
2026.07.16 AIツール図鑑
LLM開発・技術RAG
次のページ