RAG

LLM開発・技術

三値(BitNet系)に量子化したテキスト埋め込みモデルとは|ローカルRAGの保存量と推論を同時に削る

Microsoftが公開したBitNet系の三値量子化テキスト埋め込みモデル「BITEMBED」を、論文の実測値とHugging Faceの配布物から整理。英語MMTEBでの精度、CPUでの処理速度、出力ビット幅による保存トレードオフ、ローカルRAGでの向き不向きと現時点の注意点までまとめた。
AI×ライティング

Dify で社内ドキュメントを使う RAG チャットボットを作る

Difyとは、ノーコードでLLMアプリを構築できるオープンソースの開発プラットフォームである。社内マニュアルや就業規程、製品ドキュメントが年々増え、必要な一文を探すだけで数十分かかる——そんな状況に心当たりはありませんか。検索窓にキーワードを打ち込んでも、ファイル名が違う、用語の表記が揺れている、そもそもどのフォルダ…