LLMワークフローのオブザーバビリティ設計

LLMオブザーバビリティとは、プロンプトや応答だけでなくワークフロー全体の挙動を計測・追跡する仕組みである。結論から言えば、本番で動くLLMシステムに「プロンプトとレスポンスをログに残す」だけでは足りない。リトリーバル、ツール呼び出し、ガー...