Pythonエージェント設定
基本の必須有効化オプション
llm_license=
llm.whatap.server.host=
PythonエージェントはAPMとLLMOBSのプロジェクトをあわせて使用できます。LLMプロジェクトに関連する値は、これらのオプションにタグ付けする必要があります。
llm_enabled=true
このオプション でLLMのログシンクパックとメトリクス収集を有効化できます。LLMOBSを使用する場合、このオプションは必ずtrueに設定されている必要があります。
LLM APIホストの認識
llm_api_hosts=localhost:8000,api.openai.com:443
自動計装が認識しないLLM APIエンドポイント(vLLM / LiteLLM / プライベートゲートウェイなど)をLLM呼び出しと判断するための設定オプションです。httpc driverが、該当ホストへの呼び出しをLLM APIドライバーとしてマーキングします。
モデル価格の手動入力
llm_model_pricing=gpt-4o|2.50|10.00|1.25,gpt-4o-mini|0.15|0.60|0.075,my-custom-model|1.00|5.00
モデルのトークン別の価格を手動で指定できます。設定した値は、実際のコストが認識される場合でも最優先で反映されます。
形式: model|input_per_1m|output_per_1m|cached_per_1m
-
4フィールド
-
モデル間はカンマ区切り
-
4番目(cached)はオプションで、空にするか省略できます