本文へスキップ

Python SDK設定

基本の必須有効化オプション​

llm_license= llm.whatap.server.host=

Python SDKはAPMとLLMOBSのプロジェクトをあわせて使用できます。LLMプロジェクトに関連する値は、これらのオプションにタグ付けする必要があります。

llm_enabled=true

このオプションでLLMのログシンクパックとメトリクス収集を有効化できます。LLMOBSを使用する場合、このオプションは必ずtrueに設定されている必要があります。

LLM APIホストの認識​

llm_api_hosts=localhost:8000,api.openai.com:443

自動計装が認識しないLLM APIエンドポイント（vLLM / LiteLLM / プライベートゲートウェイなど）をLLM呼び出しと判断するための設定オプションです。httpc driverが、該当ホストへの呼び出しをLLM APIドライバーとしてマーキングします。

モデル価格の手動入力​

llm_model_pricing=gpt-4o|2.50|10.00|1.25,gpt-4o-mini|0.15|0.60|0.075,my-custom-model|1.00|5.00

モデルのトークン別の価格を手動で指定できます。設定した値は、実際のコストが認識される場合でも最優先で反映されます。

形式: model|input_per_1m|output_per_1m|cached_per_1m

  • 4フィールド

  • モデル間はカンマ区切り

  • 4番目（cached）はオプションで、空にするか省略できます

ユーザーブロック​

llm_blocked_users=u-1024,abuse@example.com

指定したユーザーIDのLLM呼び出しをブロックします。デフォルト値は空文字列（""）で、この場合はブロックしません。

  • ユーザーIDはカンマ（,）で区切り、大文字と小文字を区別しません。
  • ユーザーIDは、Session & User IDの設定で収集するuser_idの値と同じです。
  • ブロックされた呼び出しは、アプリケーションがLLM API呼び出しに使用するクライアントライブラリの接続エラー（例: APIConnectionError）として返されます。アプリケーションでこのエラーを処理するように構成してください。
  • ブロックされた箇所はWhaTap: LLM call blocked for user …メッセージステップとして記録され、LLMトレース詳細のテーブルビューで確認できます。
  • Python SDK 2.2.1以上でサポートします。

LLMワークフローのHTTP呼び出しの収集​

llm_httpc_step_enabled=true

LLMワークフロー内で発生したHTTP呼び出し（MCP、RESTツール呼び出しなど）をLLMステップとともに収集します。デフォルト値はtrueです。falseに設定すると、LLM API呼び出しのみを収集します。Python SDK 2.2.1以上でサポートします。

ノート

llm_blocked_usersなどのオプションは、whatap.confに直接入力するか、画面左側のメニューの管理 > SDK設定でアプリケーションごとに確認・変更できます。SDK設定画面でオプションを変更するにはプロジェクト修正権限が必要で、権限がない場合は値の確認のみ可能です。SDK設定画面で入力欄が無効になっているオプションは、whatap.confで設定してください。

SDK設定画面

最終修正：