本文へスキップ

LLM Python SDKのインストール

AI Agent Observability Python SDKはpip install whatap-python[llm]コマンドでインストールし、サーバー環境に合わせて実行コマンドの前にwhatap-start-agentを追加して適用します。このドキュメントは、仮想環境のアクティベートからサービス実行確認までのインストール全過程を案内します。

インストール前の確認事項​

エージェントをインストールする前に、次の点を確認してください。

仮想環境の有効化​

アプリケーションがvirtualenvを使用している場合は、bin/activateファイルを実行して仮想環境を有効化してください。

エージェントダウンロード​

アクセスキーを発行した後、エージェントダウンロドセクションに移動してください。次のコマンドを実行してエージェントをインストールしてください。

pip install whatap-python[llm]
Tips

pipコマンドでインストールできない場合は、pypi WhaTapページからインストールファイルをダウンロードしてください。ダウンロードしたファイルを解凍してからインストールを進めてください。

tar xzvf whatap_python-2.x.x.tar.gz
cd whatap_python-2.X.Y.Z
python setup.py install
ノート

whatap-python[llm]パッケージは、外部ライブラリdatasketches>=5.2.0、genai-pricesを必要とします。依存関係が不足すると、一部のデータ収集が欠落する可能性があります。手動インストール時にも該当の依存関係を含めてください。

エージェント構成ファイル​

Python SDKファイルは、アプリケーションモニタリングに必要な情報を抽出してWhaTap収集サーバーに転送するトレーサーと、それを支援する要素で構成されています。エージェントファイルの構成は以下を参照してください。

SDK設定​

WHATAP_HOMEパスの設定​

ログと設定ファイルのパスのために$WHATAP_HOMEパスを指定してください。whatapディレクトリを新規作成することを推奨します。

$ export WHATAP_HOME=[PATH]

アクセスキーおよび収集サーバーIPの設定​

アクセスキーおよび収集サーバーIPを設定するために、whatap-llm-setting-configコマンドを実行してください。

$ whatap-llm-setting-config \
--host [ COLLECTION_SERVER_IP ] \
--license [ ACCESS_KEY ] \
--app_name [ USER_DEFINED_AGENT_NAME ] \
--app_process_name [ APPLICATION_PROCESS_NAME(uwsgi, gunicorn etc..) ]

設定の確認​

$WHATAP_HOMEで指定したパスにwhatap.confファイルが生成・設定されます。次のコマンドを実行してwhatap.confファイルが生成されたか確認してください。

$ cat $WHATAP_HOME/whatap.conf
whatap.conf
llm_license=[ACCESS_KEY]
llm.whatap.server.host=[COLLECTION_SERVER_IP]

llm_enabled=true

# application name
app_name=[ USER_DEFINED_AGENT_NAME ]

# middleware process name ex)uwsgi, gunicorn ..
app_process_name=[ APPLICATION_PROCESS_NAME(uwsgi, gunicorn etc..) ]

LLM専用モジュールのインストール​

Python AI Agent Observabilityを使用するには、WhaTapがLLM専用に開発したGoモジュールを追加でインストールする必要があります。

cd $WHATAP_HOME

curl -fsSL -O https://repo.whatap.io/python/llm/whatap-python-llm.tar.gz

tar -xzf whatap-python-llm.tar.gz

圧縮を解除すると生成されるwhatap-python-llmフォルダーは、先に設定した$WHATAP_HOMEパス配下に配置する必要があります。

ノート

権限の問題が発生した場合

  • WhaTap設定のための*$WHATAP_HOME/whatap.conf*ファイルの読み取りおよび書き込み権限

  • WhaTapログのための*$WHATAP_HOME/logs*パスとサブファイルの読み取りおよび書き込み権限

$WHATAP_HOMEパスに対する権限の問題が発生した場合は、次のコマンドを実行して権限を付与してください。

echo `sudo chmod -R 777 $WHATAP_HOME`

サーバー環境別の適用​

サーバー環境に合った方法を選択してください。

Command環境では、次のようにwhatap-start-agentコマンドをアプリケーション起動コマンドの前に追加してください。

BASH
# $ whatap-start-agent [Application start command]
$ whatap-start-agent python manage.py runserver

アプリケーションサーバーを起動すると、エージェントがモニタリングデータの収集を開始します。

サービス実行の確認​

次のコマンドを実行して、WhaTap Pythonサービスが正常に実行されているか確認してください。

ps -ef | grep whatap_python
最終修正：