본문으로 건너뛰기

Operation Type 및 Prompt Version

Operation Type은 LLM 호출을 비즈니스 맥락 단위로 그룹화·필터링하기 위한 사용자 정의 라벨입니다. 지정한 라벨은 메트릭 태그의 일부가 되므로, 사용자 지정 단위로 다양한 지표를 분석할 수 있습니다.

Prompt Version은 operation_type 안에서 프롬프트 문안이 몇 번째 개정판인지를 표시하는 사용자 정의 라벨입니다. operation_type이 "무엇을 하는 호출인가"(비즈니스 단위)라면, prompt_version은 "그 호출을 어떤 프롬프트로 했는가"(개정 단위)입니다.

노트

Operation Type과 Prompt Version 라벨링은 Python SDK만 지원합니다.

사용 방법​

(a) 데코레이터(권장)
from whatap.llm import prompt_meta

@prompt_meta(operation_type='checkout_chain', prompt_version='v3')
def checkout(question):
    return client.chat.completions.create(...)
(b) 컨텍스트 매니저
from whatap.llm import prompt_meta_scope

def handler(req):
    with prompt_meta_scope(operation_type='greeting', prompt_version='v2'):
        return client.chat.completions.create(...)
현재 활성 meta 조회(커스텀 로직에서)
from whatap.llm import get_prompt_meta

op_type, version = get_prompt_meta()  # 스코프가 없으면 ('default', 'v1') 반환

값을 지정하지 않은 경우​

operation_type은 라벨이 없을 때 감싸는 워크플로우/에이전트 이름으로 자동 대체됩니다. 반면 프롬프트 문안의 개정 여부는 와탭 SDK가 알 수 없는 정보이므로, prompt_version은 llm_prompt_default_version 값으로 기록됩니다. 이 옵션을 설정하지 않으면 v1로 기록됩니다.

프롬프트 버전 일괄 수정​

프롬프트를 일괄 개정했는데 데코레이터를 일일이 손대기 어려운 경우 whatap.conf에서 기본 버전을 옮깁니다. 이미 명시 라벨을 붙여둔 호출은 영향을 받지 않습니다.

whatap.conf
llm_prompt_default_version=v2

설정은 런타임에 반영되므로 재시작 없이 다음 호출부터 새 기본값이 적용됩니다.

최종 수정: