LLM - Weights & Biases Documentation

LLM Call입니다. gen_ai.* 속성이 포함된 chat span을 생성합니다. weave.startLLM()(또는 turn.startLLM())으로 생성하며, end()로 종료합니다. 비동기 컨텍스트에서는 한 번에 하나의 LLM만 활성화할 수 있습니다. startTool / startSubagent를 사용하여 그 하위에 도구/서브에이전트 Call을 중첩하세요. inputMessages / outputMessages / usage / reasoning을 직접 설정하거나, 도우미 함수(output, think, attachMedia, record)를 사용하세요. 기록된 모든 데이터는 end()에서 span으로 플러시됩니다.

예시

const llm = weave.startLLM({model: 'gpt-4o-mini', providerName: 'openai'});

try {
  llm.inputMessages = [{role: 'user', content: prompt}];
  const resp = await openai.chat.completions.create({...});
  llm.output(resp.choices[0].message.content ?? '');
  llm.record({usage: {inputTokens: resp.usage?.prompt_tokens}});
} finally {
  llm.end();
}

const llm = weave.startLLM({
  model: 'gpt-4o-mini',
  providerName: 'openai',
  systemInstructions: ['You are a helpful weather bot.'],
  startTime: new Date('2026-05-29T10:00:00.000Z'),
});

try {
  // ... LLM을 호출하고 llm.outputMessages / usage를 채웁니다 ...
} finally {
  llm.end();
}

상속

SpanBase

속성

inputMessages

inputMessages: Message[] = []

모델로 전송되는 입력 메시지입니다. end() 호출 시 gen_ai.input.messages로 플러시됩니다.

모델

readonly 모델: string

outputMessages

outputMessages: Message[] = []

모델이 반환한 assistant 메시지입니다. end() 호출 시 gen_ai.output.messages로 플러시됩니다.

providerName

readonly providerName: string

추론

optional 추론: Reasoning

사고 과정 콘텐츠입니다. 직렬화 시 마지막 assistant 메시지에 ReasoningPart로 포함됩니다.

사용

사용: Usage = {}

토큰 수와 캐시 통계입니다. end()에서 gen_ai.usage.*로 플러시됩니다.

메서드

addEvent()

사용 중단. 대신 setAttributes를 사용하여 이 데이터를 기록하세요. OpenTelemetry는 Span Event API(Span.addEvent)를 단계적으로 폐지하고 있습니다. 이 방법은 계속 작동하며 기존 span 이벤트 데이터도 계속 유효합니다. https://opentelemetry.io/blog/2026/deprecating-span-events/을 참조하세요.

addEvent(name, attributes?, startTime?): this

span에 이름이 지정된 이벤트를 추가합니다. 컨텍스트 압축, 도구 루프 감지, 가드레일 트리거와 같은 span 외부 시점을 표시하는 데 유용합니다. end() 후에 호출하면 경고를 표시하고 아무 작업도 수행하지 않습니다. OTel Span.addEvent와 동일하게 작동합니다.

매개변수

string

필수

Attributes

TimeInput

반환값

this

예시

span.addEvent('context_compacted', {removedMessages: 12});

상속됨

SpanBase.addEvent

attachMedia()

attachMedia(opts): this

LLM Call에 미디어 첨부 파일을 추가할 준비를 합니다. content(인라인 base64 바이트), uri(URI 레퍼런스), fileId (사전 업로드된 파일 ID) 중 정확히 하나를 선택하세요. 첨부 파일은 end() 호출 시 inputMessages의 마지막 사용자 메시지에 추가됩니다.

매개변수

{…} | {…} | {…}

필수

Modality, Modality, Modality를 참조하세요.전체 유형:

{ content: string; mimeType: string; modality: Modality; } | { modality: Modality; uri: string; } | { fileId: string; mimeType?: string; modality: Modality; }

반환값

this

attachMediaUrl()

attachMediaUrl(url, opts): this

attachMedia({uri, modality})를 간편하게 호출합니다.

매개변수

string

필수

object

필수

숨기기 속성

Modality

필수

Modality를 참조하세요.

반환값

this

end()

end(opts?): void

누적된 상태를 플러시하고 span을 종료합니다. 여러 번 호출해도 동일하게 동작합니다. 실패로 표시하려면 error를 전달하고, 종료 시간을 과거로 설정하려면 endTime을 전달합니다.

매개변수

object

숨기기 속성

TimeInput

Error

반환값

void

output()

output(content): this

응답에 assistant 메시지를 추가합니다.

매개변수

string

필수

반환값

this

record()

record(opts): this

변경 가능한 필드 중 원하는 항목을 일괄 설정합니다. 병합하지 않고 대체합니다. 공급자 호출이 반환된 후 모든 항목을 한 번에 부여할 때 유용합니다.

매개변수

object

필수

숨기기 속성

string[]

Message[]

Message를 참조하세요.

({…} | {…} | {…})[]

Modality, Modality, Modality를 참조하세요.전체 유형:

({ content: string; mimeType: string; modality: Modality; } | { modality: Modality; uri: string; } | { fileId: string; mimeType?: string; modality: Modality; })[]

Message[]

Message를 참조하세요.

string

Reasoning

Reasoning을 참조하세요.

string

Usage

Usage를 참조하세요.

반환값

this

setAttributes()

setAttributes(attributes): this

span에 여러 속성을 한 번에 설정합니다. end() 호출 후에는 경고를 표시하고 아무 작업도 수행하지 않습니다. OTel Span.setAttributes 및 Python SDK의 set_attributes와 동일하게 동작합니다.

매개변수

Attributes

필수

반환값

this

예시

span.setAttributes({'weave.tag': 'prod', 'gen_ai.response.id': id});

상속됨

SpanBase.setAttributes

startSubagent()

startSubagent(opts): SubAgent

이 LLM 내에 중첩된 하위 SubAgent span을 시작합니다.

매개변수

SubAgentInit

필수

SubAgentInit를 참조하세요.

반환값

SubAgent

startTool()

startTool(opts): Tool

이 LLM 내에 중첩된 하위 Tool span을 시작합니다.

매개변수

ToolInit

필수

ToolInit을 참조하세요.

반환값

Tool

think()

think(content): this

모델의 추론/사고 과정 콘텐츠를 설정하거나 추가합니다. this.reasoning.content에 누적됩니다. 직렬화 시 마지막 assistant 메시지에 ReasoningPart로 포함되며, Python SDK의 전송 데이터 형식과 일치합니다.

매개변수

string

필수

반환값

this

​예시

​상속

​속성

​inputMessages

​모델

​outputMessages

​providerName

​추론

​사용

​메서드

​addEvent()

​매개변수

​반환값

​예시

​상속됨

​attachMedia()

​매개변수

​반환값

​attachMediaUrl()

​매개변수

​반환값

​end()

​매개변수

​반환값

​output()

​매개변수

​반환값

​record()

​매개변수

​반환값

​setAttributes()

​매개변수

​반환값

​예시

​상속됨

​startSubagent()

​매개변수

​반환값

​startTool()

​매개변수

​반환값

​think()

​매개변수

​반환값

예시

상속

속성

inputMessages

모델

outputMessages

providerName

추론

사용

메서드

addEvent()

매개변수

반환값

예시

상속됨

attachMedia()

매개변수

반환값

attachMediaUrl()

매개변수

반환값

end()

매개변수

반환값

output()

매개변수

반환값

record()

매개변수

반환값

setAttributes()

매개변수

반환값

예시

상속됨

startSubagent()

매개변수

반환값

startTool()

매개변수

반환값

think()

매개변수

반환값