1장: Structured Output의 필요성과 핵심 개념

다음 리뷰에서 감성(긍정/부정/중립)과 핵심 키워드를 추출해 주세요.
리뷰: "배송은 빨랐지만 포장 상태가 별로였어요. 제품 자체는 만족합니다."

감성: 긍정적 (하지만 일부 부정적 요소 포함)
키워드: 배송, 포장, 제품, 만족

분석 결과입니다.
- 전체 감성: 긍정
- 세부 감성: 배송(긍정), 포장(부정), 제품(긍정)
- 핵심 키워드: 배송 속도, 포장 상태, 제품 만족도

import re
 
def parse_sentiment(response: str) -> str:
    """비정형 LLM 응답에서 감성을 추출하는 취약한 파서"""
    # 이 정규표현식은 특정 응답 형식에만 동작합니다
    match = re.search(r"감성[:\s]*(긍정|부정|중립)", response)
    if match:
        return match.group(1)
    # 다른 형식 시도
    match = re.search(r"(positive|negative|neutral)", response, re.I)
    if match:
        return match.group(1).lower()
    # 파싱 실패 - 파이프라인 중단
    raise ValueError(f"감성을 파싱할 수 없습니다: {response[:100]}")

다음 리뷰를 분석하고 반드시 아래 JSON 형식으로만 응답하세요.
다른 텍스트는 포함하지 마세요.
 
{
  "sentiment": "positive" | "negative" | "neutral",
  "keywords": ["키워드1", "키워드2"]
}

tools = [
    {
        "type": "function",
        "function": {
            "name": "analyze_review",
            "description": "리뷰 감성 분석 결과를 구조화된 형태로 반환",
            "parameters": {
                "type": "object",
                "properties": {
                    "sentiment": {
                        "type": "string",
                        "enum": ["positive", "negative", "neutral"]
                    },
                    "keywords": {
                        "type": "array",
                        "items": {"type": "string"}
                    }
                },
                "required": ["sentiment", "keywords"]
            }
        }
    }
]

from openai import OpenAI
 
client = OpenAI()
 
response = client.chat.completions.create(
    model="gpt-4o-2026-02",
    messages=[
        {"role": "user", "content": "다음 리뷰를 분석하세요: ..."}
    ],
    response_format={
        "type": "json_schema",
        "json_schema": {
            "name": "review_analysis",
            "strict": True,
            "schema": {
                "type": "object",
                "properties": {
                    "sentiment": {
                        "type": "string",
                        "enum": ["positive", "negative", "neutral"]
                    },
                    "keywords": {
                        "type": "array",
                        "items": {"type": "string"}
                    }
                },
                "required": ["sentiment", "keywords"],
                "additionalProperties": False
            }
        }
    }
)

def constrained_decode(model, schema_fsm, input_tokens):
    """제약 디코딩의 개념적 구현"""
    output_tokens = []
    state = schema_fsm.initial_state
 
    while not schema_fsm.is_final(state):
        # 1. 모델이 다음 토큰의 확률 분포를 계산
        logits = model.forward(input_tokens + output_tokens)
 
        # 2. FSM에서 현재 상태에서 허용되는 토큰 집합을 조회
        allowed_tokens = schema_fsm.get_allowed_tokens(state)
 
        # 3. 허용되지 않는 토큰의 확률을 마이너스 무한대로 설정
        for token_id in range(len(logits)):
            if token_id not in allowed_tokens:
                logits[token_id] = float("-inf")
 
        # 4. 마스킹된 확률 분포에서 토큰 선택
        next_token = sample(logits)
        output_tokens.append(next_token)
 
        # 5. FSM 상태 전이
        state = schema_fsm.transition(state, next_token)
 
    return output_tokens