메타 프롬프팅, 프롬프트 체이닝, 자기 성찰, Tree-of-Thought 등 복잡한 작업을 해결하는 고급 프롬프트 엔지니어링 기법을 다룹니다.
지금까지 다룬 기법들은 대부분 하나의 프롬프트로 하나의 작업을 수행하는 방식이었습니다. 하지만 실무에서 마주하는 많은 작업은 하나의 프롬프트로 해결하기에는 너무 복잡합니다. 여러 단계의 추론이 필요하거나, 중간 결과를 바탕으로 후속 판단을 해야 하거나, 서로 다른 관점의 분석을 통합해야 하는 경우가 그렇습니다.
이 장에서는 이러한 복잡한 작업을 체계적으로 해결하는 고급 기법들을 다루겠습니다.
프롬프트 체이닝(Prompt Chaining)은 복잡한 작업을 여러 개의 작은 프롬프트로 분해하고, 각 단계의 출력을 다음 단계의 입력으로 연결하는 기법입니다.
import anthropic
client = anthropic.Anthropic()
def chain_call(system, user_content, model="claude-sonnet-4-5-20250514"):
"""단일 LLM 호출을 수행합니다."""
response = client.messages.create(
model=model,
max_tokens=2048,
system=system,
messages=[{"role": "user", "content": user_content}]
)
return response.content[0].text
def analyze_incident(log_data: str) -> dict:
"""장애 로그를 분석하는 4단계 체인입니다."""
# 1단계: 로그에서 핵심 이벤트 추출
events = chain_call(
system="로그 분석 전문가입니다. 로그에서 핵심 이벤트를 시간순으로 추출합니다.",
user_content="다음 로그에서 오류, 경고, 상태 변경 이벤트를 추출하세요:\n\n" + log_data
)
# 2단계: 이벤트 간 인과 관계 분석
causality = chain_call(
system="시스템 장애 분석가입니다. 이벤트 간의 인과 관계를 파악합니다.",
user_content="다음 이벤트 목록에서 인과 관계를 분석하세요:\n\n" + events
)
# 3단계: 근본 원인 판단
root_cause = chain_call(
system="시니어 SRE 엔지니어입니다. 장애의 근본 원인을 진단합니다.",
user_content="인과 관계 분석을 바탕으로 근본 원인을 판단하세요:\n\n" + causality
)
# 4단계: 보고서 생성
report = chain_call(
system="기술 보고서 작성가입니다. 비기술 이해관계자도 이해할 수 있는 보고서를 작성합니다.",
user_content=(
"다음 분석 결과를 바탕으로 장애 보고서를 작성하세요.\n\n"
"핵심 이벤트:\n" + events + "\n\n"
"인과 관계:\n" + causality + "\n\n"
"근본 원인:\n" + root_cause
)
)
return {
"events": events,
"causality": causality,
"root_cause": root_cause,
"report": report
}중간 결과에 따라 다음 단계가 달라지는 분기 체이닝입니다.
def handle_customer_request(request: str) -> str:
"""고객 요청을 분류하고 적절한 처리 체인을 실행합니다."""
# 1단계: 요청 분류
category = chain_call(
system="고객 요청을 정확히 분류합니다.",
user_content=(
"다음 요청을 분류하세요. "
"반드시 technical, billing, general 중 하나만 출력하세요.\n\n"
"요청: " + request
)
).strip().lower()
# 2단계: 분류에 따른 분기 처리
if "technical" in category:
return chain_call(
system="기술 지원 전문가입니다. 단계별 해결 방법을 안내합니다.",
user_content="기술 문제를 해결해 주세요: " + request
)
elif "billing" in category:
return chain_call(
system="결제 담당자입니다. 결제 정책에 따라 안내합니다.",
user_content="결제 관련 문의에 답변해 주세요: " + request
)
else:
return chain_call(
system="일반 상담원입니다. 친절하게 안내합니다.",
user_content="고객 문의에 답변해 주세요: " + request
)| 장점 | 주의점 |
|---|---|
| 각 단계를 독립적으로 테스트 가능 | 전체 지연 시간이 증가 |
| 단계별로 다른 모델 사용 가능 | 비용이 단일 호출보다 높음 |
| 중간 결과를 검증하고 로깅 가능 | 오류가 전파될 수 있음 |
| 복잡한 작업을 단순화 | 체인 설계 자체에 노력 필요 |
체이닝을 도입하기 전에 단일 프롬프트로 해결 가능한지 먼저 시도하세요. 단일 프롬프트의 결과가 불안정한 특정 부분이 있을 때, 그 부분만 분리하는 것이 가장 효율적인 접근입니다.
메타 프롬프팅(Meta Prompting)은 "프롬프트를 생성하는 프롬프트"를 작성하는 기법입니다. LLM에게 특정 작업에 최적화된 프롬프트를 설계하도록 요청합니다.
당신은 프롬프트 엔지니어링 전문가입니다.
다음 요구사항을 충족하는 최적의 프롬프트를 설계하세요.
<requirements>
- 작업: 이력서를 분석하여 지원 직무와의 적합도를 평가
- 입력: 이력서 텍스트 + 직무 기술서
- 출력: 적합도 점수(0-100), 강점, 약점, 면접 질문 제안
- 제약: 성별, 나이, 학력에 의한 편향 배제
</requirements>
<prompt_structure>
1. 역할 정의
2. 작업 지시
3. 평가 기준 (루브릭)
4. 편향 방지 규칙
5. 출력 형식
6. 예시 (1개)
</prompt_structure>
설계한 프롬프트를 <generated_prompt> 태그 안에 작성하세요.기존 프롬프트를 분석하고 개선 방향을 제시합니다.
당신은 프롬프트 최적화 전문가입니다.
다음 프롬프트를 분석하고 개선하세요.
<current_prompt>
제품 리뷰를 분석해서 좋은점과 나쁜점을 알려주세요.
</current_prompt>
<evaluation_criteria>
- 명확성: 지시가 구체적이고 모호하지 않은가
- 완전성: 필요한 정보가 모두 포함되어 있는가
- 구조: 논리적 구조를 갖추고 있는가
- 출력 제어: 원하는 형식이 명시되어 있는가
- 경계 사례: 예외 상황에 대한 처리가 있는가
</evaluation_criteria>
분석 결과와 개선된 프롬프트를 제시하세요.자기 성찰은 모델에게 자신의 응답을 비판적으로 평가하고 개선하도록 요청하는 기법입니다. 단순히 답을 생성하는 것을 넘어, 답의 품질을 스스로 검증하는 메커니즘입니다.
def generate_with_reflection(task: str, max_rounds: int = 2) -> str:
"""생성 -> 비평 -> 개선 사이클을 반복합니다."""
# 1단계: 초기 생성
draft = chain_call(
system="주어진 작업을 수행하는 전문가입니다.",
user_content=task
)
for round_num in range(max_rounds):
# 2단계: 비평
critique = chain_call(
system=(
"엄격한 품질 검토자입니다. "
"결과물의 문제점을 구체적으로 지적합니다."
),
user_content=(
"다음 결과물을 비평하세요. "
"구체적인 문제점과 개선 방향을 제시하세요.\n\n"
"원래 작업: " + task + "\n\n"
"결과물:\n" + draft
)
)
# 비평에서 "문제 없음"으로 판단하면 종료
if "문제 없" in critique or "개선 필요 없" in critique:
break
# 3단계: 개선
draft = chain_call(
system="피드백을 반영하여 결과물을 개선하는 전문가입니다.",
user_content=(
"다음 비평을 반영하여 결과물을 개선하세요.\n\n"
"원래 작업: " + task + "\n\n"
"현재 결과물:\n" + draft + "\n\n"
"비평:\n" + critique
)
)
return draft다음 작업을 수행한 후, 체크리스트를 사용하여 자체 검증하세요.
## 작업
TypeScript로 사용자 인증 미들웨어를 작성하세요.
## 자체 검증 체크리스트
작성이 끝나면 다음 항목을 하나씩 검증하세요:
- [ ] JWT 토큰 검증 로직이 포함되어 있는가
- [ ] 만료된 토큰에 대한 처리가 있는가
- [ ] 토큰이 없는 경우의 처리가 있는가
- [ ] 에러 응답이 표준 형식을 따르는가
- [ ] TypeScript 타입이 올바르게 정의되어 있는가
- [ ] 보안 관련 헤더(Authorization)만 사용하는가
검증 결과를 코드 아래에 표시하고,
통과하지 못한 항목이 있으면 코드를 수정하세요.Tree-of-Thought(ToT, 사고의 나무)는 Chain-of-Thought를 확장한 기법으로, 하나의 추론 경로 대신 여러 가지 사고의 분기를 탐색하고, 각 분기를 평가하여 가장 유망한 경로를 선택합니다.
다음 설계 문제에 대해 Tree-of-Thought 방식으로 접근하세요.
## 문제
일일 활성 사용자 100만 명 규모의 실시간 알림 시스템을 설계하세요.
## 탐색 과정
### 분기 1: 폴링 기반 접근
이 접근의 핵심 아이디어와 아키텍처를 설명하세요.
장점, 단점, 실현 가능성을 평가하세요.
평가 점수: (1-10)
### 분기 2: 웹소켓 기반 접근
이 접근의 핵심 아이디어와 아키텍처를 설명하세요.
장점, 단점, 실현 가능성을 평가하세요.
평가 점수: (1-10)
### 분기 3: SSE(Server-Sent Events) 기반 접근
이 접근의 핵심 아이디어와 아키텍처를 설명하세요.
장점, 단점, 실현 가능성을 평가하세요.
평가 점수: (1-10)
### 최적 분기 심화
가장 높은 점수의 분기를 선택하고,
구체적인 구현 설계를 작성하세요.여러 프롬프트의 결과를 결합하여 최종 답을 도출하는 기법입니다. 3장에서 다룬 자기 일관성의 확장입니다.
def perspective_ensemble(problem: str) -> str:
"""여러 관점의 분석을 통합합니다."""
perspectives = {
"기술적 관점": "시니어 소프트웨어 아키텍트로서 기술적 타당성을 분석합니다.",
"비용 관점": "재무 분석가로서 비용 효율성을 분석합니다.",
"사용자 관점": "UX 리서처로서 사용자 경험을 분석합니다.",
"보안 관점": "보안 엔지니어로서 보안 위험을 분석합니다."
}
analyses = {}
for name, system in perspectives.items():
analyses[name] = chain_call(
system=system,
user_content="다음 제안을 분석하세요:\n\n" + problem
)
# 통합 분석
combined_input = "다음은 여러 전문가의 분석입니다. 이를 종합하여 최종 권고안을 작성하세요.\n\n"
for name, analysis in analyses.items():
combined_input += "## " + name + "\n" + analysis + "\n\n"
return chain_call(
system="각 분야 전문가의 의견을 종합하여 균형 잡힌 최종 권고를 제시하는 의사결정 전문가입니다.",
user_content=combined_input
)어떤 기법을 사용할지 결정하는 실용적인 가이드입니다.
| 상황 | 추천 기법 | 이유 |
|---|---|---|
| 다단계 처리가 필요한 작업 | 프롬프트 체이닝 | 각 단계를 독립적으로 최적화 가능 |
| 프롬프트 자체를 최적화할 때 | 메타 프롬프팅 | LLM이 프롬프트 설계를 도움 |
| 높은 품질이 필요한 생성 작업 | 자기 성찰 | 자체 검증으로 품질 향상 |
| 복잡한 의사결정 | Tree-of-Thought | 여러 대안을 체계적으로 비교 |
| 다각적 분석이 필요한 경우 | 프롬프트 앙상블 | 여러 관점의 통합 |
| 정확도가 매우 중요한 경우 | 자기 일관성 + 검증 | 다수결과 검증의 조합 |
고급 기법은 비용과 지연 시간이 증가합니다. 단순한 작업에 복잡한 기법을 적용하면 비용만 늘어나고 품질 향상은 미미할 수 있습니다. 항상 가장 단순한 접근부터 시작하고, 결과가 불충분할 때 점진적으로 복잡한 기법을 도입하세요.
여러 기법을 조합한 실전 워크플로우 예시입니다.
def generate_tech_post(topic: str, target_audience: str) -> str:
"""기술 블로그 포스트를 체계적으로 생성합니다."""
# 1단계: 아웃라인 생성 (메타 프롬프팅)
outline = chain_call(
system="기술 블로그 편집장입니다.",
user_content=(
"주제: " + topic + "\n"
"대상: " + target_audience + "\n\n"
"이 주제에 대한 블로그 포스트 아웃라인을 작성하세요.\n"
"서론, 본론(3-5개 섹션), 결론 구조로 구성하세요."
)
)
# 2단계: 각 섹션 작성 (체이닝)
sections = outline.split("\n\n")
written_sections = []
for section in sections:
content = chain_call(
system="기술 콘텐츠 작성가입니다. 정확하고 읽기 쉬운 글을 작성합니다.",
user_content=(
"전체 아웃라인:\n" + outline + "\n\n"
"다음 섹션을 작성하세요:\n" + section
)
)
written_sections.append(content)
full_draft = "\n\n".join(written_sections)
# 3단계: 자기 성찰로 품질 개선
final = generate_with_reflection(
"다음 블로그 포스트의 기술적 정확성, 가독성, "
"논리적 흐름을 검토하고 개선하세요.\n\n" + full_draft
)
return final이 장에서는 복잡한 작업을 해결하는 고급 프롬프트 엔지니어링 기법을 다루었습니다.
다음 장에서는 프롬프트 테스트와 평가 자동화를 다루겠습니다. 프롬프트의 품질을 정량적으로 측정하고, 회귀(regression)를 방지하는 체계적인 테스트 전략을 살펴보겠습니다.
이 글이 도움이 되셨나요?
프롬프트의 품질을 정량적으로 측정하고 회귀를 방지하는 체계적인 테스트 전략과 자동화 도구를 다룹니다.
프로덕션 환경에서 일관된 모델 행동을 보장하는 시스템 프롬프트의 구조, 설계 원칙, 그리고 실전 패턴을 체계적으로 다룹니다.
프롬프트의 버전 관리, CI/CD 파이프라인 통합, 환경별 배포 전략, 그리고 운영 모니터링까지 프로덕션급 프롬프트 관리 체계를 다룹니다.