프롬프트·추론

컨텍스트 엔지니어링Context Engineering

Compaction: 길어진 이력을 요약·압축해 이어가기
구조화 노트: 중요한 상태를 컨텍스트 밖 파일(메모리)에 적어 영속화
서브에이전트 격리: 탐색은 깊게, 본체엔 결론 요약만 반환
Just-in-time 로드: 미리 다 넣지 말고 실행 시점에 필요한 것만 불러오기

한마디로

추론 시점에 모델이 보는 것 전부(지시문·도구·대화 이력·데이터)를 선별·관리하는 기술이에요. 프롬프트 '문장 쓰기'가 아니라 컨텍스트 '상태 관리'예요

프롬프트 엔지니어링의 다음 단계로 자리 잡은 용어예요. 2025년 중반 Shopify CEO 토비 뤼트케의 표현을 카파시(Karpathy)가 받아 퍼졌고, Anthropic이 공식 가이드(2025-09)로 체계화하면서 표준이 됐어요.

핵심 전제는 '컨텍스트 윈도우는 유한 자원'이라는 것. 목표는 원하는 결과를 낼 최소한의 고신호 토큰 집합을 유지하는 거예요. 대표 기법 4가지:

프롬프트는 한 번 쓰는 지시문, 컨텍스트는 매 추론마다 다시 짜이는 상태 — '무엇을 빼고 언제 불러올까'가 승부처예요.

헷갈리는 용어 구분