프롬프트 작성을 넘어선 컨텍스트 엔지니어링 설계법

핵심

• LLM은 지식의 고정성, 사적 데이터 접근 불가, 할루시네이션이라는 구조적 결함을 지닌다.
• 컨텍스트 엔지니어링은 질문 방식이 아니라 모델이 동작하는 전체 정보 환경(도구와 메모리)을 구축하는 영역이다.
• 정보가 너무 많으면 컨텍스트 오염, 컨텍스트 분산, 컨텍스트 혼란, 컨텍스트 충돌 문제가 발생한다.
• Gemini 2.5 Pro는 10만 토큰을 넘기면 새 계획을 세우지 않고 이전 행동을 반복하는 경향을 보였다.
• 버클리 리더보드에 따르면 도구나 함수 개수가 너무 많아질수록 모델의 호출 정확도가 급격히 떨어진다.
• Microsoft와 Salesforce 연구진 테스트에서 프롬프트를 여러 단계로 분할했을 때 모델 성능이 39% 하락했다.
• 효과적인 컨텍스트 관리를 위한 4가지 핵심 전략은 외부 저장소 쓰기, 적시 선택, 요약 압축, 하위 에이전트 격리다.

챕터

1. 0:00프롬프트 엔지니어링의 한계와 컨텍스트 엔지니어링 (새 탭에서 열림)
2. 0:34LLM이 실전에서 실패하는 세 가지 이유 (새 탭에서 열림)
3. 1:21프롬프트 엔지니어링과 컨텍스트 엔지니어링의 차이 (새 탭에서 열림)
4. 2:18컨텍스트 엔지니어링의 3대 핵심 구성 요소 (새 탭에서 열림)
5. 3:50컨텍스트가 길어질 때 실패하는 네 가지 원인 (새 탭에서 열림)
6. 8:48신뢰성을 높이는 컨텍스트 관리 4대 전략 (새 탭에서 열림)
7. 10:39AI 시대에 필요한 진짜 역량과 마무리 (새 탭에서 열림)