#프로덕션급 Prompt는 다섯 요소로 조립한다 — 역할부터 이상 처리까지

← 전체 목차 · 이전: 프롬프트는 도대체 어떻게 쓰나 · 다음: 프롬프트가 너무 길면 무슨 함정이 있나

같은 모델, 같은 지식베이스인데 누구는 답이 정확하고 논리가 엄격하며 포맷이 반듯하고, 누구는 답이 산으로 가고 포맷이 제각각이다. 변수는 하나만 남았다 — Prompt. "Prompt는 화술이니 자세히 쓰면 된다"는 답은 이 변수를 여전히 "글쓰기 실력"으로 취급한다. 실제로는 모델을 미세조정하지 않고도 행동을 통제하는 유일한 저비용 수단이며, 화술이 아니라 설계도로 다뤄야 한다.

로컬 데모에서는 이 차이가 보이지 않는다. 직접 만든, 분포가 좁은 몇 개 질의로는 무엇을 써도 통과한다. 온라인의 입력은 분포가 넓고 제각각이라, 그때 비로소 빠진 요소가 드러난다.

#핵심 답변: 조악한 Prompt가 만드는 네 가지 치명 문제

각 문제는 성립 원인 → 현상 → 결과로 이어지는 완결된 사슬이며, 사슬의 첫 고리마다 빠진 제약 하나가 대응된다.

가장 날카로운 지점은 4번이다. 지식베이스에 정답이 있어도 모델 자신의 사전학습 지식이 그것을 덮어써버릴 수 있다. RAG를 붙였다고 환각이 사라지는 것이 아니다 — Prompt가 "참고 문서에 근거하라"고 명시적으로 강제하지 않는 한, 검색된 근거는 장식으로 전락한다.

#다섯 요소: 각 요소는 위 문제 중 하나를 정면으로 겨눈다

발산 → 역할 정의로 막는다
포맷 붕괴 → 고정 출력 포맷으로 막는다
답변 불안정 → 명확한 과업 지시로 막는다
환각 → 엄격한 경계 제약으로 막는다
그 외 모든 예외 → 이상 처리 규칙으로 막는다

다섯 요소 중 하나라도 비면, 그 요소가 막아야 할 실패 모드가 그대로 온라인에서 재현된다. 장애를 역추적하면 다섯 요소 중 어느 칸이 비어 있는지 표로 찾을 수 있다 — 발산이면 1번, 포맷이면 4번, 불안정이면 2번, 환각이면 3번이 비어 있는 것이다.

#프로덕션 관리 3원칙: 쓰는 법에서 관리하는 법으로

1. 온라인에서 구어체·모호한 단문 Prompt 금지: 반드시 구조화·표준화된 형태로 작성한다.
2. Prompt를 전역 통합 관리 + 버전 이터레이션 대상으로 삼는다: 코드 안에 산발적으로 하드코딩하는 것을 금지한다. 그래야 통일된 최적화가 가능해진다.
3. 업무 시나리오별로 전용 Prompt를 분리한다: 문답·요약·번역·추론 시나리오를 각각 따로 설정한다. 하나의 Prompt로 전 업무를 처리하려 하면 서로 다른 제약이 서로를 희석시킨다.

초급 개발자: Prompt는 화술이다
고급 엔지니어: Prompt는 모델 행동을 통제하는 핵심 설정이다
             ↓
대모델 응용 개발의 핵심 = 7할 Prompt 제약 + 3할 모델 능력
             ↓
규범화된 Prompt가 곧 프로젝트 안정 배포의 기반이다

#핵심 통찰

1. 변수가 하나로 고정된 질문에서 답은 그 하나를 가리켜야 한다 — "같은 모델, 같은 지식베이스"라는 전제는 연산력과 데이터라는 흔한 변명을 미리 차단한 것이다. 이 전제 아래 출력 품질 차이가 난다면 원인은 Prompt일 수밖에 없다.
2. Prompt는 화술이 아니라 통제면(control surface)이다 — "자세히 쓴다"는 직관은 Prompt를 내용으로 보지만, 공정 관점은 그것을 모델이 어떤 능력을 활성화하고 어떤 추론 경로를 타며 어떤 구조로 출력할지 결정하는 제어 장치로 본다. 인식의 층위가 다르면 결과물의 등급도 다르다.
3. 데모와 프로덕션의 차이는 규모가 아니라 입력 분포다 — 로컬 데모는 직접 구성한, 분포가 좁은 몇 개 질의를 쓴다. 온라인 입력은 넓다. 좁은 분포에서는 아무렇게나 써도 통과하고, 넓은 분포에서야 비로소 경계 결함이 드러난다. "로컬에서 차이가 안 보인다"는 것이 Prompt가 안 중요하다는 뜻이 아니라 테스트셋이 너무 깨끗하다는 뜻이다.
4. 네 가지 장애는 각각 빠진 제약 하나에 정확히 대응한다 — 발산은 경계·시나리오 제약 결핍, 포맷 붕괴는 강제 포맷 요구 결핍, 답변 불안정은 명확한 지시·논리 결핍, 환각은 사실 제약·출처 요구 결핍이다. 장애 현상에서 Prompt의 어느 절이 빠졌는지를 역으로 특정할 수 있어, 디버깅이 감에 의존한 미신이 아니라 표 찾기가 된다.
5. 지식베이스는 환각의 면죄부가 아니다 — 지식베이스에 정답이 있어도 모델 자신의 사전학습 지식이 그것을 덮어쓸 수 있다. RAG 시스템에는 "참고 문서에 근거해 답하라, 미지 내용을 날조하지 말라, 매칭 정보가 없으면 사실대로 답하라"를 명시적으로 적어 넣어야 한다. 그러지 않으면 검색해 온 근거는 장식일 뿐이다.
6. 포맷 제약은 미관 제약이 아니라 공학 제약이다 — 출력 포맷 붕괴의 종착지는 "보기 안 좋다"가 아니라 프론트엔드가 통일 파싱·렌더링하지 못해 페이지 레이아웃이 깨지고 기능이 오류 나는 것이다. 출력 구조를 JSON이나 단락 설명으로 고정하는 것은 본질적으로 하류 시스템에 인터페이스 계약을 제공하는 일이다.
7. 이상 처리는 불확실성을 유한한 분기로 수렴시키는 장치다 — 미지 질문·위반 질의·정보 부족은 반드시 발생한다. 미리 설계해 두지 않으면 모델이 임의로 답한다. 하한 화술을 사전에 정의해 두는 것은 모델의 행동 공간에 기본 분기 하나를 더하는 것이며, 업무 안정성은 거기서 나온다.
8. Prompt는 코드처럼 관리되어야 한다 — 코드 안에 산발적으로 하드코딩된 Prompt는 통일 최적화도, 버전 이터레이션도, 시나리오별 분리도 불가능하다. 전역 관리 + 버전 이터레이션 + 시나리오별 분리는 "한 번 잘 쓰는 것"을 "계속 잘 쓰는 것"으로 바꾸는 유일한 방법이다.

#엔지니어링 실전 Tips

• 먼저 제약, 그다음 다듬기: 경계·포맷·이상 처리 세 가지를 먼저 확정하고 나서 어투를 다듬을 것. 어투는 인상을 바꾸지만 제약은 배포 가능 여부를 바꾼다.
• 포맷 선택은 하류를 따라갈 것: 프로그램이 소비하면 JSON, 사람이 읽으면 단락 설명이나 요점 나열 — 판단 기준은 "프론트엔드가 통일 파싱할 수 있는가"이지 취향이 아니다.
• 금지 행위는 허용 행위와 반드시 함께 쓸 것: "무엇을 해야 하는가"만 쓰면 모호한 영역이 남고, 모델은 그 빈틈을 사전학습 지식으로 채운다. 명확한 금지 항목이 환각 억제의 나머지 절반이다.
• 하한 화술은 제품 카피처럼 쓸 것: 이상 경로에서 사용자가 유일하게 보게 되는 내용이므로, 임의 응답과 정중한 하한 응답 사이의 업무 평판 격차는 크다.
• Prompt는 버전 저장소로, 업무 코드로는 넣지 말 것: 전역 통합 관리 + 버전 이터레이션이 되어야 A/B와 롤백이 성립한다. 여기저기 흩어진 하드코딩 문자열은 영원히 최적화되지 않는다.
• 시나리오 하나에 Prompt 하나: 문답·요약·번역·추론은 업무 목표와 출력 구조가 서로 충돌한다. 합치면 제약이 서로를 희석시킬 뿐이다.
• "맞았다 틀렸다 반복"을 경보 신호로 취급할 것: 같은 질문의 답이 흔들리면 지시가 모호하거나 논리가 빠진 것이다. 이때는 온도 파라미터를 만지기 전에 2번 요소(명확한 과업 지시)부터 되짚을 것.