#사람의 확인 지점은 도대체 어디에 두어야 하는가

Human-in-the-loop의 본질은 책임 경계를 핵심 의사결정 지점에 두는 것이다.

• 위치상으로는 불가역·고위험·고비용·외부 대상에 영향을 주는 동작 직전에 둔다
• 형식상으로는 구조화된 확인을 해서, 사람이 보는 것이 버튼 하나가 아니라 명확한 사실 묶음이 되게 한다
• 전략상으로는 리스크 등급 + 승급 확인을 쓰지, 매 단계마다 사람에게 묻지 않는다

#예시

동작	사람 확인 필요 여부	이유
모델에게 자료 한 단락 요약시키기	아니오	틀려도 다시 하면 됨
메일 발송	예	결과가 실제 세계로 진입
주문하기	예	위와 같음
DB 변경	예	위와 같음
파일 삭제	예	위와 같음
비용 승인	예	위와 같음

#핵심 지점의 구조화 확인

• 메일 발송

  ❌ 팝업식	✅ 구조화 표시
  「발송할까요?」	수신자 / 제목 / 본문 요약 / 첨부 / 근거 출처 / 잠재 리스크

• 데이터 수정

  ❌ 팝업식	✅ 구조화 표시
  「실행할까요?」	원래 값 / 새 값 / 영향 범위 / 롤백 방법 / 조작 사유

#승급 확인 (Escalation Mechanism)

영역	저위험 등급 → 처치	고위험 등급 → 처치
비용	소액 경비 정산 → 자동 처리	고액 → 사람 승인
고객센터	일반 고객 응대 → 자동 생성	컴플레인 격상 → 관리자 확인
시스템 조작	읽기 전용 조회 → 자동 실행	쓰기 조작 → 사람 승인

이 배후에 있는 것은 리스크 등급화이지, 단순히 매 단계마다 사람에게 묻는 것이 아니다.

#정리

「Human-in-the-loop의 핵심은 책임 경계를 핵심 의사결정 지점에 두는 것이다. 사람의 확인은 불가역 동작 직전에 나타나야 하며, 구조화된 컨텍스트를 제공해 사람이 다음을 알게 해야 한다:

1. 자신이 무엇을 확인했는가
2. 왜 확인했는가
3. 문제가 생기면 어떻게 추적하는가」