AI 총정리

어떻게 성장할 것인가

  • AI 모델과 기술 활용 지식을 이해한다
  • AI 개발 도구를 능숙하게 다룬다
  • AI 기반 프로토타입을 만든다 — 개념을 실제로 동작하는 애플리케이션으로 옮겨 본다
  • AI 커뮤니티에서 정보를 얻는다
  • 꾸준히 학습하고 실전 프로젝트를 많이 해 본다

필요한 기술

Prompt 프롬프트 엔지니어링

  • 요건
    • 지시가 구체적일 것
    • 정보가 충분할 것
    • 중의적 해석의 여지를 최소화할 것
  • 역할 부여
    • "당신은 전문 금융 투자 리서치 어시스턴트입니다. 매우 엄밀하게 답변합니다."

Context Engineering

컨텍스트 엔지니어링이란 모델이 작업을 수행하는데 필요한 모든 정보, 도구, 환경을 체계적으로 설계하고 구성하는 접근 방식입니다. 컨텍스트는 사용자의 요청에 맞춰서 동적으로 변화되어야 하고 모델이 중요한 정보를 놓치지 않도록 돕는 것입니다.

RAG Retrieval-Augmented Generation

  • 외부 자료나 데이터베이스에서 관련 정보를 가져와 프롬프트에 함께 넣어 주는 방식

Function Calling

  • 외부 함수나 API와 상호작용하는 능력
  • 정보가 부족하면 사용자에게 되물어 빈 곳을 채운다
  • LLM의 언어 이해 능력을 기반으로, 의미를 파악해 어떤 도구를 쓸지 스스로 판단하고 구조화된 형태로 호출한다

Agent 에이전트

  • LLM Based Agent
    • 개념
      • 무상태(stateless)
      • 유상태(stateful)
      • 연속적(continuous)
      • 이산적(discrete)
    • 목표
      • 무상태로 출력하던 대형 모델을 상태를 가진 논리적 두뇌로 바꾸는 것이며, 지향점은 산업화다
      • Agent를 잘 쓰는 핵심은 무엇을 이산화하고 무엇을 상태로 만들 가치가 있는가를 판단하는 것이다
      • 모델의 능력을 계속 검증하면서 상태 판정의 정확도를 어떻게 올릴지 연구한다
  • Multi-Agent Model

Fine tuning 파인튜닝

RAG vs Function Calling

능력 차원RAGFunction Calling
데이터 신선도인덱스 갱신에 의존(지연 가능)실시간 또는 준실시간(API 직접 호출)
구현 복잡도검색 로직을 구축해야 함명확한 인터페이스와 파라미터 정의가 필요
적합한 시나리오정적인 지식(문서, FAQ)동적인 상호작용(주문 조회, 날씨)

fine-tuning vs embedding

무엇이 더 나은지는 상황에 크게 좌우되며, 보통 해당 업무를 잘 아는 사람이 판단해야 한다(예: 고객 상담 시나리오라면 숙련된 상담사가 판단해야 한다).

  • fine-tuning은 모델의 제어 가능성을 높인다. 내가 원하는 어조나 성향 쪽으로 모델을 기울일 수 있다.
  • embedding은 새로운 자료를 그때그때 계속 추가할 수 있게 해 준다.

Agent와 Workflow의 차이는 무엇인가?

Anthropic의 《Building effective agents》에 두 개념의 구분이 분명하게 정리되어 있다. 여기서 말하는 Workflow는 정해진 경로를 먼저 설계해 두고, AI가 그 경로 위에서 각 단계의 작업을 수행하게 하는 방식이다. 커뮤니티에서 흔히 보이는 n8n이나 Zapier 같은 도구가 이 분류에 가깝다.

반면 AI Agent는 사전에 흐름을 정해 둘 필요가 없다. 목표만 주면 스스로 방법을 찾아 작업을 완수한다. 따라서 정해진 흐름을 따르는 것은 아직 Agent라 부를 수 없고 워크플로라고 불러야 한다.