컨텍스트 엔지니어링이란 모델이 작업을 수행하는데 필요한 모든 정보, 도구, 환경을 체계적으로 설계하고 구성하는 접근 방식입니다. 컨텍스트는 사용자의 요청에 맞춰서 동적으로 변화되어야 하고 모델이 중요한 정보를 놓치지 않도록 돕는 것입니다.

| 能力维度 | RAG | Function Calling |
|---|---|---|
| 数据时效性 | 依赖索引更新(可能有延迟) | 实时或近时(直接调用接口) |
| 实现复杂度 | 需构建检索逻辑 | 需定义清晰的接口和参数 |
| 适用场景 | 静态知识(文档、FAQ) | 动态交互(订单查询、天气) |
判断好坏是很看情境的,通常需要对业务比较熟悉的人来判断 (例如客服的场景需要资深客服判断)。 fine-tuning 是提升模型的可控性,让模型可以更偏向某个你偏好的语气; embedding 则是让你可以不断即时加入新的资料。
在 Anthropic 的《Building effective agents》一文中,有对两者清楚的区别。文中谈到,所谓的workflow,是设定既定的路径,然后让 AI 在既定的路径中去执行不同任务。目前在社群中可以看到像是 n8n 或者 Zappier 这类工具,都偏向工作流这一个分类。
AI Agent不需要事先设定好的流程,只需要目标,就会自行完成指定的任务,所以这种既定的流程,还不能算是agent,而只能被称为工作流。